Hola. Mira en el siguiente link te puedes bajar el paquete basico para poder ponerte a programar.
http://java.sun.com/j2se/1.4.2/download.html
En ese link te descargas la plataforma de desarrollo de aplicaciones en clientes que es la que se utiliza para programadores de escritorio.
Luego deberias de aprender los comandos tipico para trabajar con el. Ejemplo:
"javac fichero. java" para compilar
"java fichero" para ejecutar
Tambien de recomiendo que te bajes la aplicacion jcreator que es gratuita(buscala por el google) que es un editor muy bueno para programar en java ya que te colorea el codigo y te facilita la programacion.
Espero haberte sido de ayuda y espero que te guste el mundo de java.
Un saludo