Hola, asi es, puedes trabajar con JAVA con software libre, lo que necesitas es:
1) JDK (java development kit) lo bajas de
http://java.sun.com
2) IDE (entorno de desarrollo, sino utilizas el block de notas) podrias ser el JCreator, o alguno más avanzado como Eclipse, Netbeans, etc (que también son libres)