Te recomiendo que te compres un libro que se llama:
Programacion en 3D con Java 3D
Autor : Joan J. PratDepadua
Editorial Alfaomega.
Para programar en Java3D necesitas tener instalado todo para programar en Java2 (el jre y sdk), y despus de eso bajar el sdk y api para java3d:
http://java.sun.com/products/java-media/3D/index.jsp
ahi vienen links e info.
Java3D usa un binding de OpenGL, y en lo personal, preferiria usar C/C++ con OpenGL para graficos en 3D, pero bueno, tu decides.....
saludos,