Ummm, si usas Java Web Start, puedes especificar que vas a usar librerias nativas y este las carga, cosa que no puedes hacer con un applet. Quizá requiera firmar la aplicacion, pero mejor que nada.
Mira la opcion de usar Java Web Start con Java3D, que me suena haber leido algo de solucionarlo así.
Suerte
PD: Quizá esto te sirva:
https://j3d-webstart.dev.java.net/release/index.html