Pues va a ser difícil. Ten en cuenta que el applet se ejecuta en el navegador, en el ordenador del cliente. Posiblemente el que visita tu página web no tenga instaladas esas librerías y no las encontrará. Es más, por temas de seguridad, un applet no puede acceder a ningún recurso local del cliente, así que aunque las tuviera instaladas, es muy probable que no puedas cargarlas.
La única opción, que no sé si funcionará, es que intentes cargar las librerías desde la url remota (no desde homeUserDir, sino desde
http://web/lib... o donde la tengas accesible). Como te digo, no sé si es posible.
Y otra pega es que la librería .so es de linux, por lo que no funcionará si alguien usa un navegador en windows.
Se bueno.