Tiene pinta de que ese applet tira de alguna libería nativa (una .dll) y no sabe dónde encontrarla o no lo has cargado.
En java tienes que poner un System.loadLibrary("fichero") para que cargue fichero.dll (no se pone la extensión). Por supuesto, fichero.dll es la librería concreta que tú tengas.
Para que java además, encuentre esa librería, tiene que estar en el PATH de ejecutables de windows, o bien tienes que indicarle a java dónde encontrarla con una opción
-Djava.library.path=c:/directorio_donde_esta_la_dll
Más detalles
http://www.inonit.com/cygwin/jni/helloWorld/load.html
Aparte, el error de certificado expirado puede darte problemas cuando arranques desde el navegador, ya que sin un certificado que acepte el usuario, el applet desde navegador no tendrá permisos para acceder a la librería .dll (que tendrá que estar además instalada en el PC del usuario que visualice el applet)
Se bueno.