desde un applet no podes verificar si tiene java instalado, ya que para correr el applet necesita java
.. lo que si podes hacer, es decirle al navegador web que haga algo en caso de no tener java instalado o incluso, sino me equivoco tambien funcionaría en caso de que tenga deshabilitado java en el navegador, aunque este instalado...
Solo tienes que meter los tags <NOAPPLET> y </NOAPPLET> dentro del tag <applet>..
Tambien hay otra forma de hacer que se instale automaticamente el jdk si no lo tiene, pero no recuerdo bien como era (hace varios años la use), solo se que en lugar de <applet> usaba el tag <object>.. pero no se que tan bien funcione eso en todos los navegadores...