le recuerdo que javascript y java (JSP) son lenguajes diferentes, además de que Javascript se ejecuta del lado del cliente.
lo que si le puedo adelantar es que necesita verificar
self.xmlHttpReq.status == 200 junto con self.xmlHttpReq.readyState == 4 para que AJAX funcione adecuadamente, corrija ése punto para descartar y responda si persiste el problema, saludos
