Hola:
Poner en la función javascript la instrucción submit() fuerza el envío del formulario, y se dejan de evaluar las alternativas.
Los input type="image" son una especie de variante del tipo submit (envían el formulario y añaden en el envío las coordenadas donde se ha pulsado), así que esa comprobación/validación deberías hacerla desde el mismo tag form, devolviendo false para cancelar y true para validar...
<form onsubmit="return comprobar(this)"...
y tu "comprobar" más o menos así:
Código:
if (mal)
alert("Por favor, rellene las cajas coloreadas");
return !mal;
Por cierto, no veo nada de php
Saludos