Hola:
La forma de cancelar un envío es enviando al evento (onsubmit) un valor false.
<form onsubmit="return validar(this)"...
Esa función debe devolver un valor false para la cancelación
Pero esa validación debe ser "secundaria" ya que se puede deshabilitar javascript.
Saludos