No entiendo lo de la ventana dos, pero si quieres evitar que se envíe el formulario solo tienes que usar en el botón el evento de onclick y en el formulario el evento de onsubmit.
Código HTML:
Ver original<script type="text/javascript"> function funcionDeJavascript(){
if(document.formulario.Texto.value == ""){
alert("No puede haber campos vacios.");
return false;
}
}
<form name="formulario" action="direccion.php" onSubmit="return funcionDeJavascript();"> <input type="text" name="Texto" /> <input type="submit" value="submit" onClick="return funciónDeJavascript" />