Hola monoswim:
Hace unos pocos días, después de responder una pregunta similar puse la respuesta en las FAQs de javascript (tiene que ser una de las últimas respuestas...)
El truco está en usar un target en el form y usar el evento onsubmit del form para abrir la página (popup) tal como quieras.
Saludos