Hola vio:
Si tienes una instrucción document...submit()... bien puedes poner antes window.open(...)
Ejemplo usando un botón normal... (no estaría de acuerdo con el uso de un enlace...):
<button onclick="window.open('', 'ventana', 'width=300,height=200'); document.forms.miFormulario.submit()" > enviar sin submit </button>
Si es una función es lo mismo... antes hay que abrir una ventana en blanco con el mismo nombre del target del formulario...
Saludos