Hola:
La instrucción open lleva 3 parámetros, la primera es la URL que en este caso debe estar en blanco, la segunda es la ventana (su nombre) que ya sabes que debe coincidir con el target del form, y el tercer parámetro son las opciones de la ventana, que puedes ver en detalle en la FAQ-100 de javascript... ejemplo: window.open("", "popup", "width=300,height=200")
Saludos