asegurate que tu pagina donde esta el popup no se llama igual que la que será el popup... pero tambien puedes invertir las cosas de esta menera...
Código PHP:
<form name="form1" method="post" action="" onClick="MM_openBrWindow('ventana.htm','Popup','width=400,height=400')" >
<input name="Submit" type="submit" value="Submit">
</form>
Saludos, espero te funcione