Hola.
Siempre desaconsejo usar las funciones empezadas por MM_ (de macromedia supuestamente por editar con dreamweaber) pero puedes modificar el script y antes del return abrir el popup... o un apaño rápido sería:
<form name="form1" method="post" action="verifica_datos.php" target="ventana" onsubmit="MM_validateForm('nombre','','R','email', '','RisEmail'); if (document.MM_returnValue) window.open('','ventana','width=400,height=250');
return document.MM_returnValue;">
Pruébalo, pero te recomiendo programar tus propias validaciones... no es difícil.
Saludos