Hola otra vez:
Me parece que el error está en que usas un nombre de ventana igual que una función javascript...
:
La función abrirVentana ya no la necesitas, y los parámetros los tienes que poner en la apertura desde el evento onsubmit:
<html>
<body>
<form action="popUp.asp" target="abrirVentana" onsubmit="window.open('', 'abrirVentana', '
toolbar=no,width=600,height=600,directories=no,sta tus=no,scrollbars=yes,resize=no,menubar=no ')" method="post" >
Nombre<input type="text" name="nombre">
<input type="submit" name="boton" value="Enviar">
</form>
</body>
</html>
Fíjate que no es necesario poner nada en la cabecera (ni el tag head)
Saludos