Hola Laura:
Verás, según me parece, tienes poco trato con javascript
![Riendo](http://static.forosdelweb.com/fdwtheme/images/smilies/risa.png)
, así que te comento unos detalles
window.open es una función (o método), así que la url de la ventana hay que ponerlas entre paréntesis, tal como has probado luego... y sobre la segunda y tercera prueba, en realidad se complementan... intentaré explicarlo...
El botón tendría que ser tipo submit sin más (accesible); el fichero mapa.php (siempre que dispongas de php) debería ser tal como puse, pero solo php, o sea debe empezar por "<?" y terminar con "?>" y el código antes expuesto... aunque puede no estar del todo bien (no estamos en el foro php)... y lo único javascript sería el onsubmit que tienes... con el action y el target como pone el artículo.
Creo que la segunda opción es la mejor por ser accesible, pero empieza con la primera que creo que es más fácil.
Saludos