Yo lo escribiría de la siguiente manera:
<a href="ventana.php" onclick="window.open(this.href, 'window', 'width=425, height=300'); return false;" style="text-decoration:none">Abrir ventana</a>
Pero si dice que no se encuentra la página será porque no has puesto a dirección bien, puede que tengas el archivo ventana.php en un directorio, si es así tendrás que cambiar el href:
<a href="directorio/ventana.php" y todo lo demás igual...
Saludos!