Si solo quieres que se ejecute el window.open, y no el vinculo, debes añadirle un return false:
<a href="javascript
:VentanaFoto('comunidad/img/<%=foto%>'); return false;">foto</a>
Si sihue sin funcionar, no sé por qué motivo ocurre, pero me pasó, intenta omitir el titulo de la ventana que abres, porqué creo que ahí hay que colocar algo en concreto que no se lo que es...
Dejalo así, a ver...
window.open("ventanaforo.asp?ruta="+datos,"","tool bar=no,location=no,directories=no,status=no,me nubar=no,scrollbar=no,resizable=no");
Saludos!