hola
aunque es javascript este solo funcionaen la pagina donde tengas insertado el script o codigo,puesto que no puedes llamar a un javascript que este insertado en otro html.( por lo menos de esta forma )
prueba poniendo tu enlace asi
<a href="javascript
:;window.close()">Cerrar</a>
esto debe de cerrrarla tengas o no frames.
saludos