Te ha faltado poner el objeto de referencia a la ventana nueva, o el "WindowObjectReference". Es decir, que tú haces window.close(), pero no especificas qué ventana cerrar.
Aquí tienes toda la información que puedas necesitar sobre el tema de abrir (y cerrar) ventanas:
http://www.mozilla.org/docs/dom/domr...dow_ref76.html
En tu caso, por tanto, yo haría:
referencia_a_ventana=window.open(...)
referencia_a_ventana.window.close()