Perdona que no te haya contestado en todo este tiempo, el sistema esta fallando y no recibo emails de notificacion
.
Hay ejemplos en las FAQ. Mirate este para comprenderlo:
faq 7
La funcion window.showModalDialog() tiene los mismos parametros que window.open, y creo (no lo he probado) que se puede cerrar con self.close().
Una ventana modal se diferencia de un popup en que no es una ventana aparte,se puede mover pero no minimizar ni maximizar y forma partede la pagina. Hasta que no se cierre no se podra trabajar en la pagina padre, sin embargo un popup si. (Es lo que utiliza hotmail para sus ventanas de confirmacion y alerta).
Espero que te sirva. Hay mucha informacion del window.open() en google por si necesitas mas referencias.