No sé mucho de ventanas modales pero creo que cuando se abre no tiene vinculación con su opener como en el caso de una ventana abierta con el método open.
Supongo que alguna vinculación tendrá, pero no del tipo que buscas.
Si no te funciona referenciando a su opener lo más probable es que no se pueda.
Cuando se abre una ventana modal, la página que la abre se queda en estado de espera a que se cierre la modal.
Por ejemplo, si la abres desde un script:
function abre()
{
showModalDialog('frames.htm')
location.reload()
}
fijate que primero abrirá la modal sin relodear. El script se queda detenido en espera a que se cierre la modal. En el momento que la cierras es cuando el script de la opener continúa y actualiza la página. Quizás te interese hacerlo así.
La experta en ventanas modales es Yanix pero no está
hasta el mes que viene.
A ver si algún otro/a experto/a aparce por aquí, pero si estuviera en tu lugar me pensaría a usar una ventana abierta por el método open() en vez con showModalDialog()
Saludos