Hola OXIGENO:
Lo de "ShowModalDialog" me suena a delphi o c++, pero en javascript creo que te refieres a las ventanas que se abren con window.open()...
También hay unas ventanas pop-up que solo funcionan en explorer, razón por la que no me he preocupado en aprenderlas, porque opino que hay que tratar de hacer páginas para todo el mundo (no pretendo que compartas mi idea).
Pero para pasar datos de una ventana "opener" es muy fácil...
la ventana abierta referencia a la abridora con "opener" (minúsculas), y el caso contrario sería mediante la variable que hayas usado para abrirla... por ejemplo var abridor = window.open()
el pop-up se referencia mediante abridor...
Si aclaras un poco mejor lo que quieres, podré ayudarte más...
Saludos