Hola:
De dónde has sacado eso de submodal...
... las ventanas modales son alert, prompt y confirm, y desde luego que haý no se pueden meter páginas... y un popup es una ventana normal donde debes usar una url (o poco código html como una imágen...)
Saludos
