Hola:
Pues un popup es una ventana para una página... pero las ventanas del tipo lightbox son capas y normalmente no se mueven y en vez de cargar páginas suelen usarse para imágenes...
Lo más parecido que hice a lo que creo que quieres, está en esta página:
Pseudo-lightbox.
Como no sé si te interesará el texto te cuento como implementarlo: el oscurecimento gradual se consigue tapando la página con una capa transparente y con estilos ir variando la opacidad; y encima monerle una capa, que podría tener en su interior un iframe... Con estos datos podrías animarte a intentarlo, y si tienes problemas, comentárnoslo.
Saludos