Hola,
Pues la idea es que para logearse se abre la ventana para realizar el login.
El login llamará al asp que comprobará si todo está ok.
Si no está ok, que pregunte de nuevo el login (como probablemente lo tendrás ahora)
Si está ok ahora lo tienes de tal forma que entra desde la propia ventana (por defecto, self)
En asp para hacer un response.redirect no se puede escoger ventana. Siempre será la propia. Así que habrás de hacerlo desde javascript, algo así:
<% aquí el asp con el condicional que seguramente tendrá un response.redirect
if login correcto %>
<script language="javascript">
opener.location.href='lapaginaquehadecargar.htm'
self.close()
</script>
<% else %>
response.redirect "paginaparavolveraintentar.asp"
end if %>
A ver si te sirve
un saludo