Cuando tu te logueas, el formulario de User Y Pass desaparecera para ser reemplazado por un Panel de control y un cerrar sesion. O algo asi verdad?
1º Eso lo metes un un div.
2º Tu formulario debe enviar los parametros por AJAX.
3º A la url que llames debe identificar si el usuario es correcto o no. Entonces generara solo un par de Links. Nada mas porque piensa que va a ser cargado en la capa donde ya tienes toda tu web cargada.
4º Al descargar lo generado por el PHP lo tendras que meter en la capa donde estaba el formulario. Un innerHTML tipico.
Aunque si no has tocado nada de AJAX esto te va a resultar dificil entenderlo. :/
Un ejemplo que te pueda valer es este:
http://isiajax.sourceforge.net/demos/form.html
Con la diferencia de que tu archivo debe llamar a un PHP que valide al usuario en cuestion.
Saludos.