Hola fedexx:
Para que se cierre un popup con un botón basta con poner un botón, y en su evento onclick poner window.close();
Luego, àra ver los mensajes privados, supongo que será en la página principal, puedes en el mismo botón poner: opener.location.href = "verMensajes.html";
Aunque creo que en ese caso sería mejor cerrar la ventana con algo de retraso: setTimeout("window.close()", 1000);
Saludos