Ayuda ??? Pides que se te explique todo ??? , lo mejor es que leas un tutorial , para la mayoria de configuraciones que pides , todo depende de que programas ofrezcan esos servicios , guiandome por el titulo IIS + PHP .... Lo mejor es que te leas un manual o tutarial sobre windows server para las explicaciones de "saber mis DNS, etc... tb la seguridad que debo tener al usar PHP con ISS.. SMTP y POP3.. crear cuentas de correo... crear otros Dns.. para otra web, osea algo asi como hacer un hosting...."
Mira un buen tutorial de como iniciarse con servidores es :
http://www.independenet.com/
1º explicandome , sistema operativo y cosas que quieres usar , si las tienes intaladas o necesitas alluda para instalar , que tipo de conexion tienes (esto influlle mucho ala hora de tomar la decision sobre por ejemplo si comprar un dominio o usar un subdominio gratuito )Te aconsejo usar windows server por lo que pides y un buen manual/tutorial.Sobre php el instalable de php ya lo instala y solo se ha de dar permiso para que se ejcute el script de php.luego asd e configurara php añadiendole los componentes necesarios que viene en el zip de phpfull y modificnado el php.ini para usar las cosaa que quieras.
http://www.independenet.com/