Ayuda para envio de mail con php

[guzmange]

Buenas ya eh tratado de averiguar como poder hacerlo en post anteriores pero nadie me responde, quisiera saber si explicandolo de esta forma alguien me da una mano..
tengo un servidor dedicado
tengo server 2003 y corriendo apache mysql y php.
tengo una aplicacion colgada de un dominio al que accedo sin problemas.

pero estoy creaando una nueva aplicacion la cual envia mails, pero no me funciona, baje phpmailer y lo integre pero no tengo resultado.

se que tengo que configurar el smtp y asosciar el dominio a la ip para que puede recibir y enviar mails pero no tengo idea donde!

al mandar un mail desde hotamil o gmail a la direccion de mi dominio me dice dominio no encontrado.. pero si accedo a la pagina sin problemas.. necesito alguien que me asesore de como puedo solucionar este problema o por lo menos indicarme que tengo que tener para poder probar aunque ser, alguna guia de que es lo que tengo que tener instalado.... desde aya muchas gracias hace bastante que vengo con lo mismo sin encontrar solucion!