No se si es lo que buscas, de todas formas lo dejo...
Yo hace poco me instalé un servidor de email en mi propio ordenador para poder mandar email con outlook, pero mi sorpresa fue que funciona con el mail() de PHP, eso sí, tengo que tener conexión para que el email se envie.
Se trata de instalar el Argosoft mail server según lo explica la asociación de internautas en
http://www.internautas.org/article.php?sid=167
Como dije, tras configurarlo así a mi me funciona el mail()
Saludos