hola,
Mira yo según mi experiencia en Linux te recomiendo un servidor de email como sendmail y como servidor de "dominio" un servidor samba.
Hay mucha información al respecto. Yo te añado los links principales y tu acabas de buscar la información concreta:
http://www.sendmail.org/ http://www.samba.org/
Estas son las recomendaciones que yo he montado en algunas ocasiones y que siempre me han ido bien.
Un saludo,