si de servidores se trata, pues puedes tratar con Debian y CentOS, los dos tienen lo suyo, pero si eres novato, se te va a complicar montar un servidor de correo, no es cualquier cosa, aqui te paso una guia de como hacerlo en Debian:
http://bulma.net/impresion.phtml?nIdNoticia=2163