bueno yo use redhat 7.3 , el servicio se SMTP te viene dado por sendmail , y el servicio de pop3 ya viene incluido en xinetd
aca te dejo esto que quiza te ayude, y puedes consultar algunos manuales y how-to
Sendmail
Con respecto a lo del firewall es controlado por iptables , si usas GUI se ke hay un interfaz para configurarlo solo es cuestion que lo busques
Saludos ;)