Hum... me parece que tienes un largo camino por delante :)
puedes comenzar por aqui :
http://www.linux.org/docs/index.html
los how-to's son muy utiles y hay desde para instalar un smtp, configurar un dns entre otras cosas.
O bien, si lo que estas haciendo es en serio y de veras no quieres hackers en tu box y todo eso... pues mas bien te buscas un experto en linux :) para que administre tu server y/o te consigues uno de esos servidores "managed".
Saludos y Suerte!