No es complicado, basta que tengas instalado un servidor de mail en algun luigar de tu red (aqui es MS Exchange), si mal no recuerdo basta que el servidor de mail soporte el protocolo MAPI.
La otra es que debes de tener una cuenta de mail para el usuario que corre el SQL Server y SQL Agent.
Tener también el perfil creado para ese usuario dentro del servidor de SQL (aqui les instalamos el Outlook y lo configuramos como un cliente cualquiera).
Con esto debe bastar, ahora entra en el Enterprise Manager y en los Support Services de tu servidor está SQL Mail, basta que des click derecho > Inciar.
Con eso debes de poder usar mails con xp_send_mail y con el SQL Agent
Espero que te sirva