Outlook es el cliente, Exchange el servidor, no los mezcles.
Necesitas de una cuenta MAPI para poder hacerlo funcionar, eso te obliga a instalar Outlook dentro del servidor.
Una vez que lo tengas, configura la cuenta para el usuario que corre el servicio de SQL Agent y SQL Server y has pruebas de enviar mail desde Outlook
Si eso sale bien entonces configura SQL Mail para que tome esa cuenta de mail (que sea la misma cuenta de windows no es suficiente), eso lo encuentras en las propiedades del SQL Agent y en Support Services->SQL Mail->Propiedades en tu servidor (en el Enterprise Manager)
Si todo ha salido bien debes de poder usar el boton Test y obtener un mensaje exitoso, y enviar mails de la manera tradicional.
En el peor de los casos tienes la alternativa de instalar un mail por SMTP, mucho más sencillo de trabajar, pero más complicado de integrar al no ser parte del SQL Server.
http://sqldev.net/xp/xpsmtp.htm