Tolaware,
La mejor solución que se me viene a la mente y que aplicamos en muchísimos servidores (no windows, linux, por ello no puedo aconsejarte en detalles) son los filtros de SPAM RBL o DNSBL, toman listas negras de spammers a lo largo del mundo. Solo debes tomar esas listas (por ejemplo spamhaus.org) y configurarlas para que tu server de correo las lea y detenga todo el spam antes de que entre al server de correos.
También puedes integrarlas con tu firewall y bloquear directamente las IPs listadas. Lamento no poder produndizar pero Windows (
) no es mi campo.
Un saludo!