Para probar mail() en localhost podés usar fakeSendmail para Windows.
Si estás usando xampp, ya lo trae, aunque es mejor esta version que soporta SSL, para poder usar gmail
http://www.glob.com.au/sendmail/
en php.ini
[mail function]
SMTP = localhost
smtp_port = 25
; For Win32 only.
sendmail_from = [email protected]
; Aqui la ruta al ejecutable de sendmail
sendmail_path = "/usr/lib/sendmail -t"
y en la carpeta donde esta sendmail.exe, configurar sendmail.ini segun las instrucciones
SAludos