Tu tienes instalado un servidor de correo en tu "PC"? .. Parece que NO.
PHP con su función mail() NO envia el e-mail en sí .. sólo lo "entrega" al MTA (Mail Transfer Agent) que puedas usar en tu servidor.
Si vas a usar windows . .instalate algun servidor SMTP.
Si no quieres instalar nada .. usa alguna classe como PHPMailer (
http://phpmailer.sourceforge.net) y usa alguna cuenta de correo de tu proveedor (ISP) que tenga acceso SMTP mínimo (con sus datos de autentificación: usuario/contraseña y el "host" al que conectarte).
Un saludo,