wiii lo consegui
Código:
ajax.send("name="+name+"&email="+email+"&msg="+encodeURIComponent(msg));
EDIT:
Bue no se, ahora veo que no era necesario modificar la parte de ajax, lo unico que hacia falta era decodificar el UTF-8 desde PHP.
cada vez entiendo menos.