Hola marcosw,
No es posible enviar archivos vía AJAX, sin embargo puedes "emular" la funcionalidad usando un iframe oculto, es un trabajo tedioso, pero es posible.
Te recomiendo si no sabes mucho de AJAX, JavaScript e Iframes, te des una vuelta por las FAQs del foro de JavaScript, y por las FAQs de este foro. Encontraras mucho material para leer.
Saludos!
