Hola:
Para subir archivos solo puedes usar un formulario con el método post y el enctype multipart-form/data, además del control file (el objeto Ajax tampoco vale)... lo que se suele hacer es enviar el formulario a un iframe oculto, y la respuesta devolverla desde el iframe hacia el objeto parent.
Saludos
