Hola:
Empecé a revisar el código, pero me he perdido... lo veo más complejo de lo necesario...
Te comento la técnica: No se trata del típico objeto Ajax (XMLHttpRequest/ActiveXObject), sino un formulario con las características normales (sin plantear nada de Ajax) para adjuntar ficheros (el método y el enctype), y un iframe oculto o simulado como en este artículo:
Revisar las imágenes antes de subirlas, y un target hacia el iframe nates mencionado.
Los datos del iframe se reciben como cualquier CGI y siendo php, basta con revisar el array $_FILES para obtener el nombre del archivo (atributo name).
La cuestión es con ese nombre generar con php un script javascript para pasar el nombre a la ventana parent...
Revisa el artículo, y cuéntanos tus dudas.
Saludos