Hola:
Para subir archivos no valen esas características... el form debe tener el enctype adecuado, y hay que hacer submit (no vale como lo estás haciendo)... si quieres un popup, busca en maestrfos del web como se hace (yo hice el artículo)...
Saludos