Hola:
El trozo de código que veo, no tiene el enctype correcto para subir archivos (multipart/form-data)... y no veo que hagas submit (el botón no es submit, y lo que hace el script solo es abrir un popup... puedes enviar un form a un popup, pero no como lo tienes...)
Con poco que busques, en maestros del web encontrarás el artículo que te he mencionado...
Saludos