Se puede subir con ajax estando en un form enctype multipart, ya que al hacer el submit via ajax, envia todo el form incluyendo los input file
Si quieres hacer lo dicho anteriormente, te recomiendo
Extjs, es bastante sencillo de utilizar y existe un foro en español.
Suerte!