Prueba quitando el onsubmit del form y poniendo un onclick en el boton submit
Pienso que le tendrás que dar un name al <form>, p.e. name="formPrueba" para luego pasarlo a la función.
Código:
<form action="<?php echo $_SERVER['PHP_SELF'] ?>" method="post" enctype="multipart/form-data" name="formPrueba">
......
<input name="submit" type="submit" value="Upload!" onclick="javascript: return checkForm(document.forms.formPrueba);">
Espero te funcione, no vi ningun fallo
Saludos