A ver si te sirve esta función.
Verifica al enviar si el archivo es de determinada extensión. Si no lo es, advierte que debe escoger tal tipo de archivo y no se envía hasta que no lo encuentra vacío o con la extensión adecuada.
Código PHP:
<script language="javascript">
function verifica(que)
{
if(que.value!="")
{
fail=que.value.substring(que.value.length-4)
if(fail==".xls")
{
return true
}
else
{
alert("Sólo puedes introducir archivos de tipo xls")
que.focus()
return false
}
}
}
</script>
Y a tu form le pones esto
<form name="form1" enctype="multipart/form-data" method="post" action=""
onSubmit="return verifica(this.nombreDelCampo)">
también puedes llamar a la función en el momento de perder el foco el campo
<input type="file" name="pepe"
onSelect="verifica(this)">
Saludos