quieres algo en JAVA? por que tengo algo que te puede servir, es una función en la que le ingresas los caracteres que quieres que busque y puedes mandar una alerta al usuario que debe ingresar archivos validos...pero esto en es JS, espero te sirva...
Código HTML:
function CheckInput(){
var st = document.tuFormulario.campoFile.value;
patron =/[ñáàéèíìóòúù´`]/; // Añade todos los caracteres no aceptados
if(patron.test(st)){
alert("Solo se aceptan nombres válidos de archivos.");
return false;
}
return true;
}