Para que también borre, simplemente puedes agregar en la condición del return que evalue también posibilite borrar (keyCode 8), entonces la función sería:
Código:
function alpha(e,allow) {
var k;
k=document.all?parseInt(e.keyCode): parseInt(e.which);
return (allow.indexOf(String.fromCharCode(k))!=-1 || k == 8);
}
Saludos