Hola:
Al poner return, aparte de devolver la condición de validación (false => cancelación), fuerzas la devolución del control a la página y se deja de hacer todo lo demás, así que el return siempre debe ir último...
Las posibilidades son invertir el orden de llamadas, o, si no te sirve, guardar en una variable temporal el resultado de la primera validación para devolverlo al manejador de eventos "onsubmit().
onSubmit="salida = return Rut(document.form.rut.value); Validar(this.form); return salida">
... pero si ambas funciones devuelven valores lógicos y sirven en la validación, deverías hacer la operación lógica AND con ambas...
onSubmit="salida = return (Rut(document.form.rut.value) && Validar(this.form))">
Saludos