Hola Eztopa:
Facilísimo...
:
Existe unos métodos para cadenas que convierten mayúsculas a minúsculas y viceversa y son:
toLowerCase() y toUpperCase()
if (document.form.archivo.value.toLowerCase().indexOf ('.doc') == -1)...
Esa línea (si no me equivoqué al escribir) tendría que ser suficiente para el chequeo.
Saludos