Mirá yo lo tengo así y me funciona
lo teng oen la raiz del sitio, para ver si es un problema de que no encuentra el archivo
intenta de pasarle un mensaje en lugar de un documento
Código Apache:
Ver originalErrorDocument 401 "no se puede acceder"
Otra cosa que recuerdo es los errorDocument no funcionan en IE si el archivo tiene menos de un tamaño determinado (creo que 512bytes), el IE te muestra sus propios errores de error (ni siquiera los default de Apache), yo si son cortitos le agregi un comentario <!-- xxxxxxxxxxxxx --> hasta que tenga por lo menos 1kb.
Si asi aun no te funciona, puede que el servidor te ponga alguna limitación, pero es lo menos probable, en el server tendrias que tener algo como en tu virtualHost
Código Apache:
Ver original<Directory /web/docs>
ErrorDocument 401 default
</Directory>
Saludos