Short answer: si.
Pero no es tan sencillo. Necesitarás básicamente un "heartbeat" de cualquier tipo y round-robin DNS en un router que tiene que ser independiente de los servidores web.
No es excesivamente dificil de hacer pero necesitas bastante conocimiento de redes. Hay mucha información sobre esto en
http://www.linuxvirtualserver.org - tu no necesitas servidores virtual pero si gran parte de la infraestructura necesaria para estos.
Saludos ;)