Hola
helthon! 
Ese tal hacker simplemente posteo código javascript en tu libro de visitas, primero metió el método alert y luego redireccionó la página a la suya, para evitar esa clase de maldades, hay ciertas funciones en php.
Consulta el siguiente link, te será de ayuda.
htmlspecialchars
Para recuperar la funcionalidad de tu libro, entra a la base de datos donde tengas todos tus registros, debe haber uno que tenga código javascript, elimínalo y volverá a la normalidad.
Suerte!!!