Hace tiempo hice una guía para estas ocasiones. La puedes descargar
de aquí, y si no lo consigues con los pasos que te indica deberías probar a hacer un disco de arranque y recuperación con las aplicaciones que ahí se recomiendan (eso si, las tendrás que hacer en otro Mac).
Y si tienes otro Mac, puedes conectarlos por Firewire, con el tuyo en modo Target, y tratar de pasarle una reparación desde el otro ;)
Otra cosa que puede pasar es que el DVD desde el que estás tratando de instalar no funcione bien, no esté bien grabado y no sirva de arranque. Consigue discos de otro iBook (a veces no valen de un mac para otro) a ver si con esos te deja.