Pregunta, lo ejecutas con usuario de root?
El detalle de tener estos tipos de ataques son horribles, lo estoy teniendo con un sitio que tiene un servidor dedicado, de plano tuve que ponerle un cronjob para reiniciar el apache cada 15 minutos.
Pero hay algo que igual puedes intentar instalarlo.
http://foro.elhacker.net/tutoriales_...t137442.0.html
Espero pueda funcionarte, el problema es que tiene algunos módulos de Apache que parecen obsoletos o no los encuentras (a menos que haya alternativas para ello).
Ahh... Para rematar, si te interesa y si es el mismo problema que padeces tu, este es el principal responsable (como arma para destruir un sitio) de todo estos lios:
http://www.torproject.org/