He instalado mod_security muchísimas veces, y solo necesitas tener el paquete httpd-devel como dependencia, prueba instalarlo.
Código:
Bajamos y descomprimimos mod_security desde:
http://www.modsecurity.org/download/
Si usamos Apache 1.3.x vamos hacia el directorio de Apache1:
cd modsecurity-1.9.5/apache1
Si usamos apache2 vamos hacia el directorio correspondiente:
cd modsecurity-1.9.5/apache2
Compilamos mod_security como módulo de Apache
/usr/local/apache/bin/apxs -cia mod_security.c
Hacemos un backup del httpd.conf antes de tocar algo
cp /usr/local/apache/conf/httpd.conf /usr/local/apache/conf/httpd.conf-mod_sec
Ahora editamos el httpd.conf
pico -w /usr/local/apache/conf/httpd.conf
Si estas corriendo Apache 1.3.x:
Busca la linea "AddModule mod_security.c"
y agrega abajo de la linea: "<IfModule mod_security.c>" para comenzar las reglas del módulo, luego cerramos con "</IfModule>" . Entre estos tags, agrega el ruleset.
Si estas usando Apache2
Busca la linea "LoadModule security_module modules/mod_security.so"
y agrega abajo de la linea: "<IfModule mod_security.c>" para comenzar las reglas del m�ulo, luego cerramos con "</IfModule>" . Entre estos tags, agrega el ruleset.
Un buen sitio con muchas reglas para aplicar a mod_security es
Gotroot.
Creo que no se me ha escapado nada, fíjate si te funciona de esa manera.
Saludos,