Configurar apache correctamente

[Datacenter1]

Yo soy un fan de litespeed, de hecho justo ahora lo estoy instalando en el último servidor web cpanel que aún usaba Apache y puedo garantizarte que el rendimiento es 50% superior al de apache altamente optimizado.

Maxrequest a 5000 no debe aumentar el uso de la memoria a menos que un programa o módulo tenga una fuga de memoria, con el valor a 500 le estás indicando que cada child debe morir luego de 500 request, el proceso de matar y crear childs es costoso para el cpu, por esta razón 50000 ofrecerá menos consumo de CPU

Tienes un poderoso servidor de eso no hay duda, pero si no está bien configurado o en manos inexpertas será difícil sacarle el máximo provecho.

Tienes acceso a consola root y sabes ejecutar comandos básicos? lo que describes puede no ser culpa de apache, MySQL si los sitios son de bases de datos o los mismos discos en un arreglo raid pueden ser los culpables, creo que lo primero que debes buscar es determinar que subsistema es el culpable de la falla

La salid del comando top en horas pico ayudará a ver la causa