Hola Arturo necesito un par de aclaraciones...
* El CPU jamas se satura, si al caso llega al 10% de consumo
10% del total o de nucleo?
* ram llego a ocupar los 5gb
El poco consumo de la ram indica que no estas cacheando nada.
* La base de datos pesa 1.2 GB
Que motor estas usando?
* Y trabaja relativamente bien, pero apenas sube el trafico por alguna publicación relevante el servidor empieza a indicar que no puede responder la solicitud y manda error 500
Al afirmar que sube el trafico... especifica un poco más. Ese sistema debería soportar más de 350 recurrentes sin ningún problema.
* Siendo que el procesador y la ram están bien relax sin carga que sature todo.
Deberías monitorizar desde el segundo 0 al lanzar un articulo, aunque parece un problema de timeout.
Revisa el tema de la cache que mencione anteriormente.
Tal vez te interese echar un vistazo a
CENTMIN MOD.