un vps es una maquina virtual por ende consume mucho mas que un sistema normal.
lo mas recomendable es tener un server para tu web he instalarle un acelerador de php como APC
http://pecl.php.net/package/APC
aquí hay mas
http://en.wikipedia.org/wiki/List_of_PHP_accelerators.
Lo mejor
a mi parecer lo que yo haria seria pasar todo micodigo a POO luego usar postgres y no mysql, he instalar el APC que una de las cosas que hace es evitar el sobre proceso de tu codigo.
con eso estarias muy bien.