Hola,
No tengo experiencia con ninguno de los dos, así que solamente haré una nota al margen: si estás considerando un VPS, ten en cuenta que implica casi las mismas labores y responsabilidades que admininistrar un servidor dedicado. También ten en cuenta que en un servidor de hosting compartido generalmente se pueden tolerar mejor los picos de uso, pues tu sitio tiene acceso prácticamente a todos los recursos del servidor (CPU, RAM), pero en un VPS te limitan el uso de memoria así como el uso de CPU.
Saludos.