Si falta memoria, al menos 4GB de memoria ram DDR2, verifica que lo soporte la motherboard de tu sistema.
Y que VGA posees actualmente?? por parte de la motherboard y CPU, no tendrías problema alguno. No serian necesario procede a su cambio.
EDITO:
Si que existen motherboard con socket 775 con memorias DDR3, como por ejemplo:
ASROCK G41M-VS3
Podría ser tu opción, con soporte DDR3 de hasta 8GB con frecuencias de 1333Mhz