Holas, en lo personal, de entre las 2 que citas, te recomiendo la HD 3870 de ATI porque tiene soporte para juegos DirectX 10.1 (Pixel Shader 4.1). En cambio las Geforce 9 solo son Directx 10 (PS 4.0).
Asi que las Geforce 9 tienen los dias contados, pero rinden mas (dependiendo del modelo obviamente).
Si quieres potencia, mejor ahorra bastante porque las tarjetas High-End son caras, con lo de doble nucleo, la mas rapida de ATi es la HD3870 X2 y en nVidia la GeForce 9800 GX 2 (la mas rapida de hoy en dia).
Si no, espera un tiempito a que salga la serie 4000 de ATI.
Aparte que las ATI meten menos ruido
Salu1+1