Imagínate adivinar.... Pues sí, el problema era el video, seguramente una fuga en algún capacitor, eso hace que no de el rendimiento adecuado y que se caiga..
Se me hace poco procesador y poca RAM (a qué velocidad dices esa RAM???)... Y para overclockear, pues, comienzas a requerir aditamentos especiales, comenzando por un cooler mejor que el de fábrica... También, el hecho de que tengas destapado el CPU no te garantiza que esté mejor ventilado, si así fuera, todos los gabinetes vendrían sin tapa
la idea de un gabinete cerrado es crear un flujo de aire de enfrente hacia atrás, y que el aire circule por dentro, y que la corriente creada enfríe los compoentes... Y sí, entre más calientes los componentes, menor rendimiento...