se llama memtest86. yo lo acabo de bajar en su version 3.
es excelente, lo debes de copiar a un disco de arranque e inicar con el. lo puedes hacer desde linux o desde windows.
Se tardara un buen rato haciendo la bateria de tests pero vale la pena, si hay errores ve intercambiando los dimms y repitiendo la prueba hasta que te topes con el malo.
http://www.memtest86.com/