Uma coisa que você poderia fazer para certificar se o problema está relacionado com drivers ou diferente ao hardware, seria testar alguma distribuição Linux.
Se você também pudesse testar uma outra VGA, seria uma boa, assim como medir temperaturas e voltagens da fonte. Eventualmente, pode ser algo relacionado com um dos dois componentes. Também não dá para descartar inicialmente, a memória RAM, mas acredito que não deva ter outra para testar. Neste caso, testar em outro equipamento, seria uma opção.