Es liegt vermutlich entweder ein Hardwareproblem mit der Grafikkarte vor, oder deine Grafikkarte wird im 3D-Dauerbetrieb einfach zu warm.
Gerade in Umgebungen mit viel Staub oder Fusseln (z.B. Spannteppich, Tierhaare, Zigarettenrauch) lagert sich im Laufe der Zeit einiges auf den Kühlrippen und Rotorblättern des Kühlsystems von Grafikkarte und CPU ab.
Die meisten Grafikkartentreiber bieten ein Tool, mit dem du die Lüfterdrehzahl und die Temperatur von Grafikchip und Grafikspeicher kontrollieren kannst. Bei AMD/ATI-Grafikkarten geht das z.B. mit dem "Catalyst Control Center".
In so einem Fall empfiehlt es sich, die Grafikkarte einmal auszubauen und Lüfter bzw Kühlkörper zu reinigen, entweder mit Druckluftspray oder mit einem weichen Pinsel, den Staub ausblasen bzw. "wegkehren".