Nella tua config vi sono ventole aggiuntive per raffreddare il case ??
I problemi sono 2: surriscaldamento eccesivo della scheda (allora prendi dei dissipatori) oppure malfunzionamento della stessa.
p.s. con le tue ram dovresti arrivare tranqui fino a 360