in linea di massima, 4x512 MByte non consentono un grandissimo overclock.
La prima cosa che devi fare, come ti hanno suggerito, è entrare nel menu genie bios, selezionare il sottomenu di impostazione della ram, e impostare la voce "command per clock" su disable. Non ricordo di preciso se si chiama così, comunque è la seconda voce dopo quella che consente di settare la velocità della ram.
Poi, imposta il vdimm a 2.8v. Il vcore della cpu aumentalo leggermente.
Devi salire pochi MHz alla volta, e vedere sempre come reagisce il sistema. Se esageri, la schermata nera è la conseguenza diretta. Settare al meglio la scheda madre che hai acquistato richiede molta pazienza.