HBM, la memoria dell'intelligenza artificiale, senza AMD Fiji non sarebbe nata: il racconto di Raja Koduri

Raja Koduri, uno dei più noti e importanti progettisti di GPU, passato per AMD, Intel e Apple, ha condiviso su X un "aneddoto" riguardante la memoria HBM, High Bandwidth Memory, che oggi vediamo a bordo degli acceleratori per l'intelligenza artificiale.

Chi ha qualche anno sulle spalle, si ricorderà quando nel 2015 debuttarono le schede video AMD Radeon R9 Fury, basate su GPU AMD Fiji ed equipaggiate con la prima incarnazione della memoria HBM.

Salvo alcuni progetti speciali (come Kaby Lake-G, in una strana partnership tra Intel e AMD), quelle schede video furono l'unica incarnazione consumer della memoria HBM. Se non fosse stato per un uomo, Bryan Black, la memoria HBM forse non sarebbe mai nata.

"Incontrai Bryan nel 2007-8 poco dopo l'acquisizione di ATI da parte di AMD - lavorava per AMD. Era impegnato su un progetto "skunkworks" (un progetto ad alto tasso d'innovazione, ma non centrale per i piani aziendali di quel momento, ndr), su qualcosa che allora la gente considerava pazzesco, una nuova memoria ad alta larghezza di banda e basso consumo... i ragazzi delle CPU non erano interessati perché non ne avevano un bisogno impellente", spiega Koduri.

"Aveva bisogno di supporto per portare avanti il ​​suo esperimento. Noi ragazzi delle GPU eravamo fanatici della larghezza di banda, quindi abbiamo dato una mano. Ma poi me ne sono andato in Apple all'inizio del 2009 e sono tornato nel 2013. Mi aspettavo che il programma HBM fosse morto e che Bryan avesse lasciato l'azienda da tempo", aggiunge Koduri. "Con mia sorpresa, Bryan lo mantenne in vita".

L'ingegnere, sostanzialmente, riuscì a trovare sponda all'interno della società, nonostante AMD non navigasse in quel periodo, tra il 2012 e il 2016, in buon acque. "Dopo il mio ritorno in AMD abbiamo inserito Fiji nella roadmap, ma c'erano molte preoccupazioni sui rischi e sui costi di questa nuova tecnologia. Il progetto Fiji è stato molte volte in modalità stop-start. Bryan e Joe Macri hanno spinto i produttori di memorie e le aziende del settore del packaging a impegnarsi e ridurre i rischi. Ripensandoci, è un po' un miracolo che Fiji abbia funzionato e che l'abbiamo lanciato nel 2015", spiega Koduri.

"Avremmo dovuto mettere un Compute Die molto più grande di quello che abbiamo inserito, ma col senno di poi... Questa è la storia di HBM1 e non penso che ci sarebbe stata una roadmap di HBM senza spedizioni in volumi di HBM1 su PC. Complimenti al management di AMD, a Bryan, Joe e al team Fiji: oggi il mondo dell'intelligenza artificiale ha HBM".

Le storie che raccontano la nascita di un prodotto sono sempre molto interessanti e danno un valore aggiunto. Ne vorremo conoscere sempre di più. A questo racconto affascinante fa però da contraltare un'amara – per così dire – constatazione: la memoria HBM non tornerà sulle GPU consumer. Almeno non nell'immediato, secondo Koduri. Interpellato in merito, l'ingegnere è stato categorico.

"La risposta è no. Sfortunatamente il rapporto dollaro/byte di HBM è aumentato e tutto indica che HBM4 costerà ancora di più per byte! I prezzi della HBM seguono la legge di Moore inversa!! Nel 2015 il nostro sogno era quello di rendere la HBM una memoria mainstream, portandola anche sui laptop. Sono stati spediti anche due progetti mobili, uno dei quali (KBL-G) era una partnership tra AMD e Intel, l'altro era in gran parte confinato al MacBook Pro di Apple". Le prossime GPU consumer adotteranno le memorie GDDR7, mentre quella HBM continuerà a vivere (e spopolare) grazie al boom dell'IA: dopo l'attuale HBM3E toccherà alla HBM4.