AMD sulla buona strada per superare l'obiettivo di efficienza energetica 30x25

AMD ha rilasciato un aggiornamento sull'iniziativa 30x25, annunciata nel 2021 e con la quale la società punta a migliorare l'efficienza energetica dei nodi di calcolo accelerati costituiti da CPU EPYC e GPU Instinct di 30 volte entro il 2025 rispetto al 2020.

Sam Naffziger, vicepresidente senior e Corporate Fellow e Product Technology Architect dell'azienda, ha annunciato in un post che l'azienda ha compiuto progressi costanti verso l'obiettivo, perfezionando ogni livello, dal silicio al software. "Negli ultimi due anni, l'IA generativa ha assunto un ruolo di primo piano", ammette Naffziger sottolineando che "l'energia è un fattore critico limitante".

"In queste prime fasi della trasformazione dell'intelligenza artificiale, la domanda di calcolo continuerà a essere quasi insaziabile. E nei datacenter, ogni watt di energia consumato da un chip ha un impatto sul suo fabbisogno energetico, sul costo totale di proprietà, sulle emissioni di carbonio e, soprattutto, sulla sua capacità di calcolo. Per continuare a promuovere i progressi dell'IA e ampliare l'accesso, il settore deve fornire processori con prestazioni più elevate e più efficienti dal punto di vista energetico", spiega il dirigente.

Da qui l'impegno di AMD ad aumentare le prestazioni e l'efficienza energetica di pari passo: l'azienda afferma di aver ottenuto un miglioramento dell'efficienza energetica di circa 28,3 volte nel 2024 utilizzando gli acceleratori Instinct MI300X abbinati alle CPU EPYC 9575F, rispetto all'obiettivo di base del 2020.

"Uno degli obiettivi principali di tutti i nostri prodotti è quello di ottenere il massimo delle prestazioni, bilanciando al tempo stesso il consumo energetico. AMD adotta un approccio olistico alla progettazione ad alta efficienza energetica, bilanciando i progressi tra le numerose e complesse leve architettoniche che compongono la progettazione dei chip", spiega Naffziger.

Da un punto di vista hardware, una stretta integrazione tra calcolo e memoria con architetture chiplet, soluzioni di packaging avanzato e nuove interconnessioni garantiscono alte prestazioni ed efficienza.

Gli acceleratori AMD Instinct MI300X contengono 153 miliardi di transistor e sfruttano l'avanzato packaging CoWoS 3.5D per ridurre al minimo l'energia di comunicazione e l'overhead legato al movimento dei dati. Con otto Compute Die a 5 nm sovrapposti a quattro IO Die a 6 nm, tutti strettamente collegati a 192 GB di memoria HBM3 che funzionano a 5,2 terabyte al secondo, questi acceleratori possono elaborare enormi quantità di dati.

In particolare, la capacità e la larghezza di banda della memoria a bordo dell'acceleratore svolgono un ruolo cruciale per le prestazioni e l'efficienza dell'intelligenza artificiale.

"Aumentando la memoria sui chip, migliorando la localizzazione dell'accesso alla memoria tramite partizioni software e ottimizzando il modo in cui i dati vengono elaborati garantendo un'elevata larghezza di banda tra i chiplet, è possibile ridurre l'energia di interconnessione e il consumo totale di energia legata alla comunicazione, riducendo la domanda complessiva di energia di un sistema. Questi effetti si moltiplicano tra cluster e datacenter", sottolinea il dirigente di AMD.

AMD ricorda anche il ruolo della CPU in questa iniziativa, in quanto è necessario mantenere gli acceleratori alimentati affinché possano operare al meglio. Nel caso specifico, AMD cita la CPU EPYC 9575F, una soluzione con 64 core e 128 thread basata su architettura Zen 5. "I nostri test hanno dimostrato una velocità di elaborazione fino all'8% superiore rispetto a quella di una CPU concorrente, grazie a una frequenza di clock boost più elevata". Il confronto, come da note a piè pagina, è stato fatto su piattaforme 2P con Llama3.1-70B e prendendo come paragone la CPU Intel Xeon Platinum 8592+ Emerald Rapids.

Se l'hardware è decisivo, il software non è da meno nell'intelligenza artificiale. Lo stack software open source AMD ROCm è fondamentale in tal senso, con il supporto a nuovi formati di dati e molto altro. "Da quando abbiamo lanciato gli acceleratori AMD Instinct MI300X, abbiamo raddoppiato le prestazioni di inferenza e di addestramento su un'ampia gamma dei modelli AI più diffusi grazie ai miglioramenti di ROCm", scrive Naffziger.

AMD conclude dicendosi fiduciosa di poter superare l'obiettivo 30x25 e ritiene di aver identificato un percorso che "ci porterà a miglioramenti massicci dell'efficienza energetica entro i prossimi due anni". Nei mesi scorsi l'azienda ha anticipato l'intenzione di migliorare di 100 volte l'efficienza energetica entro il 2027.