HBM-PIM e non solo: secondo Samsung l'intelligenza artificiale è una questione di memoria

HBM-PIM e non solo: secondo Samsung l'intelligenza artificiale è una questione di memoria

A Hot Chips 33 Samsung ha parlato delle sue soluzioni di memoria potenziate da un'unità per la gestione di calcoli di IA a bordo. L'azienda sudcoreana e Xilinx hanno integrato con successo HBM-PIM sull'accelerare Xilinx Virtex Ultrascale+ (Alveo) registrando un aumento delle prestazioni complessive del sistema di 2,5 volte e una riduzione del consumo energetico di oltre il 60%.

di pubblicata il , alle 07:56 nel canale Memorie
HBMSamsung
 

Samsung ha illustrato nel corso della conferenza Hot Chips 33 le ultime novità in tema di processing-in-memory (PIM). In particolare, il colosso sudcoreano ha parlato di HBM-PIM, la prima soluzione HBM (High Bandwidth Memory) dotata di capacità di calcolo per compiti di intelligenza artificiale.

Questo tipo di memoria "sotto steroidi" era stata annunciata a febbraio, ma finalmente ha trovato applicazione a bordo di un acceleratore di IA realizzato da Xilinx (realtà acquistata da AMD l'anno scorso). La prima generazione di HBM-PIM è nota anche come Aquabolt-XL e, come accennato, integra capacità di calcolo a bordo della memoria HBM2 Aquabolt di Samsung in modo da velocizzare tutto il processo di gestione dei dati in supercomputer e applicazioni di IA.

Da febbraio a oggi HBM-PIM è stata testata sull'acceleratore Xilinx Virtex Ultrascale+ (Alveo), dove secondo Samsung ha fornito "un miglioramento delle prestazioni di sistema di 2,5 volte e una riduzione di oltre il 60% nel consumo energetico".

"HBM-PIM è la prima soluzione di memoria su misura per l'intelligenza artificiale testata nei sistemi di accelerazione dell'IA dei clienti, dove ha dimostrato un enorme potenziale commerciale", ha affermato Nam Sung Kim, vicepresidente senior della divisione DRAM Product & Technology di Samsung Electronics. "Attraverso la standardizzazione della tecnologia, le applicazioni diventeranno numerose, espandendosi in HBM3 per i supercomputer e le applicazioni IA di prossima generazione, e persino nella memoria mobile per l'IA direttamente sui dispositivi così come nei moduli di memoria usati nei datacenter".

E infatti le parole di Nam Sung Kim trovano conferma in altri annunci di Samsung, che parla di PIM a bordo di moduli di memoria DRAM e memoria mobile. Nel primo caso la società asiatica ha coniato il termine Acceleration DIMM (AXDIMM), dove un engine di IA all'interno del chip buffer "porta la capacità di calcolo sul modulo DRAM stesso, minimizzando il grande spostamento dei dati tra CPU e DRAM e aumentando l'efficienza energetica dei sistemi di accelerazione dell'IA".

Samsung spiega che AXDIMM può svolgere l'elaborazione parallela di più rank di memoria, ossia insiemi di chip, anziché accedere solo a un rank alla volta, migliorando enormemente le prestazioni e l'efficienza del sistema. Poiché il modulo può mantenere un form factor DIMM tradizionale, AXDIMM può essere installata sui sistemi senza modifiche. Attualmente è in fase di test presso i clienti di Samsung del settore server (tra cui SAP) e sembrerebbe garantire il doppio delle prestazioni in determinate applicazioni di IA e una riduzione del 40% dell'uso energetico livello di sistema.

Per quanto concerne invece la memoria mobile con intelligenza artificiale a bordo, Samsung sta mettendo a punto una memoria LPDDR5-PIM per consentire a smartphone e altri prodotti di diventare sempre più indipendenti svolgendo operazioni di IA in loco. "Simulazioni hanno dimostrato che LPDDR5-PIM può più che raddoppiare le prestazioni riducendo il consumo energetico di oltre il 60% se usata in applicazioni come il riconoscimento vocale, la traduzione e i chatbot".

Samsung prevede di ampliare la gamma delle proprie soluzioni collaborando con le altre realtà del settore e completare la standardizzazione della piattaforma PIM nella prima metà del 2022.

0 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^