HBM-PIM e non solo: secondo Samsung l'intelligenza artificiale è una questione di memoria

Samsung ha illustrato nel corso della conferenza Hot Chips 33 le ultime novità in tema di processing-in-memory (PIM). In particolare, il colosso sudcoreano ha parlato di HBM-PIM, la prima soluzione HBM (High Bandwidth Memory) dotata di capacità di calcolo per compiti di intelligenza artificiale.

Questo tipo di memoria "sotto steroidi" era stata annunciata a febbraio, ma finalmente ha trovato applicazione a bordo di un acceleratore di IA realizzato da Xilinx (realtà acquistata da AMD l'anno scorso). La prima generazione di HBM-PIM è nota anche come Aquabolt-XL e, come accennato, integra capacità di calcolo a bordo della memoria HBM2 Aquabolt di Samsung in modo da velocizzare tutto il processo di gestione dei dati in supercomputer e applicazioni di IA.

Da febbraio a oggi HBM-PIM è stata testata sull'acceleratore Xilinx Virtex Ultrascale+ (Alveo), dove secondo Samsung ha fornito "un miglioramento delle prestazioni di sistema di 2,5 volte e una riduzione di oltre il 60% nel consumo energetico".

"HBM-PIM è la prima soluzione di memoria su misura per l'intelligenza artificiale testata nei sistemi di accelerazione dell'IA dei clienti, dove ha dimostrato un enorme potenziale commerciale", ha affermato Nam Sung Kim, vicepresidente senior della divisione DRAM Product & Technology di Samsung Electronics. "Attraverso la standardizzazione della tecnologia, le applicazioni diventeranno numerose, espandendosi in HBM3 per i supercomputer e le applicazioni IA di prossima generazione, e persino nella memoria mobile per l'IA direttamente sui dispositivi così come nei moduli di memoria usati nei datacenter".

E infatti le parole di Nam Sung Kim trovano conferma in altri annunci di Samsung, che parla di PIM a bordo di moduli di memoria DRAM e memoria mobile. Nel primo caso la società asiatica ha coniato il termine Acceleration DIMM (AXDIMM), dove un engine di IA all'interno del chip buffer "porta la capacità di calcolo sul modulo DRAM stesso, minimizzando il grande spostamento dei dati tra CPU e DRAM e aumentando l'efficienza energetica dei sistemi di accelerazione dell'IA".

Samsung spiega che AXDIMM può svolgere l'elaborazione parallela di più rank di memoria, ossia insiemi di chip, anziché accedere solo a un rank alla volta, migliorando enormemente le prestazioni e l'efficienza del sistema. Poiché il modulo può mantenere un form factor DIMM tradizionale, AXDIMM può essere installata sui sistemi senza modifiche. Attualmente è in fase di test presso i clienti di Samsung del settore server (tra cui SAP) e sembrerebbe garantire il doppio delle prestazioni in determinate applicazioni di IA e una riduzione del 40% dell'uso energetico livello di sistema.

Per quanto concerne invece la memoria mobile con intelligenza artificiale a bordo, Samsung sta mettendo a punto una memoria LPDDR5-PIM per consentire a smartphone e altri prodotti di diventare sempre più indipendenti svolgendo operazioni di IA in loco. "Simulazioni hanno dimostrato che LPDDR5-PIM può più che raddoppiare le prestazioni riducendo il consumo energetico di oltre il 60% se usata in applicazioni come il riconoscimento vocale, la traduzione e i chatbot".

Samsung prevede di ampliare la gamma delle proprie soluzioni collaborando con le altre realtà del settore e completare la standardizzazione della piattaforma PIM nella prima metà del 2022.

realme 8 5G Smartphone, Processore 5G Dimensity 700, Display fluido a 90 Hz, Grande batteria da 5.000 mAh, Fotocamera da 48 MP con modalità Nightscape, Dual Sim, NFC, 4+64GB, Nero (Supersonic Black)

Compra ora

HP - PC 14s-fq0002sl Notebook, AMD Ryzen 5 4500U, RAM 8 GB, SSD 256 GB, Grafica AMD Radeon, Windows 10 Home, Schermo 14" Impronte Digitali, Webcam TrueVision 720p, USB, HDMI, Fast Charge, Argento

Compra ora