HBM-PIM, la prima memoria con intelligenza artificiale a bordo è di Samsung

HBM-PIM è la prima soluzione HBM (High Bandwidth Memory) dotata di capacità di calcolo per compiti di intelligenza artificiale. Sviluppata da Samsung Electronics, la nuova HBM-PIM (dove PIM sta per processing-in-memory) è destina al mondo dei datacenter e quello HPC, ma non solo: pensate ad esempio alle future auto a guida autonoma dove l'intelligenza artificiale è assoluta protagonista.

"La nostra rivoluzionaria HBM-PIM è la prima soluzione PIM programmabile per diversi carichi basati sull'intelligenza artificiale come HPC, addestramento e inferenza. Abbiamo intenzione di lavorare su questa innovazione collaborando ulteriormente con i provider di soluzioni IA per applicazioni basate su PIM ancora più avanzate", ha dichiarato Kwangil Park, vicepresidente senior per la divisione Memory Product Planning di Samsung Electronics.

L'azienda sudcoreana parlerà approfonditamente di HBM-PIM alla International Solid-State Circuits Virtual Conference (ISSCC) il 22 febbraio, ma l'azienda fa sapere che la memoria "è ora in fase di test all'interno degli acceleratori di intelligenza artificiale dai principali partner, e tutti i test di convalida dovrebbero essere completati entro la prima metà di quest'anno".

Le unità di calcolo e la memoria hanno sempre lavorato insieme, ma come unità separate, per affrontare operazioni sempre più complesse. Proprio questo aumentare dei carichi ha però evidenziato come l'approccio sequenziale alla gestione delle informazioni, con il dato che si muove costantemente avanti e indietro tra i due componenti, crei un collo di bottiglia a fronte di volumi in espansione.

HBM-PIM nasce per prendere di petto questo problema, portando la potenza di calcolo direttamente dove il dato è archiviato, "inserendo un engine IA ottimizzato per la DRAM all'interno di ogni banco di memoria (una sottounità di archiviazione), consentendo il processo parallelo e minimizzando lo spostamento del dato".

Più concretamente, quando Samsung ha applicato questa novità alla sua memoria HBM2 Aquabolt, l'azienda ha ravvisato un aumento delle prestazioni più che doppio, con una riduzione del consumo di oltre il 70%. HBM-PIM non richiede inoltre cambiamenti hardware o software, permettendo una più veloce integrazione nei sistemi esistenti.

Secondo Rick Stevens, professore dell'Argonne National Laboratory negli Stati Uniti, "HBM-PIM ha dimostrato miglioramenti degni di nota delle prestazioni e consumi in importanti classi di applicazioni di IA, perciò lavoreremo insieme per valutare le sue prestazioni su ulteriori problemi che sono d'interesse per l'Argonne National Laboratory".