3D X-AI, così NEO Semiconductor vuole rivoluzionare la memoria HBM

NEO Semiconductor, società che vuole rivoluzionare il mondo delle memorie DRAM e NAND (X-NAND e 3D X-DRAM), ha annunciato lo sviluppo di 3D X-AI, una nuova soluzione che ha l'obiettivo di "sostituire gli attuali chip DRAM all'interno della memoria HBM per risolvere i colli di bottiglia relativi al bus dati, consentendo l'elaborazione dell'intelligenza artificiale nella 3D DRAM".

Secondo la società, 3D X-AI può ridurre l'enorme quantità di dati trasferiti tra HBM e GPU durante i carichi di lavoro IA con vantaggi a tutto tondo, dalle prestazioni ai consumi, fino ai costi.

In termini meno vaghi ma comunque non esaustivi, la tecnologia 3D X-AI garantirebbe "prestazioni 100 volte superiori" grazie a 8.000 circuiti neurali che eseguono l'elaborazione dell'intelligenza artificiale nella memoria 3D. Si parla di una riduzione del 99% dell'energia richiesta perché la necessità di trasferire i dati alla GPU è inferiore.

NEO Semiconductor afferma la sua tecnologia garantisce una densità di memoria 8 volte maggiore. Un singolo die X-AI 3D comprende 300 layer di celle 3D DRAM con capacità di 128 Gb e un layer fatto da 8.000 circuiti neurali.

Secondo le stime di NEO, tutto questo garantisce un throughput fino a 10 TB/s per die. Utilizzando dodici die 3D X-AI impilati si può raggiungere un throughput di elaborazione di 120 TB/s, "con un aumento delle prestazioni di 100 volte", recita la nota stampa.

"Gli attuali chip IA sprecano una quantità significativa di prestazioni e di energia a causa di inefficienze architettoniche e tecnologiche", ha dichiarato Andy Hsu, fondatore e CEO di NEO Semiconductor. "L'attuale architettura dei chip IA memorizza i dati nella HBM e si affida a una GPU per eseguire tutti i calcoli. Questa architettura separata di archiviazione ed elaborazione dei dati rende il bus dati un inevitabile collo di bottiglia delle prestazioni".

"Il trasferimento di enormi quantità di dati attraverso il bus dati causa prestazioni limitate e un consumo energetico molto elevato. 3D X-AI può eseguire l'elaborazione dell'intelligenza artificiale in ogni chip HBM. In questo modo è possibile ridurre drasticamente i dati trasferiti tra HBM e GPU, migliorando le prestazioni e riducendo drasticamente il consumo energetico".