3D X-AI, così NEO Semiconductor vuole rivoluzionare la memoria HBM

NEO Semiconductor propone con 3D X-AI una memoria che può elaborare l'IA, andando così a ridurre il passaggio di dati continuo tra GPU e memoria. La nuova soluzione promette miglioramenti a tutto campo incredibili.
di Manolo De Agostini pubblicata il 12 Agosto 2024, alle 07:31 nel canale MemorieHBM
NEO Semiconductor, società che vuole rivoluzionare il mondo delle memorie DRAM e NAND (X-NAND e 3D X-DRAM), ha annunciato lo sviluppo di 3D X-AI, una nuova soluzione che ha l'obiettivo di "sostituire gli attuali chip DRAM all'interno della memoria HBM per risolvere i colli di bottiglia relativi al bus dati, consentendo l'elaborazione dell'intelligenza artificiale nella 3D DRAM".
Secondo la società, 3D X-AI può ridurre l'enorme quantità di dati trasferiti tra HBM e GPU durante i carichi di lavoro IA con vantaggi a tutto tondo, dalle prestazioni ai consumi, fino ai costi.
In termini meno vaghi ma comunque non esaustivi, la tecnologia 3D X-AI garantirebbe "prestazioni 100 volte superiori" grazie a 8.000 circuiti neurali che eseguono l'elaborazione dell'intelligenza artificiale nella memoria 3D. Si parla di una riduzione del 99% dell'energia richiesta perché la necessità di trasferire i dati alla GPU è inferiore.
NEO Semiconductor afferma la sua tecnologia garantisce una densità di memoria 8 volte maggiore. Un singolo die X-AI 3D comprende 300 layer di celle 3D DRAM con capacità di 128 Gb e un layer fatto da 8.000 circuiti neurali.
Secondo le stime di NEO, tutto questo garantisce un throughput fino a 10 TB/s per die. Utilizzando dodici die 3D X-AI impilati si può raggiungere un throughput di elaborazione di 120 TB/s, "con un aumento delle prestazioni di 100 volte", recita la nota stampa.
"Gli attuali chip IA sprecano una quantità significativa di prestazioni e di energia a causa di inefficienze architettoniche e tecnologiche", ha dichiarato Andy Hsu, fondatore e CEO di NEO Semiconductor. "L'attuale architettura dei chip IA memorizza i dati nella HBM e si affida a una GPU per eseguire tutti i calcoli. Questa architettura separata di archiviazione ed elaborazione dei dati rende il bus dati un inevitabile collo di bottiglia delle prestazioni".
"Il trasferimento di enormi quantità di dati attraverso il bus dati causa prestazioni limitate e un consumo energetico molto elevato. 3D X-AI può eseguire l'elaborazione dell'intelligenza artificiale in ogni chip HBM. In questo modo è possibile ridurre drasticamente i dati trasferiti tra HBM e GPU, migliorando le prestazioni e riducendo drasticamente il consumo energetico".
3 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoEro sarcastico,io ho sempre sostenuto che ci sono molti produttori di hardware validi oltre a Nvidia ma sembra sia stata gonfiata dalla stampa e dagli stessi investitori che vogliono vedere le azioni belle cicciotte....
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".