Link alla notizia: https://www.hwupgrade.it/news/memorie/micron-ha-avviato-la-produzione-in-volumi-di-memoria-hbm3e_124720.html

Micron ha avviato la produzione in volumi di memoria HBM3E per gli acceleratori di NVIDIA, da H200 a GH200, entrambi dotati di 141 GB di memoria. Le soluzioni di Micron prevedono 24 GB di capacità e una bandwidth superiore a 1,2 TB/s.

Click sul link per visualizzare la notizia.

Eh cambiera' tutto in maniera esponenziale, per questo tipo di memoria ho letto la storia ecc.. ma non ho capito perche' e' cosi' vitale per IA, per l'altissima velocita'? O per altri motivi?
Per lo shortage di Nvidia sara' risolto quando inizieranno ad inserire NPU ovunque e la GPU sara' solo di extra supporto o lavoro parallelo.

Eh cambiera' tutto in maniera esponenziale, per questo tipo di memoria ho letto la storia ecc.. ma non ho capito perche' e' cosi' vitale per IA, per l'altissima velocita'? O per altri motivi?
Per lo shortage di Nvidia sara' risolto quando inizieranno ad inserire NPU ovunque e la GPU sara' solo di extra supporto o lavoro parallelo.

le npu non servono a nulla vanno una frazione della velocita di una gpu entry level quindi te ne fai poco nulla solo la gpu ha le prestazioni necessarie
Le HBM3E sono viutali perche hanno una grande banda con una latenza molto bassa non esiste altra tecnologia comparabile

Sugli acceleratori per IA fanno la differenza perché hanno bisogno di manipolare un sacco di dati alla volta,il MIT sta lavorando sui memristori per fare la stessa cosa ma con molta meno energia e più efficienza.
Secondo me questo è solo un periodo di transizione,le nuove tecnologie su cui stanno lavorando promettono di fare meglio e di consumare di meno, finché può,Nvidia deve fare cassa,ma pure AMD e pure Intel se riescono a prendersi una fettina di mercato di acceleratori IA.
Per ora gli acceleratori di Nvidia sono quelli che attualmente sono pronti sia a livello di hardware e di software,quindi pappa già pronta e calda all' uso e il mercato compra quello ma già i clienti stanno ordinando gli acceleratori AMD anche se in proporzione bassa,ma è sempre tecnologia in parte derivata dalle GPU.
Quando sul mercato verranno introdotte nuove architetture,le cose cambieranno, è solo questione di tempo.