SOCAMM: NVIDIA sta lavorando con i produttori di memorie a un nuovo standard per l'IA?

Secondo quanto riportato da SEDaily, NVIDIA sarebbe al vertice di una collaborazione tra Samsung, Micron ed SK Hynix che mira a realizzare un nuovo standard per le memorie rivolte all'intelligenza artificiale. Quest'ultimo prenderebbe il nome di System On Chip Advanced Memory Module, o più semplicemente, SOCAMM.

L'obiettivo è sviluppare moduli che siano fisicamente più piccoli delle attuali memorie DIMM o CAMM, ma con prestazioni superiori. Stando a quanto scritto da SEDaily, la produzione di massa potrebbe essere avviata già entro la fine dell'anno poiché NVIDIA starebbe già testando i moduli forniti dai tre produttori succitati.

Uno degli aspetti più interessanti della nuova memoria dovrebbe essere il costo, poiché i moduli SOCAMM sarebbero più convenienti di quelli DRAM. Il rapporto, infatti, spiega che SOCAMM potrebbe posizionare i chip di memoria LPDDR5X direttamente sul substrato, garantendo così una maggiore efficienza energetica.

Inoltre, le nuove memorie offrirebbero fino a 694 porte I/O, un numero maggiore rispetto alle 644 offerte da LPCAMM o alle 260 delle tradizionali DRAM. Il tutto, racchiuso in uno spazio simile alle dimensioni del dito medio di una persona adulta. Questo è un aspetto critico perché fornirebbe molto più spazio fisico per la memoria e quindi portare a capacità sensibilmente maggiori.

Infine, i moduli dovrebbero essere aggiornabili con estrema facilità, grazie alla loro struttura rimovibile e sostituibile. Questo non solo semplificherebbe la gestione del sistema, ma contribuirebbe anche a ridurre significativamente i costi di manutenzione e aggiornamento.

Va chiarito che questo tipo di memoria non si rivolge a server e data center. SOCAMM dovrebbe sostituire i moduli LPCAMM che stanno trovando sempre più spazio nei PC consumer, quindi sono sviluppati nell'ottica dei Mini PC come il Project Digit presentato al CES 2025. In buona sostanza, le nuove memorie non sostituiranno le HBM che rimarrebbero uno standard in ambito server.

Tuttavia, la JEDEC, il consorzio responsabile della standardizzazione delle memorie, sembra non aver fornito alcun contributo. Di conseguenza, la diffusione di questa tecnologia potrebbe risultare complessa, soprattutto nei sistemi basati su chip diversi da quelli di NVIDIA, poiché la compatibilità non sarebbe garantita.

In ogni caso, il nuovo standard spianerebbe la strada a un importante passo in avanti nel settore dell'IA. I modelli di intelligenza artificiale richiedono enormi quantitativi di memoria per l'elaborazione dei dati e una memoria più capiente, facile da aggiornare e con più banda rappresenterebbe un grande contributo allo sviluppo del settore.