La memoria che cambierà l'AI: il futuro è degli SSD da 100 milioni di IOPS

La collaborazione tra Kioxia e NVIDIA apre un nuovo capitolo nell’infrastruttura per l’intelligenza artificiale. Le due aziende stanno lavorando a unità a stato solido di nuova generazione in grado di raggiungere un obiettivo più che ambizioso: arrivare a 100 milioni di operazioni di input/output al secondo (IOPS), rispetto ai circa 3 milioni dei modelli più avanzati oggi sul mercato, entro il 2027.

Secondo quanto emerso durante un briefing tecnico a Tokyo, riportato da XTech Nikkei, Kioxia prevede di commercializzare un SSD progettato specificamente per carichi di lavoro AI. L’innovazione principale consiste nel collegamento diretto agli acceleratori GPU di Nvidia, evitando il tradizionale passaggio dei dati attraverso la CPU.

Questa connessione "peer-to-peer" consentirebbe di trasferire i dati con maggiore rapidità, rispondendo alle esigenze dei modelli di intelligenza artificiale generativa che dipendono da letture casuali di piccole dimensioni, come il recupero di parametri ed embeddings.

L'obiettivo di NVIDIA è raggiungere una velocità di 200 milioni di IOPS attraverso due di queste unità collegate in parallelo. Viene anche citata la connessione PCIe 7.0, che sarebbe una soluzione praticabile dal punto di vista teorico. Tuttavia, per l'appunto, le specifiche rimangono puramente teoriche e i test sul nuovo standard non avverranno prima del 2027 – almeno per quanto riguarda il PCI-SIG, il consorzio che delinea lo standard.

Per quanto riguarda le caratteristiche delle unità, al momento è stato rivelato ben poco. Le ipotesi più accreditate sono indubbiamente le memorie XL-Flash di Kioxia o HBF. Per quanto riguarda XL-Flash, si tratta di uno standard proprietario basato sulle tradizionali memorie SLC (Single-Level Cell), ma che presenta 16 piani al posto dei tradizionali 3 o 6 degli attuali SSD.

In precedenza, infatti, Kioxia aveva annunciato un SSD da 400 TB con una velocità di 10 milioni di IOPS basato proprio sulle specifiche, non ancora condivise, della memoria XL-Flash. In questo caso, però, parliamo di prestazioni decuplicate, il che sembra piuttosto complesso anche di fronte a una scalabilità perfetta – di cui la memoria NAND non gode.

Oltre a XL-Flash, Kioxia sta sperimentando anche l'High Bandwidth Flash (HBF), una nuova soluzione che sostituisce i tradizionali moduli DRAM delle HBM con memorie Flash. Una soluzione sulla carta ideale, data l'elevata parallelizzazione che consente la configurazione, ma non confermata.

Ad ogni modo, a prescindere dalla tecnologia che Kioxia deciderà di adottare, è chiaro che questo tipo di innovazione potrebbe cambiare radicalmente il panorama dell'IA generativa. Con una velocità di trasmissione simile, potrebbero essere introdotti nuovi criteri per la progettazione dei data center AI, oltre a prestazioni neanche paragonabili a quanto offerto oggi dal mercato.