SanDisk High Bandwidth Flash (HBF): un comitato per sviluppare la rivale della memoria HBM

SanDisk ha annunciato la formazione di un comitato tecnico di alto profilo per supportare lo sviluppo e la strategia della nuova memoria High Bandwidth Flash (HBF), una soluzione progettata per potenziare i carichi di lavoro AI, in particolare quelli di inferenza, con l'obiettivo di combinare l'alta larghezza di banda tipica della HBM con una capacità fino a 8 volte superiore, mantenendo al contempo un costo comparabile.

Per guidare questo ambizioso progetto, SanDisk ha coinvolto due figure di primo piano nel settore dell'informatica e dell'accelerazione AI: David Patterson, pioniere del RISC e vincitore del Turing Award, e Raja Koduri, noto architetto di GPU e fondatore di startup nel settore AI. Entrambi faranno parte del nuovo Technical Advisory Board, offrendo visione strategica, supporto tecnico e contributi per lo sviluppo di standard aperti.

Clicca per ingrandire

Presentata in anteprima durante l'evento "Future FWD: SanDisk 2025 Investor Day", la tecnologia HBF è frutto di un lavoro durato oltre un anno, in collaborazione con attori di primo piano dell'industria AI. Il suo funzionamento si basa su un'architettura 3D NAND proprietaria (nota come BiCS) combinata a un approccio chiamato CMOS bonded to Array (CBA). In pratica, SanDisk impila 16 die di memoria flash NAND sopra un die logico, utilizzando interconnessioni TSV (through-silicon via), per accedere ai dati in parallelo su sub-array più piccoli, evitando le limitazioni tradizionali delle NAND basate su blocchi.

Questo schema consente di ottenere un'elevata parallelizzazione e quindi bandwidth elevatissima, mantenendo al contempo bassi consumi e alta densità: la prima generazione di HBF sarà in grado di offrire fino a 4 TB per acceleratore AI. L'azienda prevede tuttavia di andare oltre nelle future iterazioni.

Nonostante le sue promesse, HBF non è priva di limiti. Il principale è la latenza, intrinseca nella natura della memoria NAND rispetto alla DRAM utilizzata nella HBM. Per questo motivo, HBF è pensata per applicazioni di inferenza che richiedono alta banda e capacità, ma che possono tollerare una maggiore latenza. Inoltre, SanDisk non ha ancora chiarito come affronterà il problema della resistenza alla scrittura, una sfida nota per la NAND.

Clicca per ingrandire

Secondo Raja Koduri, HBF potrebbe rivoluzionare anche il mondo dell'edge AI, abilitando l'uso di modelli sofisticati direttamente su dispositivi locali come smartphone e apparecchi IoT. L'ambizione è quindi quella di estendere il campo d'applicazione ben oltre i datacenter, rendendo più accessibili e scalabili applicazioni AI oggi limitate da costi e infrastrutture.

SanDisk non ha ancora comunicato una data ufficiale per il debutto della tecnologia HBF né ha annunciato partnership con fornitori di acceleratori o produttori di sistemi. Resta ora da capire se HBF sarà davvero in grado di competere con le attuali soluzioni HBM3E e le future HBM4, non solo in termini di capacità, ma anche di banda effettiva e latenza.

L'ingresso nel team di esperti come Patterson e Koduri sembra indicare una chiara volontà di SanDisk di affrontare la sfida in modo strutturato, puntando a trasformare HBF in uno standard di riferimento per la memoria AI del futuro.