Tachyum inventa le memorie TDIMM: una nuova DDR5 open source per accelerare l'AI su larga scala

Tachyum continua a sfornare… comunica stampa. Dopo aver parlato in pompa magna del processore universale Prodigy, da cui si aspettano mirabilie per ora sulla carta, la società è uscita allo scoperto con TDIMM, un nuovo standard di memoria DDR5 progettato per aumentare in modo drastico banda e capacità nei data center destinati all'AI.

La soluzione, completamente open source e pensata per un'adozione industriale ampia e rapida, promette di superare i limiti degli attuali moduli RDIMM e di accelerare il passaggio verso infrastrutture capaci di ospitare modelli di intelligenza artificiale enormi.

Al centro dell'annuncio c'è la famiglia Prodigy Ultimate, che secondo l'azienda può garantire fino a 21 volte le prestazioni AI per rack rispetto a sistemi basati su NVIDIA Rubin Ultra NVL576. L'incremento è reso possibile dal nuovo formato TDIMM, che porta la banda per modulo da 51 GB/s (RDIMM tradizionali) a 281 GB/s, un miglioramento di 5,5 volte. Con 24 canali, un nodo Prodigy può raggiungere 6,7 TB/s, con un aumento di 11x rispetto alle CPU a 12 canali.

La capacità per modulo varia in base all'altezza: 256 GB nella configurazione standard, 512 GB per le unità "tall" e 1 TB per quelle "extra tall". E tramite il processo TSV (Through Silicon Via) è possibile moltiplicare per otto la densità, raggiungendo un massimo teorico di 3 PB per nodo Prodigy.

Dal punto di vista elettrico e fisico, TDIMM ha lo stesso ingombro dei moduli DDR5 RDIMM e MRDIMM, ma richiede un nuovo connettore da 484 pin. Il numero di segnali sale del 38%, ma a fronte di un raddoppio della banda. La struttura a 128 bit permette inoltre di ridurre del 10% il numero di chip DRAM necessari, con conseguente risparmio sui costi.

Nonostante l'aumento del numero di pin commutati (184 contro 124), il consumo energetico rimane contenuto: Tachyum stima un incremento del 30% a fronte di un raddoppio della banda, margine che si può compensare con l'uso di DRAM più recenti (cioè prodotte con processi più avanzati), avvicinando l'assorbimento ai livelli delle RDIMM DDR5 attuali.

Tachyum sostiene che l'impiego delle TDIMM possa abbattere il costo ipotizzato per un datacenter stile OpenAI da 3 trilioni di dollari e 250.000 MW a 27 miliardi e 540 MW. Proiezioni più ampie parlano addirittura di una riduzione dei costi dei sistemi AI "addestrati su tutta la conoscenza scritta" da 8 trilioni a 78 miliardi entro il 2028.

Secondo Radoslav Danilak, fondatore e CEO di Tachyum, il TDIMM apre "un'era in cui l'AI addestrata su tutto il sapere umano diventa economicamente accessibile a molte aziende e nazioni". L'azienda intende inoltre rendere open anche la propria ISA e rilasciare software open source entro l'anno.

In prospettiva futura, il percorso evolutivo della TDIMM prevede un raddoppio della banda in abbinamento a DDR6, da 6,7 TB/s a 13,5 TB/s nel 2027, superando le previsioni per NVIDIA Rubin pari a 13 TB/s.

Tachyum parla di un'adozione possibile già entro l'anno, ma l'azienda è da anni che fa annunci e previsioni, poi smentiti da continui ritardi e rimandi: resta quindi da verificare se il progetto riuscirà a concretizzarsi, mantenendo le ambiziose promesse che lo accompagnano.