NVIDIA Rubin CPX con 128 GB GDDR7: 30 PetaFLOPS di potenza per l'inferenza a milioni di token

Durante l'AI Infra Summit, NVIDIA ha annunciato Rubin CPX, una nuova GPU progettata appositamente per affrontare i carichi di lavoro legati all'inferenza contestuale massiva. L'acceleratore, parte della futura famiglia Rubin, nasce per supportare modelli capaci di elaborare contesti da centinaia di migliaia fino a milioni di token, con applicazioni che spaziano dall'analisi completa di repository software alla generazione e ricerca di contenuti video di lunga durata.

Rubin CPX adotta un design monolitico - in controtendenza rispetto ai package multi-GPU delle architetture Blackwell – accanto a 128 GB di memoria GDDR7 e prestazioni pari a 30 PetaFLOPS di calcolo NVFP4. L'architettura è ottimizzata per la fase di contesto dell'inferenza, quella più intensiva in termini di calcolo, dove modelli avanzati analizzano enormi quantità di input prima della generazione token per token.

Il chip integra, inoltre, quattro unità NVENC e quattro NVDEC per la codifica e decodifica video, rendendolo particolarmente adatto a flussi di lavoro multimediali senza dipendere da componenti esterni. NVIDIA dichiara prestazioni fino a tre volte superiori rispetto ai sistemi basati su GB300 Blackwell Ultra, con un incremento significativo nella velocità dell'attenzione nei modelli AI.

Vera Rubin CPX sarà affiancabile ai rack NVIDIA Vera Rubin NVL144. Il sistema raggiungerà 8 ExaFLOPS di potenza di calcolo, oltre a 100 TB di memoria ad alta velocità e 1,7 PB/s di banda passante. La connettività sarà garantita da ConnectX-9 SuperNICs e Spectrum-X Ethernet, orchestrati dal framework NVIDIA Dynamo, che ottimizza la gestione dei carichi di inferenza disaggregata.

Secondo NVIDIA, la nuova piattaforma può offrire ritorni fino a 30-50 volte superiori all'investimento, con una proiezione di 5 miliardi di dollari di ricavi ogni 100 milioni investiti, grazie alla monetizzazione delle applicazioni basate su contesti lunghi.

Rubin CPX sarà supportata dall'intero stack software NVIDIA, inclusi CUDA-X, le librerie AI enterprise e i microservizi NIM, oltre al motore di orchestrazione Dynamo. Il chip potrà eseguire i modelli multimodali Nemotron, pensati per agenti AI con capacità di ragionamento avanzato e memoria persistente.

Diverse realtà stanno già esplorando il potenziale della GPU. Cursor mira a incrementare la produttività degli sviluppatori con strumenti di code generation su vasta scala; Runway intende sfruttare Rubin CPX per accelerare la creazione di contenuti video generativi; Magic lavora invece a foundation model per agenti software capaci di comprendere codebase intere da 100 milioni di token.

NVIDIA prevede il debutto della GPU Rubin CPX e della piattaforma Vera Rubin NVL144 CPX verso la fine 2026, dopo il lancio della serie Rubin standard previsto all'inizio dello stesso anno.