NVIDIA Vera sfida Xeon ed EPYC: i primi benchmark mostrano il potenziale della CPU Arm con core Olympus

Phoronix ha pubblicato le prime prove prestazionali della CPU NVIDIA Vera, una soluzione su base Arm destinata specificatamente all'impiego in datanceter per carichi AI e non solo. I primi risultati sono particolarmente promettenti.

Michael Larabel, fondatore del sito specializzato in ambito Linux, ha definito Vera come il processore Arm su Linux più veloce mai testato nella storia della testata, attiva da oltre vent'anni. Tuttavia, va sottolineato che i benchmark sono stati eseguiti direttamente presso la sede NVIDIA di Santa Clara e in un contesto fortemente controllato dall'azienda.

Questo significa che i risultati devono essere interpretati con cautela: il processore è ancora pre-produzione e NVIDIA ha limitato sia i test consentiti sia gli strumenti di monitoraggio disponibili, inclusa la misurazione dettagliata dei consumi energetici.

Vera rappresenta un cambiamento importante nella strategia CPU di NVIDIA. A differenza della precedente soluzione Grace, basata su core Arm Neoverse progettati da Arm, la nuova soluzione utilizza core proprietari "Olympus" sviluppati internamente.

La CPU integra 88 core Armv9.2 con 176 thread e, tra le caratteristiche più rilevanti, prevede il supporto nativo alle istruzioni FP8, sempre più utilizzate nei workload AI moderni. NVIDIA, inoltre, implementa una configurazione SVE2 6x128-bit pensata per accelerare alcuni carichi direttamente lato CPU senza demandare tutto alla GPU.

La piattaforma mette a disposizione 1,2 TB/s di banda memoria e supporta fino a 1,5 TB di memoria LPDDR5X tramite moduli SOCAMM2. NVIDIA ha inoltre sviluppato una seconda generazione della propria interconnessione Scalable Coherency Fabric, capace di offrire 3,4 TB/s di bandwidth all'interno di un die monolitico unificato. L'obiettivo è ridurre le latenze tipiche delle architetture chiplet adottate da numerosi concorrenti.

Phoronix ha confrontato Vera con diverse CPU server recenti, inclusi gli Intel Xeon "Granite Rapids" 6980P e vari modelli AMD EPYC "Turin" e "Turin Dense", tra cui EPYC 9755, 9575F e 9475F. Nei test è stata inclusa anche la precedente CPU NVIDIA Grace.

Secondo la media geometrica dei benchmark autorizzati, Vera avrebbe ottenuto prestazioni superiori di circa l'11% rispetto alle migliori soluzioni AMD testate e di oltre il 55% rispetto al miglior Xeon single-socket considerato. In alcuni casi, la CPU NVIDIA sarebbe riuscita a superare persino configurazioni dual socket, evidenziando come determinati workload non scalino perfettamente su piattaforme multi-processore.

I vantaggi più evidenti emergono nei test stream e nella compressione 7-Zip, mentre in altri scenari i modelli EPYC di fascia alta riescono a mantenersi molto vicini alla proposta NVIDIA.

I benchmark autorizzati comprendevano compilazione software, prestazioni memoria, encoding video, carichi Python e Java, database e workload sintetici. Non è stato possibile effettuare misure affidabili dell'efficienza energetica, uno dei principali punti di forza tradizionalmente associati alle architetture Arm. Il TDP dichiarato per Vera è pari a 450 W, ai quali si aggiungono circa 50 W per il pool di memoria da 768 GB utilizzato nella configurazione testata.

Con Vera, NVIDIA sembra voler assumere un ruolo molto più ampio nel mercato infrastrutturale. Secondo le stime riportate, l'azienda potrebbe generare circa 20 miliardi di dollari dalle piattaforme Grace e Vera, entrando in un mercato indirizzabile complessivo stimato in circa 200 miliardi di dollari.

La società sta già collaborando con i principali hyperscaler per l'integrazione di rack basati su Vera, sia per utilizzo interno sia per offerte cloud rivolte a terze parti. Questo approccio potrebbe permettere a NVIDIA di diventare rapidamente uno dei principali produttori di CPU per datacenter.