Questa GPU NVIDIA di 8 anni fa umilia schede moderne nell'AI: costa appena 100 dollari

A distanza di otto anni dal debutto, la GPU per datacenter NVIDIA Tesla V100 torna a far parlare di sé grazie a una serie di benchmark dedicati all'esecuzione locale di modelli AI LLM. I test, realizzati dal canale Hardware Haven, mostrano come una scheda professionale basata su architettura Volta riesca ancora oggi a competere con soluzioni consumer molto più recenti in specifici carichi di lavoro legati all'intelligenza artificiale.

La Tesla V100 rappresentò un passaggio importante per NVIDIA, essendo la prima famiglia pensata esclusivamente per il settore datacenter e la prima ad adottare i Tensor Core, oggi elemento centrale delle accelerazioni AI della società. La GPU testata è una variante SXM2 con 5120 CUDA Core, 640 Tensor Core, 16 GB di memoria HBM2 su bus a 4096 bit e bandwidth di 898 GB/s. Il TDP dichiarato è di 250 W, decisamente inferiore rispetto alle moderne piattaforme AI di fascia alta.

All'epoca del lancio, il prezzo della Tesla V100 superava i 10.000 dollari, mentre oggi le versioni usate da 16 GB possono essere reperite sul mercato secondario per circa 100 dollari. Tuttavia, utilizzare una GPU SXM2 in un comune PC desktop non è immediato: il formato richiede adattatori dedicati SXM-to-PCIe, alimentazione specifica e un sistema di raffreddamento personalizzato.

Nel test è stato necessario realizzare una soluzione termica artigianale con condotto stampato in 3D e ventola Noctua dedicata, poiché le Tesla V100 nascono per operare in server con raffreddamento passivo e flusso d'aria controllato. Sommando GPU, adattatore e modifiche, il costo complessivo del progetto ha superato di poco i 200 dollari.

Clicca per ingrandire

I risultati ottenuti con modelli LLM locali sono comunque interessanti. Nel benchmark con GPT-oss 20B, la V100 ha raggiunto circa 130 token al secondo, contro i circa 90 token/s registrati dalla Radeon RX 7800 XT. Anche rispetto alla GeForce RTX 3060 da 12 GB, la soluzione Volta ha mostrato un vantaggio significativo nei test con Gemma4:e4b tramite Ollama e Open WebUI.

Secondo i dati condivisi, la V100 ha garantito una velocità di generazione token superiore del 42% rispetto alla RTX 3060, mantenendo anche una migliore efficienza energetica. Limitando entrambe le GPU a 100 W, la scheda datacenter ha conservato un vantaggio del 41% nel rapporto token/sec/watt.

Clicca per ingrandire

I risultati evidenziano come alcune GPU professionali di precedente generazione possano ancora offrire valore nei workload AI moderni, specialmente grazie alla presenza dei Tensor Core e dell'elevata bandwidth della memoria HBM2. Rimangono però diversi limiti pratici dovuti alle modifiche necessarie per farla funzionare, non alla portata di tutti gli utenti.

Le versioni da 32 GB della Tesla V100, oggi vendute tra 400 e 500 dollari, potrebbero inoltre risultare ancora più interessanti per modelli AI di dimensioni superiori, dove la capacità della VRAM continua a rappresentare uno dei principali vincoli operativi.