NVIDIA: acceleratori A100 e H100 raffreddati a liquido e partnership con i taiwanesi per le CPU Grace

NVIDIA ha annunciato al Computex 2022 diverse partnership con le principali realtà di Taiwan in vista del suo ingresso nel mondo delle CPU per i server destinati al settore HPC e AI. Dozzine di server progettati da ASUS, Foxconn Industrial Internet, GIGABYTE, QCT, Supermicro e Wiwynn arriveranno sul mercato nella prima metà del 2023. I sistemi basati sui progetti Grace CPU Superchip e Grace Hopper Superchip si baseranno su quattro nuovi design personalizzabili per soddisfare qualsiasi necessità il mercato desideri.

Ricordiamo che Grace CPU Superchip è un processore che integra due CPU Arm v9 con estensioni SVE, ciascuna dotata di 72 core per un totale di 144 unità, su un singolo modulo. Le due CPU sono interconnesse tramite NVLink-C2C ad altissima velocità e collegate a un sottosistema di memoria che assicura una bandwidth di 1 TB/s. Ulteriori dettagli potete trovarli qui.

Grace Hopper Superchip unisce su un singolo modulo una CPU Grace a una GPU Hopper, sempre sfruttando l'interconnessione NVLink-C2C in grado di trasferire dati dalla CPU alla GPU con una velocità di 15 volte maggiore rispetto alle CPU tradizionali.

NVIDIA ha inoltre annunciato l'arrivo di acceleratori A100 80GB e H100 in formato PCI Express in una versione pronta per il raffreddamento a liquido. Più compatte delle soluzioni raffreddate ad aria, le nuove soluzioni arriveranno rispettivamente nel Q3 (A100) e all'inizio del prossimo anno (H100) per migliorare l'efficienza energetica e la densità dei server.

Le schede si presentano con un waterblock che copre completamente la scheda ma che, essendo single slot, permette di integrare più acceleratori all'interno di uno chassis. Le specifiche tecniche delle schede, raffreddamento a parte, non cambiano. Le nuove soluzioni puntano quindi di migliorare l'efficienza energetica e la densità anziché le prestazioni.

NVIDIA ha collaborato con Equinix per qualificare la versione di A100 raffreddata a liquido e valutare la riduzione del consumo energetico complessivo: una configurazione composta da 2000 server (4000 acceleratori A100) ha visto il suo fabbisogno energetico totale ridursi del 28%. Secondo NVIDIA, questo deriva da una combinazione di fattori, tra cui il funzionamento dell'acceleratore a temperature più basse fino al sistema di raffreddamento meno energivoro rispetto a quello ad aria.

L'azienda ha lavorato in questi mesi anche su design a liquido per sistemi HGX dotati di acceleratori in formato SMX. Un HGX A100 raffreddato a liquido è già in spedizione e un HGX H100 raffreddato a liquido dovrebbe debuttare nel quarto trimestre.