Intel Xeon: Sapphire Rapids con memoria HBM può triplicare le prestazioni di Ice Lake

A ISC High Performance 2022, la fiera che si tiene in quel di Amburgo, Intel ha fatto il punto sulla sua strategia nel settore HPC. L'azienda statunitense è ormai pronta a lanciare definitivamente Sapphire Rapids, la nuova CPU Xeon Scalable di quarta generazione che, sia in versione tradizionale che con memoria HBM a bordo, punta a offrire prestazioni di gran lunga superiori a quelle del precedente progetto Ice Lake.

Sapphire Rapids è la prima CPU multi-tile di Intel in ambito server, cioè è formata da più parti unite tra loro anziché da un singolo die monolitico. Il funzionamento è comunque identico a quello di un chip "singolo", il software vede una sola CPU, anche se Intel consentirà di partizionare il chip in quattro differenti nodi.

Alla base di Sapphire Rapids c'è l'architettura Golden Cove, la stessa usata da Intel per i Performance core delle CPU Core 12000. Anche in questo caso l'azienda si è affidata per la produzione al processo Intel 7 (ex 10nm) tramite cui aspira a integrare più core per singola CPU e molta più cache, fino a quasi 100 MB di cache LLC.

La nuova gamma Xeon evolve anche in termini di piattaforma: la CPU supporta infatti lo standard di memoria DDR5, la prossima generazione di Optane e ampia connettività tramite PCI Express 5.0, CLX 1.1 e UPI 2.0. La novità più importane però è forse l'arrivo di modelli con memoria HBM a bordo. Potete vedere gli scatti che abbiamo fatto a due sample di CPU: quella con le "ali" è la versione con memoria HBM, dove le estensioni del package servono alla gestione energetica della memoria HBM.

A bordo di queste SKU Xeon di quarta generazione ci sono fino a 64 GB memoria HBM2E implementati attraverso quattro chip da 16 GB ciascuno. L'aspetto interessante è che tanto le versioni standard quanto quelle con HBM condivideranno lo stesso socket e, cosa ancora più importante, i modelli dotati di HBM potranno funzionare con e senza memoria DRAM sulla piattaforma.

Intel prevede tre modalità di funzionamento chiamate HBM-Only, Flat Mode e Cache Mode. La prima non prevede la presenza di memoria DRAM, con il software che comunque funzionerà senza modifiche usando la HBM. La Flat Mode, invece, rende visibile al sistema tanto la DDR5 quanto la HBM2E, presentandole ognuna come un nodo NUMA. Ciò consente al software di indirizzare i diversi tipi di memoria con approcci di programmazione NUMA standard.

Quanto alla 'Cache Mode', permette di usare la memoria HBM come cache per la DDR5. Anche in questo caso non servono modifiche al software, con la cache HBM gestita dai controller di memoria come una cache a mappatura diretta.

Sapphire Rapids guarda quindi alla totalità dei carichi del settore HPC e tra questi troviamo anche l'intelligenza artificiale. Intel da tempo ha scelto di integrare capacità di gestione dei carichi IA in tutti i suoi prodotti e le CPU server non fanno certamente eccezione. Con Sapphire Rapids Intel fa un passo avanti integrando le Advanced Matrix Extensions (AMX), un nuovo engine che permette di accelerare enormemente i carichi al centro degli algoritmi di deep learning rispetto alle istruzioni Intel AVX-512 VNNI.

L'azienda ha condiviso qualche dato prestazionale, confrontando la nuova CPU con la precedente proposta Ice Lake: come potete vedere nei grafici, i progressi sono pari a 2-3 volte rispetto allo Xeon di terza generazione.