Heterogeneous Queuing: l'approccio di AMD alla programmazione di CPU e GPU

Da molti anni AMD propone sul mercato architetture APU, Accelerated Processing Unit, con le quali vengono integrati nello stesso componente tanto la CPU come la GPU. La presenza di questi due elementi all'interno di un singolo componente di silicio permette ad AMD di meglio integrare le proprie tecnologie, semplificando l'architettura del PC nel suo complesso, oltre a percorrere una evoluzione tecnologica futura che vada sempre più verso una integrazione di questi due elementi. Tutte le evoluzioni in termini di GPU Computing, cioè dell'approccio che vede le GPU utilizzate anche per alcune tipologie di elaborazioni non grafiche parallele, punta proprio nella direzione di rendere tutte le risorse di elaborazione presenti in un PC sempre più utili a qualsiasi tipo di elaborazione.

Sono numerosi gli esempi pratici di applicazioni che sono state sviluppate negli ultimi anni, in grado di sfruttare in parallelo tanto la potenza di calcolo della CPU come della GPU. E' però evidente come sia necessario un lavoro che vada nella direzione di semplificare l'approccio dei programmatori, così che l'accesso a una o l'altra risorsa di elaborazione non abbia impatti prestazionali e possa avvenire nella forma più semplice per l'utente e per lo sviluppatore software.

Qust'oggi AMD annuncia hQ, Heterogeneous Queuing, la tecnologia che definisce come GPU e CPU interagiscano all'interno di una APU così da gestire tra di loro il carico computazionale che viene richiesto dal sistema, sfruttando al meglio le peculiarità di ciascuno di questi componenti. Le transazioni di task da CPU a GPU sono sino ad oggi state portate avanti attraverso un approccio che prevede un OS service, con un impatto negativo considerevole in termini di latenza. La GPU, inoltre, può unicamente eseguire tasks e non inviarne di specifici alla CPU così che vengano eseguiti da quest'ultima: di fatto è una relazione a singola direzione, con un processo di interazione tra CPU e GPU che è ben lontano dall'efficienza. E' verso il superamento di queste limitazioni che AMD si è mossa con hQ, nell'ottica di giungere ad un sistema che veda i vari processori come tutti uguali tra di loro ai fini del calcolo del deve essere eseguito.

Grazie a Heterogeneous Queuing l'applicazione può inviare task direttamente tanto alla CPU come alla GPU, riducendo in misura significativa la latenza di accesso che affligge quest'ultimo componente; oltre a questo è la GPU stessa che può inviare dei task per l'elaborazione alla CPU, con una relazione simmetrica a quella della CPU verso la GPU. In questo modo l'applicazione può bypassare l'OS service, inviando richieste di elaborazione di task direttamente all'hardware a disposizione a prescindere dal fatto che si tratti di CPU o di GPU, a tutto vantaggio dell'efficienza complessiva e della riduzione delle latenze.

Diretta conseguenza è quindi per le applicazioni, e per i loro sviluppatori, la possibilità di accedere a GPU oppure CPU con la stessa flessibilità, meglio sfruttando in questo modo la massima potenza di elaborazione teorica propria della GPU, rimuovendo l'overhead kernel che è insito con l'approccio attuale nell'utilizzare la GPU quale risorsa di calcolo parallelo. Oltre a questo entrambe le risorse di elaborazione possono avere accesso alla memoria di sistema nella sua interezza, con un accesso che è di tipo uniforme.

Quello HSA, Heterogeneous System Architecture, è un approccio sviluppato da AMD come industry standard e quindi utilizzato non solo dall'azienda americana ma anche dai numerosi partner che hanno scelto di aderire a questo approccio. I benefici saranno pertanto estesi non solo al mondo PC ma a tutte quelle tipologie di prodotti che vengono sviluppati sulla base di HSA, includendo in questo anche sistemi mobile e portatili. La logica di AMD continua a rimanere quella di mettere a disposizione dei programmatori, e degli utenti di dispositivi, due differenti risorse di elaborazione come CPU e GPU, ben differenti tra di loro: la prima specializzata nel calcolo seriale, la seconda in quello parallelo. Tutto questo ha quale fine quello di non dare due entità di elaborazione separate e distinte, ma fornire al mercato prodotti che siano sempre più integrati, per i quali l'approccio alla programmazione tenda ad essere il più uniforme possibile.