Mettereste una NPU dedicata all'intelligenza artificiale nel vostro PC? AMD sta valutando l'idea

Con l'espansione sempre più marcata dell'intelligenza artificiale nel mondo PC, AMD sta esplorando nuove soluzioni per offrire prestazioni AI elevate senza necessariamente ricorrere alle classiche GPU discrete. Lo ha confermato Rahul Tikoo, vicepresidente senior e responsabile della divisione CPU client dell'azienda, al sito CRN.com.

L'idea sul tavolo è quella di sviluppare un acceleratore dedicato che non sia una GPU, bensì una neural processing unit (NPU) discreta. Una scheda indipendente, quindi, pensata specificamente per gestire carichi di lavoro legati all'intelligenza artificiale in modo più efficiente, soprattutto in termini di consumo energetico. "È un insieme di casi d'uso completamente nuovo, ma stiamo osservando da vicino questo settore", ha dichiarato Tikoo. "Se guardate alla nostra tecnologia, non è difficile immaginare che possiamo arrivarci rapidamente".

La proposta si inserisce in un contesto di crescente interesse per soluzioni AI dedicate nei PC. OEM come Dell, Lenovo e HP stanno già testando l'adozione di NPU discrete. Dell, ad esempio, ha recentemente presentato una workstation mobile Dell Pro Max Plus dotata di Qualcomm Cloud AI 100, una scheda per l'inferenza AI in grado di raggiungere 450 TOPS in un TDP massimo di 75 watt.

Anche Intel ha già avuto un'esperienza in tal senso, con l'integrazione di una VPU discreta (Movidius) nei Surface Laptop di Microsoft del 2023 prima dell'avvento della NPU nei chip Core Ultra. Parallelamente, startup come Encharge AI stanno cercando di entrare nel mercato con soluzioni compatte, come NPU in formato M.2 con consumi inferiori a 10 watt e performance nell'ordine delle centinaia di TOPS.

Nel caso di AMD, la base tecnologica sarebbe rappresentata dalle architetture AI derivate dall'acquisizione di Xilinx, come dimostrano i recenti processori Ryzen AI - APU Strix Point e Strix Halo, in grado di supportare modelli LLM fino a 128 miliardi di parametri in esecuzione locale. La tecnologia XDNA, in particolare, potrebbe diventare il cuore pulsante anche di future soluzioni discrete, scalabili ben oltre i 50 TOPS delle attuali NPU integrate.

Secondo Christopher Cyr, CTO della società di system integration Sterling Computers, l'approccio modulare di AMD potrebbe consentire soluzioni discrete ad alte prestazioni con consumi sensibilmente inferiori rispetto alle GPU. "Basta raddoppiare le tile per raggiungere 100 TOPS", ha osservato, sottolineando però la necessità di mantenere l'efficienza energetica al centro del progetto.

Tikoo, pur mantenendo riserbo sulla roadmap ufficiale, ha lasciato intendere che lo sviluppo è tecnicamente alla portata: "Non posso parlare di piani futuri, ma è qualcosa che possiamo fare rapidamente".

L'adozione di una NPU discreta potrebbe colmare un vuoto attualmente presente nel mercato consumer AI: mentre i laptop beneficiano sempre più spesso di NPU integrate nei SoC, i desktop tradizionali o le workstation compatte non dispongono oggi di soluzioni equivalenti, a meno che non si ricorra a GPU potenti dotate di Tensor core / Ray Accelerator.

Una NPU discreta permetterebbe di abilitare inferenza locale avanzata anche su piattaforme che, fino ad ora, si affidavano alla sola GPU o al cloud. Resta da vedere se AMD deciderà di passare all'azione e, nel caso, se l'eventuale soluzione sarà posizionata inizialmente nel segmento consumer o in quello professionale.