AMD Ryzen: fino al 79% superiori con l'IA rispetto agli Intel Meteor Lake, con prezzi e consumi inferiori

In una presentazione condivisa con Tom's Hardware USA, AMD ha messo a confronto i suoi processori dotati di Ryzen AI, ovvero una NPU dedicata ai carichi di lavoro basati sull'intelligenza artificiale, con i nuovi Intel Core Ultra basati sull'architettura Meteor Lake, anch'essi abilitati all'IA in locale. Il gap prestazionale tra le due proposte appare semplicemente notevole.

Per il confronto, AMD ha selezionato due laptop, uno alimentato da una CPU Ryzen 7 7840U e l'altro equipaggiato con un Intel Core Ultra 7 155H. La prima differenza tra le due unità è il consumo energetico che, nel caso della soluzione Intel, è quasi doppio: 28 W contro i 15 W della proposta di AMD.

La seconda differenza è il prezzo in rapporto all'hardware. Come evidenziato nell'immagine, la soluzione Intel ha un costo di 999 dollari e porta in dote un SSD da 512 GB e un pannello IPS Full HD da 60 Hz. Di contro, con un prezzo inferiore di 100 dollari (899 dollari), la proposta di AMD offre un monitor OLED IMAX Enhanced 2,8K da 120 Hz e un SSD da 1 TB.

Ma come si comportano con l'IA i due processori? Ebbene, per verificare le prestazioni delle due CPU, AMD ha utilizzato due modelli LLM (Large Language Model): Llama 2 e Mistral Instruct. Il primo è sviluppato da Meta, ed è ideale per ottenere un'idea delle capacità dell'acceleratore; il secondo, invece, è un LLM con 7,3 miliardi di parametri realizzato da ex sviluppatori Meta e DeepMind.

Per quanto i produttori tendano a selezionare tanto le piattaforme di benchmark quanto i singoli test, la differenza prestazionale tra le due proposte prese in esame è evidente. AMD ha sfruttato i due benchmark per scrivere una storia più volte, realizzare una demo in Unity di una palla che rimbalza e scrivere una poesia.

La società di Lisa Su ha anche calcolato "il tempo fino al primo token", ovvero quello intercorso tra l'immissione del prompt e il primo risultato. Inoltre, un'altra misura critica presa in esame è stata quella dei "token al secondo", in cui una risposta LLM viene fornita riga per riga.

Con tali premesse, il Ryzen 7 7840U ha dimostrato prestazioni superiori del 79% in Llama v2 Chat e del 41% più veloci in Mistral Instruct. La società ha spiegato che il merito di questi risultati è da attribuire a una perfetta sinergia tra la NPU, la GPU RDNA 3 e la CPU Zen 4 per l'elaborazione IA in locale. Un dirigente di AMD, inoltre, ha affermato che l'accelerazione AVX512 era alla base dei risultati vincenti.

Il "team red" ha anche pubblicato una guida sul proprio blog su come installare ed eseguire LM Studio e i vari LLM per tutti i possessori di CPU Ryzen dotate di Ryzen AI o di GPU Radeon RX serie 7000. Dal canto suo, Intel è ben consapevole di poter e dover fare di più con i carichi IA e, a tal proposito, ha promesso che le prossime architetture Arrow Lake e Lunar Lake offriranno prestazioni fino a tre volte superiori con l'IA per CPU e GPU.