Microsoft Windows, sono questi i requisiti minimi degli AI PC? 16 GB di RAM e 40 TOPS di potenza
Secondo voci di corridoio, Microsoft avrebbe fissato in 16 GB di memoria RAM il requisito minimo per gli AI PC. Si parla inoltre di 40 TOPS di potenza, valore che oggi Core Ultra e Ryzen non soddisfano.
di Manolo De Agostini pubblicata il 19 Gennaio 2024, alle 08:11 nel canale Sistemi OperativiIntelligenza ArtificialeMicrosoftWindows
Microsoft avrebbe definito le specifiche minime dei sistemi che, a suo dire, potranno fregiarsi del titolo di AI PC: secondo TrendForce e Tom's Hardware USA, la casa di Redmond avrebbe stabilito il requisito minimo di 16 GB di memoria RAM per i futuri AI PC con Windows. Inoltre, per dirsi AI PC, i sistemi dovranno offrire almeno 40 TOPS (TeraOPS) di potenza di calcolo.
Non è chiara al momento la posizione dei notebook con la prima generazione di CPU Core Ultra, nome in codice Meteor Lake: il nuovo chip Intel introdotto a dicembre, infatti, offre una potenza combinata di CPU, GPU e NPU pari a 34 TOPS. Di conseguenza, potrebbe essere necessario - nei sistemi che la prevedono - conteggiare anche la GPU dedicata presente per tagliare il fatidico traguardo. Al momento non è noto se la GPU dedicata verrà tenuta in considerazione, in tal caso non dovrebbe porsi un grande problema per i notebook o i PC desktop usciti negli ultimi anni.
Non dovrebbe avere invece problemi di sorta il prossimo design mobile di Intel, Lunar Lake, per il quale è stato anticipato un miglioramento delle prestazioni di oltre 3 volte sul fronte della NPU.
AMD e Qualcomm, invece, dovrebbero essere conformi al presunto requisito con 45 TOPS circa di potenza garantiti dalle soluzioni AMD Ryzen 8000 (Strix Point) e Snapdragon X Elite in arrivo nel corso dell'anno. Attualmente AMD offre con l'appena annunciato progetto Hawk Point Ryzen 7 8840U una potenza di calcolo di 39 TOPS.
Microsoft sta implementando Copilot, il suo assistente di intelligenza artificiale, in Windows e in tutti i suoi software. La sua partnership con OpenAI, inoltre, la porterà a integrare ulteriori soluzioni nei propri applicativi, quindi è naturale che stia definendo specifiche in grado di assicurarne una buona fruizione. È probabile che il requisito verrà "imposto" a partire da Windows 12, la nuova versione del sistema operativo incentrata sull'IA prevista per l'estate.
AI PC, come il personal computer cambierà pelle grazie all'Intelligenza Artificiale
Per quanto riguarda i 16 GB di memoria RAM, qualcuno potrebbe esclamare "era ora!" e, sicuramente, tra questi ci sono i produttori di notebook che arrivano da un anno difficile dal punto di vista degli incassi. Gestire l'IA in locale necessita di potenza di calcolo e di memoria, quindi anche in questo caso alzare l'asticella serve a garantire un'esperienza d'uso del sistema sempre reattiva. Per i possessori di PC desktop avere 16 GB di RAM non dovrebbe essere un problema, specie per chi gioca, mentre sui notebook esistenti dipende dalle singole capacità di espansione dei vari design.
Rimane da capire che cosa succederà a quei sistemi che non rispettano le vociferate specifiche, se Microsoft consentirà a Windows e ai servizi di IA di funzionare pur con qualche problema prestazionale o se, dopo un controllo del sistema, la casa di Redmond bloccherà alcune funzioni, se non l'installazione totale del sistema operativo.
8 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoQuindi mi sa che gli unici pronti saranno le serie 8000 di AMD e le ultime generazioni di Intel.
Un po' come quello che accade nel mondo smartphone
...eh...e chi non li vorrebbe...
Ad esempio, come si può capire quanta potenza in TOPS avrebbe una configurazione generica come la mia in firma? Ryzen 7 5800X + Gpu 2060 + 32Gb DDR4 3600Mhz CL16?
Un grafico un po' datato ma esplicativo. Le prestazioni sono direttamente proporzionali alla banda:
Link ad immagine (click per visualizzarla)
Un "token" è grossomodo una "parola".
Ad esempio, come si può capire quanta potenza in TOPS avrebbe una configurazione generica come la mia in firma? Ryzen 7 5800X + Gpu 2060 + 32Gb DDR4 3600Mhz CL16?
te lo dico io da uomo della strada:
il tuo PC, pur (secondo me ancora) ottimo (quantomeno per un uso a 360°; si avvicina peraltro al mio che ritengo tuttora degnissimo) non è conforme.
Al 99,..% sarà possibile installare 12 o quello che sarà ricorrendo però esclusivamente a trucchetti tipo quelli che si vedono mettere in campo oggi per poter utilizzare 11 su macchine prive di TPM, SecureBoot & compagnia.
Per come la vedo io almeno, non è possibile emulare in modo efficiente quello che sarò possibile ottenere con hardware dedicato, mettiti pure l'anima in pace ma quello che oggi è in giro difficilmente si salva se non ricorrendo a strategie varie (vedi sopra) ma a che prezzo.
E' interessante cmq la tua richiesta ("come si può capire quanta potenza in TOPS [...]", speriamo qualcuno sia in grado di tirar giù una stima..
La RTX2060 reference è data per circa 51-52 TFLOPS in FP16 sui tensor core; in INT8 in teoria dovrebbe essere numericamente il doppio, dunque 102-104 TOPS.
https://en.wikipedia.org/wiki/List_...Force_20_series
In ogni caso come scritto in precedenza a grandi linee gli LLM (chatbot, generazione testo e simili, per dirla semplice) sono limitati principalmente dalla banda della memoria. Per ogni token generato, il contenuto del modello caricato deve essere letto interamente, perciò se abbiamo 500 GB/s di banda a disposizione ed il modello caricato in VRAM è di 16GB, al limite possiamo andare a 31.25 token/s. Nella pratica ci sono inefficienze varie che abbassano questo valore.
Per diversi tipi di IA generativa conta (ad esempio StableDiffusion) conta più la capacità computazionale—i TOPS. A parità di condizioni una RTX4090 genera immagini a circa il doppio della velocità di una RTX3090, ma con gli LLM durante l'inferenza vanno grossomodo uguale, avendo entrambe circa 1 TB/s di banda. Il discorso si ribalta per il training, dove nuovamente conta la potenza computazionale.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".