Microsoft Windows, sono questi i requisiti minimi degli AI PC? 16 GB di RAM e 40 TOPS di potenza

Microsoft Windows, sono questi i requisiti minimi degli AI PC? 16 GB di RAM e 40 TOPS di potenza

Secondo voci di corridoio, Microsoft avrebbe fissato in 16 GB di memoria RAM il requisito minimo per gli AI PC. Si parla inoltre di 40 TOPS di potenza, valore che oggi Core Ultra e Ryzen non soddisfano.

di pubblicata il , alle 08:11 nel canale Sistemi Operativi
Intelligenza ArtificialeMicrosoftWindows
 

Microsoft avrebbe definito le specifiche minime dei sistemi che, a suo dire, potranno fregiarsi del titolo di AI PC: secondo TrendForce e Tom's Hardware USA, la casa di Redmond avrebbe stabilito il requisito minimo di 16 GB di memoria RAM per i futuri AI PC con Windows. Inoltre, per dirsi AI PC, i sistemi dovranno offrire almeno 40 TOPS (TeraOPS) di potenza di calcolo.

Non è chiara al momento la posizione dei notebook con la prima generazione di CPU Core Ultra, nome in codice Meteor Lake: il nuovo chip Intel introdotto a dicembre, infatti, offre una potenza combinata di CPU, GPU e NPU pari a 34 TOPS. Di conseguenza, potrebbe essere necessario - nei sistemi che la prevedono - conteggiare anche la GPU dedicata presente per tagliare il fatidico traguardo. Al momento non è noto se la GPU dedicata verrà tenuta in considerazione, in tal caso non dovrebbe porsi un grande problema per i notebook o i PC desktop usciti negli ultimi anni.

Non dovrebbe avere invece problemi di sorta il prossimo design mobile di Intel, Lunar Lake, per il quale è stato anticipato un miglioramento delle prestazioni di oltre 3 volte sul fronte della NPU.

AMD e Qualcomm, invece, dovrebbero essere conformi al presunto requisito con 45 TOPS circa di potenza garantiti dalle soluzioni AMD Ryzen 8000 (Strix Point) e Snapdragon X Elite in arrivo nel corso dell'anno. Attualmente AMD offre con l'appena annunciato progetto Hawk Point Ryzen 7 8840U una potenza di calcolo di 39 TOPS.

Microsoft sta implementando Copilot, il suo assistente di intelligenza artificiale, in Windows e in tutti i suoi software. La sua partnership con OpenAI, inoltre, la porterà a integrare ulteriori soluzioni nei propri applicativi, quindi è naturale che stia definendo specifiche in grado di assicurarne una buona fruizione. È probabile che il requisito verrà "imposto" a partire da Windows 12, la nuova versione del sistema operativo incentrata sull'IA prevista per l'estate.

AI PC, come il personal computer cambierà pelle grazie all'Intelligenza Artificiale

Per quanto riguarda i 16 GB di memoria RAM, qualcuno potrebbe esclamare "era ora!" e, sicuramente, tra questi ci sono i produttori di notebook che arrivano da un anno difficile dal punto di vista degli incassi. Gestire l'IA in locale necessita di potenza di calcolo e di memoria, quindi anche in questo caso alzare l'asticella serve a garantire un'esperienza d'uso del sistema sempre reattiva. Per i possessori di PC desktop avere 16 GB di RAM non dovrebbe essere un problema, specie per chi gioca, mentre sui notebook esistenti dipende dalle singole capacità di espansione dei vari design.

Rimane da capire che cosa succederà a quei sistemi che non rispettano le vociferate specifiche, se Microsoft consentirà a Windows e ai servizi di IA di funzionare pur con qualche problema prestazionale o se, dopo un controllo del sistema, la casa di Redmond bloccherà alcune funzioni, se non l'installazione totale del sistema operativo.

8 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Ataru22419 Gennaio 2024, 08:40 #1
Il requisito della RAM è giustissimo (non solo per i computer con IA) ma deve essere imposto solo ai produttori, l'utente che vuole installare Windows su 4GB di RAM deve essere comunque libero di farlo
supertigrotto19 Gennaio 2024, 09:31 #2
Forse ho visto giusto,per Windows 12 o si cambia PC o si resta con Windows 11,come succede adesso per il 10 ,io con un 6600k devo restare al 10 ufficialmente.
Quindi mi sa che gli unici pronti saranno le serie 8000 di AMD e le ultime generazioni di Intel.
Un po' come quello che accade nel mondo smartphone
Opteranium19 Gennaio 2024, 10:00 #3
voglio 40 TOPA di potenza
Saturn19 Gennaio 2024, 10:07 #4
Originariamente inviato da: Opteranium
voglio 40 TOPA di potenza


...eh...e chi non li vorrebbe...
megthebest19 Gennaio 2024, 10:26 #5
Sarebbe interessante capire se eventuali sistemi desktop medio/basso di gamma attuali abbiano tale potenza..
Ad esempio, come si può capire quanta potenza in TOPS avrebbe una configurazione generica come la mia in firma? Ryzen 7 5800X + Gpu 2060 + 32Gb DDR4 3600Mhz CL16?
s12a19 Gennaio 2024, 13:44 #6
Quello che conta oltre che il quantitativo di memoria è la banda passante. Con le DDR4 o anche DDR5 in dual channel si dorme ad aspettare la risposta rispetto a quasi qualsiasi GPU.

Un grafico un po' datato ma esplicativo. Le prestazioni sono direttamente proporzionali alla banda:

Link ad immagine (click per visualizzarla)

Un "token" è grossomodo una "parola".
LL120 Gennaio 2024, 17:39 #7
Originariamente inviato da: megthebest
Sarebbe interessante capire se eventuali sistemi desktop medio/basso di gamma attuali abbiano tale potenza..
Ad esempio, come si può capire quanta potenza in TOPS avrebbe una configurazione generica come la mia in firma? Ryzen 7 5800X + Gpu 2060 + 32Gb DDR4 3600Mhz CL16?

te lo dico io da uomo della strada:
il tuo PC, pur (secondo me ancora) ottimo (quantomeno per un uso a 360°; si avvicina peraltro al mio che ritengo tuttora degnissimo) non è conforme.
Al 99,..% sarà possibile installare 12 o quello che sarà ricorrendo però esclusivamente a trucchetti tipo quelli che si vedono mettere in campo oggi per poter utilizzare 11 su macchine prive di TPM, SecureBoot & compagnia.

Per come la vedo io almeno, non è possibile emulare in modo efficiente quello che sarò possibile ottenere con hardware dedicato, mettiti pure l'anima in pace ma quello che oggi è in giro difficilmente si salva se non ricorrendo a strategie varie (vedi sopra) ma a che prezzo.

E' interessante cmq la tua richiesta ("come si può capire quanta potenza in TOPS [...]", speriamo qualcuno sia in grado di tirar giù una stima..
s12a20 Gennaio 2024, 19:28 #8
Escludendo la iGPU, a spanne per le CPU si potrebbe considerare 1 TFLOPS (in FP32) = 4 TOPS (in INT8), ma la conversione potrebbe non essere sempre corretta. Non credo ci siano ancora processori di fascia consumer/prosumer che arrivino a 1 TFLOPS, forse uno degli ultimi Threadripper potrebbe farcerla. Considerando anche la iGPU dovrebbe essere più facile.

La RTX2060 reference è data per circa 51-52 TFLOPS in FP16 sui tensor core; in INT8 in teoria dovrebbe essere numericamente il doppio, dunque 102-104 TOPS.

https://en.wikipedia.org/wiki/List_...Force_20_series

In ogni caso come scritto in precedenza a grandi linee gli LLM (chatbot, generazione testo e simili, per dirla semplice) sono limitati principalmente dalla banda della memoria. Per ogni token generato, il contenuto del modello caricato deve essere letto interamente, perciò se abbiamo 500 GB/s di banda a disposizione ed il modello caricato in VRAM è di 16GB, al limite possiamo andare a 31.25 token/s. Nella pratica ci sono inefficienze varie che abbassano questo valore.

Per diversi tipi di IA generativa conta (ad esempio StableDiffusion) conta più la capacità computazionale—i TOPS. A parità di condizioni una RTX4090 genera immagini a circa il doppio della velocità di una RTX3090, ma con gli LLM durante l'inferenza vanno grossomodo uguale, avendo entrambe circa 1 TB/s di banda. Il discorso si ribalta per il training, dove nuovamente conta la potenza computazionale.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^