Microsoft porta l'inferenza IA sul proprio silicio: Maia sale alla scala dei gigawatt

[Redazione di Hardware Upg]

Link alla notizia: https://edge9.hwupgrade.it/news/ia-b...tt_160419.html

Maia 200 serve già Microsoft 365 Copilot e dal 2027 la terza generazione porterà il programma a installazioni da più gigawatt. L'obiettivo è generare più token a parità di energia, il vincolo che oggi pesa di più sui data center

Click sul link per visualizzare la notizia.

[supertigrotto]

Tutto bello ma ha l'approvazione dell' imperatore e lieder Maximo giacchetto in pelle?

[LMCH]

Originariamente inviato da supertigrotto

Tutto bello ma ha l'approvazione dell' imperatore e lieder Maximo giacchetto in pelle?

Giacchetto mi sa che se la ride. Maia 200 e Maia 300 faranno girare solo software Microsoft e sembrano ottimizzate per il calcolo tensoriale "a pochi bit" (fp4 ed fp8).
Bisogna anche vedere con quali tool/linguaggi vengono programmate.
Il fatto che per ora non si possano noleggiare instanze Maia 200 o 300 fa pensare ad un ecosistema software per ora solo ad uso interno o a chip pensati per un range limitato di casi d'uso (molto efficienti in tali casi, ma non per uso generale).

[mmorselli]

Originariamente inviato da LMCH

Giacchetto mi sa che se la ride. Maia 200 e Maia 300 faranno girare solo software Microsoft e sembrano ottimizzate per il calcolo tensoriale "a pochi bit" (fp4 ed fp8).

Chissà quante volte però Anthropic e OpenAI ci servono modelli quantizzati a 8 bit al posto di quello a precisione piena. Loro ti fanno solo scegliere il modello e la profondità di ragionamento, la quantizzazione sono affari loro, e guarda caso ogni volta che Codex mi dà errori di connessione diventa anche stupido come una capra.