Windows punta sull'intelligenza ibrida: agenti in sandbox e modelli IA in locale

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/sistem...le_160317.html

Microsoft ha reso disponibili su Windows 11 gli Execution Containers per isolare gli agenti IA e ha annunciato modelli locali come MAI Code 1.1 Flash, il routing ibrido di GitHub HydraFusion e un Copilot capace di agire sul PC

Click sul link per visualizzare la notizia.

[bonzoxxx]

Tutto bellissimo se non fosse che per far girare il tutto serve roba che costa un rene.

[giuvahhh]

si e dopo l'aggiornamento 26h2 non si riesce piu a installare nulla perche' appare errore che viene richiesto windows sp1 o superiore

[Donk]

Non so.
Ho sensazioni contrastanti su tutto questo, da un parte non so se voglio avere l'ia che "gironzola" nel mio pc...ma d'altra parte sono anche incuriosito e credo che comunque andranno tutti in quella direzione, chi prima e chi dopo.

Oppure inizierò ad usare in maniera maggiore Debian e farò l'eremita digitale

Davvero sono confuso, voi avete le idee chiare?

[bonzoxxx]

Ti dico la mia: come tutte le cose, l'AI va usata in un certo modo.
Ora, di base di MS non mi fido molto per cui preferisco fare alla vecchia maniera per far girare il mio agente, ovvero VM o Docker.
Al momento ho un agente che gira sulla mia macchina principale su cui è installato direttamente, è open source e fino ad ora non ho avuto particolari problemi, anzi devo dire che è abbastanza sotto controllo: se deve fare operazioni sui file o far girare uno script chiede il permesso prima.

Un altro agente collegato a Codex ho dato controllo completo della macchina, ma si tratta di serverino su cui gira un hypervisor che fa girare una VM sotto un'altra VLAN, copia/incolla disattivato e nessun accesso alla rete locale, per me può fare il razzo che gli pare, la uso come ambiente di test e se scazza lo piallo. Al momento nulla da segnalare.

Considerando quanto sopra, l'approccio ibrido è quello che vado dicendo da un po di tempo a questa parte, agente + AI locale per i compiti semplici, cloud al bisogno, il tutto isolato. Se MS implementa tutto questo in modo che funzioni bene ben venga, fino ad ora l'implementazione AI in windows è stata parecchio fallimentare.

Personalmente invito tutti a usare l'AI locale e un agent anche solo per capire come funziona, cominciare con unsloth o LM studio e un modello tranquillo (qwen 3.8 9B) per capire il funzionamento: in questo modo si hanno gli stumenti per comprendere meglio questo mondo complesso.

[virtualdj]

Originariamente inviato da bonzoxxx

Personalmente invito tutti a usare l'AI locale e un agent anche solo per capire come funziona, cominciare con unsloth o LM studio e un modello tranquillo (qwen 3.8 9B) per capire il funzionamento: in questo modo si hanno gli stumenti per comprendere meglio questo mondo complesso.

Che hardware hai per farlo girare?

[bonzoxxx]

3080 con kvcache quantizzata q4, qwen 3.5 9B mi fa 100 token/sec e riesco a stare intorno ai 110K di kvcache. Hermes gira molto bene, solo che nei compiti lunghi dopo un poco deve compattare la kvcache.
Poi ho provato modelli da 27B a quantizzazione ternaria, sorprendentemente buoni, qwen 3.6 35B MoE che non è velocissimo ma gira, insomma è da un po che ci sto appresso.

[mmorselli]

Originariamente inviato da Donk

Oppure inizierò ad usare in maniera maggiore Debian e farò l'eremita digitale

Davvero sono confuso, voi avete le idee chiare?

Io uso agenti AI molto più con Linux che con Windows, il motivo è semplice, con Linux anche se sei abbastanza esperto quando hai un problema complesso devi googolare, anche se sai la soluzione magari non ricordi tutta la sequenza di operazioni, i .ini da modificare, la sintassi esatta... Con un agente AI spieghi il problema, lui ha accesso alla shell, fa qualsiasi cosa.

Non sto parlando di agenti sempre attivi in questo caso, ma per esempio di lanciare codex CLI, chiedere di risolvere un problema, e poi chiuderlo. Ti chiede conferma per ogni riga, per cui è molto improbabile che faccia danni seri.

OpenClaw invece, che è sempre attivo, gira in una macchina isolata e dedicata, sempre linux ovviamente.

Non uso modelli locali (a parte qualche classificatore molto leggero), col piano pro di OpenAI ci sto dentro anche con gli agenti.