Qwen 3.6 27B apre una nuova era per l'IA: il compromesso ideale fra i modelli locali?

Qwen 3.6 27B si è imposto all'attenzione della comunità tech come il primo modello linguistico locale di "intelligenza generale" realmente convincente, dando la possibilità di superare le aspettative legate alle soluzioni eseguibili su hardware personale. Secondo Piotr Migdal, fondatore di Quesma, nonostante possa rendere il computer un po' caldo, le sue capacità ne giustificano ampiamente l'impiego.

Qwen 3.6 è disponibile in due varianti distinte: il modello mixture-of-experts (MoE) 35B A3B e la versione "dense" 27B. Quest'ultima, pur risultando più lenta nell'esecuzione, ha dimostrato maggiore potenza e concretezza nelle risposte, configurandosi come la scelta preferibile per l'utente esperto che cerca prestazioni di buon livello.

I test sul campo hanno messo in luce le sue capacità, con le prove con scritture vincolate e richieste creative che hanno fornito risultati eloquenti. Nel caso riportato dall'esperto di IA agentica, il modello ha generato una poesia di otto versi sulla danza Zouk e la fisica quantistica, dimostrando un processo di pensiero logico e coerente. Un'applicazione più pratica, come la creazione di un campo minato esagonale in pnpm tramite un singolo prompt in OpenCode, ha avuto successo immediato. La variante 35B A3B, seppur più rapida, aveva ignorato l'istruzione di creare un pacchetto Node, producendo invece un semplice file HTML. Nelle attività quotidiane, Qwen 3.6 27B si è dimostrato altrettanto valido, generando soluzioni funzionali da prompt brevi e diretti. Seppur "poco spettacolare" rispetto ai modelli di frontiera, la sua reattività e i risultati puliti lo rendono uno strumento pratico.

Qwen 3.6 27B, il miglior compromesso per l'IA in locale

Per iniziare a usare il modello, è necessario recuperare una versione quantizzata da Hugging Face, una pratica che riduce la dimensione del file e l'impegno computazionale. In particolare, la quantizzazione a 8-bit (Q8_0) offre un ottimo compromesso, dimezzando lo spazio occupato con una perdita quasi nulla di qualità. Il modello "unsloth/Qwen3.6-27B-MTP-GGUF:Q8_0" si rivela la scelta migliore, secondo Migdal, e integra il supporto per la predizione multi-token (MTP) che accelera la generazione di testo.

Le misurazioni prestazionali sono state eseguite su un sistema estremamente capace con i calcoli legati all'IA: un Macbook con processore M5 Max da 128 GB. I risultati hanno rivelato un throughput di circa 30 token al secondo, un dato in linea con le API dei modelli di frontiera. Llama.cpp ha dimostrato di essere più rapido di mlx-lm su hardware Apple Silicon, sfruttando il 95% della GPU. Su schede NVIDIA GeForce RTX, le prestazioni sono persino superiori, con un utente su Hacker News che ha registrato 50 token/s su una RTX 5090 con 123k di contesto e circa 28 GB di VRAM utilizzata. Nonostante la variante 35B A3B sia tre volte più veloce, la preferenza per il 27B è dettata dalla maggiore qualità e concretezza del codice generato, a parità di contesto.

I benchmark di Artificial Analysis e il sentiment generale online confermano la superiorità di Qwen 3.6 27B rispetto a modelli come Gemma 4 31B, spesso utilizzato per lo sviluppo locale. Anche confrontato con DwarfStar4, una versione quantizzata di DeepSeek V4 Flash, Qwen 3.6 27B si posiziona sullo stesso livello o leggermente superiore, seppur con la potenziale eccezione di progetti che richiedono contesti particolarmente lunghi.

Siamo all'alba di un'era in cui l'esecuzione di modelli IA personali diventa concretamente realizzabile. Questo cambiamento è accelerato dalle dinamiche dei modelli di frontiera proprietari: l'esempio di Claude Fable 5, ritirato dal mercato, e i costi massicciamente sovvenzionati degli altri modelli, indicano una strada tracciata verso l'autonomia. Un modello locale, personalizzabile e non soggetto a revoche, offre vantaggi sostanziali: le aziende possono gestirvi dati proprietari e sensibili, mentre gli utenti privati mantengono la privacy su informazioni delicate, anche in modalità offline. Con l'arrivo di modelli open-weight di livello frontier come GLM 5.2, seppur più esigenti in termini hardware, si delinea un percorso chiaro.

Qwen 3.6 ha rappresentato un importante passo intermedio, anticipando un futuro dove modelli ancora più evoluti, magari con una separazione tra intelligenza e conoscenza (quest'ultima gestita tramite tool calling), saranno eseguibili su dispositivi sempre più compatti, inclusi gli smartphone.