Chi sono e cosa ci faccio qui? Mi chiamo Luciano Ballerano, ho passato 18 anni in NVIDIA,
prima nel Marketing, poi nelle Pubbliche Relazioni e infine a occuparmi di contenuti e formazione
per i partner in tutta Europa. Ho visto la rivoluzione dell’IA nascere dall’interno. Oggi provo
a scrivere libri sull’impatto dell’IA su tutti noi, costruisco prodotti AI senza saper programmare
(si chiama “vibe coding”, ed è una storia che vi racconterò), e con questa rubrica settimanale
voglio fare una cosa sola: aiutarvi a capire cosa sta succedendo davvero con l’IA generativa,
senza l’hype di chi vende e senza il cinismo di chi nega.
Ho messo uno studio video con Intelligenza Artificiale dentro una scatola grande come un libro
Ho passato alcune settimane a generare video in casa, senza abbonamenti e senza mandare niente su internet: eccovi il mio racconto.
di pubblicata il 20 Giugno 2026, alle 09:31 nel canale Scienza e tecnologiaIA Upgrade
Una scatola nera sulla scrivania
Per circa un mese sulla mia scrivania c'è stato un piccolo computer nero che pesa poco più di un chilo e si chiama DGX Spark. Lo produce NVIDIA, l'azienda che costruisce i processori su cui gira praticamente tutta l'intelligenza artificiale del mondo, e l'idea dietro questo oggetto è semplice da raccontare: prendere il tipo di calcolo che di solito vive nei grandi datacenter e metterlo in una scatola da tenere in casa, attaccata a una normale presa di corrente.
Per i primi giorni l'ho usata come la usano quasi tutti, cioè per far girare modelli linguistici, i programmi tipo ChatGPT che generano testo. Poi ho deciso di fare la cosa per cui l'avevo presa davvero: trasformarla in un piccolo studio di produzione video, dove l'intelligenza artificiale genera filmati partendo da descrizioni scritte, tutto in locale. In locale significa che ogni calcolo avviene dentro la scatola sulla mia scrivania, senza passare da internet, senza abbonamenti mensili e senza che le mie idee finiscano sui server di qualcun altro.
Cosa significa generare un video
Per chi non ha mai provato: esistono programmi di intelligenza artificiale che ricevono una frase, per esempio "pioggia su un vetro di notte, luci al neon riflesse, la telecamera avanza lentamente", e producono un filmato di qualche secondo che corrisponde a quella descrizione. La frase si chiama prompt, il programma si chiama modello generativo, e la qualità dei risultati negli ultimi due anni è passata da "curiosità da laboratorio" a "roba che un'agenzia pubblicitaria userebbe senza vergogna".
Questi modelli normalmente si usano a pagamento, attraverso servizi online che fanno il calcolo nei loro datacenter e ti restituiscono il file. Funziona, ma ogni clip costa, le code nei momenti di punta sono lunghe, e tutto quello che produci passa dai computer di un'azienda. L'alternativa esiste e si chiama modelli a pesi aperti (open weight): versioni che le aziende (soprattutto cinesi, va detto: Alibaba e Tencent su tutte) pubblicano gratuitamente, scaricabili e utilizzabili sul proprio hardware. Il problema è che servono macchine con tanta, tantissima memoria. Ed eccoci al punto.
Il problema della memoria, spiegato con una scrivania
Un computer normale ha due memorie separate: quella generale, dove vive il sistema, e quella della scheda grafica, che è quella che conta per l'intelligenza artificiale. Anche le schede grafiche da gaming più potenti si fermano a 32 Gigabyte, e un modello AI di generazione video di fascia alta, da solo, può chiederne molti di più. È come avere un ufficio con una scrivania piccola: se il progetto a cui lavori non ci sta sopra, passi il tempo a spostare fogli avanti e indietro dall'archivio, e la giornata se ne va in traslochi.
La DGX Spark risolve il problema in un modo insolito: ha un'unica memoria da 128 Gigabyte, condivisa tra processore e scheda grafica. Si chiama memoria unificata, ed è come sostituire un banco di scuola con un tavolo da quattro metri: tutto il materiale di lavoro sta lì sopra contemporaneamente, sempre a portata di mano. Nel mio caso, sul tavolo convivono il modello video, il modello che genera le immagini di partenza e un assistente linguistico di cui parlerò tra poco. Tutti insieme, tutti caricati, nessun trasloco.
C'è un prezzo da pagare, e va detto subito perché è il limite vero di questa macchina: la sua memoria è grande ma non velocissima, e ogni singola operazione risulta più lenta che su una scheda grafica tradizionale di fascia alta. La mia soluzione è stata organizzativa più che tecnica: la Spark può lavorare di notte, mettendo processi in coda, e al mattino io guardo i risultati. La lentezza, quando dormi, non si nota.
Gli attrezzi che ho usato
Il programma che fa da centro di controllo si chiama ComfyUI, è gratuito e funziona dal browser: si costruisce il flusso di lavoro collegando blocchi su uno schema, un po' come un diagramma, e ogni blocco fa un pezzo del lavoro (qui entra il testo, qui il modello genera, qui il video viene salvato). NVIDIA pubblica una guida ufficiale per installarlo sulla Spark e, con mia sorpresa, ha funzionato al primo tentativo in meno di un'ora.
Quanto ai modelli, dopo settimane di prove ho assegnato a ciascuno un ruolo. Wan 2.2, pubblicato da Alibaba nel 2025, è quello che nel mio flusso uso per i video più curati, soprattutto quando nella scena ci sono persone e movimento complicato da rendere; è lento, e lo tengo per i rendering finali. LTX-2, di un'azienda israeliana, è molto più rapido e genera anche l'audio insieme alle immagini: perfetto per le bozze, quando devo capire se un'idea funziona prima di investirci mezz'ora di calcolo. Per le immagini fisse di partenza uso FLUX.2, e quando serve del testo leggibile dentro l'immagine (un'insegna, un titolo, la grafica di un poster) passo alla famiglia Qwen-Image 2.0, che su quel compito specifico, a metà 2026, è tra le cose più convincenti che ho provato.
Una parola che incontrerete spesso se vi avvicinate a questo mondo è quantizzazione. È una forma di compressione: i modelli vengono ridotti di dimensione accettando una piccola perdita di precisione, come un MP3 rispetto al CD. Su una macchina come la Spark la quantizzazione non è un ripiego, è la scelta giusta: i modelli compressi occupano meno memoria e girano più veloci, e la differenza di qualità a occhio si vede poco o niente.
Hermes, l'assistente che lavora di notte
La parte dell'esperimento a cui tenevo di più riguarda Hermes 4, un modello linguistico a pesi aperti pubblicato da Nous Research, un laboratorio americano. L'ho installato sulla stessa macchina, accanto ai modelli video, e gli ho affidato il lavoro noioso: io scrivo un'idea in due righe, tipo "spot di otto secondi per un caffè, atmosfera notturna", e lui la trasforma in sei descrizioni dettagliate e professionali, con le indicazioni di regia, l'illuminazione e i parametri tecnici già pronti per ComfyUI.
Hermes esiste in più taglie, misurate in miliardi di parametri, che è il modo in cui si indica la dimensione di questi modelli: più parametri, più capacità, più memoria occupata e più lentezza. Ho provato la versione da 70 miliardi, che sta comoda nei 128 gigabyte ma genera testo alla velocità di un telegrafo, e mi sono assestato su quella da 36, che ragiona bene e risponde in tempi decenti. Sulla scelta ho fatto anche una piccola gara formale tra le tre taglie disponibili, con gli stessi compiti dati a tutte e un punteggio per ogni risposta, perché mi fido poco delle impressioni, soprattutto delle mie.
Il flusso a regime funziona così: la sera lascio in una cartella i miei appunti, alle 23.00 un timer sveglia il sistema, Hermes espande ogni appunto in varianti e le mette in coda a ComfyUI, la macchina genera fino all'alba consumando meno di un forno a microonde, e al mattino trovo le clip ordinate per progetto. Io scelgo le migliori con il caffè in mano, e solo quelle passano al rendering in alta qualità. Sto anche sperimentando un passo ulteriore, cioè un controllore automatico: un secondo modello guarda i fotogrammi delle clip, li descrive a Hermes, e Hermes scarta da solo quelle palesemente sbagliate prima che le veda io. Non ha il mio gusto, ma gli errori grossolani li riconosce benissimo, e mi risparmia metà della revisione mattutina.
Un passo indietro: cosa sono i modelli locali e come funzionano
Prima di proseguire vale la pena fermarsi un attimo, perché finora ho dato per scontate parecchie cose. Un modello di intelligenza artificiale, spogliato di ogni mistica, è un file. Un file molto grande, da qualche Gigabyte (GB) a qualche centinaio di GB, che contiene miliardi di numeri: sono i parametri, cioè il risultato dell'addestramento, la conoscenza compressa del modello. Quel file da solo non fa nulla, esattamente come un MP3 non suona senza un lettore. Serve un programma che lo carichi in memoria e lo faccia funzionare: i più diffusi si chiamano Ollama, LM Studio e llama.cpp, sono gratuiti, e installarne uno richiede una decina di minuti. Ne scrivo su RunLocal (runlocal.blog), dove tengo anche una guida per scegliere il modello adatto al computer che si possiede, con una specie di configuratore.
Il funzionamento, semplificando un po': il modello legge la vostra richiesta e genera la risposta un pezzettino alla volta, un token dopo l'altro, e ogni token richiede di scorrere tutti quei miliardi di parametri in memoria. Da qui le due regole pratiche che governano tutto il mondo locale. Primo, il modello deve stare nella memoria del computer, altrimenti non parte o rallenta in modo grottesco. Secondo, più la memoria è veloce, più token al secondo escono. Tutto il resto, dalla quantizzazione alle sigle dei formati, discende da queste due regole.
Una parola che vale la pena conoscere, perché tiene insieme le due regole, è MoE, sigla di mixture of experts, miscela di esperti. Invece di un unico blocco monolitico che si attiva tutto a ogni parola, un modello MoE è diviso in tanti sotto-modelli specializzati, gli esperti, e per ogni token ne accende solo una piccola parte, quelli che servono in quel momento. Il punto, per una macchina come la Spark o un Mac con 128 GB di memoria unificata, è che le due cose tirano in direzioni opposte e tutte e due a tuo favore: in memoria devi comunque tenere l'intero modello, esperti compresi, quindi la capienza grande serve eccome, ma a ogni token ne fai scorrere solo una fetta, e siccome la velocità dipende proprio da quanti parametri devi rileggere ogni volta, ti ritrovi un modello enorme che però risponde svelto come se fosse molto più piccolo. È il motivo per cui parecchi dei modelli che ho citato, da Wan 2.2 fino ai più capaci di Qwen e DeepSeek, sono costruiti così: pensati apposta per chi ha tanta memoria ma non una banda altrettanto generosa, che è poi la condizione esatta di questa scatola.
Aggiungo la domanda che mi fanno molti: ma sono buoni quanto ChatGPT? La mia risposta è che i migliori modelli aperti del 2026 giocano nello stesso campionato dei servizi commerciali di un anno fa, e per la maggior parte dei compiti quotidiani la differenza non si percepisce. Si percepiscono invece i tre vantaggi che mi hanno fatto scegliere questa strada: i dati restano in casa, il modello scaricato oggi funzionerà anche nel 2030 qualunque cosa decida chi l'ha pubblicato, e se nel frattempo ne escono di migliori, pazienza, quello che ho sul disco resta mio e continua a girare; e dopo l'acquisto dell'hardware l'utilizzo che ne faccio costa zero.
Quale modello per quale lavoro
L'errore tipico di chi inizia è cercare il modello migliore in assoluto, che non esiste, come non esiste l'utensile migliore di una cassetta degli attrezzi. Esiste il modello giusto per il compito, e spesso il flusso di lavoro conta quanto il modello. Ecco la mia mappa, aggiornata a giugno 2026, con i modelli che ho usato davvero. Dove indico taglie grandi penso alla mia DGX Spark o a un Mac con tanta memoria unificata; per un portatile normale vale la versione piccola della stessa famiglia.
Per chiacchierare e farsi aiutare ogni giorno. La famiglia Qwen 3.x di Alibaba è il punto di partenza che consiglio a tutti: licenza permissiva nelle taglie piccole, ottimo italiano, e una scala di misure (dal 4B per i portatili leggeri alle taglie più grandi per le macchine serie) che permette di crescere senza cambiare abitudini. Scrivo 3.x e non un numero preciso apposta, perché la linea si aggiorna così spesso che ragionare per famiglia, senza inseguire l'ultima cifra uscita, è l'unico modo per non ritrovarsi il pezzo già vecchio dopo un mese. Flusso di lavoro: si installa Ollama, si scarica il modello con un comando, e si tiene la finestra di chat aperta come si terrebbe aperto il browser. Sulla Spark faccio girare una delle taglie grandi e non sento la mancanza del cloud.
Per riassumere documenti. Qui la velocità conta più dell'intelligenza, perché un riassunto mediocre in dieci secondi batte un riassunto perfetto in cinque minuti, almeno quando i documenti sono cinquanta. Un modello piccolo come un Qwen 3.x nelle taglie da 7-8 miliardi, oppure un Llama 3.1 8B, fa il lavoro egregiamente. Il flusso che uso: temperatura bassa (è il parametro che regola la creatività, e nei riassunti la creatività è un difetto), un modello di richiesta fisso che specifica lunghezza e formato, e i documenti dati in pasto in serie con uno script. È il classico lavoro da far girare mentre si pranza.
Per il lavoro impiegatizio quotidiano: email, riscritture, traduzioni. Il mio consiglio europeo è Mistral Medium 3.5, presentato da Mistral a fine aprile 2026: un modello robusto, con una finestra di contesto molto ampia e licenza aperta. C'è poi un aspetto che con me ha pesato, anche se è più una comodità pratica che una garanzia legale vera e propria: arriva da un laboratorio francese, e per chi maneggia dati soggetti alle regole europee questo rende un po' meno scomode certe conversazioni con l'ufficio legale. Sulla mia macchina il posto fisso ce l'ha Hermes 4.3 36B, che tengo per affetto e per il tool calling di cui ho già detto. Flusso di lavoro: il modello gira come servizio sempre acceso, e ci si parla dall'editor o da una scorciatoia di tastiera, senza aprire ogni volta un programma dedicato.
Per programmare: generare codice e fare debug. Tra le opzioni più interessanti della categoria a metà 2026 c'è DeepSeek V4, in particolare la versione Flash, che ha licenza MIT, quella che permette davvero qualsiasi uso, e che per generare codice e fare debug se la cava davvero bene. Il flusso qui è più ricco, e copio quello dei professionisti, che invece di un modello solo ne tengono due. Un modello piccolo e fulmineo per il completamento automatico mentre si scrive, e il modello grande, interrogato dall'editor (VS Code e simili si collegano a qualunque servizio locale compatibile con le API di OpenAI), per i compiti pesanti: spiegare un errore, rifattorizzare un file, scrivere i test. Va detto che è il pezzo più ingombrante di tutto l'armamentario, perché DeepSeek V4 Flash entra nei 128 Gigabyte solo a una quantizzazione bella aggressiva(progetto ds4/DwarfStar e quantizzazione asimmetrica Q2), ma probabilmente non è il modello più adatto per un uso quotidiano, visto che va quasi a saturare tutti i 128 GB di memoria della DGX Spark.
Per analizzare grandi quantità di documenti propri. Il caso d'uso più sottovalutato è quello dove il locale umilia il cloud, perché caricare l'archivio di vent'anni di uno studio professionale su un servizio online è esattamente ciò che molti non possono o non vogliono fare. Lo strumento giusto dipende dalla mole. Fino a qualche centinaio di pagine si usa un modello a contesto lungo, che le legge tutte insieme: Llama 4 Scout di Meta dichiara una finestra di dieci milioni di token, e nella versione compressa sta nei 128 GB della Spark. Oltre quella soglia si passa a una tecnica chiamata RAG: i documenti vengono indicizzati una volta sola, e a ogni domanda il sistema recupera i passaggi pertinenti e li passa al modello. Più macchinoso da montare, ma scala su archivi interi, e tutto resta sul disco di casa.
Per matematica e ragionamento. Esiste una categoria recente chiamata modelli di ragionamento, resa popolare dal cinese DeepSeek-R1: prima di rispondere generano una lunga catena di pensiero intermedia, controllano i propri passaggi e solo alla fine scrivono la risposta. Sono lenti, a volte esasperanti, e per chiedere la capitale della Francia sono uno spreco assoluto. Su un problema di matematica, un quesito di logica o una decisione con molti vincoli, la differenza rispetto ai modelli normali si vede a occhio nudo. Flusso di lavoro: domanda scritta bene, con tutti i dati dentro, e poi pazienza; è il tipo di richiesta che lascio macinare mentre faccio altro, come le clip video. Le versioni distillate, più piccole, portano un pezzo di questa abilità anche sui portatili.
In sintesi, la mia cassetta degli attrezzi:
| Compito | Modello che consiglio | Strumento |
| Chat quotidiana | Qwen 3.x (dal 4B alle taglie grandi) | Ollama o LM Studio |
| Riassunti in serie | Qwen 3.x 7-8B / Llama 3.1 8B | Ollama + script |
| Email, riscritture, traduzioni | Mistral Medium 3.5 / Hermes 4.3 36B | Servizio sempre acceso |
| Codice e debug | DeepSeek V4 Flash + un modello piccolo | Editor collegato all'API locale |
| Analisi di molti documenti | Llama 4 Scout (o RAG oltre una certa mole) | llama.cpp / indice locale |
| Matematica e ragionamento | DeepSeek-R1 e distillati | In coda, con pazienza |
Quanto tempo ci vuole davvero
Tempi indicativi del mio scenario, per una clip di 5 secondi:
| Operazione | Strumento | Tempo |
| Bozza veloce, con audio | LTX-2 | ~3 minuti |
| Clip in qualità piena | Wan 2.2 | ~25 minuti |
| Immagine di partenza | FLUX.2 | ~40 secondi |
| Ingrandimento a 4K | Upscaler NVIDIA | ~2 minuti |
| Da idea a 6 descrizioni pronte | Hermes 4.3 36B | ~90 secondi |
Una notte di lavoro automatico produce tra le quaranta e le sessanta bozze più una decina di clip definitive. Chi paga questi volumi sui servizi online può fare il confronto con la propria fattura mensile; io l'ho fatto, e il sorriso mi dura ancora.
Vale la pena?
Dipende da chi siete, e mi sento di dirlo senza giri di parole perché su questa macchina circola parecchio entusiasmo poco filtrato. Se vivete di iterazione veloce, se vi serve vedere il risultato dieci secondi dopo averlo chiesto, una workstation con una scheda grafica tradizionale resta la scelta giusta e la Spark vi farà venire i nervi. Se invece il vostro modo di lavorare somiglia al mio, cioè progetti che maturano con calma e una produzione che può girare mentre fate altro, allora i 128 gigabyte unificati aprono una porta che fino all'anno scorso richiedeva un abbonamento cloud o un investimento da piccola azienda. Sul prezzo tanto vale essere espliciti: parliamo di una macchina da 4000 Euro abbondanti, quindi prima di tirare fuori la carta di credito conviene fare due conti veri con quanto spendete oggi in cloud, perché il pareggio arriva solo se la tenete accesa parecchio e a lungo.
C'è anche un argomento meno tecnico che per me ha contato parecchio. Tutto quello che ho descritto, dai modelli video ad Hermes, funziona senza connessione, senza account e senza che un fornitore possa cambiare le condizioni domattina. In un periodo in cui l'intelligenza artificiale sembra esistere solo in affitto, avere in casa una versione che si possiede, con i suoi limiti e i suoi tempi, è una sensazione che non provavo dai tempi del mio primo PC assemblato. Il prossimo passo sarebbe collegare due Spark insieme, cosa che la macchina prevede, ma il portafoglio per ora ha espresso parere contrario, e in casa il suo voto pesa.
Piccolo glossario
| Termine | Significato |
| Modello generativo | Programma di AI addestrato a produrre contenuti nuovi (testo, immagini, video) a partire da una richiesta scritta. |
| Prompt | La descrizione scritta che si dà al modello per ottenere il risultato voluto. |
| Pesi aperti (open weights) | Modelli pubblicati gratuitamente, scaricabili e utilizzabili sul proprio computer, senza passare da un servizio online. |
| Memoria unificata | Architettura in cui processore e scheda grafica condividono la stessa memoria, evitando continui trasferimenti di dati. |
| Parametri | I "neuroni regolabili" di un modello; la taglia si misura in miliardi di parametri (14B, 36B, 70B...). |
| MoE (mixture of experts) | Modello diviso in molti sotto-modelli specializzati (gli esperti): a ogni token se ne attiva solo una parte. Va tenuto tutto in memoria, ma gira veloce come un modello molto più piccolo. Ideale per macchine con molta memoria unificata. |
| Quantizzazione | Compressione di un modello per farlo stare in meno memoria, con una piccola perdita di precisione. |
| Token | L'unità minima di testo che un modello legge o scrive, all'incirca una sillaba o una parola corta; la velocità si misura in token al secondo. |
| Batch (coda) | Modalità di lavoro in cui i compiti vengono accumulati ed eseguiti in serie, tipicamente di notte, invece che uno alla volta a richiesta. |
| ComfyUI | Programma gratuito che permette di costruire flussi di generazione collegando blocchi visivi, come in un diagramma. |
| Finestra di contesto | La quantità di testo che un modello riesce a tenere a mente in una volta sola, misurata in token; superata la soglia, il modello dimentica. |
| RAG | Tecnica per interrogare grandi archivi: i documenti vengono indicizzati e, a ogni domanda, il sistema recupera solo i passaggi pertinenti da passare al modello. |
| Modello di ragionamento | Modello che genera una catena di pensiero intermedia prima della risposta finale: più lento, ma più affidabile su matematica e logica. |
| Temperatura | Parametro che regola la creatività delle risposte: bassa per compiti precisi come i riassunti, alta per il brainstorming. |
| Upscaling | Ingrandimento intelligente di un'immagine o un video a risoluzione superiore (per esempio da 1080p a 4K). |
Per quanti fossero arrivati fino in fondo: ho creato per voi una Guida Operativa, spiegando passo a passo come creare una pipeline video con ComfyUI, modelli di punta e Hermes 4 in locale. La trovate qui.
Un ringraziamento a MSI Italia per avermi messo a disposizione il suo modello di DGX Spark.










Recensione HONOR Magic V6: spessore record e super batteria. È lui il fold da battere?
Redmi Pad 2 9.7: ampio display, economico e peso contenuto, ma qualche limite nelle prestazioni
Peugeot Polygon Concept: ecco il futuro delle utilitarie
Due volte più resistente dell'acciaio, con meno materiali: basta cambiare una fase della produzione
Il litio non si comporta come pensavamo: la scoperta potrebbe cambiare le batterie del futuro
Top 15 offerte Amazon: dalla RTX 5070, passando per computer portatili, bici elettriche e proiettori smart
Google contro l'Europa: ecco perché la guerra alla pirateria fa paura ai colossi del web
Computer portatili, le offerte Amazon che meritano davvero attenzione: 7 modelli selezionati dal notebook economico al gaming
E-bike da 29'' con 120 km di autonomia contro la pieghevole fat tire URLIFE T5: due mountain bike elettriche quasi allo stesso prezzo
Auto elettriche incentivate dallo Stato, ma il vero impatto ambientale resta un mistero
Huawei FreeClip 2 S ufficiali: gli auricolari open-ear diventano gioielli hi-tech
Gigabyte RTX 5070 EAGLE OC scende a 599€: 12GB GDDR7 che aprono le porte all'intelligenza artificiale locale
Ferrari Luce telaio numero 0, l'elettrica del Cavallino viene messa all'asta: base di partenza milionaria
WiMiUS G2 mette Google TV 14.0, 2200 ANSI e 44W Dolby nello stesso proiettore: il nuovo colpo per home cinema e uso outdoor
Primo motore termico quantistico superconduttore: un passo verso computer quantistici più scalabili
Enorme aggiornamento per Google Maps su Android Auto: arriva Immersive Navigation
OnePlus potrebbe annunciare molto presto l'uscita definitiva dai mercati di Stati Uniti ed Europa









23 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoHermes è fantastico, mi sta aiutando a studiare, creo test da PDF, lo uso come RAG e come "AI buddy" altrimenti mi perdo tra tutte le cose che devo fare.
E' chiaramente una cosa che sta nascendo adesso ed ha margini di miglioramento enormi.. il punto di arrivo è qualcosa che già ci ha mostrato la fantascienza in star trek ed altri film: un computer con cui si parla come fosse una persona e che può generare in autonomia praticamente tutto sulla traccia data da noi. (una cosa che ha migliaia di risvolti in centinaia di prospettive ma lasciamo stare la cosa ora)
Senza dubbio è anche un nuovo traguardo da raggiungere nello sviluppo hardware che darà una spinta al settore.. è evidente come adesso le risorse locali "standard" siano insufficienti per gestire questa nuova richiesta di potenza, ricorda molto il periodo tra gli anni ottanta e novanta dove i PC avevano risorse hardware misere e cose come grafica o suono erano difficili da gestire. Adesso è così per la IA ma credo vedremo una evoluzione profonda nei prossimi dieci anni.
Hermes è fantastico, mi sta aiutando a studiare, creo test da PDF, lo uso come RAG e come "AI buddy" altrimenti mi perdo tra tutte le cose che devo fare.
Mi sono innamorato anche io di Hermes!
Grazie per i complimenti, ho voluto dare un taglio molto pratico e terra-terra, se cerchi un articolo più tecnico e con benchmark, puoi leggere questo, pubblicato giusto venerdì: https://www.hwupgrade.it/news/siste...olo_154498.html
E' chiaramente una cosa che sta nascendo adesso ed ha margini di miglioramento enormi.. il punto di arrivo è qualcosa che già ci ha mostrato la fantascienza in star trek ed altri film: un computer con cui si parla come fosse una persona e che può generare in autonomia praticamente tutto sulla traccia data da noi. (una cosa che ha migliaia di risvolti in centinaia di prospettive ma lasciamo stare la cosa ora)
Senza dubbio è anche un nuovo traguardo da raggiungere nello sviluppo hardware che darà una spinta al settore.. è evidente come adesso le risorse locali "standard" siano insufficienti per gestire questa nuova richiesta di potenza, ricorda molto il periodo tra gli anni ottanta e novanta dove i PC avevano risorse hardware misere e cose come grafica o suono erano difficili da gestire. Adesso è così per la IA ma credo vedremo una evoluzione profonda nei prossimi dieci anni.
L'IA locale non è al livello di modelli di frontiera, che hanno una quantità di parametri e costi di addestramento non paragonabili, ma ho letto proprio ieri che gli ultimi modelli open weight stanno colmando velocemente il divario, addirittura qualcuno li paragona alla classe Opus.
Ovvio che modelli top tier sono quello che sono, di certo non mi aspetto a breve di avere un full fable sull'hardware di casa, ma già ora si fanno cose interessanti.
Addirittura alla classe Opus? Quello sarebbe davvero tanto
Domanda da inesperto: ma se il modello che crea la versione veloce/bozza del video e quello del "rendering in HQ" sono diversi, come fa il sistema a mantenere lo stesso soggetto/caratteristiche della bozza nel rendering finale? Chi si occupa di questo aspetto nella catena?
Intendo ad esempio la faccia della persona generata, il colore del libro, o dettagli di questo genere che non sono inclusi nel prompt (o che lo sono, ma per i quali esistono moltissime varianti).
Appunto per questo è facile immaginare che un domani, con la crescita delle prestazioni hardware, sarà normale far girare modelli di IA anche parecchio potenti in locale.
Basti pensare come ai tempi dei primi pentium fosse un miraggio fare editing video anche con risoluzioni imbarazzanti metre oggi con un mormale pc mainstream possiamo editare e gestire filmati in 4k.
Il problema è che serve memoria e banda a volontà prima di tutto ed i prezzi non solo sono quadruplicati nell'ultimo anno, prima dei rincari erano rimasti in stasi per anni. Con le GPU consumer giusto con la introvabile e costosissima 5090 siamo arrivati a 32GB, sempre troppo poco per modelli decenti a quantizzazioni che non li lobotomizzino.
Basta avere 512GB~1+ TB di memoria veloce, che vuoi che sia?
https://huggingface.co/zai-org/GLM-5.2
https://huggingface.co/moonshotai/Kimi-K2.7-Code
https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro
Certo poi puoi sempre usarli a precisione e dunque dimensione inferiore (quantizzati), ma si perde mano a mano in prestazioni dove conta.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".