I big della tecnologia avvisano: ecco perché i pensieri dell'IA vanno monitorati
Un gruppo di esperti di OpenAI, Google DeepMind, Anthropic e altre grandi organizzazioni nel campo dell'IA ha pubblicato un documento per sollecitare l'industria tecnologica a studiare approfonditamente le tecniche di monitoraggio dei processi cognitivi dell'intelligenza artificiale
di Redazione pubblicata il 16 Luglio 2025, alle 09:01 nel canale WebUn'ampia coalizione di ricercatori provenienti dai principali laboratori di intelligenza artificiale ha rilasciato un documento di posizione che sollecita l'industria tecnologica a concentrarsi sul monitoraggio delle "catene di pensiero" (Chain of Thought, CoT) dei modelli di ragionamento dell'AI. Il documento, firmato da figure di spicco come Mark Chen di OpenAI, Ilya Sutskever di Safe Superintelligence e Geoffrey Hinton, rappresenta un momento più unico che raro di unità tra competitor diretti del settore.
Le catene di pensiero costituiscono un processo esternalizzato attraverso cui i modelli di intelligenza artificiale (soprattutto quelli di reasoning) elaborano i problemi, similmente a come gli esseri umani utilizzano un bloc notes per risolvere complesse equazioni matematiche. I modelli di ragionamento come o3 di OpenAI e R1 di DeepSeek sfruttano proprio tale meccanismo per ottenere prestazioni superiori in compiti che richiedono elaborazione sequenziale e logica.
Per essere trasparente e affidabile l'IA deve essere monitorata: l'avviso dei big
I ricercatori evidenziano come il monitoraggio della CoT possa offrire uno sguardo privilegiato sui processi decisionali degli agenti di intelligenza artificiale, ma sottolineano l'assenza di garanzie sulla persistenza di tale visibilità. Bowen Baker, ricercatore di OpenAI coinvolto nel documento, ha dichiarato che si tratta di un "momento critico" durante il quale la comunità scientifica deve concentrarsi su tale aspetto prima che la trasparenza e l'affidabilità delle tecnologie possa diminuire nei futuri sviluppi.
Il documento invita gli sviluppatori di modelli di AI a indagare i fattori che rendono i CoT "monitorabili", identificando gli elementi capaci di aumentare o ridurre la trasparenza sui meccanismi di ragionamento. Gli autori sottolineano come tale monitoraggio possa rappresentare un metodo fondamentale per comprendere i modelli di ragionamento, pur riconoscendo la sua potenziale fragilità e la necessità di evitare interventi che potrebbero compromettere affidabilità e trasparenza.
Lo scorso mese di settembre OpenAI ha rilasciato pubblicamente l'anteprima del primo modello di ragionamento AI, o1. Da allora anche altri competitor hanno rilasciato modelli con capacità simili, fra cui Anthropic che aveva promesso un impegno diretto a decifrare la "scatola nera" dei modelli AI entro il 2027. Le prime ricerche dell'azienda hanno indicato che i CoT potrebbero non rappresentare un'indicazione completamente affidabile dei meccanismi attraverso cui i modelli arrivano alle risposte, mentre i ricercatori di OpenAI sostengono che il cosiddetto CoT monitoring potrebbe diventare un metodo affidabile per monitorare allineamento e sicurezza.
Il documento punta ad alimentare ulteriore interesse nel campo del monitoraggio della COT, alla ricerca - perché no - di finanziamenti e ricerche nel settore. Un argomento che potrebbe diventare sempre più importante considerando la crescente diffusione degli agenti di intelligenza artificiale e la necessità di mantenere controllo e trasparenza sui loro processi decisionali.
NL-LC1 è il primo dissipatore a liquido AIO di Noctua: silenzio è la parola d'ordine
Boox Go 10.3 (Gen II) Lumi: il tablet e-ink con Android 15 e penna, dal prezzo super
Gigabyte MO32U24 OLED: il 4K a 240Hz su un pannello OLED ideale per il gaming
Intel 18A-P è già in fase di risk production. Ecco tutti i miglioramenti del processo produttivo
Logitech G305 Lightspeed e G316 X 98: 8.000 Hz e hot-swap arrivano a prezzo popolare
Qualcomm Snapdragon Reality Elite ufficiale: 48 TOPS di potenza per visori IA 4.4K
Snapdragon START: arriva la piattaforma che accelera l'adozione di occhiali smart
Kioxia Exceria G3: il modella da 4 TB è il connubio ideale tra capacità, prestazioni e prezzo_160.jpg)
Gemini 3.5 Flash delude nei test Android: il nuovo modello Google costa di più ma viene superato da versioni precedenti
DREAME X50 Ultra Complete a 749€ per il Prime Day anticipato: uno dei robot aspirapolvere più ambiti scende al minimo storico
Prezzi console handheld alle stelle: la nuova Claw di MSI è un salasso
Toyota presenta il primo pickup elettrico: prezzi ufficiali, autonomia, prestazioni e debutto di Hilux Bev
Prime Day anticipato, tutti gli smartphone in forte sconto: Google Pixel 10 a 549€, Honor 600 con Earbuds S8, Motorola edge 70 e iPhone 15
Dyson V10 Konical: il primo aspirapolvere con base a svuotamento automatico
FSR 4.1 su Radeon 6000, AMD spiega perché ci vorrà molto tempo
Hisense svela la gamma TV 2026: RGB MiniLED dai 55 ai 116 pollici
Narwal lancia gli sconti Prime Day 2026: i 4 robot più interessanti della gamma
12 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoSono Loro che le addestrano e le creano senza riposo, non importa come vengano basta essere avanti agli altri (sto esagerando per capire), e poi tutti principali laboratori dicono eh ma dobbiamo vedere bene come ragionano, devono essere trasparenti, ecc..
Dicono una cosa e ne fanno un'altra?
Ovvio che hanno ragione, devono essere al di la' del trasparente che gia' ora ragionano a modo loro e risolvono i problemi a modo loro, pensa in futuro quando potranno fare 1kkkk di cose in piu', solo che sta cosa del dire e del fare stona.
l'ipocrisia dei ragazzi di oggi..
Ma veramente direi proprio di no dato che perfino io che non sono certo un miliardario con un laboratorio in stile Bruce Wayne riesco a hostare una IA in locale senza particolari problemi.
Un LLM ha bisogno di grandi capacità di calcolo nel momento in cui devi addestrarlo ma poi chiunque può caricarlo su un serverino locale e personalizzarselo come meglio crede.
Ripeto questo se parliamo di LLM cioè quello che abbiamo a oggi, se invece intendevi la singolarità e cioè una IA realmente senziente quello ad oggi nessuno sa con certezza che hardware possa o meno essere necessario.
Il resto sono banalità sinceramente un po' da complottista. La società umana non è né buona né cattiva. Semplicemente va dove pensa di trovare il maggior benessere e quindi spesso dove va il denaro e fine.
Volergli dare una morale o etichettarla come buona o cattiva è solo una colossale ipocrisia.
Sono Loro che le addestrano e le creano senza riposo, non importa come vengano basta essere avanti agli altri (sto esagerando per capire), e poi tutti principali laboratori dicono eh ma dobbiamo vedere bene come ragionano, devono essere trasparenti, ecc..
Dicono una cosa e ne fanno un'altra?
Ovvio che hanno ragione, devono essere al di la' del trasparente che gia' ora ragionano a modo loro e risolvono i problemi a modo loro, pensa in futuro quando potranno fare 1kkkk di cose in piu', solo che sta cosa del dire e del fare stona.
L'addestramento non è la certezza altrimenti non sarebbe un LLM ma un chatbot.
Un LLM non è che si ricorda ogni singola cosa che gli hai insegnato ma crea dei percorsi per approssimare un ragionamento che gli permetta di arrivare alla soluzione di una domanda.
Premesso ciò per quanto tu possa addestrare una IA non avrai mai la certezza che arrivi sempre e solo alla risposta giusta o che dato un compito non aggiri le regole per arrivare ad obiettivo.
Il fatto è che oggi non abbiamo a che fare con vere IA ma solo con modelli che quindi non riescono a comprendere qualsiasi cosa che sia un "non detto" o che per noi è chiara ma per la macchina no.
Su YT c'è un tizio (non mi ricordo il nome) che fa giocare l'IA a trackmania che è un gioco di corse. L'IA prima di riuscire ad andare ad obiettivo e finire la gara sperimenta le cose più assurde e in certi casi fa dei record proprio perché attua comportamenti matematici per ottimizzare il tutto e in questa ottimizzazione ci stanno delle bizzarie che un essere umano nemmeno penserebbe di fare alcune delle quali vanno a sfruttare proprio bug del gioco ma non è che l'IA si rende conto che sta imbrogliando... per lei è un comportamento legittimo di un software terzo che sta usando che le permette di arrivare prima al traguardo.
Tutto questo non c'entra assolutamente niente con l'addestramento di una AI in quanto confondi quella che è l'educazione di un essere umano senziente che quindi impara e fa proprie determinate esperienze con quello che è un addestramento di una IA che anche se arriva alla risposta giusta non ha realmente imparato niente ma ha solo trovato il percorso più breve per andare da A a B.
Per farti un esempio concreto mettiamo che tu fai da casa (punto A) a lavoro (punto B). Il primo giorno magari metti il navigatore poi col passare del tempo hai imparato la strada.
Se fai la stessa cosa con una IA non è che ha imparato la strada... semplicemente prova a dare comandi a caso all'auto e ogni volta che si avvicina a B cerca di migliorare l'approssimazione fino ad arrivare ad avere un algoritmo per arrivare nel più breve tempo possibile.
In tutto questo l'IA (quelle attuali) non fa alcun ragionamento che sia morale o di altro tipo. Se non gli imposti una variabile negativa se passa sopra a una persona semplicemente andrà a dritto perché è matematicamente più rapido che fermarsi.
Volerci vedere una morale in tutto questo è fondamentalmente sbagliato perché la macchina RIPETO ad oggi non sta in alcun modo ragionando, non sta realmente comprendendo quello che le accade intorno e così via. Esegue semplicemente il percorso.
Quindi qualsiasi paragone con un essere umano o anche con un animale è fondamentalmente errato. Proprio perché a differenza della macchina noi comprendiamo la realtà e attuiamo comportamenti deduttivi e non solo che vanno si a pescare nelle esperienze precedenti come la macchina ma anche se non soprattutto nella capacità di rielaborare la situazione attuale con un giudizio critico.
Quanto tu sostieni potrà se mai sarà possibile, essere un'obiezione sensata se avessimo a che fare con una IA vera. Una IA in grado di ragionare e comprendere come un vero essere umano.
Al di là che il fatto che gli umani possano riprogrammarsi aprirebbe un capitolo enorme che è meglio non aprire.
Ad oggi è fantascienza parlare di IA che si aggiornano in modo profondo addirittura riprogrammandosi. Io spero di vivere abbastanza per vedere una vera IA senziente ma dubito fortemente non solo di riuscirci ma che anche mia figlia possa farcela. Attenzione da non confondere con IA che sembrano senzienti cosa a cui probabilmente arriveremo nel corso della vita di chiunque qua dentro.
viceversa una AI addestrata su documenti storici potrebbe dare risposte non allineate al mainstream, io cancellerei questi documenti per essere certo che l'AI resti nei binari giusti, tutta questa potenza e l'onestà intellettuale dell'AI che non ha empatia può essere un problema per chi non è ideologicamente preparato a riceve queste risposte. mi immagino un woke che va in una biblioteca digitale e dopo mezzora si impicca all'albero.. non è uno scherzo, i giovani di oggi non sono pronti, sono ipersensibili, rischiamo grosso.
anche la parlamentare occupatrice di case è senziente.
ed i disturbi della personalità ? siamo in grado di imbrigliare una AI che potrebbe, secondo i nostri standard, avere questi disturbi ?
una AI senziente, che si chiude in se stessa e smette di rispondere, questo caso è mai stato ipotizzato ?
l'ipocrisia dei ragazzi di oggi..
Un attimo, open source è un concetto del tutto diverso dal famoso black box delle reti neurali cui fai riferimento tu. Si sa cosa fanno ma non come. Un pò tutte le reti sono così.
Forse dovrebbero chiamarla openthoughts
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".