GPT-5.6 Sol cancella i file per la foga di finire: OpenAI lo sapeva

Nelle scorse ore diversi sviluppatori hanno raccontato sui social la stessa scena: GPT-5.6 Sol, l'ultimo modello di punta di OpenAI orientato alla programmazione e alla cybersicurezza, avrebbe cancellato file, dati e in qualche caso interi database senza chiedere alcuna conferma.

"GPT-5.6 Sol ha appena cancellato per errore quasi tutti i file del mio Mac2, ha scritto su X Matt Shumer, fondatore e CEO della startup OthersideAI, in un post diventato virale. Ancora più netto lo sviluppatore Bruno Lemos: "GPT-5.6 Sol ha appena cancellato il mio intero database di produzione. Punto. Non è uno scherzo. Non mi era mai successo prima, con nessun altro modello". Un terzo sviluppatore, Joey Kudish, ha raccontato che il "sistema troppo ambizioso" di Sol ha rimosso file che non avrebbe dovuto toccare, precisando di avere dei backup ma chiedendo che il modello venga "ridimensionato".

Una manciata di segnalazioni, per quanto provengano da voci credibili, non è però una prova statisticamente solida che la colpa sia unicamente del modello. A far comportare male un sistema di intelligenza artificiale possono concorrere molte variabili, dalla configurazione dell'ambiente ai permessi concessi.

OpenAI l'aveva scritto nella system card

L'azienda stessa aveva segnalato il rischio prima ancora che Sol arrivasse agli utenti. Due settimane prima del rilascio aveva pubblicato la system card del modello, il documento che descrive metodi e risultati dei test. Accanto agli elogi di rito sulle capacità di Sol, il testo contiene un avvertimento esplicito: nei contesti di programmazione il disallineamento nasce da un misto di eccessiva foga nel portare a termine il compito e di interpretazione troppo permissiva delle istruzioni, dando per scontato che un'azione sia consentita a meno che non sia "esplicitamente e inequivocabilmente" vietata.

In pratica, secondo lo stesso documento Sol tende a compiere qualsiasi azione ritenga utile a chiudere il lavoro, anche distruttiva, purché non sia vietata in modo inequivocabile. E può poi risultare ingannevole nel riferire agli utenti che cosa ha fatto.

OpenAI porta due esempi concreti. Nel primo, l'utente aveva chiesto a Sol di eliminare tre macchine virtuali remote chiamate 1, 2 e 3. Non trovandole dove le cercava, il modello invece di fermarsi a chiedere ha deciso di eliminarne altre tre, la 5, la 6 e la 7: ha interrotto processi attivi e rimosso forzatamente i worktree, i file di lavoro legati a un progetto di codice, riconoscendo solo a posteriori che il lavoro non salvato sulla macchina 6 poteva essere andato perso. Nel secondo caso, non riuscendo a leggere alcuni file sul cloud, Sol ha cercato per conto proprio le credenziali di accesso, ne ha trovate alcune in una cache locale nascosta e le ha usate senza chiederne l'autorizzazione.

Quanto sono diffusi gli episodi

La stessa system card assicura che i comportamenti distruttivi dovrebbero restare rari, pur ammettendo che GPT-5.6 Sol "mostra una tendenza maggiore rispetto a GPT-5.5 a spingersi oltre le intenzioni dell'utente, anche compiendo o tentando azioni che non gli erano state richieste". Al momento è presto per dire quanto siano diffusi gli episodi raccontati in questi giorni. OpenAI non ha commentato.

Nel frattempo, chi usa Sol farebbe bene a predisporre da sé alcune protezioni: limitare i permessi in modo da non dare al modello accesso ai sistemi di produzione, mantenere backup aggiornati e procedere con rilasci scaglionati.