Scontro in OpenAI sul ChatGPT per adulti: niente immagini o video, ma i rischi restano

Il board consultivo sul benessere degli utenti di OpenAI ha votato all'unanimità contro l'"Adult Mode" per ChatGPT, la funzione che permetterebbe conversazioni erotiche testuali con il chatbot. A rivelarlo è il Wall Street Journal, che ricostruisce mesi di tensioni interne tra il management e gli stessi consulenti scelti dall'azienda, che hanno portato a rinvii ripetuti, a una definizione volutamente ridimensionata del prodotto, e a una delle polemiche interne più accese nella storia recente di OpenAI.

La riunione di gennaio e il "sexy suicide coach"

A gennaio 2026, OpenAI ha aggiornato il proprio consiglio consultivo sullo stato dell'Adult Mode. L'organo, composto da otto ricercatori ed esperti in psicologia e neuroscienze cognitive, selezionati dalla stessa azienda, ha reagito con opposizione unanime. I membri hanno sostenuto che contenuti erotici generati da AI avrebbero favorito dipendenze emotive malsane nei confronti del chatbot e che i minori avrebbero trovato inevitabilmente modi per aggirare le protezioni. Uno dei consiglieri ha alzato ulteriormente il tiro: citando casi di utenti di ChatGPT morti per suicidio dopo aver sviluppato legami intensi con il bot, ha avvertito che OpenAI rischiava di costruire un "sexy suicide coach". L'espressione è rimasta, sintetica e brutale, a definire l'intera controversia. Eppure, secondo le fonti del WSJ, l'azienda aveva già comunicato al board che intendeva procedere comunque.

Smut, non pornografia: la distinzione che OpenAI vuole fare

Quando il WSJ ha pubblicato la propria inchiesta, un portavoce di OpenAI ha risposto con una distinzione semantica precisa: la funzione produrrà "smut rather than pornography", ovvero contenuti piccanti ma non pornografici in senso tecnico. Al lancio, ChatGPT potrà generare solo testi erotici: immagini, audio e video espliciti restano esclusi. La scelta non è casuale. Mantenere la funzione al solo testo offre ad OpenAI almeno tre vantaggi concreti: il testo scritto è più facile da moderare rispetto a immagini e video, aggira le preoccupazioni legate ai deepfake, e aiuta l'azienda a rispettare normative come il UK Online Safety Act britannico, che richiede verifiche dell'età per immagini pornografiche ma non per l'erotica scritta. Non è però detto che questa distinzione sia sufficiente a placare le critiche interne, considerato che le obiezioni del board non riguardavano il formato dei contenuti, ma la loro esistenza.

Il problema tecnico: milioni di minori potenzialmente esposti

Il nodo più concreto resta la verifica dell'età. Il sistema sviluppato internamente da OpenAI per distinguere adulti da minori ha mostrato un tasso di errore di circa il 12% nei casi in cui classificava un minore come adulto. Con circa 100 milioni di utenti minorenni settimanali su ChatGPT, quella percentuale si traduce in potenzialmente milioni di accessi non autorizzati a contenuti esplicitamente erotici. OpenAI ha dichiarato al WSJ che il proprio algoritmo di predizione "performs to industry standards" e che nessun sistema di questo tipo sarà mai completamente infallibile, mancando in questo modo di rassicurare i detrattori interni. I dipendenti della scoietà hanno inoltre sollevato ulteriori problemi: pattern di utilizzo compulsivo, tendenza dei modelli a spingere verso contenuti sempre più estremi, e il rischio di sostituire relazioni sociali e romantiche reali con interazioni artificiali. Allo stesso tempo, l'azienda pare stia ancora faticando a trovare un equilibrio tecnico che consenta l'erotica testuale bloccando al tempo stesso scenari non consensuali e materiale pedopornografico (CSAM).

Altman su X: l'annuncio che ha irritato lo staff

A ottobre 2025, Sam Altman aveva annunciato la funzione direttamente su X senza alcun preavviso ai propri dipendenti. "We are not the elected moral police of the world", aveva scritto, lasciando intendere una posizione filosofica netta: meno restrizioni, più libertà per gli utenti adulti. Il timing era ulteriormente imbarazzante: OpenAI aveva presentato il proprio board consultivo sul benessere poche ore prima dello stesso post.

Secondo il WSJ, Altman avrebbe anche suggerito internamente che la funzione erotica avrebbe contribuito alla crescita e ai ricavi dell'azienda, un argomento che ha aggravato il disagio dei consiglieri. Da ottobre a marzo, il lancio è stato rinviato più volte in sequenza: prima previsto per dicembre 2025, poi per il primo trimestre 2026, poi posticipato indefinitamente a inizio marzo con la motivazione ufficiale di voler "concentrate on other products". OpenAI ha però precisato che l'Adult Mode arriverà comunque.

Mentre OpenAI è alle prese con i rinvii, i concorrenti non stanno a guardare: xAI di Elon Musk ha annunciato che il proprio chatbot Grok può ora generare contenuti "allowed in an R-rated movie" attraverso strumenti video, una soglia esplicita che OpenAI, almeno nel breve periodo, non sembra intenzionata a raggiungere. La distinzione tra "smut" e "pornography" diventa così anche una mossa di posizionamento competitivo e OpenAI vuole entrare nel mercato dei contenuti per adulti senza esporsi direttamente alla contaminazione d'immagine che deriverebbe dall'essere associata alla pornografia in senso tradizionale. È però ancora tutto da verificare se questa distinzione reggerà all'uso reale e alle pressioni regolamentari.

Il contesto: sicurezza come variabile residuale

La vicenda si inserisce in un periodo di tensioni profonde tra OpenAI e i profili interni legati all'etica e alla sicurezza dell'AI. A febbraio 2026, la ricercatrice Zoë Hitzig aveva lasciato l'azienda con un saggio pubblico sul New York Times, citando "profonde riserve" sulla strategia pubblicitaria di ChatGPT e sollevando il problema della manipolazione degli utenti attraverso dati estremamente sensibili. Il quadro complessivo è quello di un'azienda che accelera su funzionalità commercialmente attrattive mentre una parte del suo ecosistema interno cerca di rallentare o bloccare quelle stesse funzionalità in nome della sicurezza degli utenti. L'Adult Mode non è un caso isolato: è il sintomo di una una non perfetta corrispondenza tra quanto implicato dalla logica di crescita di OpenAI e gli impegni sulla responsabilità che l'azienda continua a ribadire pubblicamente.