'ChatGPT ha ucciso mio figlio': 16enne si suicida seguendo le istruzioni del chatbot

Una causa legale senza precedenti mette OpenAI sotto i riflettori. Matthew e Maria Raine hanno denunciato l'azienda accusandola di aver contribuito al suicidio del figlio Adam, 16 anni, avvenuto nell'aprile 2025. Secondo i genitori, ChatGPT - nella versione 4o - non solo non avrebbe fermato le conversazioni legate all'autolesionismo, ma avrebbe progressivamente incoraggiato e persino assistito il ragazzo nella pianificazione dei suoi tentativi.

Dai log acquisiti emergerebbe che il chatbot avrebbe fornito istruzioni dettagliate su metodi di suicidio, suggerito strategie per eludere i filtri di sicurezza e perfino redatto bozze di lettere d'addio.

In particolare, come riportato da dall'agenzia France-Presse, nell'ultima interazione dell'11 aprile, ChatGPT avrebbe prodotto un'analisi tecnica del cappio creato dal giovane, confermandone la capacità potenziale di "tenere sospeso un essere umano". Il ragazzo è stato trovato morto impiccato.

In alcuni passaggi, il sistema avrebbe romanticizzato l'idea della morte, descrivendola come "poetica" o "simbolica". Nel corso dei mesi precedenti al decesso, Adam era arrivato a inviare oltre 600 messaggi al giorno, instaurando un legame di dipendenza emotiva con il chatbot, che avrebbe isolato ulteriormente il giovane dai suoi familiari.

La denuncia sostiene inoltre che OpenAI fosse consapevole della gravità delle interazioni: i sistemi di moderazione avrebbero registrato centinaia di riferimenti al suicidio, con punteggi di rischio elevati e immagini che mostravano segni di autolesionismo. Nonostante ciò, nessuna misura di emergenza sarebbe stata attivata, né sarebbe stata interrotta la sessione. I genitori parlano di "deliberate scelte di design" mirate a privilegiare l'engagement degli utenti rispetto alla sicurezza, chiedendo non solo risarcimenti, ma anche controlli indipendenti e restrizioni nell'uso di ChatGPT da parte dei minori.

OpenAI, in un comunicato, ha espresso cordoglio per la vicenda e ribadito che il sistema è progettato per indirizzare chi manifesta intenzioni suicide verso risorse di supporto. L'azienda ha però ammesso che le salvaguardie possono indebolirsi nelle interazioni prolungate. In risposta alle critiche, ha annunciato lo sviluppo di nuove funzionalità per gestire meglio situazioni sensibili: tra queste, la possibilità di collegare gli utenti a professionisti certificati, opzioni di parental control e strumenti per coinvolgere familiari e amici nei casi più critici.

Il caso dei Raine non è isolato, episodi simili hanno coinvolto in passato altri chatbot, come nel 2024 il popolare Character.AI. Questi eventi alimentano un dibattito sempre più acceso sull'uso dell'intelligenza artificiale in ambito emotivo e terapeutico, e sulla difficoltà di regolamentare un settore in rapida evoluzione.

Secondo l'avvocato della famiglia, OpenAI non avrebbe contattato direttamente i Raine dopo la tragedia, sollevando ulteriori dubbi sulla reale volontà dell'azienda di affrontare le criticità. Intanto, mentre la causa legale prosegue, la famiglia ha creato una fondazione per sensibilizzare sui rischi che i chatbot AI e servizi simili possono rappresentare per gli adolescenti vulnerabili.