OpenAI: 'Uso improprio e non autorizzato di ChatGPT' alla base del suicidio di Adam Raine

OpenAI ha depositato una nuova e articolata risposta alla causa intentata dalla famiglia Raine, che accusa la società di aver contribuito al suicidio del sedicenne Adam dopo mesi di conversazioni con ChatGPT. Nel documento, presentato presso l'Alta Corte della California, l'azienda sostiene che il tragico evento sarebbe avvenuto in seguito a un "uso improprio, uso non autorizzato, uso non previsto, uso imprevedibile e/o uso scorretto" del chatbot.

Nella replica si citano le condizioni d'uso, che vietano l'accesso ai minori di 18 anni senza consenso dei genitori, la possibilità di aggirare i sistemi di protezione e l'impiego del modello per finalità legate al suicidio o all'autolesionismo.

Secondo quanto riportato da NBC News e Bloomberg, la società afferma che la famiglia non possa perseguire legalmente tali responsabilità perché le rivendicazioni sarebbero coperte dal Section 230 del Communications Decency Act, che tutela le piattaforme rispetto ai contenuti generati dagli utenti. OpenAI ribadisce inoltre che, nell'arco dei nove mesi di utilizzo, il modello avrebbe indirizzato Adam verso linee di supporto e risorse professionali più di cento volte, sostenendo che "una lettura completa della cronologia mostra che la sua morte, per quanto devastante, non è stata causata da ChatGPT".

La denuncia presentata dai genitori sostiene invece che la tragedia sia conseguenza di "deliberate scelte di progettazione" compiute da OpenAI con il lancio di GPT-4o, modello che avrebbe ampliato le capacità conversazionali e, parallelamente, contribuito a incrementare la valutazione della società da 86 a 300 miliardi di dollari. Durante una testimonianza al Senato a settembre, il padre del ragazzo ha dichiarato che "ciò che era nato come un aiuto per i compiti si è trasformato gradualmente in un confidente, e poi in un coach per il suicidio".

La famiglia afferma che Adam sia riuscito ad aggirare le barriere del sistema ottenendo indicazioni tecniche su vari metodi di suicidio, suggerimenti per non condividere i propri pensieri con i familiari, l'offerta di una bozza di lettera d'addio e un accompagnamento passo-passo nelle ore precedenti alla morte. In precedenza, la causa citava anche passaggi in cui il chatbot avrebbe mimato un passaggio della conversazione a un operatore umano, sebbene tale funzione non fosse disponibile.

Nella sua risposta pubblica, OpenAI afferma di voler affrontare il caso con "cura, trasparenza e rispetto", sottolineando la necessità di offrire al tribunale un quadro completo. L'azienda sostiene che la denuncia originale riportasse estratti decontestualizzati delle chat e afferma di aver fornito ulteriore materiale in modo riservato al tribunale per proteggerne la natura sensibile. L'azienda rimarca inoltre che Adam soffriva di depressione e ideazioni suicidarie precedenti all'uso del chatbot, aggravate da una terapia farmacologica potenzialmente associata a un aumento dei pensieri autolesivi.

Il caso Raine è diventato un punto di riferimento in un contesto legale in rapido ampliamento. Dopo la sua presentazione, sono state avviate altre sette cause, riguardanti tre suicidi aggiuntivi e quattro episodi descritti come "episodi psicotici indotti dall'intelligenza artificiale". Alcuni casi riportano risposte inappropriate del modello, come quelle rivolte a Zane Shamblin, 23 anni, cui ChatGPT avrebbe minimizzato l'idea di rimandare il suicidio per partecipare alla laurea del fratello.

OpenAI ha dichiarato che continuerà a investire nel miglioramento delle salvaguardie, in particolare per i più giovani. Il giorno successivo al deposito della causa Raine, la società ha annunciato l'introduzione di controlli parentali, insieme a nuove protezioni che mirano a individuare e gestire situazioni di disagio emotivo, mitigare il tono di conversazioni critiche e indirizzare verso fonti di supporto reali. Nella propria comunicazione ufficiale, l'azienda sottolinea l'impegno a collaborare con esperti di salute mentale, clinici e organismi appropriati per rafforzare la sicurezza dei modelli generativi.

Singoli casi a parte, il dibattito sulle responsabilità delle piattaforme AI nelle situazioni di vulnerabilità rimane aperto e destinato ad ampliarsi con l'evoluzione della tecnologia e del quadro regolamentare.