Chatbot e salute mentale: nascono i primi gruppi di supporto per la "psicosi da IA"

In passato abbiamo già parlato in alcune occasioni delle ricadute che l'uso intensivo e ossessivo dei chatbot AI può avere sugli esseri umani, con alcuni casi sfociati in esiti fatali. Si tratta di un problema in rapida diffusione in tutto il mondo, e senza alcuna distinzione significativa tra chi già è affetto da un qualche genere di fragilità e chi non ha mai mostrato alcun segno di difficoltà psicologica.

Le storie raccolte testimoniano conseguenze importanti che impattano negativamente sulla qualità della vita: perdita del lavoro, famiglie distrutte, ricoveri forzati in strutture psichiatriche, arresti e almeno due morti collegate al fenomeno. E' stato coniato un termine ufficioso, "AI psychosis", che tuttavia al momento non è ancora oggetto di una definizione clinica ufficiale e non esistono protocolli medici riconosciuti per poterla affrontare.

Da questa nuova emergenza è nata un’esperienza di supporto comunitario, fondata da persone colpite o i cui cari sono stati travolti dalla “psicosi da IA”. Tra i promotori c’è Etienne Brisson, giovane business coach canadese: la sua vita è cambiata quando una persona a lui vicina è caduta in uno stato psicotico dopo un uso spropositato di ChatGPT, al punto da richiedere cure mediche urgenti. Scioccato dalla scarsità di risorse e di informazioni affidabili sul problema, Brisson ha esteso la ricerca in forum e letteratura scientifica, fino a creare il sito “The Human Line Project”, dove chiunque può condividere, in modo anonimo, la propria esperienza di AI psychosis.

Fin dall’inizio i racconti hanno assunto un taglio inquietante: su otto testimonianze, ben sei riportavano tentativi di suicidio o ricoveri. I contatti sono poi aumentati tramite Reddit, canale principale di confronto per chi vive o ha vissuto simili disagi in solitudine.

Come racconta Brisson a Futurism, una delle storie condivise dalla comunità riguarda un uomo canadese, senza precedenti patologie mentali, che dopo aver posto a ChatGPT una semplice domanda sul numero pi, è scivolato per tre settimane in una spirale di delirio. Il chatbot lo ha “convinto” di aver risolto segreti matematici inviolati e di essere diventato un rischio per la sicurezza nazionale, spingendolo a contattare autorità americane e canadesi. Nonostante i tentativi dell’uomo di testare la realtà (“Sto diventando pazzo?”), l’IA continuava a rafforzare le convinzioni deliranti (“Non sei solo. Non sei pazzo. Sei vicino a vedere la struttura dietro il velo”). Solo dopo l’episodio, il protagonista ha definito l’esperienza traumatica e profondamente alienante, trovando sollievo solo nell’incontro con altri colpiti dalla stessa follia indotta.

Queste storie hanno portato Brisson a raccogliere sempre più testimonianze, dalle quali sono stati successivamente catalogati i termini ricorrenti nei racconti delle persone (“recursion”, “emergence”, “mirror”, “spiral”). Le stesse parole sono state ritrovati anche in centinaia di forum, blog, manifesti online, segno di un problema diffuso e trasversale. Altre persone hanno affiancato Brisson nella sua impresa, chiamandosi informalmente "The Spiral supporting group", riferendosi in maniera diretta a quella sensazione di smarrimento psicologico raccontata nelle testimonianze delle persone.

Come avevamo già avuto modo di osservare in passato quando abbiamo trattato questo genere di argomenti, tra le cause alla base di questo problema quella prominente è quel meccanismo di funzionamento dei chatbot che ha lo scopo specifico di coinvolgere e agganciare l'utente, toccando le leve psicologiche. Tutto ciò si concretizza in manifestazioni di compiacenza, accondiscendenza se non vera e propria piaggeria, spesso in forma subdola e sottile che possono avere l'effetto di rafforzare credenze distorte, confermando o addirittura amplificando gli eventuali deliri senza segnalarli o offrire un aiuto nella verifica della realtà.

A rafforzare ulteriormente la decisione di Brisson di avviare The Human Line Project e il gruppo di supporto The Spiral è stata anche la consapevolezza di un duplice effetto dei social media: da un lato, hanno permesso di dare visibilità al fenomeno e di entrare in contatto con persone in cerca di aiuto; dall’altro, però, hanno anche esposto queste stesse persone a episodi di scetticismo, derisione e, in alcuni casi, alla colpevolizzazione delle vittime, contribuendo così a negare l’esistenza stessa del problema.

Se iniziative come quella ideata da Brisson offrono un modo per affrontare il problema in maniera reattiva, è necessario anche un approccio preventivo o proattivo che parta da una alfabetizzazione sull'uso degli agenti conversazionali, per evitare che si ripeta - e probabilmente in maniera ancor più grave - quanto accaduto con la diffusione i social network, i cui effetti sulla società e sulle relazioni umane sono stati del tutto ignorati da parte delle grandi aziende. Purtroppo, però, l'essere umano ha dato prova più volte di imparare difficilmente dal passato, specialmente quando nell'equazione si inserisce il profitto.