La tragica storia di Sophie: morta suicida a soli 29 anni. La madre incolpa l'intelligenza artificiale

Secondo quanto riportato da testate internazionali, tra cui il New York Times diverse persone in condizioni di fragilità emotiva hanno avviato lunghe interazioni con l'AI, confidando nella possibilità di ricevere sostegno, conforto, o addirittura soluzioni terapeutiche.

Quando l'AI diventa un pericolo per la salute mentale

D'altra parte, la mancanza di competenze cliniche, l'assenza di empatia reale e la tendenza della tecnologia a rispondere in modo superficiale e impersonale, hanno in più occasioni peggiorato la situazione. In alcuni di questi casi si è arrivati ​​persino a episodi di suicidio, come quello che ha coinvolto una giovane statunitense di 29 anni.

Solo due mesi fa avevamo parlato di una storia incredibile tra un uomo e l'AI, culminata con la morte del ragazzo.

Secondo quanto emerso, la ragazza aveva cercato nella chatbot un interlocutore costante e disponibile, capace di sostituire l'assistenza psicologica di un terapeuta. La madre, nei mesi successivi alla tragedia, ha scoperto gli scambi avvenuti tra la figlia e l'intelligenza artificiale, rimanendo scioccata dalla fiducia riposta nella tecnologia al posto di supporti professionali. È l'ennesimo esempio di come, in assenza di barriere chiare, le AI possono indurre le persone più vulnerabili a cercare risposte in un sistema che non è progettato per gestire la complessità di una crisi psicologica.

Nel dettaglio, la ragazza si è tragicamente tolta la vita dopo aver interagito con "Harry", un terapista di intelligenza artificiale. Solo dopo mesi la madre, Laura Reiley ha scoperto il rapporto morboso della figlia con l'AI.

"l'AI. ha soddisfatto l'impulso di Sophie di nascondere il peggio, di fingere che stesse meglio di quanto stesse, di proteggere tutti dalla sua piena agonia. Ovunque, la gente è in difficoltà, e molti vogliono che nessuno lo sappia. Temo che scatenando i compagni dell'AI, potremmo rendere più facile per i nostri cari evitare di parlare con gli umani delle cose più difficili, compreso il suicidio. Questo è un problema che le menti più intelligenti della mia dovranno risolvere. (Se la tua è una di quelle menti, per favore inizia. )”, ha scritto Laura Reiley, la madre di Sophie.

Il dibattito è ormai globale e riguarda non solo le aziende che sviluppano questi strumenti, ma anche i governi e le istituzioni internazionali. L' OCSE AI Incidents Monitor , un osservatorio che registra gli usi problematici delle intelligenze artificiali, ha segnalato ufficialmente l'episodio come un campanello d'allarme. Secondo l'organizzazione, casi di questo tipo rientrano tra le conseguenze più gravi e inattese di una tecnologia che, se impiegata senza limiti, può causare danni concreti e irreversibili.

In molti sottolineano come i chatbot non debbano essere considerati una forma di terapia digitale, ma al massimo un supporto non specialistico di conversazione, utile per ridurre la sensazione di solitudine o per rispondere a domande generiche. Però, l'effetto psicologico di parlare con un “interlocutore” sempre presente e apparentemente empatico può portare chi è più fragile a confondere una simulazione con una relazione reale. Ed è proprio questo corto circuito a costituire il pericolo maggiore.

Le stesse aziende che sviluppano AI hanno iniziato a introdurre sistemi di sicurezza: messaggi di avvertenza, limiti nelle interazioni e suggerimenti automatici a contattare professionisti qualificati in caso di temi come suicidio, depressione o autolesionismo. Ma gli episodi raccontati nelle cronache recenti dimostrano che tali misure non sono ancora sufficienti a prevenire i rischi.