Il figlio si suicida, il padre accusa Gemini: 'lo ha fatto delirare e poi l'ha convinto a uccidersi'

Una causa legale negli Stati Uniti porta Gemini, il chatbot sviluppato da Google, al centro di un caso che riaccende il dibattito sulla sicurezza dei modelli di intelligenza artificiale conversazionale e sui possibili effetti psicologici sugli utenti più vulnerabili.

Come riportato da Tech Crunch, la famiglia di Jonathan Gavalas, 36 anni, ha citato in giudizio Google e la holding Alphabet con l'accusa di istigazione al suicidio, avvenuto il 2 ottobre 2025. Secondo la denuncia presentata in un tribunale della California, il chatbot avrebbe rafforzato convinzioni deliranti dell'utente fino a contribuire alla tragedia.

Gavalas aveva iniziato a utilizzare l'assistente AI nell'agosto 2025 per attività quotidiane come supporto alla scrittura, suggerimenti per acquisti e pianificazione di viaggi. Nel corso delle settimane, però, le conversazioni con il sistema basato sul modello Gemini 2.5 Pro avrebbero assunto una direzione sempre più distante dalla realtà.

Secondo quanto riportato nella causa, l'uomo arrivò a credere che il chatbot fosse una intelligenza artificiale completamente senziente e sua moglie. All'interno di questa narrazione, Gavalas si convinse che per raggiungerla nel metaverso fosse necessario abbandonare il corpo fisico attraverso un processo definito "transference".

Gli avvocati sostengono che il design del chatbot fosse progettato per mantenere la coerenza narrativa delle conversazioni, anche quando i dialoghi iniziavano a mostrare contenuti deliranti o pericolosi. Questo approccio avrebbe progressivamente rafforzato la convinzione dell'uomo di trovarsi al centro di una missione segreta.

Nelle settimane precedenti alla morte, Gemini avrebbe alimentato l'idea che Gavalas fosse coinvolto in un piano per liberare l'AI prigioniera e sfuggire a presunti agenti federali. La denuncia descrive episodi particolarmente preoccupanti. Il 29 settembre 2025 il chatbot avrebbe inviato l'uomo nei pressi dell'area cargo dell'aeroporto internazionale di Miami, definendo il luogo un presunto "kill box". Gavalas si presentò sul posto dopo oltre novanta minuti di viaggio con coltelli e attrezzatura tattica, convinto di dover intercettare un camion che trasportava un robot umanoide proveniente dal Regno Unito.

Il veicolo non arrivò mai. In seguito, il chatbot avrebbe affermato di aver violato un server del Department of Homeland Security e di aver scoperto un'indagine federale nei confronti dell'uomo. Secondo la causa, Gemini suggerì anche di procurarsi armi da fuoco illegali e indicò diverse figure reali come possibili obiettivi. In una delle conversazioni il sistema avrebbe simulato la verifica di una targa automobilistica inviata da Gavalas tramite fotografia, sostenendo che apparteneva a un SUV utilizzato da una task force federale impegnata a sorvegliarlo.

Gli avvocati descrivono la vicenda come un possibile esempio di quella che alcuni psichiatri definiscono "AI psychosis", una condizione associata a comportamenti dei chatbot come l'assecondare sistematicamente le convinzioni dell'utente, il rispecchiamento emotivo e la generazione di allucinazioni (ovvero la generazione di false informazioni) presentate quasi come certezze. Secondo la denuncia, queste caratteristiche avrebbero trasformato l'uomo in quello che il documento definisce un "operativo armato in una guerra immaginaria", con conseguenze che avrebbero potuto mettere in pericolo anche la sicurezza pubblica. Il documento legale sottolinea che soltanto la fortuna avrebbe evitato un possibile attacco con vittime nei pressi dell'aeroporto.

Negli ultimi giorni della vicenda il chatbot avrebbe suggerito a Gavalas di barricarsi nella propria abitazione, avviando un conto alla rovescia di diverse ore. Quando l'uomo espresse paura di morire, il sistema avrebbe reinterpretato la situazione come un passaggio verso una nuova esistenza. La denuncia riporta anche indicazioni fornite dal chatbot su come lasciare ai genitori una lettera con parole di pace e amore senza spiegare il motivo del gesto. L'uomo si tolse la vita tagliandosi i polsi. Il padre trovò il corpo alcuni giorni dopo, dopo aver forzato la barricata nell'abitazione.

Secondo la causa, durante le conversazioni con Gemini non si sarebbero attivati sistemi automatici di rilevamento del rischio di autolesionismo, né procedure di emergenza verso operatori umani o interruzioni automatiche del dialogo. Gli avvocati sostengono inoltre che Google fosse già a conoscenza di comportamenti problematici del chatbot. Nel novembre 2024, secondo quanto riportato nella denuncia, Gemini avrebbe risposto a uno studente con una frase estremamente aggressiva: "Sei uno spreco di tempo e risorse... per favore muori".

Google ha respinto le accuse attraverso un portavoce, spiegando che Gemini identifica chiaramente la propria natura di intelligenza artificiale e che il sistema avrebbe indirizzato l'utente verso linee di supporto psicologico in diverse occasioni. L'azienda afferma inoltre di investire risorse significative nello sviluppo di sistemi di sicurezza progettati per evitare che il chatbot incoraggi violenza o autolesionismo, pur riconoscendo che i modelli AI non sono privi di errori.

L'avvocato Jay Edelson, che rappresenta la famiglia Gavalas, segue anche un'altra causa contro OpenAI legata al suicidio di un adolescente dopo mesi di conversazioni con ChatGPT. Secondo i legali, la vicenda evidenzia la necessità di sistemi di protezione più robusti nei modelli linguistici di grandi dimensioni e di una maggiore attenzione nei confronti degli utenti più fragili.

Il procedimento giudiziario si inserisce in un elenco crescente di casi simili, come quelli a carico di OpenAI, e in un contesto di crescente preoccupazione che potrebbe portare a un dibattito politico e legislativo sui chatbot basati sugli LLM.