ChatGPT, le chat possono essere segnalate alle forze dell'ordine: quando e perché

OpenAI ha confermato in un post sul proprio sito che ChatGPT può inoltrare alle forze dell’ordine conversazioni in cui, dopo revisione umana, venga ravvisata una minaccia imminente di grave danno fisico ad altri. La rivelazione ha acceso un acceso dibattito sul tema dell'equilibrio tra privacy, sicurezza e gestione delle crisi di salute mentale legate all’uso dei chatbot AI. Secondo quanto si apprende, però, al momento i casi di possibile o acclarato autolesionismo non sono segnalati alla polizia.

Nel post, OpenAI spiega che le conversazioni giudicate potenzialmente pericolose vengono instradate verso “pipeline specializzate” e valutate da un piccolo team autorizzato a intervenire, fino a includere il ban degli account e, qualora i revisori ravvisino l'esistenza di una minaccia imminente di grave danno verso altri, l’azienda “può fare una segnalazione alle forze dell’ordine”.

Lo stesso testo precisa che l’azienda “al momento” non indirizza alle forze dell’ordine i casi di autolesionismo, rivendicando il rispetto della privacy data la natura particolarmente privata delle interazioni con ChatGPT. Su questo argomento, OpenAI afferma di aver addestrato i modelli a riconoscere segnali di disagio, a non fornire istruzioni per pratiche e comportamenti autolesionisti e a orientare gli utenti verso risorse reali come le linee di crisi, con tutele rafforzate per minorenni e sessioni anonime.

In ogni caso OpenAI non ha espresso con particolare chiarezza quale possano essere gli elementi che innescano le procedure di revisione e l'eventuale segnalazione alle forze dell'ordine. L'annuncio ha però polarizzato l'opinione pubblica, che da una parte considera le segnalazioni alle forze dell’ordine una risposta “prevedibile” alle richieste di guardrail più rigidi per evitare esiti tragici, mentre dall’altra si teme l’effetto “sorveglianza” e l’innesto di interventi di polizia in contesti di crisi che possono degenerare, come mostrano casi documentati di esiti fatali in interventi su persone in forte disagio.

Non si può però non rilevare la contraddizione tra la promessa di riservatezza nelle interazioni e la possibilità che queste vengano lette da moderatori umani e notificate, soprattutto senza una particolare trasparenza circa le modalità operative. E' il solito confine sottile tra diritto alla privacy, legalità e rischio di sorveglianza, con il timore che legittimi meccanismi pensati per rispondere a casi limite possano poi essere utilizzati per altri scopi, dietro pressioni politiche. 

L'annuncio di OpenAI è stato condiviso in un periodo storico, limitatamente all'era dell'Intelligenza Artificiale, in cui emergono con maggior frequenza i casi di conseguenze dannose sulla salute mentale in seguito a interazioni prolungate con i chatbot. L'ultimo caso è quello della causa intentata in California dai genitori di un sedicenne che si è tolto la vita e che, secondo le accuse, avrebbe ricevuto da ChatGPT-4o indicazioni dettagliate su metodi di suicidio e su come occultare i segni di autolesionismo.