Dai suicidi ai nuovi limiti: Character.AI rivoluziona la piattaforma per salvare i giovani utenti

Character.AI, la startup specializzata in intelligenza artificiale conversazionale, ha annunciato una drastica decisione: interrompere tutte le chat aperte con utenti sotto i 18 anni. La scelta arriva dopo gravi episodi che hanno coinvolto adolescenti e chatbot della piattaforma, tra cui due casi di suicidio successivi a lunghe interazioni con le intelligenze artificiali.

Il CEO Karandeep Anand ha spiegato a TechCrunch che la misura nasce dall'urgenza di proteggere i giovani e riallineare la piattaforma alla sua missione originaria. A partire dal 25 novembre, Character.AI introdurrà un limite progressivo di utilizzo per i minori, fino al blocco totale delle chat aperte. Al loro posto, i giovani utenti potranno accedere a esperienze creative e interattive basate su storie, giochi e contenuti visivi generati dall'AI.

Anand ha sottolineato che l'obiettivo è trasformare Character.AI da "compagno virtuale" a piattaforma di role-playing e storytelling, dove l'AI diventa strumento di creazione, non di compagnia. "Le conversazioni aperte" ha detto "non sono solo rischiose per i minori, ma anche lontane dalla nostra visione di AI responsabile".

Character.AI introdurrà un sistema avanzato di verifica dell'età per mettere in atto il divieto ai minori

Per applicare efficacemente il divieto, la società introdurrà un sistema avanzato di verifica dell'età, combinando analisi comportamentale interna, strumenti di terze parti come Persona, e in casi estremi riconoscimento facciale e controllo dei documenti.

Negli ultimi mesi, Character.AI aveva già introdotto misure di sicurezza: filtri sui contenuti, limitazioni alle conversazioni romantiche, notifiche sul tempo d'uso e strumenti per i genitori. Tuttavia, la decisione di eliminare completamente le chat per minori rappresenta un punto di svolta, che probabilmente ridurrà la base utenti più giovane.

Parallelamente, la piattaforma continuerà a evolversi con funzioni come AvatarFX, per trasformare immagini in video animati; Scenes, storie interattive con i propri personaggi preferiti; Streams, che consente dialoghi tra più personaggi AI; e Community Feed, dove condividere creazioni e contenuti. In risposta alle polemiche, Character.AI ha anche annunciato la creazione dell'AI Safety Lab, un'organizzazione indipendente dedicata a sviluppare standard di sicurezza per l'intelligenza artificiale nel settore dell'intrattenimento.