Il Garante privacy italiano multa Character.AI e impone nuove misure per proteggere gli utenti minorenni

Il Garante per la protezione dei dati personali ha deciso di sanzionare Character Technologies Inc., società statunitense che gestisce il servizio di intelligenza artificiale generativa Character.AI. La multa stabilita dall'autorità italiana ammonta a 158.000€ e riguarda diverse violazioni legate al trattamento dei dati personali degli utenti.

Character.AI permette di creare e utilizzare tramite chat personaggi virtuali basati sull'intelligenza artificiale, offrendo un'esperienza accessibile anche agli utenti minorenni. Proprio la presenza di giovani tra gli utilizzatori ha portato il Garante a esaminare con particolare attenzione i sistemi di tutela e le procedure adottate dalla piattaforma.

L'istruttoria, avviata direttamente dall'Autorità, ha evidenziato alcune problematiche nel rispetto della normativa sulla privacy. Tra gli aspetti contestati figurano informazioni fornite agli utenti considerate insufficienti, il ritardo nella realizzazione della valutazione d'impatto sulla protezione dei dati personali e la successiva designazione del rappresentante della società nell'Unione Europea.

Le criticità individuate dal Garante della Privacy italiano in Character.AI

Il Garante ha inoltre individuato criticità specifiche riguardanti la protezione dei minorenni e il funzionamento dei meccanismi utilizzati per verificare l'età degli iscritti. Secondo l'autorità, l'utilizzo dell'intelligenza artificiale generativa in un servizio di intrattenimento frequentato anche da giovani utenti comporta rischi che richiedono adeguate misure preventive.

Durante il procedimento, Character Technologies aveva già introdotto alcuni cambiamenti. Il Garante ha riconosciuto gli interventi effettuati dalla società, ma ha comunque stabilito ulteriori obblighi per aumentare il livello di sicurezza della piattaforma.

Tra le richieste principali, l'azienda dovrà assicurare che i sistemi di verifica dell'età funzionino correttamente, impedire ai minori già bloccati di creare rapidamente nuovi account attraverso un periodo di attesa obbligatorio e attivare automaticamente impostazioni di privacy più restrittive per i profili degli utenti minorenni. Character Technologies dovrà comunicare al Garante le misure adottate entro 120 giorni dalla ricezione del provvedimento.