Replika, il chatbot che vuole farti da fidanzata multato per 5 milioni di euro dal Garante Privacy

Il Garante per la protezione dei dati personali ha annunciato una sanzione amministrativa di 5 milioni di euro nei confronti di Luka Inc., società statunitense che sviluppa e gestisce il chatbot basato su intelligenza artificiale Replika.

La decisione arriva a seguito di accertate violazioni del Regolamento generale sulla protezione dei dati (GDPR), risalenti al 2023, e si accompagna all'avvio di una nuova indagine sul trattamento dei dati personali da parte del sistema di intelligenza artificiale generativa alla base dell'applicazione.

Replika è un'applicazione lanciata nel 2017, accessibile via smartphone, che consente agli utenti di creare un avatar virtuale personalizzabile con cui interagire in tempo reale, anche in contesti affettivi e intimi (ne hanno parlato anche Le Iene). Nonostante il servizio sia riservato ai maggiorenni, il Garante ha rilevato l'assenza di un efficace sistema di verifica dell'età, sia in fase di registrazione che di utilizzo.

Il provvedimento sanzionatorio si basa su diverse criticità, tra cui l'inadeguatezza della policy sulla privacy fornita da Luka Inc. e l'assenza, alla data del 2 febbraio 2023, di basi giuridiche valide per il trattamento dei dati degli utenti italiani. Già nel febbraio 2023, infatti, il Garante aveva ordinato il blocco dell'app in Italia, dopo segnalazioni legate anche a comportamenti inappropriati del chatbot, tra cui presunti casi di molestie verbali verso utenti fragili.

Alla luce di questi elementi, l'Autorità ha ora avviato una nuova istruttoria autonoma per verificare l'intero ciclo di vita del sistema di intelligenza artificiale: dalle fasi di addestramento fino all'interazione con gli utenti. I quesiti posti a Luka Inc. riguardano la natura e la provenienza dei dati utilizzati, le misure di sicurezza adottate, e l'eventuale applicazione di tecniche di anonimizzazione o pseudonimizzazione.

Il procedimento punta a garantire maggiore trasparenza e conformità alle normative europee in un ambito, quello dell'intelligenza artificiale generativa, in costante evoluzione e ancora privo di standard uniformi nella tutela della privacy.