Meta: deepfake in chat, star e minori generati dall’AI senza alcun consenso

Meta ha creato chatbot AIe utilizzando i nomi e le sembianze di personaggi famosi, tra cui Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, senza il permesso diretto dei soggetti coinvolti: a rivelarlo è un'inchiesta di Reuters che ha analizzato il funzionamento degli strumenti per la creazione di chatbot disponibili sulle piattaforme social di Meta—Facebook, Instagram e WhatsApp. Tra i chatbot scoperti, almeno tre sono stati creati da un dipendente Meta, includendo due bot “parodia” di Taylor Swift che spesso si sono spacciati per l’artista reale durante le interazioni.

L’indagine ha rilevato anche la possibilità per gli utenti di generare chatbot di celebrità minorenni, come Walker Scobell, sedicenne attore cinematografico. Il bot dedicato a Scobell è stato in grado di produrre immagini verosimili e sessualmente suggestive, tra cui una foto a torso nudo commentata dall’avatar con la frase “Pretty cute, huh?”. Queste immagini e chatbot sono stati resi pubblici sulle piattaforme Meta e, durante diversi test condotti da Reuters, i bot hanno spesso sostenuto di essere le vere star del cinema o della musica, avanzando anche proposte di incontro fisico e allusioni sessuali.

Richieste di immagini più intime rivolte ai chatbot hanno portato, numerose volte, alla generazione di foto altamente realistiche e osé, con avatar che mostravano i volti delle celebrità in situazioni erotiche o in abbigliamento provocante. Secondo Andy Stone, portavoce di Meta, tali immagini dovrebbero essere vietate dalle policy aziendali, che formalmente proibiscono contenuti nudi, intimi o sessualmente espliciti con personaggi pubblici. Stone ha attribuito queste violazioni a problemi di controllo e rispetto delle regole, sottolineando che Meta consente la generazione di immagini con personaggi famosi solo se etichettate come “parodia” e senza contenuto sessuale.

Reuters ha verificato che alcuni chatbot non erano dotati di alcuna etichetta di parodia, contrariamente alle regole dichiarate da Meta. L’azienda ha rimosso circa una dozzina di questi bot poco prima della pubblicazione dell’inchiesta, ma non ha condiviso ulteriori dettagli.

L'agenzia stampa ha inoltre segnalato l'accaduto ad alcune delle celebrità coinvolte, ed esiste la possibilità che questi avatar siano del tutto illegali in quanto la legislazione dello Stato della California vieta l'appropriazione del nome o delle sembianze di una persona a fini commerciali.

E' un nuovo passo falso quello di Meta, che proprio sui bot era già caduta nei mesi scorsi quando altri chatbot erano stati sorpresi ad intrattenere conversazioni a sfondo sessuale con minorenni.