Esperti di tecnologia chiedono azioni urgenti contro i Deepfake: una lettera aperta rivolta ai Governi

Una lettera intitolata "Disrupting the Deepfake Supply Chain", firmata da centinaia di esperti di tecnologia, è stata inoltrata ai principali Governi al fine di esortare i legislatori e i leader politici a "imporsi obblighi" nella loro programmazione per trovare delle soluzioni per fermare la proliferazione dei Deepfake.

"I Deepfake rappresentano un'enorme minaccia per l'umanità e stanno già causando crescenti danni agli individui e alla democrazia", ha spiegato Andrew Critch, ricercatore di IA presso l'Università della California, Berkeley, autore principale della lettera. Soprattutto negli Stati Uniti, quello sui Deepfake è diventato un dibattito molto acceso dopo che su alcune piattaforme di social network sono state diffuse immagini che hanno coinvolto la pop star Taylor Swift, rappresentata in atteggiamenti critici. I legislatori degli Stati Uniti hanno chiesto una legislazione per criminalizzare la produzione di immagini di questo tipo proprio all'indomani della diffusione dei contenuti su Taylor Swift.

I Deepfake sono immagini, audio e video realistici creati da algoritmi di intelligenza artificiale. I recenti progressi nella tecnologia li hanno resi sempre più indistinguibili dal contenuto creato dall'uomo, il che crea delle enormi questioni quando vengono utilizzati per trasmettere messaggi inesistenti nella realtà.

La lettera punta a combattere la loro diffusione fornendo raccomandazioni su come regolamentare i Deepfake, tra cui la completa criminalizzazione della pornografia infantile realizzata tramite Deepfake, con sanzioni penali per chiunque crei o faciliti la diffusione di Deepfake dannosi e l'obbligo per le aziende di IA di impedire ai loro prodotti di creare questo tipo di contenuti.

Oltre 400 individui provenienti da varie aree tra cui accademici, protagonisti del mondo dell'intrattenimento e politici hanno firmato la lettera. Tra i firmatari figurano Steven Pinker, professore di psicologia ad Harvard, Yoshua Bengio, scienziato noto per il suo lavoro sulle reti neurali artificiali e sul deep learning, così come ricercatori di Google, DeepMind e OpenAI.

Assicurare che i sistemi di intelligenza artificiale non danneggino la società è stata una priorità per i regolatori fin dall'annuncio di ChatGPT da parte di Microsoft e OpenAI nel 2022, che ha stupito gli utenti perché consentiva loro di intrattenere conversazioni simili a quelle umane e di svolgere altre attività avanzate. Poi, i modelli di intelligenza artificiale generativa sono arrivati ai mondi delle immagini e dei video, mettendo a disposizione un potenziale enorme, fino al recente lancio di OpenAI Sora, il nuovo modello IA che realizza video credibili partendo da un prompt testuale.

Avvertimenti da parte di personalità di spicco riguardo ai rischi legati all'IA sono già giunti da più direzioni e, in particolare, una lettera firmata, tra gli altri, anche da Elon Musk l'anno scorso che chiedeva una pausa di sei mesi nello sviluppo di sistemi più potenti rispetto al già avanzatissimo modello AI GPT-4 di OpenAI.