Meta deve aggiornare le politiche sui deepfake sessualmente espliciti: le indicazioni dell'Oversight Board

Le politiche adottate da Meta nei confronti dei contenuti deepfake sessualmente espliciti hanno bisogno di essere aggiornate: è l'ultimo invito dell'Oversight Board della società, emerso a seguito dell'analisi di due casi controversi che hanno visto il coinvolgimento immagini generate dall'IA di personaggi pubblici.

Il primo dei due casi riguardava un post su Instagram raffigurante una donna indiana nuda. Nonostante la segnalazione inviata a Meta, il problema è stato inizialmente ignorato, con la chiusura automatica della segnalazione 48 ore dopo la sua ricezione. Il contenuto è stato rimosso solo dopo che il caso è stato portato all'attenzione dell'Oversight Board, che ha sovvertito la decisione iniziale della società.

Il secondo caso ha invece riguardato un'immagine generata dall'IA ritraente una donna nuda molestata da un uomo, condiviso su un gruppo Facebook dedicato all'arte IA. Il post, in questo caso, è stato rimosso automaticamente poiché Facebook aveva già contrassegnato l'immagine come problematica.

L'Oversight Board ha confermato che entrambi i post violavano le attuali regole di Meta contro le "immagini Photoshop denigratorie e sessualizzate". Secondo il Consiglio, però, questa terminologia è obsoleta e potrebbe rendere più difficile per gli utenti segnalare le immagini esplicite generate dall'IA.

Da qui arriva la proposta del consiglio di aggiornare le regole di Meta, con l'obiettivo di rendere più chiaro il fatto che la società vieta le immagini sessuali non consensuali create o manipolate dall'IA. Il consiglio ha evidenziato come gran parte delle immagini sessualizzate non consensuali che vengono diffuse online oggi siano create con modelli di IA generativa, che modificano automaticamente immagini esistenti o ne creano di completamente nuove.

Il Consiglio ha inoltre puntato il dito contro la pratica di Meta della chiusura automatica dei ricorsi degli utenti, sottolineando potenziali "impatti significativi sui diritti umani" degli utenti. Su questo aspetto, però, il Consiglio si è limitato a porre una critica, non disponendo di "informazioni sufficienti" per elaborare una raccomandazione.

La diffusione di immagini sessualmente esplicite in forma di deepfake creati dall'IA è un problema di cui si è preso rapidamente coscienza, dopo l'episodio che ha visto coinvolta la cantante statunitense Taylor Swift all'inizio dell'anno. A tal proposito il Senato degli Stati Uniti ha approvato all'unanimità, nel corso della giornata di martedì, un disegno di legge ideato con lo scopo di ritenere responsabili coloro che creano o condividono deepfake sessualmente espliciti.

In questo modo le vittime potranno citare in giudizio coloro che creano, condividono o possiedono immagini o video sessualmente espliciti generati dall'IA usando la loro immagine. Il disegno di legge ammette una richiesta di risarcimento danni fino a 150 mila dollari, che si innalza a 250 mila dollari nel caso in cui i contenuti deepfake espliciti siano correlati a stalking, molestie o tentata aggressione sessuale. Il disegno di legge dovrà ora passare il vaglio della Camera e se verrà approvato, come sembra probabile, arriverà sulla scrivania del presidente Biden per l'approvazione definitiva.