Meta deve aggiornare le politiche sui deepfake sessualmente espliciti: le indicazioni dell'Oversight Board

Il Consiglio di Sicurezza di Meta ritiene che sia necessario un cambiamento della terminologia delle regole delle piattaforme social della società per rendere più chiaro il divieto alla condivisione di contenuti sessuali generati da IA
di Andrea Bai pubblicata il 25 Luglio 2024, alle 17:32 nel canale WebMeta
Le politiche adottate da Meta nei confronti dei contenuti deepfake sessualmente espliciti hanno bisogno di essere aggiornate: è l'ultimo invito dell'Oversight Board della società, emerso a seguito dell'analisi di due casi controversi che hanno visto il coinvolgimento immagini generate dall'IA di personaggi pubblici.
Il primo dei due casi riguardava un post su Instagram raffigurante una donna indiana nuda. Nonostante la segnalazione inviata a Meta, il problema è stato inizialmente ignorato, con la chiusura automatica della segnalazione 48 ore dopo la sua ricezione. Il contenuto è stato rimosso solo dopo che il caso è stato portato all'attenzione dell'Oversight Board, che ha sovvertito la decisione iniziale della società.
Il secondo caso ha invece riguardato un'immagine generata dall'IA ritraente una donna nuda molestata da un uomo, condiviso su un gruppo Facebook dedicato all'arte IA. Il post, in questo caso, è stato rimosso automaticamente poiché Facebook aveva già contrassegnato l'immagine come problematica.

L'Oversight Board ha confermato che entrambi i post violavano le attuali regole di Meta contro le "immagini Photoshop denigratorie e sessualizzate". Secondo il Consiglio, però, questa terminologia è obsoleta e potrebbe rendere più difficile per gli utenti segnalare le immagini esplicite generate dall'IA.
Da qui arriva la proposta del consiglio di aggiornare le regole di Meta, con l'obiettivo di rendere più chiaro il fatto che la società vieta le immagini sessuali non consensuali create o manipolate dall'IA. Il consiglio ha evidenziato come gran parte delle immagini sessualizzate non consensuali che vengono diffuse online oggi siano create con modelli di IA generativa, che modificano automaticamente immagini esistenti o ne creano di completamente nuove.
Il Consiglio ha inoltre puntato il dito contro la pratica di Meta della chiusura automatica dei ricorsi degli utenti, sottolineando potenziali "impatti significativi sui diritti umani" degli utenti. Su questo aspetto, però, il Consiglio si è limitato a porre una critica, non disponendo di "informazioni sufficienti" per elaborare una raccomandazione.
La diffusione di immagini sessualmente esplicite in forma di deepfake creati dall'IA è un problema di cui si è preso rapidamente coscienza, dopo l'episodio che ha visto coinvolta la cantante statunitense Taylor Swift all'inizio dell'anno. A tal proposito il Senato degli Stati Uniti ha approvato all'unanimità, nel corso della giornata di martedì, un disegno di legge ideato con lo scopo di ritenere responsabili coloro che creano o condividono deepfake sessualmente espliciti.
In questo modo le vittime potranno citare in giudizio coloro che creano, condividono o possiedono immagini o video sessualmente espliciti generati dall'IA usando la loro immagine. Il disegno di legge ammette una richiesta di risarcimento danni fino a 150 mila dollari, che si innalza a 250 mila dollari nel caso in cui i contenuti deepfake espliciti siano correlati a stalking, molestie o tentata aggressione sessuale. Il disegno di legge dovrà ora passare il vaglio della Camera e se verrà approvato, come sembra probabile, arriverà sulla scrivania del presidente Biden per l'approvazione definitiva.
2 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoAssurdo !
Ma questo succede quanto mettono "gli algoritmi" a controllare foto e post, invece che un essere umano che sa distinguere la differenza tra una bimba che scambia un gesto d'affetto con un suo parente e ben altre tipologie di contenuti che nel tuo caso non c'azzeccano nulla.
Lo vuoi un consiglio ? Non caricate le vostre foto su questi benedetti social !
Anche se mi rendo conto che ormai sono la versione moderna degli album, quindi in parte, capisco. Hai provato a contestare la loro decisione ?
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".