Un video AI inganna milioni di utenti, Meta bacchettata per moderazione insufficiente

Un video AI inganna milioni di utenti, Meta bacchettata per moderazione insufficiente

Il Meta Oversight Board ha criticato Meta per la gestione dei contenuti generati con AI su Facebook, Instagram e WhatsApp. Nel mirino un video falso su danni a Haifa attribuiti all'Iran. Il board che supervisiona la moderazione sul social chiede etichette di rischio più severe per deepfake legati ai conflitti.

di pubblicata il , alle 10:31 nel canale Web
Meta
 

Meta è stata invitata a rafforzare le proprie politiche di moderazione dei contenuti generati con intelligenza artificiale dopo le critiche arrivate dal Meta Oversight Board, l'organo semi-indipendente creato nel 2020 per supervisionare le decisioni di moderazione sulle piattaforme dell'azienda.

Il consiglio, composto da 21 membri, ha espresso preoccupazione per la crescente diffusione di video falsi realizzati con strumenti di Artificial Intelligence sui social network dell'azienda, che includono Facebook, Instagram e WhatsApp. In particolare, il board ha criticato la decisione della società di non etichettare un video generato con AI che mostrava falsi danni nella città di Haifa, attribuiti a presunti attacchi delle forze iraniane.

Secondo il board, questo caso evidenzia le debolezze dell'attuale sistema di moderazione dei contenuti della piattaforma, soprattutto durante situazioni di crisi o conflitto. Il gruppo ha sottolineato che la crescente quantità di video falsi generati con AI legati a conflitti internazionali sta rendendo sempre più difficile per il pubblico distinguere tra informazioni reali e contenuti manipolati.

L'analisi del board sull'operato di Meta

L'analisi del board è iniziata dopo la pubblicazione, lo scorso giugno, di un video su Facebook da parte di un account con sede nelle Filippine che si presentava come fonte di notizie. Il filmato faceva parte di una serie di contenuti generati artificialmente e diffusi online dopo l'inizio del conflitto, alcuni favorevoli a Israele e altri all'Iran. Secondo un'analisi della BBC, questi video hanno accumulato complessivamente oltre 100 milioni di visualizzazioni.

Nonostante diverse segnalazioni degli utenti, Meta non ha inizialmente etichettato il video come contenuto generato con AI né lo ha rimosso. Solo dopo che un utente ha presentato un ricorso diretto al Oversight Board, l'azienda ha preso posizione sulla questione. In quel momento, Meta ha dichiarato che il contenuto non richiedeva un'etichetta perché non contribuiva direttamente al rischio di danni fisici imminenti.

Il board ha però ritenuto questa soglia troppo elevata per i contenuti generati con AI, soprattutto quando riguardano conflitti armati. Secondo l'organo di supervisione, il video avrebbe dovuto ricevere una "high risk AI label", un'etichetta che segnala contenuti potenzialmente ingannevoli.

I migliori sconti su Amazon oggi
-18%

TCL 55T6C 55'' QLED TV 4K HDR, FireTV (SmartTV con Dolby Vision e Atmos, HDR10+, Premi e Chiedi ad Alexa)

449.00 369.90€ Compra ora
-18%

Lefant M330Pro Robot Aspirapolvere Lavapavimenti con Mappatura, Navigazione dToF, Zona vietata, Evitamento ostacoli PSD, Aspirazione 5000Pa, 150 minuti, Pulizia programmata, Alexa/APP/WiFi,Nero

Compra ora
2 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
supertigrotto11 Marzo 2026, 11:16 #1
Nell' era delle foto del piatto al ristorante, nell' era del faccio il video al concerto invece che godermi la musica e lo spettacolo, nell' era del "hai visto il video io c'ero a questo evento", nell' era del se non hai una testimonianza video o foto allora non è vero,la IA si è inserita per manipolare la realtà.
Dovremo mettere in dubbio qualsiasi cosa che vediamo e che leggiamo,la realtà è stata e sarà distorta sempre di più .
Non capiremo più quel che è vero e quel che è falso.
Benvenuti nella nuova era!
mozzarello11 Marzo 2026, 12:49 #2
Originariamente inviato da: supertigrotto
Nell' era delle foto del piatto al ristorante, nell' era del faccio il video al concerto invece che godermi la musica e lo spettacolo, nell' era del "hai visto il video io c'ero a questo evento", nell' era del se non hai una testimonianza video o foto allora non è vero,la IA si è inserita per manipolare la realtà.
Dovremo mettere in dubbio qualsiasi cosa che vediamo e che leggiamo,la realtà è stata e sarà distorta sempre di più .
Non capiremo più quel che è vero e quel che è falso.
Benvenuti nella nuova era!


Sono almeno 20 anni che se non ti fidi di nulla che leggi, vedi o senti su Internet fai bene. Ora per fortuna pare che la gente inizia ad accorgersene.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^