Instagram, aumento di contenuti violenti nei Reel: Meta corregge un errore nell’algoritmo

Instagram è stato al centro di un’ondata di segnalazioni da parte degli utenti per un aumento improvviso di contenuti violenti e sensibili all'interno dei Reel. Video di incidenti, risse e altre immagini esplicite sono apparsi nei feed senza particolari restrizioni, nonostante l'attivazione dei filtri di moderazione. La problematica concentra nuovamente le discussioni sulle modalità della piattaforma di gestione della distribuzione di contenuti potenzialmente dannosi.

Meta ha riconosciuto l’anomalia con un messaggio inviato a CNBC e l'ha attribuita a un errore nei sistemi di raccomandazione automatica. In una dichiarazione ufficiale, l’azienda ha affermato di aver corretto il problema e si è scusata con gli utenti per l’inconveniente. Nonostante le rassicurazioni, rimangono dubbi sull'affidabilità dei meccanismi di filtraggio.

Le linee guida di Meta prevedono la rimozione di immagini e video particolarmente espliciti, come scene di smembramenti o ferite gravi, e limitano la diffusione di contenuti che possano risultare disturbanti. Eccezioni vengono fatte solo per immagini utilizzate a scopo informativo o di denuncia sociale. Per individuare e moderare i contenuti, l’azienda si affida a una combinazione di intelligenza artificiale e un team di oltre 15 mila revisori umani.

L’incidente si colloca in un periodo di riorganizzazione delle politiche di moderazione di Meta. A partire da gennaio, la società ha dichiarato di voler ridurre gli interventi automatizzati su contenuti non considerati di gravità elevata, come quelli legati a terrorismo, sfruttamento minorile, frodi e truffe, e di volersi affidare maggiormente alle segnalazioni degli utenti. Inoltre, sono state ridotte le penalizzazioni basate su previsioni algoritmiche di possibili violazioni, per favorire una maggiore libertà di espressione.

Questa revisione delle politiche si accompagna a una fase di cambiamenti interni all’azienda, con tagli al personale che hanno colpito anche i team dedicati alla sicurezza e all'integrità dei contenuti. Parallelamente, il CEO Mark Zuckerberg ha annunciato modifiche alle strategie di moderazione della piattaforma, inclusa una maggiore apertura ai contenuti politici e l’adozione di un sistema di fact-checking ispirato a quello della piattaforma X.

I recenti avvenimenti inducono comunque a pensare che il nuovo sistema di controllo di Meta e i cambiamenti nelle politiche di moderazione possano non sortire i risultati sperati ed esporre gli utenti ulteriormente a contenuti non adatti. La reazione della società, pur rapida, non ha dissipato del tutto le preoccupazioni sulla capacità dell’azienda di garantire un ambiente sicuro e regolamentato sulla propria piattaforma.