Facebook indulgente o inadeguata? Ecco perché 5,8 milioni di utenti VIP possono scrivere ciò che vogliono

Facebook indulgente o inadeguata? Ecco perché 5,8 milioni di utenti VIP possono scrivere ciò che vogliono

Per celebrità, politici e influencer vi è un diverso trattamento per le pratiche di moderazione. Ma il team è sottodimensionato e la tempestività è una chimera

di pubblicata il , alle 11:16 nel canale Web
Facebook
 

La moderazione di contenuti generati dagli utenti è sempre una faccenda piuttosto delicata, e a maggior ragione lo è presso una realtà come Facebook che quotidianamente deve gestire la libera espressione dei suoi 3 miliardi di utenti. Chiaramente l'attività di moderazione per Facebook può essere sostenuta solamente con l'ausilio di un sistema automatizzato e un esercito più o meno nutrito di supervisori umani.

E, secondo quanto emerge da un'inchiesta condotta dal Wall Street Journal, pare che Facebook, parallelamente alla diffusione e al successo della piattaforma, abbia incontrato più di qualche problema nel suo processo di moderazione. La società si è presto trovata nella situazione di avere, di quando in quando, eliminato post di personaggi famosi correndo il rischio ritrovarsi a gestire grattacapi, potenzialmente delicati, dal punto di vista delle pubbliche relazioni.

XCheck: il doppio controllo di Facebook per la moderazione dei contenuti di personaggi famosi

Facebook ha allora pensato di correre ai ripari con l'ausilio di uno strumento denominato XCheck (o Cross Check, e di cui aveva già dato conto negli anni passati): le intenzioni erano quelle di implementare un livello di controllo aggiuntivo per verificare più da vicino i post segnalati dall'algoritmo di moderazione. Purtroppo però le cose sono andate diversamente e questo meccanismo nel corso degli anni ha di fatto consentito a personaggi famosi nel campo dello spettacolo, della politica, dello sport, dell'attivismo in generale di pubblicare qualsiasi cosa senza che vi potessero essere ripercussioni (o con conseguenze minime) nel caso di violazioni delle regole.

Normalmente quando gli utenti condividono un contenuto che viene intercettato dagli algoritmi di moderazione o dai moderatori umani, possono inviare una segnalazione a Facebook se credono che il contenuto sia stato moderato per errore. Se la loro richiesta non viene accolta, di fatto non hanno più alcuno strumento a disposizione per far valere le loro ragioni. Ma quando si tratta di un personaggio famoso, la situazione cambia: influencer con un vasto pubblico possono aizzare i follower contro la società, se si tratta di un politico potrebbe invece richiedere una maggior regolamentazione della piattaforma.

Ecco allora che la società ha deciso di destinare maggiore attenzione a questa speciale categoria di utenti: se un post viene contrassegnato da un algoritmo viene inviato ad una differente squadra di moderazione per la revisione. Questa squadra, secondo quanto riferisce il Wall Street Journal, dovrebbe essere composta da dipendenti a tempo pieno della società e meglio addestrati alla gestione di questo genere di situazioni.

Una squadra sottodimensionata, e il meccanismo s'inceppa

Ma dove sta il malfunzionamento del sistema? Gli utenti inseriti nel programma XCheck sono rapidamente aumentati e il team di moderazione è apparso velocemente sottodimensionato rispetto alle esigenze. E, secondo quanto si apprende da un rapporto interno della società che il Journal ha potuto visionare, pare che attualmente il team di moderazione "speciale" sia in grado di esaminare meno del 10% dei contenuti che arriva loro. La diretta conseguenza è che la situazione ha assunto contorni particolarmente gravi tanto che di fatto a questi utenti risulta possibile pubblicare di tutto con l'esito che post che sono in violazione delle regole di Facebook possono apparire nei feed di migliaia di persone prima senza che vi sia una azione sufficientemente tempestiva.

E anche in caso di rimozione, pur tardiva, di un contenuto, il trattamento riservato all'utente "speciale" è comunque diverso da quello destinato agli altri. In tal senso il caso più eclatante è quello che riguarda il calciatore brasiliano Neymar, che nel 2019 ha pubblicato sui suoi account Facebook e Instagram un video contenente fotografie di nudo di una donna che lo aveva accusato di stupro. Secondo il calciatore la donna stava portando avanti un tentativo di estorsione.

I regolamenti di Facebook prevedono che nel momento in cui un utente condivide "immagini intime non consensuali" la strada sia una sola: eliminazione del contenuto e disattivazione dell'account. Nel caso di Neymar il video è rimasto attivo per oltre 24, in quanto il normale team di moderazione non disponeva dei permessi per poter fare alcunché. Quando il team di XCheck è poi intervenuto rimuovendo il video, questo era già stato visto da 56 milioni di persone e ripubblicato circa 6 mila volte, con uno strascico di insulti e molestie in direzione della donna ritratta in esso. Nonostate ciò gli account di Neymar non sono stati cancellati, con Facebook che ha affermato di aver deciso di compiere un'eccezione alla politica di disattivazione del profilo.

5,8 milioni di utenti beneficiano del programma XCheck

Sempre nella documentazione interna dell'azienda che è venuta in mano al Journal emerge come l'azienda di Menlo Park sia conscia dei problemi potenziali di uno strumento come XCheck che di fatto consente a persone con un gran seguito di pubblico di condividere pressoché qualsiasi tipo di messaggio con pochissime conseguenze. Nel rapporto infatti si legge: "Per alcuni membri selezionati della nostra comunità non stiamo applicando le nostre regole e i nostri standard. A differenza del resto della nostra comunità, queste persone possono violare i nostri standard senza conseguenze". Ovviamente con una base utenti di 3 miliardi di individui, il termine "alcuni" è assolutamente relativo: secondo le informazioni raccolte dal Wall Street Journal gli account che hanno beneficiato dell'induglenza di XCheck sarebbero circa 5,8 milioni. Ma, a quanto pare, vi è anche una certa difficoltà o reticenza a modificare il funzionamento dello strumento: "E' necessario bilanciarlo con il rischio aziendale" cita il rapporto.

Nei mesi scorsi le liste di XCheck si sarebbero arricchite di ulteriori utenti, con un carico di lavoro che diventa sempre più oneroso e sovradimensionato per le risorse attualmente dedicate. Facebook ha però stabilito l'obiettivo di far rispettare le violazioni di "elevata gravità" entro la prima metà di quest'anno, adottando inoltre un approccio di "presunzione di innocenza" e assumendo la buona fede degli utenti presenti nel programma di XCheck.

La documentazione di cui il Wall Street Journal è entrato in possesso è stata trasmessa da una persona in cerca della protezione dell'autorità federale per i cosiddetti whistleblower. I documenti sono stati consegnati anche alla Security and Exchange Commission e al Congresso.

A seguito delle rivelazioni del Wall Street Journal è intervenuto su Twitter il portavoce di Facebook, Andy Stone. Facendo riferimento ad un post sul blog ufficiale della società pubblicato nel 2018, dove viene citato il programma Cross Check, Stone precisa: "Come abbiamo detto nel 2018, Cross-check significa solamente che acluni contenuti da determinate pagine o profili vengono destinati ad un secondo livello di revisione per assicurarci di aver applicato correttamente le nostre regole. Non sono due sistemi di giustizia, è un tentativo di salvaguardia contro gli errori. [...] Alla fine, al centro di questa storia c'è l'analisi di Facebook sulla necessità di migliorare il programma. Sappiamo che la nostra applicazione non è perfetta e ci sono compromessi tra velocità e precisione. Abbiamo nuovi team, nuove risorse e una revisione del processo su cui attualmente stiamo lavorando".

1 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
Sp3cialFx14 Settembre 2021, 11:53 #1
E' giusto perché i VIP sono persone migliori di noi.

Soprattutto di te che stai per rispondere seriamente a questo post

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^