Reddit e il caso "Luigi": l'algoritmo di moderazione automatica lo segnala come termine violento

AutoModerator è l'algoritmo di moderazione automatica di Reddit che negli ultimi giorni è finito nell'occhio del ciclone per aver iniziato a segnalare la parola "Luigi" come indizio di un contenuto potenzialmente violento.

Il caso è emerso nei giorni scorsi, quando un moderatore del subreddit r/popculture ha riscontrato un post, riferito al videogioco Luigi's Mansion 3, segnalato da AutoModerator e per il quale il sistema richiedeva di verificare l'eventuale presenza di contenuti violenti. L'accaduto pare essere in qualche modo legato all'episodio dell'omicidio del CEO di UnitedHealtcare, Brian Thompson, per il quale l'unico sospettato è Luigi Mangione.

L'accaduto ha spinto il moderatore a chiudere il subreddit, decisione annunciata lo scorso venerdì 7 marzo con un post particolarmente piccato (qui su archive.is, il post è stato successivamente modificato) nel quale spiega cos'è accaduto: gli amministratori di Reddit hanno sospeso l'altro moderatore di r/popculture poiché avrebbe approvato contenuti con esplicite esortazioni alla violenza, incluso materiale ritenuto esaltatorio nei confronti dell'attentatore che ha sparato a Donald Trump durante la campagna elettorale. Il moderatore sospeso ha rigettato queste accuse, affermando che si è trattato di una semplice fotografia senza nessun intento celebrativo.

In questo modo r/popculture si è trovato con un solo moderatore, evento che fa entrare in funzione le funzionalità di moderazione automatica. Il moderatore "superstite" però ha precisato che la parola "Luigi" non è mai stata inserita nei termini da monitorare.

Gli amministatori della piattaforma hanno rilasciato nel corso della giornata di ieri un post che cerca di fare chiarezza sull'accaduto, dopo che un moderatore di r/Nintendo ha chiesto delucidazioni sul subreddit di supporto. Gli amministratori hanno spiegato che la parola "Luigi" non rappresenta a priori un elemento su cui si abbatte l'algoritmo di moderazione, ma che contemporaneamente è stato chiesto ad alcuni subreddit di prestare particolare attenzione se questa parola viene usata esplicitamente per promuovere o celebrare atti di violenza o come escamotage per alludere o inneggiare ad attentati.

Nel corso della notte il moderatore di r/popculture ha deciso di riaprire il subreddit, pubblicando un post in cui riprende le indicazioni degli amministratori per sensibilizzare gli utenti sul corretto uso della parola "Luigi", affermando inoltre di aver voluto riaprire il subreddit a seguito di numerose richieste inviate a Reddit da parte di supporter dell'amministrazione Trump, e dello stesso Donald Trump, per trasformare r/popculture in una community conservatrice.

La vicenda si inserisce in un contesto più ampio di nuove politiche di moderazione introdotte da Reddit con l'obiettivo di contrastare e combattere i contenuti che, da regolamento, sono vietati sulla piattaforma. Proprio la scorsa settimana la società ha annunciato una nuova misura che prevede l'invio di un avvertimento a quegli utenti che, in un ristretto arco temporale, votano più volte favorevolmente post con contenuti vietati e con particolare attenzione, in questa prima fase, proprio ai contenuti violenti.