Discord elimina 5,2 milioni di account per contrastare lo spam

Discord è un'applicazione VoIP molto comune tra i videogiocatori, disponibile sia come applicazione che su web-browser, ricorda molto le piattaforme IRC con la possibilità di mettere in contatto vocale gli utenti.

La società ha reso disponibile il suo rapporto sulla trasparenza del servizio. Nel documento si apprende che da Aprile a Dicembre la società ha bannato circa 5,2 milioni di account. Le ragioni più comuni dell'esclusione degli account sono lo spam e contenuti ingannevoli, questi includono la pornografia non consensuale (il cosiddetto "revenge porn"), nonché contenuti sessuali relativi a minori.

Discord agisce grazie alle segnalazioni degli utenti ma una parte importante la fa un'attuazione proattiva del servizio. La società spiega infatti come avviene l'azione proattiva dei ban e tiene a precisare che la privacy è fondamentale. Si cerca quindi di bilanciare la privacy degli utenti con le regole d'utilizzo della piattaforma. Discord analizza tutte le foto ed i video caricati sulla piattaforma tramite PhotoDNA, standard di settore nel rilevare corrispondenze con materiale noto come abuso sessuale su minori. Quando viene trovata una corrispondenza nei database del servizio, Discord analizza l'attività dell'account sul servizio cercando eventuali complici e altre fonti del contenuto.

Secondo i dati forniti dalla società circa il 70% dei server con contenuti NCP (Contenuti sessuali non consensuali) è stato eliminato prima che l'utenza potesse venirne in contatto e quasi il 60% dei server SCRM (contenuti sessuali riguardanti minori) è stato bandito in modo proattivo.

La società sa che l'algoritmo non è infallibile quindi ogni utente bannato può appellarsi tramite il sistema "Trust & Safety" di Discord che esaminerà il rapporto originale tenendo conto della gravità delle violazioni. Dei 5,2 milioni di ban effettuati solo 16.000 sono stati ripristinati in appello.

Discord vuole mantenere pulita la piattaforma ed "ogni atto di violazione è uno di troppo" e vuole fare la sua parte in modo aggressivo per fermare i comportamenti scorretti prima che questi arrivino agli occhi degli utenti.