Meta, i moderatori umani potrebbero essere sostituiti da sistemi AI più efficaci

Meta sta pensando di ridurre il numero di persone impiegate nella revisione manuale delle nuove funzionalità, affidando sempre più compiti a sistemi automatizzati. Un cambiamento che è destinato a suscitare dibattiti sulla capacità dell’AI di garantire gli stessi livelli di accuratezza e sensibilità dei moderatori umani, soprattutto in contesti delicati come la gestione di novità che potrebbero avere un impatto sulla privacy degli utenti.

Meta utilizza sistemi AI per analizzare milioni di contenuti al giorno, identificando potenziali violazioni delle policy in modo rapido ed efficiente. Allo stesso tempo, l'azienda fa uso di sistemi di intelligenza artificiale per analizzare le funzionalità in sviluppo nelle applicazioni e altre novità previste per le piattaforme proprietarie. A questi, vengono affiancati degli operatori umani specializzati, come ad esempio esperti di privacy e non solo, che possono valutare le nuove feature con una sensibilità potenzialmente molto superiore. L'apporto di questi specialisti, però, sembra essere destinato a essere meno rilevante nel prossimo futuro.

Meta utilizzerà meno umani e più IA per la valutazione delle nuove feature

Secondo documenti interni ottenuti da NPR, "fino al 90% di tutte le valutazioni dei rischi sarà presto automatizzato". Questo significa che elementi come gli "aggiornamenti critici degli algoritmi di Meta, le nuove funzionalità di sicurezza e le modifiche al modo in cui i contenuti possono essere condivisi tra le piattaforme dell'azienda saranno per lo più approvati da un sistema alimentato dall'intelligenza artificiale", e quindi saranno meno soggetti a controllo da parte di personale specializzato nel discutere su come un cambio di piattaforma potrebbe avere ripercussioni impreviste o essere utilizzato in modo improprio.

La scelta di Meta di puntare sull’automazione risponde a esigenze di efficienza e scalabilità, con l'obiettivo di riuscire a gestire volumi di dati sempre più elevati con costi ridotti. Il cambiamento, però, non dovrebbe sacrificare la qualità della moderazione e non dovrebbe avere ripercussioni negative sul numero di errori che potrebbero avere conseguenze rilevanti per gli utenti, paure che alcuni impiegati dell'azienda (ex e attuali) hanno già espresso. Dall'altra parte, gli sviluppatori dell'azienda considerano la novità come "una vittoria", visto che potranno rilasciare aggiornamenti dell'app e funzionalità in maniera più rapida.

Nei documenti, Meta spiega che l'esperienza umana verrà comunque considerata per le problematiche "nuove e complesse", mentre solo le decisioni a impatto potenzialmente basso verranno automatizzate. Tuttavia, secondo la fonte, nei documenti si legge che anche aree estremamente sensibili potrebbero essere automatizzate, come le scelte sulla sicurezza degli algoritmi di intelligenza artificiali, i rischi per i giovani e la categoria che comprende contenuti violenti e diffusione di fake news.