Facebook considera l'uso della IA per censurare violenza e nudità nelle dirette
Machine learning e intelligenza artificiale sono parole che riconducono a tecnologie utilizzate massicciamente sul web, e a farne uso adesso e in futuro ci sono colossi come Google e Facebook
di Nino Grasso pubblicata il 02 Dicembre 2016, alle 14:31 nel canale WebFacebook sta lanciando una campagna di informazione sull'intelligenza artificiale in modo che tutti gli utenti del servizio riescano a comprenderne il senso e la necessità. Contestualmente Reuters ha sottolineato che algoritmi di intelligenza artificiale verranno utilizzati per rilevare contenuti offensivi all'interno delle dirette eseguite nel social network.
Le nuove meccaniche fanno parte degli sforzi effettuati per utilizzare proattivamente nuove tecnologie al fine di monitorare costantemente i contenuti del servizio, così come sottolineato da Joaquin Candela, responsabile di Facebook del ramo del machine learning applicato. Facebook è al lavoro da tempo su pratiche automatiche per la segnalazione di contenuti estremi in video, e attualmente sta considerando di portare le stesse tecnologie sui contenuti trasmessi in diretta.
Prima dell'implementazione tuttavia bisognerà determinare come utilizzare l'intelligenza artificiale in maniera responsabile senza violare le stesse policy di Facebook. Intelligenza artificiale e machine learning possono comunque essere utilizzati per filtrare i contenuti, secondo il dirigente di Facebook Yann LeCun. La tecnologia esiste ed è stata già utilizzata attivamente dalla compagnia con algoritmi capaci di identificare casi di violenza e nudità nelle piattaforme della compagnia.
In passato Facebook, come tanti altri servizi concorrenti, ha utilizzato solamente la segnalazione degli utenti per effettuare rimozioni di contenuti offensivi. Dipendenti della società controllavano quindi i report e in base alle condizioni d'uso del servizio decidevano come comportarsi con il contenuto segnalato. Le decisioni più estreme che richiedevano un allontanamento dalle politiche venivano riportate direttamente ai dirigenti della compagnia.
Un meccanismo di filtraggio automatizzato rappresenta oggi una necessità per Facebook, anche sui video Live, e non solamente un virtuosismo tecnico. La compagnia si è trovata imbrigliata in numerose controversie, sia con i contenuti tradizionali (la diffusione di notizie false prima delle elezioni presidenziali USA, la rimozione di immagini storiche o opere d'arte), che con le live. È capitato più volte che i Live video riportassero casi di omicidi, suicidi, violenza e nudità.
"L'algoritmo di visione deve essere veloce [con i video in diretta] e dobbiamo spingere su questa direzione", ha dichiarato Candela. "Un'altra sfida è dare la priorità alle cose nel modo giusto così che un esperto che conosce le nostre policy possa osservare il contenuto e rimuoverlo rapidamente". L'intelligenza artificiale aiuterà inoltre a verificare automaticamente segnalazioni di duplicati e plagi, rimandando la decisione ai diretti responsabili nei casi più difficili.
5 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoSai quanti falsi positivi....
È poi ogni giorno c'è una pseudo novità su Facebook
Ricordate che Facebook è un gigante dai piedi di argilla, basta un breve periodo che gli utenti non postano più le foto del piatto di minestra che stanno mangiando finisce tutto in una bolla di sapone
-censurano foto anatomiche (di studio)
-censurano nudi artistici (inclusi quadri e statue)
e poi le robe sessiste, razziste e altre cagate circolano liberamente.
Non dimeno, i famigerati filtri per segnalare la satira non si son visti e se uno segue un contenuto fuffa/bufala, l'algoritmo di face proporrà altre cazzate/bufale -.-"
secondo me finché si ostineranno a voler risolvere tutto a suon di algoritmi sarà peggio.
buzzfeed l'altro giorno mi ha chiarito perchè quando cercavo di leggere certe notizie sul blog di grillo e altri siti che si linkavano a vicenda provavo un formicolio perianale tutto particolare.
se qualcuno organizza una protesta online di gruppo contro questi siti che spammano immondizia spacciandola per verità disvelata io ci sono.
Sai quanti falsi positivi....
È poi ogni giorno c'è una pseudo novità su Facebook
Ricordate che Facebook è un gigante dai piedi di argilla, basta un breve periodo che gli utenti non postano più le foto del piatto di minestra che stanno mangiando finisce tutto in una bolla di sapone
Avranno messo "algoritmi" custom a filtrare non appena tot pixell messi assieme vanno a formare a video dei genitali?
Concordo sul ridicolo di certe censure. Le reti neurali che riconoscono le immagini però sono agli inizi e non saranno sempre così, stanno migliorando, ma ci vorrà tempo. È difficile controllare a mano l'immensa e sempre più immensa mole di contenuti caricata su Facebook.
buzzfeed l'altro giorno mi ha chiarito perchè quando cercavo di leggere certe notizie sul blog di grillo e altri siti che si linkavano a vicenda provavo un formicolio perianale tutto particolare.
se qualcuno organizza una protesta online di gruppo contro questi siti che spammano immondizia spacciandola per verità disvelata io ci sono.
Tra l'altro non è solo ignoranza: se uno non sa qualcosa e se ne rende conto, può andare ad informarsi e migliora. Nessuno sa tutto e possiamo avere anche qualche ingenuità. Chi invece si arrampica sugli specchi, non imparerà mai. Ci sono quelli che oltre ad essere ignoranti, sono pure arroganti e attaccano senza sapere e capire, magari stravolgendo la realtà. Contro la conoscenza non c'è niente di peggio della presunzione di sapere. L'incapacità di ragionare fa il resto. Fallacie logiche e fact checking dovrebbero essere al centro del sistema scolastico. Altrimenti continueremo ad avere gente facilmente manipolabile e che si attacca con le unghie e coi denti alle panzane che gli racconta il loro guru o idolo di turno.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".