Facebook considera l'uso della IA per censurare violenza e nudità nelle dirette

Facebook considera l'uso della IA per censurare violenza e nudità nelle dirette

Machine learning e intelligenza artificiale sono parole che riconducono a tecnologie utilizzate massicciamente sul web, e a farne uso adesso e in futuro ci sono colossi come Google e Facebook

di Nino Grasso pubblicata il , alle 14:31 nel canale Web
Facebook
 

Facebook sta lanciando una campagna di informazione sull'intelligenza artificiale in modo che tutti gli utenti del servizio riescano a comprenderne il senso e la necessità. Contestualmente Reuters ha sottolineato che algoritmi di intelligenza artificiale verranno utilizzati per rilevare contenuti offensivi all'interno delle dirette eseguite nel social network.

Le nuove meccaniche fanno parte degli sforzi effettuati per utilizzare proattivamente nuove tecnologie al fine di monitorare costantemente i contenuti del servizio, così come sottolineato da Joaquin Candela, responsabile di Facebook del ramo del machine learning applicato. Facebook è al lavoro da tempo su pratiche automatiche per la segnalazione di contenuti estremi in video, e attualmente sta considerando di portare le stesse tecnologie sui contenuti trasmessi in diretta.

Prima dell'implementazione tuttavia bisognerà determinare come utilizzare l'intelligenza artificiale in maniera responsabile senza violare le stesse policy di Facebook. Intelligenza artificiale e machine learning possono comunque essere utilizzati per filtrare i contenuti, secondo il dirigente di Facebook Yann LeCun. La tecnologia esiste ed è stata già utilizzata attivamente dalla compagnia con algoritmi capaci di identificare casi di violenza e nudità nelle piattaforme della compagnia.

In passato Facebook, come tanti altri servizi concorrenti, ha utilizzato solamente la segnalazione degli utenti per effettuare rimozioni di contenuti offensivi. Dipendenti della società controllavano quindi i report e in base alle condizioni d'uso del servizio decidevano come comportarsi con il contenuto segnalato. Le decisioni più estreme che richiedevano un allontanamento dalle politiche venivano riportate direttamente ai dirigenti della compagnia.

Un meccanismo di filtraggio automatizzato rappresenta oggi una necessità per Facebook, anche sui video Live, e non solamente un virtuosismo tecnico. La compagnia si è trovata imbrigliata in numerose controversie, sia con i contenuti tradizionali (la diffusione di notizie false prima delle elezioni presidenziali USA, la rimozione di immagini storiche o opere d'arte), che con le live. È capitato più volte che i Live video riportassero casi di omicidi, suicidi, violenza e nudità.

"L'algoritmo di visione deve essere veloce [con i video in diretta] e dobbiamo spingere su questa direzione", ha dichiarato Candela. "Un'altra sfida è dare la priorità alle cose nel modo giusto così che un esperto che conosce le nostre policy possa osservare il contenuto e rimuoverlo rapidamente". L'intelligenza artificiale aiuterà inoltre a verificare automaticamente segnalazioni di duplicati e plagi, rimandando la decisione ai diretti responsabili nei casi più difficili. 

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione

5 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
homero02 Dicembre 2016, 16:29 #1
Come funzionano questi algoritmi resta un mistero specialmente in real time.
Sai quanti falsi positivi....
È poi ogni giorno c'è una pseudo novità su Facebook
Ricordate che Facebook è un gigante dai piedi di argilla, basta un breve periodo che gli utenti non postano più le foto del piatto di minestra che stanno mangiando finisce tutto in una bolla di sapone
Schaduw02 Dicembre 2016, 19:33 #2
secondo me sti algoritmi sono uno peggio dell'altro:
-censurano foto anatomiche (di studio)
-censurano nudi artistici (inclusi quadri e statue)

e poi le robe sessiste, razziste e altre cagate circolano liberamente.
Non dimeno, i famigerati filtri per segnalare la satira non si son visti e se uno segue un contenuto fuffa/bufala, l'algoritmo di face proporrà altre cazzate/bufale -.-"

secondo me finché si ostineranno a voler risolvere tutto a suon di algoritmi sarà peggio.
pingalep03 Dicembre 2016, 09:41 #3
facebook deve considerare l'uso dell'IA per bloccare le bufale. è vero che filtrando le fonti di informazione e gli amici inclini alle boiate non ti tocca leggere molte castronerie, ma fanno tanti soldi sull'ignoranza della gente che potrebbero regalargli un bloccabufale, almeno quelle già verificate tali mediante fact-checking.

buzzfeed l'altro giorno mi ha chiarito perchè quando cercavo di leggere certe notizie sul blog di grillo e altri siti che si linkavano a vicenda provavo un formicolio perianale tutto particolare.

se qualcuno organizza una protesta online di gruppo contro questi siti che spammano immondizia spacciandola per verità disvelata io ci sono.
LorenzAgassi03 Dicembre 2016, 10:55 #4
Originariamente inviato da: homero
Come funzionano questi algoritmi resta un mistero specialmente in real time.
Sai quanti falsi positivi....
È poi ogni giorno c'è una pseudo novità su Facebook
Ricordate che Facebook è un gigante dai piedi di argilla, basta un breve periodo che gli utenti non postano più le foto del piatto di minestra che stanno mangiando finisce tutto in una bolla di sapone



Avranno messo "algoritmi" custom a filtrare non appena tot pixell messi assieme vanno a formare a video dei genitali?
Oenimora05 Dicembre 2016, 15:03 #5
Originariamente inviato da: Schaduw
secondo me sti algoritmi sono uno peggio secondo me finché si ostineranno a voler risolvere tutto a suon di algoritmi sarà peggio.

Concordo sul ridicolo di certe censure. Le reti neurali che riconoscono le immagini però sono agli inizi e non saranno sempre così, stanno migliorando, ma ci vorrà tempo. È difficile controllare a mano l'immensa e sempre più immensa mole di contenuti caricata su Facebook.

Originariamente inviato da: pingalep
facebook deve considerare l'uso dell'IA per bloccare le bufale. è vero che filtrando le fonti di informazione e gli amici inclini alle boiate non ti tocca leggere molte castronerie, ma fanno tanti soldi sull'ignoranza della gente che potrebbero regalargli un bloccabufale, almeno quelle già verificate tali mediante fact-checking.

buzzfeed l'altro giorno mi ha chiarito perchè quando cercavo di leggere certe notizie sul blog di grillo e altri siti che si linkavano a vicenda provavo un formicolio perianale tutto particolare.

se qualcuno organizza una protesta online di gruppo contro questi siti che spammano immondizia spacciandola per verità disvelata io ci sono.

Tra l'altro non è solo ignoranza: se uno non sa qualcosa e se ne rende conto, può andare ad informarsi e migliora. Nessuno sa tutto e possiamo avere anche qualche ingenuità. Chi invece si arrampica sugli specchi, non imparerà mai. Ci sono quelli che oltre ad essere ignoranti, sono pure arroganti e attaccano senza sapere e capire, magari stravolgendo la realtà. Contro la conoscenza non c'è niente di peggio della presunzione di sapere. L'incapacità di ragionare fa il resto. Fallacie logiche e fact checking dovrebbero essere al centro del sistema scolastico. Altrimenti continueremo ad avere gente facilmente manipolabile e che si attacca con le unghie e coi denti alle panzane che gli racconta il loro guru o idolo di turno.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^