Deepfake Detection Challenge, i big della tecnologia per supportare lo sviluppo di tecnologie anti-deepfake

Deepfake Detection Challenge, i big della tecnologia per supportare lo sviluppo di tecnologie anti-deepfake

Il fenomeno deepfake deve essere arginato: i big della tecnologia stimolano un approccio aperto allo sviluppo di soluzioni in grado di rilevare i contenuti modificati dall'AI

di pubblicata il , alle 11:31 nel canale Web
 

Prima c'erano - e ci sono ancora - le fake news, poi sono arrivati i cosiddetti deepfake : spezzoni audio o video in cui la voce o l'immagine umana sono sintetizzate tramite tecnologie di intelligenza artificiale, riuscendo così a creare contenuti falsi ma verosimili per ingannare lo spettatore, inducendolo a credere determinate cose o ad orientarne l'opinione. I deepfake sono stati utilizzati anche per creare falsi video pornografici ritraenti personaggi famosi, e anche come particolare forma di revenge porn.

Vale la pena sottolineare come la società di sicurezza olandese Deeptrace abbia individuato sulla rete quasi 15 mila video deepfake (vi sembrano pochi? Ne basta anche uno ben confezionato per creare conseguenze potenzialmente devastanti) la scorsa estate, pressoché raddoppiati rispetto al mese di dicembre 2018. Si tratta quindi di un problema reale che tuttavia si può considerare ancora agli albori e per il quale è necessario trovare delle contromisure che possano arginare il fenomeno.

Una responsabilità che in parte si stanno assumendo i big della tecnologia: Amazon Web Services, Microsoft, Facebook e un gruppo di atenei statunitensi hanno infatti deciso di supportare la causa del Deepfake Detection Challenge annunciata lo scorso mese di settembre. Il lancio globale è però avvenuto nel corso di questa settimana in occasione della conferenza Neural Information Processing Systems di Vancouver, con l'obiettivo di stimolare la ricerca per lo sviluppo di strumenti open source capaci di individuare e rilevare contenuti deepfake.

Facebook ha stanziato più di 10 milioni di dollari per incoraggiare la partecipazione alla competizione, mentre AWS ha deciso di offrire crediti per il valore di 1 milione di dollari mentre Google mette a disposizione la piattaforma Kaggle per ospitare la sfida e la classifica. "Le tecniche deepfake, che presentano video realistici generati dall'AI ritraenti persone reali che fanno e dicono cose fittizie, hanno significative implicazioni nel determinare la legittimità delle informazioni presentate online. Il settore non ha ancora un ampio set di dati con cui confrontarsi per poterli individuare. La speranza è di realizzare una tecnologia che tutti possano usare per meglio rilevare quando l'AI viene usata per alterare un video per ingannare lo spettatore" ha sottolineato il CTO di Facebook Mike Schroepfer.

La Deepfake Detection Challenge include un dataset - oltre che prevedere premi e riconoscimenti - per stimolare la creazione di nuovi modi di rilevamento per prevenire la diffusione di contenuti manipolati dall'intelligenza artificiale. Il problema è che le tecnologie alla base del fenomeno deepfake sono in costante e incessante evoluzione, tanto che prima o poi sarà quasi impossibile riuscire a distinguere un contenuto generato dall'AI rispetto ad uno reale.

Gli organizzatori della sfida si sono affidati ad un servizio che ha arruolato un gruppo eterogeneo di attori che sono stati ripresi inscenando svariate vicende. Dopodiché sono stati creati video contraffatti sulla base di un sottoinsieme del materiale originale usando una serie di tecniche di machine learning, per cambiare volti, alterare voci e modificare alcuni elementi per simulare gli artefatti di compressione e la perdita di qualità che si può normalmente trovare nei video condivisi online. Ciascun video è stato etichettato se originale o manipolato tramite AI. Il particolare dataset, composto da un totale complessivo che supera i 100 mila contenuti video, è stato poi utilizzato in una sessione tecnica dell'International Conference on Computer Vision dello scorso ottobre. Con il lancio globale dell'iniziativa Deepfake Detection Challenge il dataset è disponibile per il download per chi voglia provare ad allenare tecnologie AI per il rilevamento di contenuti deepfake.

"Sappiamo che non si tratta di una soluzione tecnica semplice e definitiva per questi problemi. Sono comunque fiducioso che un approccio aperto alla ricerca ci aiuterà a costruire nuovi strumenti per prevenire l'uso dell'AI da parte delle persone per manipolare video allo scopo di ingannare altri" ha commentato Jerome Pesenti, AI Vicepresident per Facebook.

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione.
Leggi la Privacy Policy per maggiori informazioni sulla gestione dei dati personali

1 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
paolohw17 Dicembre 2019, 10:50 #1
una buona garanzia (anche se non assoluta) per la veridicità dei video si potrebbe ottenere ricorrendo al sistema di registri distribuito ovvero con la teconologia blockchain. La cosa diverrebbe complessa, ma per avere certezze, oggi come ieri, è sempre una strada in salita.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^