I deepfake non sono ancora perfetti! Ecco come scoprirli con i riflessi degli occhi

I deepfake non sono ancora perfetti! Ecco come scoprirli con i riflessi degli occhi

I ricercatori dell'Università di Buffalo mettono a punto un algoritmo che è capace di individuare i deepfake analizzando i pattern dei riflessi negli occhi

di pubblicata il , alle 09:21 nel canale Scienza e tecnologia
 

Un manipolo di ricercatori dell'Università di Buffalo ha sviluppato un algoritmo capace di individuare i deepfake analizzando i riflessi presenti nelle pupille dei soggetti. I ricercatori sostengono che l'algoritmo è stato in grado di mostrare un'efficacia del 94% nell'identificare le immagini contraffatte.

Il motivo per il quale l'algoritmo riesce con particolare efficacia a individuare le immagini false è semplice: l'intelligenza artificiale - almeno fino ad ora - è incapace di creare riflessi oculari accurati e realistici.

Siwei Lyu, professore di SUNY Empire Innovation e principale autore dello studio, ha spiegato: "La cornea è quasi come una semisfera perfetta ed è molto riflettente. Qutto ciò che arriva agli occhi SSS avrà un'immagine riflessa dalla cornea. I due occhi dovrebbero mostrare elementi riflessi molto simili poiché vedono la stessa scena. E' un dettaglio che di solito non notiamo quando osserviamo un volto".

L'AI, però, si mostra sorprendentemente incapace di riuscire a creare riflessi che siano coerenti in entrambi gli occhi. Nella documentazione i ricercatori hanno pubblicato alcune immagini di occhi umani e di occhi generati dall'intelligenza artificiale, evidenziandone per ciascuno i pattern dei riflessi. Ora che sappiamo cosa osservare, i volti deepfake possono essere facilmente individuati anche da un osservatore umano.

Lo sviluppo dell'algoritmo è parte integrante dell'impegno di sensibilizzazione che Lyu sta portando avanti, richiamando l'attenzione sulla necessità sempre più pressante di strumenti che consentano facilmente di individuare i deepfake. Nel corso del 2019 Lyu ha testimoniato dinnazni al Congresso USA per evidenziare i pericoli dei deepfake e quali strade si possano percorrere per combatterli.

"Sfortunatamente una gran parte di questo tipo di video falsi è stata creata a scopi pornografici e questo ha causato molti danni psicologici alle vittime. C'è anche il potenziale impatto politico, con un video falso che può mostrare politici che dicono o fanno qualcosa che non è mai accaduto. Tutto ciò è male" commenta Lyu.

16 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
TorettoMilano15 Marzo 2021, 09:45 #1
https://www.youtube.com/watch?v=iyiOVUbsPcM

questo mi ha lasciato senza parole
paolodekki15 Marzo 2021, 11:41 #2
Originariamente inviato da: TorettoMilano
https://www.youtube.com/watch?v=iyiOVUbsPcM

questo mi ha lasciato senza parole


sbalorditivo...
386DX4015 Marzo 2021, 11:50 #3
Originariamente inviato da: TorettoMilano
https://www.youtube.com/watch?v=iyiOVUbsPcM

questo mi ha lasciato senza parole


Impressionante, anche se... non del tutto. Il cervello "non e' nato ieri" e non dovrebbe valutare la realta' da una finestra di un monitor su cui comunque si percepisce "qualcosa non và". Ricorda un po' il personaggio di Jeff Bridges in "Tron - Legacy (2010)" che in proporzione era ricostruito digitalmente peggio di questo ma che se ad una prima visione poteva anche ingannare, il cervello percepiva comunque che qualcosa non andava.
386DX4015 Marzo 2021, 11:59 #5
Se lo incontro per strada posso dire con certezza se la persona esiste o no.
TorettoMilano15 Marzo 2021, 12:02 #6


aggiornando la pagina cambia sempre foto/opera d'arte, specifico per chi non lo sapesse
Pino9015 Marzo 2021, 12:03 #7
Originariamente inviato da: 386DX40
Se lo incontro per strada posso dire con certezza se la persona esiste o no.


Quelle dei link precedenti non esistono. Genera volti assolutamente realistici che però non esistono.

Tecnologia usata per generarle: https://arxiv.org/abs/1912.04958
Paper: https://arxiv.org/abs/1812.04948
Training: https://www.youtube.com/watch?v=dCKbRCUyop8

Originariamente inviato da: TorettoMilano
aggiornando la pagina cambia sempre foto/opera d'arte, specifico per chi non lo sapesse


Grazie. In effetti non ci avevo pensato a specificarlo.
Gringo [ITF]15 Marzo 2021, 12:06 #8
@pino

Manca il più terrificante !!!
https://thiscatdoesnotexist.com/

E quello per gli amanti degli Anime !
https://www.thiswaifudoesnotexist.net/

386DX4015 Marzo 2021, 12:09 #9
Originariamente inviato da: Pino90
Quelle dei link precedenti non esistono.

Tecnologia usata per generarle: https://arxiv.org/abs/1912.04958
Paper: https://arxiv.org/abs/1812.04948
Training: https://www.youtube.com/watch?v=dCKbRCUyop8



Si avevo capito, era un "provocatoria soluzione" al problema. Nel senso che si deve decidere se vivere di vita reale fatta di percezione reale di cio' che in natura e' reale o affidarsi a pixels di monitor vari e magari alimentare quella "creazione" che non definirei arte, con gli stessi dati che gli utenti avranno permesso loro creare (immaginando sia basato come il video suddetto su chissa' quanti altri dati precedentemente realmente esistenti).
Gia' vent'anni fa con programmi di rendering software 3D c'era chi creava immagini al limite del fotorealistico quasi difficile da capire (es. un automobile), se si intendono immagini statiche ovviamente. Ma lo sforzo del dover capire o non capire non importa piu' di tanto nel mondo reale conosciamo le persone vere e questo problema non viene nemmeno in mente. E' curioso e "distopico" che in questa epoca, questi diventeranno o dovrebbero diventare i "futuri" problemi.
Pino9015 Marzo 2021, 12:12 #10
Originariamente inviato da: Gringo [ITF]
@pino

Manca il più terrificante !!!
https://thiscatdoesnotexist.com/

E quello per gli amanti degli Anime !
https://www.thiswaifudoesnotexist.net/


L'hanno allenata ad hentai la seconda

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^