Scarlett Johansson e video hard fasulli creati con la deepfake AI: "difendersi dalla depravazione è una causa persa"

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/sc...rsa_79912.html

Lo sfogo sul Washington Post di Scarlett Johansson mette in luce ancora una volta il lato oscuro della AI: impossibile arginare la proliferazione di video hard fasulli che sovrappongono il volto delle celebrità in reali scene pornografiche

Click sul link per visualizzare la notizia.

[nickname88]

Oramai con i sex tape si ottiene ancora più visibilità.
Una volta ti licenziavano, adesso se spuntano fuori si diventa famosi.

[kamon]

Originariamente inviato da nickname88

Oramai con i sex tape si ottiene ancora più visibilità.
Una volta ti licenziavano, adesso se spuntano fuori si diventa famosi.

Di sicuro Scarlett Johansson non ha bisogno di questo per aumentare la sua notorietà.

Il fenomeno del deep learning applicato alla prouzione di falso materiale multimediale è effettivamente preoccupante, ma non tanto per quanto riguarda la pornografia quanto per il fatto che in un futuro non troppo lontano, certi personaggi potrebbero usarlo come spiegazione per cose che effettivamente hanno fatto ma che non vogliono ammettere... Immagino già il politico random pizzicato in un video mentre prende una mazzetta o in una telefonata in cui pianifica un omicidio: "signor magistrato, sono vittima di deepfake!", lo vediamo tutti i giorni già oggi, tizio x dice una bestialità su un social network di cui sottostima l'effetto, scoppia un casino e lui prontamente dice: "sono stato hackerato"...

[tallines]

Sembrerà assurdo, io ho trovato una conduttrice che mi piace moltissimo, in queste scene fasulle..........

Non si può, dice l' articolo risalire a chi ha fatto la stupidaggine......ma cancellare le immagini e oscurare il sito, mi sembra che si possa.........

[aqua84]

Originariamente inviato da kamon

Immagino già il politico random pizzicato in un video mentre prende una mazzetta o in una telefonata in cui pianifica un omicidio

non credo ce ne sarà bisogno.
già da qualche anno ormai i politici hanno perso quel poco di vergogna (e buonsenso) che avevano nel fare le cose almeno di nascosto, e anche davanti a prove schiaccianti e documentate hanno la faccia di dire che sono innocenti, o per usare la risposta perfetta che salva tutti: "Ci penserà la magistratura"

[nickname88]

Originariamente inviato da kamon

Immagino già il politico random pizzicato in un video mentre prende una mazzetta o in una telefonata in cui pianifica un omicidio: "signor magistrato, sono vittima di deepfake!", lo vediamo tutti i giorni già oggi, tizio x dice una bestialità su un social network di cui sottostima l'effetto, scoppia un casino e lui prontamente dice: "sono stato hackerato"...

Se parliamo del politico italiano non ce nè bisogno. Anche se si diffondesse un video fasullo non precluderebbe che non l'abbia fatto sul serio in un altra occasione.

[Dinofly]

Ma per favore, fossero questi i problemi.
Fossero questi i problemi, ringrazi la "depravazione" su cui si basa il successo e la notorietà di cui godono.

[kamon]

Originariamente inviato da Dinofly

Ma per favore, fossero questi i problemi.
Fossero questi i problemi, ringrazi la "depravazione" su cui si basa il successo e la notorietà di cui godono.

Ah il benaltrismo... Soluzione semplice e istantanea a tutti i problemi e allo stesso tempo rovina del mondo.
Sarei portato a dirti: "Quando diffonderanno video con la tua faccia mentre prendi in quel posto particolari cose da particolari persone, allora potrai parlare", ma in realtà anche se la cosa si verificasse e a te stesse benissimo, non potresti comunque decidere tu cosa dovrebbe o non dovrebbe offendere la sensibilità e l'immagine altrui, poi nessuno mi ha mai saputo spiegare perché quando si diventa famosi non si avrebbe più alcun diritto di tutelare la propria immagine, ne tu hai spiegato perché usi la parola "depravazione" scritta tra virgolette, come se di depravazione non si trattasse... E allora di cosa stiamo parlando? Servzio pubblico?

[NoNickName]

Attenzione, qua il problema non è solo fake porno. Immaginate cosa si può fare con le immagini degli autovelox, tutor oppure con le registrazioni dalle bodycam degli agenti di polizia. Si può incriminare gente che non è simpatica, per ritorsione o scopo politico, dimostrare che si trovava in posti dove non era, far commettere reati in luoghi dove non si è mai stati.

[TWT]

Io mi chiedo cosa ci trovino tutti in quest'attrice (parlo puramente di aspetto estetico), carina, sì, ma c'è molto di meglio, perfino al livello nazionale. Come attrice non la seguo molto ma i pochi film in cui l'ho vista recitare non mi hanno fatto impazzire

[recoil]

Originariamente inviato da NoNickName

Attenzione, qua il problema non è solo fake porno. Immaginate cosa si può fare con le immagini degli autovelox, tutor oppure con le registrazioni dalle bodycam degli agenti di polizia. Si può incriminare gente che non è simpatica, per ritorsione o scopo politico, dimostrare che si trovava in posti dove non era, far commettere reati in luoghi dove non si è mai stati.

esatto il problema è proprio questo ed è abbastanza inquietante

[kamon]

Originariamente inviato da NoNickName

Attenzione, qua il problema non è solo fake porno. Immaginate cosa si può fare con le immagini degli autovelox, tutor oppure con le registrazioni dalle bodycam degli agenti di polizia. Si può incriminare gente che non è simpatica, per ritorsione o scopo politico, dimostrare che si trovava in posti dove non era, far commettere reati in luoghi dove non si è mai stati.

Già... Pensiamo poi alla deriva autoritaria che si sta diffondendo a macchia d'olio in sostanzialmente tutto il pianeta, se un governo decidesse di usare quest'arma contro chi vuole eliminare, buona fortuna poi a far verificare il materiale dai periti per scagionarti.

[AceGranger]

Originariamente inviato da kamon

Di sicuro Scarlett Johansson non ha bisogno di questo per aumentare la sua notorietà.

Il fenomeno del deep learning applicato alla prouzione di falso materiale multimediale è effettivamente preoccupante, ma non tanto per quanto riguarda la pornografia quanto per il fatto che in un futuro non troppo lontano, certi personaggi potrebbero usarlo come spiegazione per cose che effettivamente hanno fatto ma che non vogliono ammettere... Immagino già il politico random pizzicato in un video mentre prende una mazzetta o in una telefonata in cui pianifica un omicidio: "signor magistrato, sono vittima di deepfake!"

anche per una persona normale, con i software giusti e se sai dove guardare, è abbastanza easy risalire a manipolazioni di video/foto/audio, anche se te lo fa l'AI; gli organi giudiziari non avranno problemi in merito.

Originariamente inviato da kamon

lo vediamo tutti i giorni già oggi, tizio x dice una bestialità su un social network di cui sottostima l'effetto, scoppia un casino e lui prontamente dice: "sono stato hackerato"...

si ma per le stupidate dove non controlla nessuno..

ci vogliono 5 secondi per controllarne la veridicita e i magistrati/forze dell'ordine gli sparacazzole li vedono tutti i giorni.

[Rello75cl]

Niente link?
Solo per valutare la bontà del software naturalmente!

[kamon]

Originariamente inviato da AceGranger

anche per una persona normale, con i software giusti e se sai dove guardare, è abbastanza easy risalire a manipolazioni di video/foto/audio, anche se te lo fa l'AI; gli organi giudiziari non avranno problemi in merito.

si ma per le stupidate dove non controlla nessuno..

ci vogliono 5 secondi per controllarne la veridicita e i magistrati/forze dell'ordine gli sparacazzole li vedono tutti i giorni.

Io spero tanto che tu abbia ragione, ma questo vale per adesso... Vedremo poi con l'avanzare della tecnologia se sarà ancora possibile smascherarli, senza contare che questi video sono attualmente prodotti con strumenti ancora sperimentali da persone con scarsi mezzi, nonostante ciò sono in alcuni casi già spaventosamente realistici, cosa sarebbe capace di fare tra qualche anno un vero e proprio studio professionale che si occupa solo di queste produzioni?
Tra l'altro anche senza parlare strettamente dell'ambito giudiziario, abbiamo imparato soprattutto negli ultimi anni che una cosa è la realtà dei fatti dimostrabile e dimostrata, un'altra è la percezione che l'utente medio ha... L'indignazione "da facebook" per qualcosa che una pagina di pallonari ha deciso di lanciare oggi fa prestissimo a esplodere, ma quando viene a galla la verità, di solito nessuno si cura di diffonderla e soprattutto a nessuno interessa, quindi i danni restano.

[AceGranger]

Originariamente inviato da kamon

Io spero tanto che tu abbia ragione, ma questo vale per adesso... Vedremo poi con l'avanzare della tecnologia se sarà ancora possibile smascherarli, senza contare che questi video sono attualmente prodotti con strumenti ancora sperimentali da persone con scarsi mezzi, nonostante ciò sono in alcuni casi già spaventosamente realistici, cosa sarebbe capace di fare tra qualche anno un vero e proprio studio professionale che si occupa solo di queste produzioni?
Tra l'altro anche senza parlare strettamente dell'ambito giudiziario, abbiamo imparato soprattutto negli ultimi anni che una cosa è la realtà dei fatti dimostrabile e dimostrata, un'altra è la percezione che l'utente medio ha... L'indignazione "da facebook" per qualcosa che una pagina di pallonari ha deciso di lanciare oggi fa prestissimo a esplodere, ma quando viene a galla la verità, di solito nessuno si cura di diffonderla e soprattutto a nessuno interessa, quindi i danni restano.

Non ci vuole molto a photoshoppare con un collage di altre foto e farla sembrare "vera" all'occhio umano, ma basta anche solo analizzare un minimo gli istogrammi per vedere molte volte qualche cosa che non va senza nemmeno guardare la foto e, come ci sono le AI che photoshoppano, ci sono anche le AI che fanno il retro-enginering e che "sgamano" le photoshoppate.

Non basarti solo su quello che vede il tuo occhio, perchè nei pixel ci sono molte piu informazioni che "a occhio" non riesci a vedere.

[Nurgiachi]

Originariamente inviato da Rello75cl

Niente link?
Solo per valutare la bontà del software naturalmente!

Foto?

Originariamente inviato da Dinofly

Ma per favore, fossero questi i problemi.

Questo perché non hai mai visto Dredd La legge sono io.
foto

[NoNickName]

Sono oramai disponibili schede GPU con ray tracing. Qua non si sta parlando di photoshoppare la foto del collega con paint. Si sta parlando di immagini interamente sintetiche, per le quali la banale analisi dell'istogramma è inutile. E non serve produrre immagini in 4K, perchè le bodycam e gli autovelox non esistono (ancora) a tale risoluzione, quindi puoi zoommare, ma solo per arrivare ai pixel che sono grandi come formaggini.

[dado1979]

Sarà un problema molto serio con il passare degli anni... soprattutto ma non solo in campo pornografico.

[AceGranger]

Originariamente inviato da NoNickName

Sono oramai disponibili schede GPU con ray tracing. Qua non si sta parlando di photoshoppare la foto del collega con paint. Si sta parlando di immagini interamente sintetiche, per le quali la banale analisi dell'istogramma è inutile. E non serve produrre immagini in 4K, perchè le bodycam e gli autovelox non esistono (ancora) a tale risoluzione, quindi puoi zoommare, ma solo per arrivare ai pixel che sono grandi come formaggini.

- il Ray Tracing non centra un caz, ed era disponibile anche prima delle Turing.
- qui si sta parlando proprio di una fotoshoppata solo che è fatta da una AI e che siano immagini interamente sintetiche te lo sei inventato tu.

cit: "...di una figura umana o parte di essa tratta da immagini e video pre-esistenti, da soprapporre o integrare in altro materiale multimediale..."

e non credo ci sia molto da fraintendere... l'AI analizza un gran numero di immagini, prende gli spezzoni di immagini e video ed effettua un collage che viene sovrapposto ad una porzione della foto/video base;

la AI non fa altro che fare quello che normalmente viene fatto in ambito fotografico/cinematografico e gia solo con un analisi dell'istogramma hai buonissime probabilita di sgamare la "photosoppata" dell'AI. La differenza è che oggi lo fa solo chi ha dimestichezza con software di compositing, mentre domani lo potra fare anche il primo che passa con 2 click; è lo step successivo del cerotto di Photoshop.