Project VoCo: l'algoritmo di Adobe che permette di modificare le parole di una registrazione vocale

[Redazione di Hardware Upg]

Link alla notizia: http://pro.hwupgrade.it/news/softwar...ale_65510.html

L'azienda leader nella creazione di software per l'elaborazione delle immagini, dei video ma anche dell'audio è pronta a portare sul mercato un software che permetterà di aggiungere o eliminare le parole in una registrazione vocale. Ecco il video di una prova


Click sul link per visualizzare la notizia.

[BIGGlive360]

i callcenter già si fregano le mani
sai quanti contratti affibbiati ai malcapitati perchè "abbiamo la registrazione della telefonata in cui accetta..." !?

[Rubberick]

eh non è bello perchè quando hai un sw del genere qualsiasi prova vocale diventa nulla, cmq piano piano ci arriveremo a ste cose..

quando il 3d e la ricostruzione 3d verrà fuori cosi' bene da sembrare una ripresa con la telecamera che fai ? come fai ad essere sicuro che è un fatto successo veramente o simulato

[lamp76]

Mah, sono un po' scettico su sta presentazione, la sintesi text to speech fino ad oggi produce audio molto riconoscibile, sintetico, se Adobe avesse una sintesi tts così naturale l'avrebbe già venduta a tutti i call center, Google ed Apple per le guide dei navigatori etc.
Ma non mi risulta, quindi o hanno fatto un salto avanti tecnologico su più fronti, non ci credo molto, oppure questa era un concerto, ma ancora molto lontani da un prodotto commerciale.

[mihos]

Questo potrebbe iniziare a crare problemi legali.

[Yrbaf]

C'è un secondo video : https://www.youtube.com/watch?v=I3l4XLZ59iw
lungo il doppio e proprio nella parte dopo la fine del video più corto di questa news si affronta la questione dell'uso sbagliato che la tecnologia permetterebbe.

Mi pare che parlino di introdurre dei watermarking nelle traccie create da VoCo e/o di allenare meglio l'orecchio umano (o altri software) per distinguere lo stesso traccie vere da traccie alterate da VoCo.

[sbaffo]

l'ultima frase dell'articolo è quella più importante, dovrebbe esserne vietata la vendita. L'unico uso che ne vedo, o comunque il più importante, è quello di falsificare le registrazioni vocali. Io già adesso quando mi telefonano i soliti call center cerco di non dire mai la parola "si" in modo che non possano fare giochetti...

Tornando all'articolo, quelli che l'hanno creato sono stupidi o cosa? Se poi non lo puoi vendere cosa hai lavorato a fare? Hanno creato un software pericolosissimo per niente! Certe cose bisogna pensarci prima e non farle proprio.

E alla storia del watermark chi chi crede, quanto ci vorrà per cancellarlo o crackare il software in modo che non lo metta? Sempre che pagandoli adeguatamente non vendano direttamente la versione che non marca... ma in realtà tutti sappiamo che lo scopo è questo.
La storia di allenare l'orecchio umano non la commento neanche.

Il problema poi non è solo di creare false intercettazioni, ma di screditare tutte quelle future fatte davvero, che a questo punto potrebbero essere contraffatte, come dice anche rubberik.

[TripleX]

x chi parla di 3d...veramente siamo arrivati da anni alla perfetta manipolazione video CGI (il 3d non c'entra nulla).
se vuoi di esempi perfetti di CGI su youtube ne trovi bizzeffe soprattutto in categoria UFO.
se puoi vuoi qualcosa di SORPRENDENTE tanto da non distinguere se sia computer grafica o realtà cerca SKINNYBOB.
saliut

[Yrbaf]

Ci sono molti utilizzi legali (esempio come TTS ancora più naturale di alcuni che per me erano già di grandissima qualità, per attori che sbagliano di poco la battuta per correggere in post produzione senza rifare decine di ciak, ...ecc) e non si può fermare il progresso e purtroppo tutto o quasi della ricerca può essere usato per uso nel lato oscuro.

Inoltre tra loro che hanno realizzato il sw e che mostrano pubblicamente che è possibile farlo ed altri che fanno (o faranno) lo stesso ma che tengono il software segreto facendoci vivere nell'illusione del "non è ancora possibile, ...", quale è meglio ?

[sbaffo]

@yrbaf
hai ragione, ma ciò non toglie le mie preoccupazioni per questo 'progresso'.
Comunque ora magari è già possibile a livello di servizi segreti o giù di lì, non per tutti, qui si parla di software che può usare anche tua moglie per farti dire che sei stato con l'amante ecc., o il call center disonesto per appiopparti un contratto. Poi vai a fargli causa più una perizia per disdire...

Il Tts già dici che è di ottima qualità, quindi va bene così.

[Yrbaf]

O magari lo puoi usare tu (tu generico) per far ammettere il debito ad un tuo debitore che non ti ha mai lasciato nulla di probante e che non sta onorando il suo debito (e tu incautamente avevi fatto tutto sulla fiducia senza nulla di scritto o registrato)

Comunque ora che si sa che si può magari il giudice divorzista prima di sentenziare dopo aver ascoltato e basta la tua voce registrata chiederà una perizia di autenticità.
E presumo che con analisi audio via software (anche senza watermarking) si possa ancora riconoscere una registrazione alterata (anche se non so per quanto e quanto bene).

[avvelenato]

Non c'è nessun pericolo, queste falsificazioni si possono già fare da anni, solo che in maniera meno automatica e con competenze e software specialistici.


Anzi, rendere consapevole il grande pubblico di come qualsiasi campionatura digitale può essere alterata in maniera arbitraria può aiutare a rendere pubbliche le contromisure necessarie a riconoscere l'adulterazione delle prove.

[roccia1234]

Originariamente inviato da Rubberick

eh non è bello perchè quando hai un sw del genere qualsiasi prova vocale diventa nulla, cmq piano piano ci arriveremo a ste cose..

quando il 3d e la ricostruzione 3d verrà fuori cosi' bene da sembrare una ripresa con la telecamera che fai ? come fai ad essere sicuro che è un fatto successo veramente o simulato

Volendo, già oggi le prove fotografiche/video digitali possono essere considerate non valide per le stesse ragioni.

Basta guardare un qualunque film o una foto elaborata per vedere dove siamo arrivati...

[Rubberick]

Originariamente inviato da avvelenato

Non c'è nessun pericolo, queste falsificazioni si possono già fare da anni, solo che in maniera meno automatica e con competenze e software specialistici.


Anzi, rendere consapevole il grande pubblico di come qualsiasi campionatura digitale può essere alterata in maniera arbitraria può aiutare a rendere pubbliche le contromisure necessarie a riconoscere l'adulterazione delle prove.

su questo sono daccordo, però il punto è sempre la come fare ad essere sicuri dell'autenticità delle prove in questo guazzabuglio.. non si capisce + nulla o_O

[avvelenato]

Originariamente inviato da Rubberick

su questo sono daccordo, però il punto è sempre la come fare ad essere sicuri dell'autenticità delle prove in questo guazzabuglio.. non si capisce + nulla o_O

Se ne occupa la branca dell'informatica forense.
E' molto interessante come ambito di studi, se potessi tornare indietro nel tempo la considererei.

[cataflic]

era ora!
incredibile per me che non ci si fosse arrivati prima!
quando riusciranno anche a farli cantare abbiamo fatto bingo!
Potremo avere mille Pausini!11

[NickNaylor]

Originariamente inviato da Rubberick

su questo sono daccordo, però il punto è sempre la come fare ad essere sicuri dell'autenticità delle prove in questo guazzabuglio.. non si capisce + nulla o_O

prendi una foto: se vai nelle proprietà vedi che ha tutti i dati tecnici di scatto, se la modifichi si perdono. oggi sull'audio video la prova legale è proprio quella. l'anno scorso ( o forse 2 anni fa, non ricordo di preciso) c'era stato un ing russo che è riuscito a "craccare" il sistema dei metadati ed infatti era scoppiato il panico.

[pingalep]

i dati exif della foto si possono modificare a paicere da tempo

[sbaffo]

Originariamente inviato da avvelenato

Non c'è nessun pericolo, queste falsificazioni si possono già fare da anni, solo che in maniera meno automatica e con competenze e software specialistici.


Anzi, rendere consapevole il grande pubblico di come qualsiasi campionatura digitale può essere alterata in maniera arbitraria può aiutare a rendere pubbliche le contromisure necessarie a riconoscere l'adulterazione delle prove.

Proprio questo è il punto, finora ci volevano degli specialisti e sono pochi quelli in grado di farlo (bene).
Se per fare un filmato fotorealistico devo avere a disposizione gli studi pixar che costano milioni al giorno (per dire) non è cosa per tutti.
Per l'audio è più facile, ma per adesso si riesce ancora a distinguere l'originale dal falso, ma con software tipo questo per quanto ancora si riuscirà?

Già adesso le false notizie scandalistiche senza alcuna prova si diffondono in rete (e sui giornali) in maniera quasi incontrollata, immagina con il supporto di una finta registrazione fatta da uno di quei "giornalisti" creatori di scoop professionali, poi hai voglia a smentire... la gente informata come noi sa che si può falsificare facilmente ma il grande pubblico se la beve...

[PietroGiuliani]

1. per le immagini esistono metodi per riconoscere i pixel manipolati (ad esempio basandosi sugli artefatti della compressione jpeg, o sul riconoscimento di oggetti duplicati ed eventualmente riscalati), immagino ce ne saranno di analoghi per l'audio, specie se compresso a sua volta.

2. la Adobe è famosa per dimostrazioni ad effetto, con risultati strabilianti, in use-cases "particolari", salvo poi verificare che nell'uso reale le funzioni non sono sempre dell'efficacia propagandata (vedi le urla di esaltazione alla demo del deblur per Photoshop, un po' di tempo fa)