OpenAI, l'IA che clona le voci è pronta, ma la società ha paura a rilasciarla

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/op...la_125807.html

Voice Engine può clonare qualsiasi voce da uno spezzone audio di 15 secondi. La resa è impressionante e OpenAI ha qualche dubbio sugli usi impropri della tecnologia

Click sul link per visualizzare la notizia.

[demon77]

La società aveva pianificato il lancio di un programma pilota per consentire agli sviluppatori di iscriversi all'API di Voice Engine all'inizio di marzo, ma al momento i piani di rilascio sono stati temporaneamente sospesi a seguito di una serie di considerazioni interne sui risvolti e sulle implicazioni etiche di questa tecnologia.

Ma dai.
Non vedo davvero cosa mai potrebbe andare storto.

Questa tecnologia ha praticmante SOLO risvolti negativi.
E' come regalare una set di armi cariche ai delinquenti...
Cosa mi fa ridere? Che se non lo fanno loro di Open AI domani semplicmente lo farà qualcun altro.

Chiudo il post con la solita conclusione: la IA ci fotterà tutti.

[djmatrix619]

Originariamente inviato da demon77

Cosa mi fa ridere? Che se non lo fanno loro di Open AI domani semplicmente lo farà qualcun altro.

Chiudo il post con la solita conclusione: la IA ci fotterà tutti.

Esattamente, completamente d'accordo.....

[pengfei]

Originariamente inviato da demon77

Ma dai.
Non vedo davvero cosa mai potrebbe andare storto.

Questa tecnologia ha praticamente SOLO risvolti negativi.

Si potrebbe implementare una segreteria telefonica che genera un messaggio in automatico secondo l'agenda dell'utente, ad esempio dicendo quando richiamare o robe così, il tutto con la voce clonata, questo è progresso!

[calabar]

Se fanno il telefono che risponde per conto tuo alle telefonate commerciali, li stanca al telefono e non accetta nulla, diventa la tecnologia antirompiscatole definitiva!

[demon77]

Originariamente inviato da calabar

Se fanno il telefono che risponde per conto tuo alle telefonate commerciali, li stanca al telefono e non accetta nulla, diventa la tecnologia antirompiscatole definitiva!

OPPURE clonano la tua voce facendoti un paio di telefonate dove ti fanno parlare giusto 10 secondi e poi grazie alla AI ti fanno dire letteralmente il cazzo che vogliono facendoti accettare contratti telefonici di utenze, telco ecc.
Ma giusto per dirne uno eh.

Toppissimo anche per le truffe ad anziani e/o categorie deboli dove sta volta non sarà più il tizio amico del figlio/nipote a dire che c'è una emergenza e che servono tremila euro subito ma gli passerà il telefono dove sarà proprio la viva voce del figlio/nipote a dirgli piangendo che bisogna agire subito!

Lo spasso poi in realtà aziendali e/o amministrative dove si verrà contattati direttamente dal direttore generale che ti impatisce ordini perentori da eseguire subito altrimenti ti licenzia.

[io78bis]

Originariamente inviato da demon77

La società aveva pianificato il lancio di un programma pilota per consentire agli sviluppatori di iscriversi all'API di Voice Engine all'inizio di marzo, ma al momento i piani di rilascio sono stati temporaneamente sospesi a seguito di una serie di considerazioni interne sui risvolti e sulle implicazioni etiche di questa tecnologia.

Ma dai.
Non vedo davvero cosa mai potrebbe andare storto.

Questa tecnologia ha praticmante SOLO risvolti negativi.
E' come regalare una set di armi cariche ai delinquenti...
Cosa mi fa ridere? Che se non lo fanno loro di Open AI domani semplicmente lo farà qualcun altro.

Chiudo il post con la solita conclusione: la IA ci fotterà tutti.

Pensa anche solo alla famosa truffa della chiamata all'anziano del finto nipote che chiede soldi. Ora anche la voce telefonica sembrerà del nipote.

[io78bis]

Che teste di legno. Sviluppano e poi si pongono i problemi etici. Sicuramente si preoccuperanno di proteggere in qualche modo il timbro vocale del politico/personaggio famoso di turno senza soffermarsi sui possibili impatti per la gente comune.

Ormai lo sviluppo del IA dev'essere non regolamentato ma supervisionato da enti con livelli di sicurezza altissimi quasi tipo armi nucleari perché è quella la potenza che stanno assumendo.

Non è allarmismo è semplicemente la realtà o il futuro prossimo (2 anni)

[djmatrix619]

Originariamente inviato da io78bis

Non è allarmismo è semplicemente la realtà o il futuro prossimo (2 anni)

2 anni?
Su Instagram già girano i reel con i personaggi famosi che dicono cose mai dette realmente, con la stessa voce.

[Mars95]

Originariamente inviato da demon77

OPPURE clonano la tua voce facendoti un paio di telefonate dove ti fanno parlare giusto 10 secondi e poi grazie alla AI ti fanno dire letteralmente il cazzo che vogliono facendoti accettare contratti telefonici di utenze, telco ecc.
Ma giusto per dirne uno eh.

Toppissimo anche per le truffe ad anziani e/o categorie deboli dove sta volta non sarà più il tizio amico del figlio/nipote a dire che c'è una emergenza e che servono tremila euro subito ma gli passerà il telefono dove sarà proprio la viva voce del figlio/nipote a dirgli piangendo che bisogna agire subito!

Lo spasso poi in realtà aziendali e/o amministrative dove si verrà contattati direttamente dal direttore generale che ti impatisce ordini perentori da eseguire subito altrimenti ti licenzia.

Oppure visto che è possibile clonare la voce è possibile contestare qualsiasi contratto stipulato a voce, quindi di fatto rende impossibili tutta una serie di truffe.

Le aziende correranno ai ripari, ma già se mi chiama il mio capo da un numero che non conosco non ci vuole tanto a capirlo.

Per quanto riguarda gli anziani se uno paga tremila euro per un emergenza del nipote è così rincoglionito da cascare in una truffa indipendentemente dalla voce.

[UtenteHD]

Originariamente inviato da demon77

La società aveva pianificato il lancio di un programma pilota per consentire agli sviluppatori di iscriversi all'API di Voice Engine all'inizio di marzo, ma al momento i piani di rilascio sono stati temporaneamente sospesi a seguito di una serie di considerazioni interne sui risvolti e sulle implicazioni etiche di questa tecnologia.

Ma dai.
Non vedo davvero cosa mai potrebbe andare storto.

Questa tecnologia ha praticmante SOLO risvolti negativi.
E' come regalare una set di armi cariche ai delinquenti...
Cosa mi fa ridere? Che se non lo fanno loro di Open AI domani semplicmente lo farà qualcun altro.

Chiudo il post con la solita conclusione: la IA ci fotterà tutti.

Quoto quanto detto sulla sua pericolosita', abbiamo visto come la massa in genere la usa per nulla, oppure la utilizza per altro tranne quello che serve e poi ci sono i peggiori..
Io non rilascerei una Tecnologia come questa, la farei solo a pagamento per chi ha a che fare con lo spettacolo e similari.

[wobbly]

"La mia voce è il mio passaporto" cit. I signori della truffa.

[Saturn]

Originariamente inviato da Redazione di Hardware Upgrade

Voice Engine può clonare qualsiasi voce da uno spezzone audio di 15 secondi. La resa è impressionante e OpenAI ha qualche dubbio sugli usi impropri della tecnologia

O la fanno loro, o sarà qualcun altro. Tanto è inevitabile.

Domanda stupida. Ci si potrebbe in qualche modo tutelare "marchiando", stile "watermark" con le immagini, i flussi audio generati da un'intelligenza artificiale...la voce sarà identica all'originale ma ci sarà un check universale per capire che non è genuina...ma suppongo che ci abbiano già pensato...e che se non lo hanno implementato è perchè sarebbe bucabile in men che non si dica...

BOH. Non so che dire.

[demon77]

Originariamente inviato da Mars95

Oppure visto che è possibile clonare la voce è possibile contestare qualsiasi contratto stipulato a voce, quindi di fatto rende impossibili tutta una serie di truffe.

Certo, questo però implica un aggiornamento normativo urgente ed anche una complicazione di tutta una serie di situazioni.

Originariamente inviato da Mars95

Le aziende correranno ai ripari, ma già se mi chiama il mio capo da un numero che non conosco non ci vuole tanto a capirlo.

Nah.
Stai decisamente sopravvalutando una abbondante fetta di persone.
Se poi davvero sei un impiegato e ti arriva una chiamata incazzata con la voce perfetta del tuo capo voglio vedere se gli dici "potresti essere un truffatore con voce artificiale creata con AI".
Se non fotte te stai sereno che su cento ne fotte come minimo 70.

Originariamente inviato da Mars95

Per quanto riguarda gli anziani se uno paga tremila euro per un emergenza del nipote è così rincoglionito da cascare in una truffa indipendentemente dalla voce.

Succedeva l'altro ieri, succedeva ieri, succede oggi.
Figurati se adesso i truffatori possono contare sulla VERA voce di parenti o conoscenti.

[io78bis]

Originariamente inviato da djmatrix619

2 anni?
Su Instagram già girano i reel con i personaggi famosi che dicono cose mai dette realmente, con la stessa voce.

Stessa voce o simile. Magari tu non noti la differenza ma un'analisi della traccia audio la troverebbe.
Bisogna capire questa IA è in grado di generare lo stesso timbro vocale, per questo ho scritto 2 anni.

L'accesso a queste tecnologie dev'essere assolutamente messo sotto controllo, a fanc**** qualsiasi ca@@@@ di liberismo. La tecnologia sta correndo molto più della nostra capacità di giudizio.
La bomba atomica aveva u qualche effetto deterrente sul suo uso ma IA sembra che non ce l'abbia o comunque si sottovaluta/ignora in favore del successo economico di veramente pochi

[io78bis]

Originariamente inviato da demon77

Succedeva l'altro ieri, succedeva ieri, succede oggi.
Figurati se adesso i truffatori possono contare sulla VERA voce di parenti o conoscenti.

15 sec di voce li posso recuperare anche io con un semplice drink offerto durante aperitivo sui Navigli, e non sono certo Brad Pitt

[Gnubbolo]

boh sono 1-2 anni che usiamo i voice cloner per divertici sui server pubblici a imitare i politici o i nostri compagni di gioco più iconici.
quando hai 3-4 tutti con la stessa voce è uno spasso, certo c'è chi gli gira.. ma anche chi sta allo scherzo e poi si unisce a noi a cercare il prossimo obiettivo.
il problema è l'accento e la cadenza, ma credo che prima o poi l'AI correggerà anche questo, anche se è molto complesso per la latenza. mi spiego, un conto è l'AI che elabora 10 sec di audio e cambia la cadenza, ma in real time, non è proprio logicamente possibile cambiare cadenza. l'accento e cadenza sono distribuite su una traccia sonora di diversi secondi.
spero di essermi spiegato.

[TorettoMilano]

da anni mi capitano canzoni doppiate da gerry scotti, a dicembre era uscita pure la compilation natalizia. sia lodata l'ia

[silvanotrevi]

ma vi immaginate quando cloneranno la voce di Gerry Scotti: "Eh aloraaaa!!" "L'accendiamo?"

[TorettoMilano]

Originariamente inviato da silvanotrevi

ma vi immaginate quando cloneranno la voce di Gerry Scotti: "Eh aloraaaa!!" "L'accendiamo?"

probabilmente hai preso per ironico il mio messaggio, tieni
https://www.instagram.com/thousandgerry/
https://www.instagram.com/travis.scotti.official/