OpenAI, l'IA che clona le voci è pronta, ma la società ha paura a rilasciarla

OpenAI ha annunciato Voice Engine, un nuovo modello di intelligenza artificiale destinato alla sintesi vocale e alla generazione di voci sintetiche in grado di replicare voci realmente esistenti a partire da brevi spezzoni audio. La società ha rilasciato sul proprio sito alcuni campioni che dimostrano le capacità della nuova tecnologia, che consente inoltre di ottenere un parlato da un testo scritto.

Dagli spezzoni condivisi da OpenAI si evince quanto le voci sintetiche siano davvero estremamente simili a quelle originali, risultando di fatto indistinguibili anche ad un orecchio più che attento.

La società aveva pianificato il lancio di un programma pilota per consentire agli sviluppatori di iscriversi all'API di Voice Engine all'inizio di marzo, ma al momento i piani di rilascio sono stati temporaneamente sospesi a seguito di una serie di considerazioni interne sui risvolti e sulle implicazioni etiche di questa tecnologia.

"In linea con il nostro approccio alla sicurezza dell'intelligenza artificiale e con i nostri impegni volontari, stiamo scegliendo di presentare in anteprima ma di non rilasciare su larga scala questa tecnologia in questo momento. Speriamo che questa anteprima di Voice Engine ne sottolinei il potenziale e motivi anche la necessità di rafforzare la resilienza della società contro le sfide poste da modelli generativi sempre più convincenti" afferma la società.

OpenAI indica le possibili applicazioni in grado di trarre vantaggio da questo nuovo modello IA, come ad esempio la possibilità di fornire assistenza alla lettura attraverso voci dal suono naturale, consentire una portata globale ai creatori traducendo contenuti preservando gli accenti nativi, supportare le persone non verbali con opzioni vocali personalizzate e assistere i pazienti nel recuperare la propria voce dopo condizioni di disturbo della parola.

Ma è chiaro che l'accessibilità globale a questa tecnologia presenta rischi di notevole portata permettendo di fatto di clonare qualsiasi voce di cui si dispongano 15 secondi di registrazione, con l'elevata possibilità (e probabilità) di uso improprio. Non solo truffe e raggiri telefonici, com'è automatico immaginare, ma anche azioni criminose più sofisticate: alcuni ricercatori hanno infatti già dimostrato come, in generale, le più avanzate tecnologie di sintesi vocale possono consentire di violare quei sistemi biometrici che si basano proprio sull'autenticazione vocale.

OpenAI stessa riconosce che la tecnologia potrebbe causare "problemi" se rilasciata su larga scala, motivo per il quale sta approntando una serie di regole che almeno inizialmente dovrebbero consentire di arginare l'uso improprio di Voice Engine: nei termini di utilizzo, ad esempio, è fatto divieto di rappresentare "un altro individuo o organizzazione senza consenso o diritto legale", viene richiesto di acquisire il consenso informato delle persone le cui voci vengono clonate e di esplicitare chiaramente quali voci sono generate dall'IA. Un aspetto ancor più interessante, però, è l'impiego di una particolare "filigrana vocale" che Voice Engine inserirà in ogni campione, per aiutare nel tracciamento delle voci sintetiche.

"Stiamo adottando un approccio cauto e informato verso un rilascio più ampio a causa del potenziale uso improprio della voce sintetica. Speriamo di avviare un dialogo sull'impiego responsabile delle voci sintetiche e su come la società può adattarsi a queste nuove capacità. Sulla base di queste conversazioni e dei risultati di questi test su piccola scala, prenderemo una decisione più informata su se e come implementare questa tecnologia su larga scala" ha sottolineato OpenAI.