Il CEO di OpenAI avverte le banche di una 'imminente crisi di frode' causata dalle voci generate dall'AI

ll CEO di OpenAI, Sam Altman, ha lanciato un severo avvertimento all’industria finanziaria, mettendo in guardia sul fatto che gli strumenti di intelligenza artificiale in grado di imitare perfettamente le voci umane rappresentano una "significativa e imminente crisi di frode" per le banche che fanno ancora affidamento su metodi di autenticazione obsoleti. Parlando a una conferenza della Federal Reserve a Washington, Altman ha definito i sistemi di sicurezza basati sulla voce obsoleti e ha esortato ad agire immediatamente per prevenire frodi su larga scala.

L’avvertimento arriva mentre la tecnologia di clonazione vocale basata sull’IA avanza rapidamente, consentendo ai criminali di aggirare le tradizionali misure di sicurezza con attacchi di impersonificazione sempre più sofisticati. La partecipazione di Altman alla conferenza della Fed è avvenuta un giorno prima che il presidente Trump sia atteso a un vertice incentrato sull’IA, durante il quale la Casa Bianca dovrebbe pubblicare un "Piano d’azione sull’IA" mercoledì.

Autenticazione tramite impronta vocale "completamente sconfitta"

Altman ha espresso particolare preoccupazione per le istituzioni finanziarie che continuano a utilizzare la verifica tramite impronta vocale per l'autenticazione dei clienti. "Una cosa che mi terrorizza è che apparentemente ci sono ancora alcune istituzioni finanziarie che accettano l'impronta vocale come autenticazione," ha detto Altman al pubblico composto da dirigenti di Wall Street e responsabili politici. "È una cosa folle da continuare a fare. L'IA ha completamente sconfitto quel metodo."

L’impronta vocale ha guadagnato popolarità tra le banche oltre dieci anni fa, in particolare tra i clienti facoltosi che pronunciavano frasi di sfida per accedere ai conti telefonicamente. Tuttavia, ora le imitazioni vocali generate dall’IA possono impersonare le persone in modi che Altman ha descritto come sempre più “indistinguibili dalla realtà”, rendendo necessari nuovi metodi di verifica.

Secondo Axios, Altman ha avvertito che la crisi “sta arrivando molto, molto presto,” sottolineando che i malintenzionati non hanno bisogno di accedere a tecnologie all’avanguardia per compiere questi attacchi. Il capo di OpenAI ha fatto notare che la società rimane impreparata rispetto alla rapidità con cui la tecnologia sta evolvendo.

La Federal Reserve è aperta alla collaborazione

La vicepresidente della Fed per la vigilanza, Michelle Bowman, che ha moderato la discussione con Altman, ha indicato la disponibilità della banca centrale a lavorare su soluzioni. "Potrebbe essere qualcosa su cui possiamo pensare di collaborare," ha detto Bowman durante la conferenza. Lo scambio ha evidenziato la crescente attenzione normativa alle minacce alla sicurezza guidate dall'IA. Recenti ricerche di settore mostrano che il 91% delle banche statunitensi sta riconsiderando i metodi di verifica vocale a causa delle preoccupazioni riguardanti la clonazione vocale tramite IA.

Gli esperti di frodi stimano che le perdite legate ai deepfake potrebbero raggiungere i 40 miliardi di dollari entro il 2027, rispetto ai 12 miliardi del 2023. Consumer Reports ha osservato che gli strumenti di clonazione vocale basati sull'IA richiedono solo tre secondi di audio registrato per creare imitazioni convincenti, con giornalisti che hanno utilizzato con successo tali strumenti per superare le misure di sicurezza bancaria presso importanti istituzioni. La visita di Altman a Washington questa settimana mira a promuovere l'IA come un bene "democratico" per l'economia americana, secondo Axios.