Allarme truffe online basate sull'IA: Google ha bloccato 5 miliardi di inserzioni nel 2024

Google ha bloccato ben 5,1 miliardi di annunci e sospeso più di 39,2 milioni di account pubblicitari durante lo scorso anno. Questi dati emergono dal documento Ads Safety Report del 2024, pubblicato questa settimana dal colosso tecnologico, che evidenzia come l'intelligenza artificiale stia giocando un ruolo sempre più importante sia nella creazione di truffe sofisticate sia nella loro prevenzione.

L'incremento delle attività di applicazione delle norme è stato determinato principalmente dalla crescente minaccia rappresentata dai contenuti generati dall'intelligenza artificiale, dalle truffe di impersonificazione e dall'abuso della piattaforma pubblicitaria di Google. Uno degli aspetti più preoccupanti è stato l'utilizzo di strumenti di IA generativa per creare deepfake video di celebrità e personaggi pubblici, spesso impiegati per promuovere truffe di investimento e criptovalute.

Truffe basate sull'IA in crescita: i dati dell'ultimo Ads Safety Report di Google

Per contrastare efficacemente la nuova ondata di minacce, Google ha formato un team dedicato di oltre 100 esperti con il compito di analizzare queste truffe e sviluppare contromisure efficaci. Come riportato nel Rapporto, l'azienda ha aggiornato le proprie norme sulla falsa rappresentazione per sospendere gli inserzionisti che promuovono queste truffe. Il risultato è stato la sospensione permanente di oltre 700.000 account pubblicitari coinvolti in attività fraudolente, con una conseguente diminuzione del 90% delle segnalazioni relative a questo tipo di truffe.

L'intelligenza artificiale viene utilizzata dai malintenzionati per creare contenuti ingannevoli sempre più sofisticati, ma Google la sta impiegando anche come strumento difensivo. Nel 2024, l'azienda ha implementato oltre 50 miglioramenti ai suoi modelli di apprendimento automatico per rilevare nuove minacce prima ancora che gli utenti potessero segnalarle, e che operano in modo molto più efficiente rispetto alle versioni precedenti necessitando solo di una frazione delle informazioni per riconoscere rapidamente minacce emergenti e distinguere le attività legittime dalle truffe.

Google ha rimosso o bloccato annunci in numerose categorie: 193,7 milioni relativi ai servizi finanziari, 146 milioni per giochi e scommesse, 122,5 milioni per contenuti per adulti e 104,8 milioni per la sanità. Inoltre, sono state emesse violazioni delle politiche pubblicitarie contro 1,3 miliardi di pagine web e 220.000 siti di editori.