Dai video 'Forza Napoli, Skibidi boppy' a quelli razzisti in USA: le clip generate con Google Veo 3 stanno sfuggendo di mano

Se frequentate i social, come Instagram e TikTok, sarete sicuramente incappati nei video generati con Google Veo 3, un modello di intelligenza artificiale generativa sviluppato da Google DeepMind, progettato per creare video di alta qualità a partire da semplici descrizioni testuali.

In Italia se ne trovano tra i più disparati, da quelli vedono vecchietti rispondere con frasi sconce a domande di giornaliste, a quelli che prendono di mira i napoletani con stereotipi ben noti, dal furto di orologi ai falsi invalidi, il tutto condito da un "Forza Napoli" e uno "Skibidi boppy", termine inventato che identifica situazioni strane, "cringe", tant'è che le persone generate che lo pronunciano finiscono per correre senza senso, cadere o buttarsi in acqua.

Divertenti o stupidi che li troviate, questi video possono essere usati – come alcuni che vedono coinvolti i nostri amici partenopei – anche per veicolare messaggi non esattamente edificanti, come il razzismo. Oltre che da noi (ciò che qualcuno chiama satira, per altri può non esserlo), sta accadendo negli Stati Uniti, in particolare su TikTok. D'altronde, con strumenti tanto potenti e accessibili il rischio di abuso è dietro l'angolo, e se a questo aggiungiamo la voglia di strappare qualche click facile, la frittata è servita.

Secondo quanto riportato da Media Matters, numerosi contenuti offensivi, realizzati proprio con Veo 3, stanno ottenendo milioni di visualizzazioni su piattaforme social come TikTok, nonostante le policy ufficiali di Google e del social network vietino esplicitamente la diffusione di contenuti d'odio.

Le clip, della durata massima di circa 8 secondi, contengono stereotipi razzisti e antisemiti, in particolare contro persone nere, immigrati e membri della comunità ebraica. Tra le rappresentazioni più controverse ci sono accostamenti a criminalità, assenteismo familiare e persino paragoni disumanizzanti con scimmie.

TikTok, che nelle sue linee guida dichiara tolleranza zero verso l'incitamento all'odio e verso ogni forma di discriminazione, ha affermato di aver già rimosso molti degli account segnalati da Media Matters, in alcuni casi anche prima della pubblicazione del report. Tuttavia, il sistema di moderazione - pur essendo misto, con tecnologie automatiche e revisione umana - sembra non riuscire a tenere il passo con l'elevato volume di contenuti caricati ogni giorno.

Google, da parte sua, ha una policy che vieta l'uso dei propri servizi per generare contenuti offensivi o discriminatori. Il sistema di generazione video, tuttavia, sembra ancora vulnerabile a prompt ambigui o indiretti, riuscendo a produrre contenuti problematici che sfuggono ai filtri. Il realismo delle clip generate da Veo 3 potrebbe inoltre contribuire a rendere più difficile distinguere la satira dalla propaganda.

Al momento, Google non ha rilasciato dichiarazioni ufficiali in merito al problema. L'integrazione prevista di Veo 3 all'interno di YouTube Shorts potrebbe amplificare ulteriormente la portata di questi contenuti se non verranno adottati meccanismi di controllo più efficaci.