YouTube lancia il likeness detection per combattere i falsi video generati dall'AI

La diffusione di contenuti generati dall'intelligenza artificiale ha trasformato radicalmente il panorama digitale, portando con sé nuovi rischi di disinformazione, frodi e violazioni dell'identità personale. Per contrastare l'ondata di video manipolati che mostrano persone in situazioni mai avvenute, YouTube ha iniziato a distribuire il suo atteso sistema di likeness detection, uno strumento progettato per segnalare i possibili doppi digitali creati con l'AI.

Il nuovo sistema funziona in modo simile al rilevamento automatico del copyright già attivo sulla piattaforma. Dopo una fase di test ristretta, Google ha iniziato a renderlo disponibile a un gruppo più ampio di creator idonei, che riceveranno una notifica in YouTube Studio.

Tuttavia, per attivare la protezione, i creatori dovranno fornire ulteriori dati personali, inclusi un documento d'identità e un breve video del volto per verificare la loro identità. Una procedura che solleva alcuni dubbi sulla quantità di informazioni che Google raccoglie, ma considerata necessaria per garantire l'efficacia del sistema.

YouTube: come funziona la protezione di likeness detection?

Una volta iscritti, gli utenti riceveranno segnalazioni di video sospetti che contengono volti simili al loro. Tuttavia, YouTube sottolinea che l'algoritmo non può determinare con certezza se un video sia o meno generato dall'AI: alcuni risultati potrebbero essere falsi positivi, ad esempio clip riutilizzate legittimamente secondo le norme del fair use. Se un creatore individua un falso convincente, potrà inviare una segnalazione direttamente dalla piattaforma.

I revisori di YouTube valuteranno la richiesta considerando diversi fattori: i video dichiaratamente parodistici o stilizzati potrebbero restare online, mentre quelli che mostrano una persona impegnata in attività illegali o promuovendo prodotti senza consenso saranno rimossi. In casi complessi, YouTube consiglia anche di presentare una richiesta di rimozione per violazione del copyright.

L'arrivo di questo strumento coincide con l'espansione dei modelli video generativi, come Veo 3.1 di Google, capace di creare video AI in formato verticale e orizzontale, e Sora 2 di OpenAI, ormai virale per i suoi video realistici.