Google continua la lotta ai deepfake: Gemini ora è in grado di capire se un'immagine è fatta con l'IA

Lo sviluppo dell'IA generativa offre tanti vantaggi agli utenti, ma è anche la causa di una crescente diffusione di contenuti fake che oggi circolano online. Per contrastare la diffusione delle immagini fake, Google ha arricchito le capacità di Gemini che ora è in grado di capire se un'immagine è stata generata dall'IA. Il sistema presenta per ora alcuni limiti, ma rappresenta un primo passo importante nella lotta ai deepfake.

Una nuova funzione per Gemini

Grazie al sistema di verifica SynthID (presentato due anni fa da Google) ora Gemini è in grado di capire se una foto è stata generata dall'intelligenza artificiale. Per il momento, il servizio è limitato alle foto (ma Google ha già confermato che arriverà anche la capacità di riconoscere i video) e solo ai contenuti generati dall'IA di Google (che applica la filigrana invisibile SynthID.

La verifica potrà essere estesa anche a servizi di terze parti, permettendo, ad esempio, di verificare se le immagini (o i video) sono stati creati da un'intelligenza artificiale come ChatGPT, Sora o altro ancora.

Google, inoltre, prevede di estendere il sistema di verifica anche al motore di ricerca, con l'obiettivo di offrire sempre più funzionalità al suo servizio principale che da poco può contare sulla AI Mode.

Per il momento, per effettuare una verifica è possibile affidarsi all'app di Gemini e chiedere all'assistente di fare un controllo su una determinata immagine. Si tratta, però, solo di un primo passo di un programma molto più ambizioso e che punta a contrastare in modo efficace e significativo la diffusione di contenuti deepfake. Staremo a vedere quali saranno le prossime mosse di Big G.