Google rende open source SynthID per la filigrana dei contenuti testuali generati da IA

Google ha preso posizione sul tema della trasparenza nell'ambito dell'intelligenza artificiale, rendendo disponibile in open source, tramite Google Responsible Generative AI Toolkit, la sua tecnologia di filigrana SynthID.

L'obiettivo di questa mossa è di consentire ad altri sviluppatori di IA generativa di implementare la tecnologia per identificare gli output dei loro modelli linguistici, promuovendo uno sviluppo più responsabile dell'intelligenza artificiale.

I meccanismi di watermarking (filigrana, appunto) stanno assumendo un ruolo sempre più cruciale in questa fase dello sviluppo e della diffusione di sistemi di IA generativa,  con i modelli linguistici che vengono spesso utilizzati in modo improprio per diffondere disinformazione politica o generare contenuti dannosi.

SynthID è un sistema presentato nell'agosto scorso e che funziona inserendo una filigrana invisibile in contenuti multimediali e testuali durante la loro generazione. Per quanto riguarda il testo, il sistema funziona andando a modificare lievemente la probabilità di occorrenza delle parole in modo rilevabile dal software ma impercettibile per l'occhio umano. Google, che ha già integrato il sistema nel suo chatbot Gemini, assicura che questa tecnologia non compromette qualità, accuratezza, creatività o velocità del testo generato.

Google stessa sottolinea alcune limitazioni di SynthID: il meccanismo funziona bene su testi di almeno tre frasi e riesce ad essere efficace anche nel caso di modifiche come ritagli e parafrasi, ma mostra difficoltà con testi molto brevi, contenuti tradotti o risposte a domande fattuali.