La filigrana che dovrebbe rendere sicuri gli LLM ne altera il comportamento: lo studio

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/la...io_159369.html

Una ricerca di Lasso Security ha scoperto che SynthID-Text, il sistema di watermarking che Anthropic adotterà sui futuri modelli Claude per rispettare la normativa UE, altera anche i rifiuti di sicurezza e le chiamate agli strumenti degli agenti IA

Click sul link per visualizzare la notizia.

[danylo]

Che le risposte dell'AI sarebbero risultate meno precise, lo avevamo previsto un po' tutti.

Se poi aggiungiamo che sicuramente nasceranno strumenti per riscrivere i documenti, in modo da eliminare il watermark, capiamo che e' doppiamente inutile.


.