SynthID, arriva lo strumento di Google per identificare le immagini generate con l'AI

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ai_119660.html

Google sviluppa un sistema che permette di marcare e identificare le immagini realizzate con l'intelligenza artificiale: un primo passo verso un uso e una fruizione più consapevole?

Click sul link per visualizzare la notizia.

[Unrue]

Ben vengano questi metodi, anche se non mi è chiaro cosa significhi inserire la filigrana nel pixel. Un pixel non è solo un colore? Come ci infili una filigrana?

[AlPaBo]

Originariamente inviato da Unrue

Ben vengano questi metodi, anche se non mi è chiaro cosa significhi inserire la filigrana nel pixel. Un pixel non è solo un colore? Come ci infili una filigrana?

Qui puoi leggere qualcosa in merito.

L'idea, basata su concetti di steganografia, è quella di modificare un certo numero di pixel presi in locazioni particolari dell'immagine, dandogli un colore diverso da quello originale. Modifiche di questo tipo sono invisibili all'occhio umano, ma possono essere individuate con appositi programmi. In base alle tecniche di selezione dei pixel e ai colori utilizzati (tecniche che io non ho studiato e quindi non conosco, ma ci sono varie pubblicazioni in materia), è possibile fare in modo che le informazioni siano disponibili anche dopo modifiche semplici dell'immagine (ridimensionamenti, tagli, ecc.).

Nota che si tratta di un articolo di 25 anni fa, per cui non è una novità.

Rimane il problema che una soluzione di una sola azienda non è adeguata, bisognerebbe modificare la normativa sul copyright in modo da prevedere obbligatoriamente tecniche di watermark per le immagini (e i testi e i suoni e i video) generate da IA in modo da renderle tutte riconoscibili indipendentemente dal produttore.

[zancle]

Originariamente inviato da AlPaBo

Qui puoi leggere qualcosa in merito.

L'idea, basata su concetti di steganografia, è quella di modificare un certo numero di pixel presi in locazioni particolari dell'immagine, dandogli un colore diverso da quello originale. Modifiche di questo tipo sono invisibili all'occhio umano, ma possono essere individuate con appositi programmi. In base alle tecniche di selezione dei pixel e ai colori utilizzati (tecniche che io non ho studiato e quindi non conosco, ma ci sono varie pubblicazioni in materia), è possibile fare in modo che le informazioni siano disponibili anche dopo modifiche semplici dell'immagine (ridimensionamenti, tagli, ecc.).

Nota che si tratta di un articolo di 25 anni fa, per cui non è una novità.

Rimane il problema che una soluzione di una sola azienda non è adeguata, bisognerebbe modificare la normativa sul copyright in modo da prevedere obbligatoriamente tecniche di watermark per le immagini (e i testi e i suoni e i video) generate da IA in modo da renderle tutte riconoscibili indipendentemente dal produttore.

facilmente aggirabile con un print screen o una foto dello schermo.
chi vuol creare scompiglio non gli serve una foto di qualità eccelsa, basta solo che la scena ritratta sia scandalosa e si riconoscano i soggetti.

[AlPaBo]

Originariamente inviato da zancle

facilmente aggirabile con un print screen o una foto dello schermo.
chi vuol creare scompiglio non gli serve una foto di qualità eccelsa, basta solo che la scena ritratta sia scandalosa e si riconoscano i soggetti.

Può darsi. Forse non hai letto dove ho scritto

è possibile fare in modo che le informazioni siano disponibili anche dopo modifiche semplici dell'immagine

Non credo che a Google siano così ingenui da non averci pensato.

Inoltre qui lo scopo principale è quello di proteggere la produzione autoriale umana; si vuole che sia possibile identificare un'immagine ottenuta da AI per due scopi:

1. Si chiede che le AI non siano proteggibili, ma che il copyright sia previsto solo per la produzione umana.
2. Se l'oggetto prodotto dall'AI è troppo simile a quella di un autore, si vuole applicare il diritto d'autore e chiederne la rimozione.

Una immagine a bassa qualità non interessa.

Un ulteriore punto riguarda le immagini usate per fake new. Non a caso, già adesso le immagini a bassa qualità si squalificano da sole. La cosa sarà sempre più vera: se sei un produttore di fake new l'uso di immagini di bassa qualità, sgranate, con colori innaturali verrà sempre più considerata come un forte sintomo di falsità e verrà segnalato sui social dalle organizzazioni che se ne occupano.