IA generative e immagini, il rischio plagio è dietro l'angolo

Non è una novità, e nemmeno un segreto, che gli strumenti di IA generativa camminino sulle uova per quanto riguarda il rispetto del diritto d'autore e la stessa OpenAI ha recentemente dichiarato che i contenuti protetti da copyright sono "indispensabili" per l'allenamento dei modelli IA.

Al momento il dibattito è particolarmente acceso e ha già visto la mobilitazione di realtà come il New York Times che ha citato in giudizio proprio OpenAI e Microsoft, ma anche di autori famosi (Martin e Grisham, per fare due nomi) che hanno sollevato un polverone per un altro caso di violazione del diritto d'autore.

I problemi non si limitano alle IA generative testuali, ma anche agli strumenti capaci di generare immagini: un gruppo di artisti ha avviato una causa collettiva contro Midjourney e StabilityAI accusandole di aver sfruttato indebitamente opere protette.

In un recente articolo apparso su IEEE Spectrum, il professore Gary Marcus e il concept artist Reid Southen hanno dimostrato quanto questi strumenti attingano da materiale effettivamente protetto da copyright, con una serie di esperimenti che lasciano davvero pochi dubbi.

Sopra l'immagine si legge il comando per generarla - Fonte: IEEE Spectrum

I due hanno condotto diverse prove, scoprendo presto quanto sia facile generare output plagiari. Marcus e Southen hanno spiegato come sia possibile riprodurre un'immagine che mostra una serie di personaggi del Marvel Cinematic Universe, somministrando le opportune indicazioni.

Sotto l'immagine si legge il comando per generarla - Fonte: IEEE Spectrum

"Alla luce di questi risultati, sembra certo che Midjourney sia stato addestrato su materiale protetto da copyright e che possa creare contenuti violativi" affermano. Ovviamente non è possibile sapere se il materiale su cui è stata addestrata l'IA sia stato o meno concesso in licenza, ma il punto rimane: le IA generative possono realizzare output contenenti materiale protetto da diritto d'autore. Marcus e Southen raccontano come sia stato ancor più semplice ottenere immagini di Super Mario o Darth Vader senza dover citare Nintendo o il franchise di Star Wars.

Sotto l'immagine si legge il comando per generarla - Fonte: IEEE Spectrum

Spetta ovviamente al legislatore stabilire se questo tipo di riproduzione costituisca effettivamente una violazione, ma si tratta comunque di una situazione particolarmente delicata dal punto di vista legale, perché può esporre Midjourney (così come i suoi concorrenti/fratelli: Marcus e Southen hanno condotto un esperimento simile con DALL-E 3, ottenendo risultati comparabili) al rischio di battaglie in tribunale particolarmente aspre. 

In generale si tratta di una problematica la cui gestione appare piuttosto complessa. L'implementazione di qualsivoglia sistema di filtrazione - per evitare che vengano generati contenuti indesiderati - ha già dimostrato la sua fallacia, con tali sistemi che si sono rivelati piuttosto semplici da aggirare. E le cose non sembrano, almeno nell'immediato, destinate a migliorare poiché il rischio potenziale di violazione del diritto d'autore complica la situazione, svelando fondamenta eticamente e legalmente fragili per ciò che oggi è il settore delle IA generative.