E se l'AI stesse davvero rubando i libri? Il caso Harry Potter accende il dibattito

Un nuovo studio riportato da Arstechnica, condotto da un team interdisciplinare di ricercatori delle Università di Stanford, Cornell e West Virginia solleva interrogativi rilevanti sull'uso di contenuti protetti da copyright nell'addestramento dei modelli di intelligenza artificiale. Al centro della ricerca c'è Llama 3.1 70B, un modello open-weight rilasciato da Meta nel 2024, che secondo l'analisi avrebbe memorizzato fino al 42% del libro Harry Potter e la Pietra Filosofale.

Questa scoperta riapre il dibattito sulle implicazioni legali dell'addestramento degli LLM (Large Language Models) su dataset che includono opere protette. I ricercatori hanno valutato la probabilità che il modello rigeneri fedelmente sequenze di 50 token da un corpus di 36 libri, utilizzando un approccio statistico basato sui valori di probabilità interni al modello stesso, anziché tramite la generazione empirica di testi. Il risultato è che alcuni modelli, e in particolare Llama 3.1 70B, sono in grado di produrre passaggi identici a quelli di opere famose con una frequenza significativa.

Il confronto con modelli precedenti rafforza il dato. Llama 1 65B, rilasciato nel 2023, mostrava una memorizzazione molto più bassa (4,4%) dello stesso libro. Questo incremento suggerisce che, con l'aumento della dimensione dei dataset (fino a 15 trilioni di token per Llama 3), anche il rischio di memorizzazione di contenuti protetti sia aumentato.

Lo studio evidenzia anche una selettività nella memorizzazione: i modelli tendono a conservare meglio testi molto noti - come 1984 di George Orwell o Lo Hobbit - mentre l'output resta trascurabile per opere meno popolari, come "Sandman Slim. La stanza delle tredici porte" di Richard Kadrey, dove il tasso di memorizzazione è appena dello 0,13%.

Questo comportamento può avere impatti concreti nelle cause legali in corso, come le class action avviate da autori contro le aziende di AI. La forte variabilità nella capacità di rigenerazione testuale può minare la coerenza delle azioni collettive, mettendo in dubbio la possibilità di trattare tutti gli autori come ugualmente danneggiati.

Dal punto di vista giuridico, la questione si lega a tre possibili teorie di violazione del copyright: la riproduzione durante l'addestramento; l'idea che il modello stesso sia un'opera derivata; e infine, la violazione che avviene quando il modello genera passaggi identici ai testi originali. Se il primo punto è già oggetto di dibattiti legali, il secondo - cioè, che il modello contenga nel proprio stato interno una rappresentazione sostanziale di un'opera - potrebbe risultare particolarmente problematico, soprattutto per chi sostiene la tesi del fair use.

Inoltre, la natura open-weight di Llama 3.1 rende queste verifiche possibili, a differenza dei modelli chiusi come quelli di OpenAI o Google, i cui pesi e logit non sono accessibili pubblicamente. Paradossalmente, questo potrebbe scoraggiare le aziende dal rilasciare modelli aperti, per evitare controlli esterni. Un'eventualità che, secondo alcuni giuristi, rischia di penalizzare proprio i soggetti più trasparenti.

I risultati della ricerca aggiungono complessità a un contesto legale già sfaccettato, dove la distinzione tra apprendimento e riproduzione non è solo tecnica, ma potenzialmente decisiva nei tribunali.