Sora: i video sono realistici, ma da dove arrivano i dati di addestramento?

Lo scorso dicembre OpenAI aveva mostrato Sora, la sua AI generativa capace di realizzare clip video a partire da un semplice prompt testuale. Sora, pur non immune da qualche imprecisione, aveva impressionato fin da subito per la sua capacità di ricreare scene del tutto plausibili, stabilendo di fatto un nuovo paradigma per le sue potenziali applicazioni e implicazioni per il mondo della comunicazione visuale, dall'intrattenimento all'informazione.

L'origine dei dati usati per addestrare la tecnologia rimane in gran parte sconosciuta. E' però abbastanza scontato immaginare che la stessa pratica di utilizzare enormi quantità di testi online, raccolti non necessariamente con consenso diretto, sia stata utilizzata anche con Sora. La stessa OpenAI ha dichiarato in varie occasioni che il modello è stato addestrato a partire da una grande varietà di formati visivi, inclusi vertical video, clip più lunghe e ad alta risoluzione, combinando materiale "pubblicamente disponibile e concesso in licenza". Non è stato però specificato quali contenuti siano stati effettivamente utilizzati.

Il Washington Post ha però mostrato come Sora sia capace di generare sequenze che riproducono fedelmente stili e scene di celebri serie TV come Wednesday di Netflix, videogiochi noti come Minecraft, loghi animati di case cinematografiche come Warner Bros. e DreamWorks, oltre a contenuti riconducibili a piattaforme come NBA, TikTok e Twitch. Questa fedele somiglianza potrebbe essere indizio del fatto che durante le operazioni di addestramento a Sora siano state somministrate versioni originali di questi materiali.

Il fatto che un modello generativo sia per lo più incline a "mimare" ciò di cui è "venuto a conoscenza" durante l'addestramento non dimostra necessariamente nulla, nemmeno il fatto che il materiale di training sia necessariamente originale e usato senza autorizzazione: spesso infatti sulle piattaforme social finiscono video, spezzoni di film e serie televisive senza alcun consenso dei detentori dei diritti, e talvolta anche spezzoni comprendenti proprio i titoli di testa dei film, contenenti appunto i loghi degli studi cinematografici. Dal canto loro realtà come Netflix e Twitch hanno negato qualsiasi collaborazione o cessione di contenuti a OpenAI.

Il Washington Post cita però uno studio della Data Provenance Initiative secondo il quale oltre il 70% dei dataset video pubblici utilizzati dalle aziende IA proviene da contenuti estratti da YouTube, questo anche se i termini del servizio vietano in maniera esplicita il download e l'uso senza permesso. Il nodo dell'origine dei dati di addestramento di Sora resta, al momento, irrisolto. Al momento OpenAI non è ancora stata presa di mira da alcuna causa legale per Sora, ma deve affrontare diversi contenziosi per l'uso di testi e di audio nell'addestramento dei modelli linguistici. L'azienda di Sam Altman si difende affermando che l'uso dei dati avviene nel rispetto del principio di "fair use" e con l'impiego di sistemi che evitano la riproduzione pedissequa dei materiali di addestramento. C'è, però, una grande verità: la mancanza di trasparenza che permea l'intero settore, senza uno standard pubblico e norme capaci di dare chiarezza e, dall'altro lato, la reticenza delle aziende AI a rivelare quali dataset hanno utilizzato.

Ovviamente il punto centrale è la protezione della proprietà intellettuale e, con essa, il riconoscimento per gli autori/creatori di contenuti. Lo stesso Sam Altman ha dichiarato in più occasioni di sostenere modelli di compensazione per gli artisti, sottolineando che “le persone devono essere pagate”. Resta tuttavia da chiarire in che modo un simile approccio possa essere implementato in un settore in rapida evoluzione, tra pressioni legali, resistenze delle major e l’espansione del mercato dei contenuti generati dall’intelligenza artificiale. Senza dimenticare che le dichiarazioni, fino a che rimangono tali, costano poco.