Abbiamo un nuovo problema con l'Intelligenza Artificiale: la pedopornografia computer-generated

Il tema è molto delicato e ha risvolti che vanno ben oltre le considerazioni più superficiali. Il Washington Post ha pubblicato un lungo report sul tema 'Intelligenza Artificiale utilizzata per creare immagini pedopornografiche', riportando il parere di diversi esperti, sia sul lato 'informatico' sia su quello delle forze dell'ordine.

Una prima considerazione un po' ingenua potrebbe essere quella che le immagini generate a partire da una semplice riga di testo in sistemi come Stable Diffusion non ritraggono nessun bambino realmente esistente e quindi non rappresentino un problema.

Che il soggetto esista o meno, il problema resta

In realtà sono un problema più grosso di quanto possa sembrare a prima vista. Innanzitutto il fiorire di immagini generate dall'intelligenza artificiale che ritraggono minori in atteggiamenti erotici o in atti sessuali rischia di vanificare gli sforzi delle forze dell'ordine nello scoprire e tracciare le immagini di reali abusi.

I sistemi sviluppati per rilevare e tracciare i contenuti pedopornografici, infatti, al momento non sono in grado di distinguere tra quelli reali e quelli generati: il carico di lavoro per tali sistemi potrebbe quindi aumentare in modo considerevole e portarli al collasso, privando gli inquirenti di una delle armi a loro disposizione. La facilità con cui questo tipo di immagini può essere creato, infatti, permette la generazione in pochi minuti di centinaia di finti scatti.

Sui forum di pedofili sul dark web sono fiorite in questi mesi le guide su come creare contenuti pedopornografici sfruttando l'intelligenza artificiale. Non solo, diverse guide spiegano come creare nuovi contenuti a partire da immagini di abusi e come creare deepfake sfruttando immagini di minori reali.

Piattaforme come DALL-E e Midjourney che girano su canali proprietari e hanno adottato diverse strategie per limitare questo tipo di utilizzo: da un lato hanno esplicitamente vietato i contenuti a sfondo sessuale, e dall'altro eliminato i set di dati relativi ai contenuti espliciti, togliendo così ai sistemi di generazione immagini la base da cui partire per far convergere le immagini generate.

La stessa strategia è stata adottata anche da Stable Diffusion, che però è fornito come strumento open-source e può essere fatto girare in locale. A quel punto basta trovare i database 'giusti' e la creazione di immagini pedopornografiche è alla portata anche di persone con scarse conoscenze informatiche: basta che sappiano seguire una guida di installazione e riescano a scaricare modelli e set di dati 'proibiti'.

Tra le persone ascoltate dal Washington Post figurano anche esperti del Dipartimento di Giustizia statunitense, che su un punto sono chiari: la legge americana considera illegali le immagini sessualmente esplicite - anche se generate al computer - con soggetti 'virtualmente indistinguibili' da minori reali. Un'altra legge che vieta le immagini generate al computer di minori coinvolti in atti sessuali in mancanza di un reale valore artistico specifica che per essere efficace il provvedimento non richiede che il minore raffigurato esista realmente.

Anche se gli strumenti legislativi esistono, al momento però non c'è evidenza di nessuna sentenza a carico di persone che abbiano generato al computer immagini sessualmente esplicite di minori.

Vi è poi un'altra questione da affrontare: sono stati documentati casi in cui gli strumenti di generazione immagini tramite intelligenza artificiale sono stati utilizzati per creare dei 'selfie ringiovaniti' da utilizzare in profili falsi con cui adescare i minori.

Tutte le persone intervistate per la stesura del pezzo concordano su un aspetto: gli scenari legati alle intelligenze artificiali generative che si aprono nell'ambito della pedopornografia sono 'spaventosi' e certamente bisognerà alzare il livello di vigilanza sul tema.