Midjourney: stop alla prova gratuita dopo i deepfake di Trump e Papa Francesco

Midjourney ha deciso di chiudere, almeno temporaneamente, l'uso gratuito dell'omonimo generatore di immagini basato sull'Intelligenza Artificiale. Una decisione resasi necessaria a causa dell'abuso da parte degli utenti, che hanno utilizzato lo strumento per creare deepfake di alto profilo come quelli recentemente circolati su Donald Trump e sul Papa.

Il CEO David Holz ha comunicato tramite Discord che la società ha deciso per ora di porre fine alle prove gratuite a fronte di una "domanda straordinaria" e dell'"abuso del periodo di prova". Le misure nuove di sicurezza recentemente introdotte non sono state sufficienti per impedire l'abuso della tecnologia durante il periodo di prova. Per poter utilizzare il generatore d'immagini Midjourney sarà ora necessario sottoscrivere un abbonamento a partire da 10 dollari al mese.

I già citati recenti casi dei deepfake relativi a Papa Francesco vestito alla moda, e dell'arresto di Donald Trump, hanno richiamato l'attenzione di media e pubblico sui rischi posti dai generatori di immagini basati sull'intelligenza artificiale ed in particolare sulla loro efficacia come strumenti di diffusione di disinformazione.

Holz ha comunque riconosciuto una certa difficoltà nel riuscire a definire adeguate politiche sulla creazione dei contenuti, proprio per via dell'evoluzione delle capacità dell'Intelligenza Artificiale nel creare immagini sempre più realistiche. La società sta lavorando per cercare di migliorare le pratiche di moderazione con l'obiettivo di prevenire l'abuso della tecnologia.

A tal proposito vale la pena osservare che in altri contesti si è deciso di applicare regole rigide proprio per prevenire casi come quelli citati in precedenza. Gli sviluppatori di OpenAI, ad esempio, bloccano qualsiasi immagine che riguardi eventi politici contemporanei o basate su teorie del complotto, oltre all'ovvia esclusione di contenuti basati su odio, violenza, sessualità e discriminazione.