Grok avrebbe generato 3 milioni di immagini deekfake in appena 11 giorni secondo un'indagine

Grok è uno dei servizi AI più interessanti, grazie alle sue potenzialità, ma è anche uno dei più criticati e monitorati, per via di problemi legati alle fake news e alla generazione di contenuti illegali e inappropriati. Una conferma in tal senso arriva da un'indagine del Center for Countering Digital Hate. Ricordiamo che già in passato Grok è finito in prima pagina per comportamenti non appropriati.

Le stime

Secondo l'indagine, Grok avrebbe generato "circa 3 milioni di immagini sessualizzate, di cui 23.000 che sembrano raffigurare bambini" dopo il lancio della funzione di modifica delle immagini. Sul finire del mese di dicembre, la modifica delle immagini tramite Grok è diventata molto popolare grazie alla nuova funzionalità che permette di ricorrere all'AI per modificare le immagini già pubblicate sulla piattaforma.

Questa funzione è stata limitata agli utenti paganti soltanto il 9 gennaio, dopo che era stata utilizzata in tanti casi per la generazione di immagini sessualizzate. Soltanto il 14 gennaio sono state introdotte delle modifiche tecniche per applicare delle restrizioni alla possibilità di spogliare le persone mostrate nelle immagini.

Negli 11 giorni compresi tra il 29 dicembre e l'8 gennaio, considerando l'analisi di un campione di immagini pubblicate sulla piattaforma effettuato con l'assistenza dell'AI, si stimano circa 3 milioni di immagini sessualizzate e circa 23 mila immagini sessualizzate con soggetti probabilmente bambini.

Si tratta di numeri molto preoccupanti che confermano la diffusione del fenomeno e anche la relativa semplicità con cui è possibile arrivare alla generazione di immagini illecite (almeno fino ai paletti imposti, con grande ritardo, da X).

Da segnalare che il 29% delle immagini con soggetti probabilmente bambini è rimasto sulla piattaforma e risulta essere ancora accessibile al pubblico al momento della conclusione dell'indagine.

Da segnalare che viene chiarito che lo studio "non ha acquisito le immagini originali e i prompt utilizzati per creare immagini sessualizzate e pertanto non distingue tra le immagini create tramite la funzione "modifica immagine" di Grok e quelle create dagli utenti che hanno richiesto a Grok di farlo senza fare riferimento a un'immagine originale".