X limita Grok: stop alle immagini sessualizzate di persone reali

X ha annunciato una stretta significativa sulle capacità di modifica e generazione di immagini di Grok, il chatbot sviluppato da xAI, dopo settimane di forti polemiche legate alla produzione di contenuti sessualizzati, inclusi casi di nudità non consensuale e immagini che sembravano ritrarre minori. Le nuove misure sono state comunicate tramite l'account ufficiale @Safety sulla piattaforma.

Secondo quanto dichiarato dall'azienda, Grok non sarà più in grado di modificare immagini di persone reali per inserirle in abbigliamento rivelatore, come bikini o indumenti simili. Questa limitazione sarà applicata a tutti gli utenti, indipendentemente dal fatto che siano abbonati o meno al servizio. Inoltre, xAI ha deciso di bloccare completamente la generazione di immagini per gli utenti non paganti, spostando tutte le funzionalità di image generation dietro il paywall di Grok.

Un'ulteriore misura riguarda il geoblocking: in tutte le aree del mondo in cui è illegale, X impedirà a qualsiasi utente di generare immagini di persone reali in bikini, intimo o abiti comparabili, sia tramite l'account Grok sia attraverso l'integrazione di Grok su X. L'obiettivo dichiarato è quello di allinearsi alle normative locali e ridurre drasticamente l'abuso della tecnologia.

Le restrizioni a Grok arrivano dopo un'indagine ufficiale da parte dello Stato della California

L'annuncio arriva poche ore dopo l'apertura di un'indagine ufficiale da parte dello Stato della California su xAI e Grok. Il procuratore generale Rob Bonta ha citato un'analisi secondo cui oltre la metà delle 20.000 immagini generate da Grok tra Natale e Capodanno mostrava persone con abiti minimi, incluse immagini che sembravano raffigurare bambini. Un dato che ha acceso l'attenzione delle autorità e intensificato le pressioni sull'azienda.

Nel suo comunicato, X ha ribadito di avere "tolleranza zero" verso lo sfruttamento dei minori e di rimuovere attivamente contenuti ad alta priorità come il materiale pedopornografico (CSAM) e la nudità non consensuale. In precedenza, Elon Musk aveva dichiarato di non essere a conoscenza di immagini nude di minori generate da Grok.

Successivamente ha chiarito che, con l'impostazione NSFW attiva, il sistema dovrebbe consentire solo la nudità parziale di esseri umani adulti immaginari, in linea con contenuti visibili nei film vietati ai minori, e che tali regole possono variare in base alle leggi regionali.