Grok Imagine: evoluzione dell'IA o nuova frontiera per i criminali del 'revenge porn'?

xAI, l'azienda di intelligenza artificiale fondata da Elon Musk, ha lanciato una nuova funzione chiamata Grok Imagine, uno strumento di generazione di immagini e video tramite intelligenza artificiale. Un aspetto peculiare della nuova funzione riguarda la produzione dei contenuti per adulti.

È interessante notare che la nuova funzione giunge con un tempismo piuttosto curioso. Solo qualche giorno fa, Meta è stata citata in giudizio da Strike 3 Holdings e Counterlife Media per aver utilizzato film per adulti piratati per l'addestramento dell'IA.

Una delle maggiori preoccupazioni nell'industria pornografica è che l'IA raggiunga un livello tale da poter generare intere pellicole senza alcuna necessità di una produzione cinematografica, minando così un business da miliardi di dollari consolidato.

Ma mentre la preoccupazione tra gli addetti al settore cresce, Grok sembra già dilettarsi con il "porno generativo". Il nuovo strumento di Grok, infatti, integra una modalità chiamata "Spicy" (Piccante) che consente la creazione di immagini o brevi clip di contenuti sessualmente espliciti. Stando a quanto riportato da alcuni utenti, questa impostazione spinge alla creazione di contenuti denominati NSFW (Not Safe For Work).

Lo strumento permette di generare immagini partendo da un prompt testuale o vocale, con una varietà di stili disponibili, che spaziano dal fotorealismo all'anime, passando per l'illustrazione. La funzione vocale, secondo Musk, sarebbe pensata anche per un pubblico più giovane, grazie alla sua natura interattiva. La generazione video, invece, non avviene da testo, ma parte da un'immagine fornita o generata dall'utente, da cui il sistema costruisce brevi sequenze animate, anche con effetti sonori. Sono disponibili quattro modalità di animazione: Custom, Normal, Fun e Spicy.

Musk ha definito Grok Imagine come una sorta di "AI Vine", un riferimento al defunto social network di video brevi, e ha confermato che il sistema ha già generato oltre 34 milioni di immagini dalla sua attivazione. Alcuni contenuti pubblicati online dagli utenti mostrano l'utilizzo della modalità Spicy per creare immagini di donne semi o totalmente nude, o personaggi anime in pose sessualizzate, spesso inseriti in scenari surreali come razzi SpaceX.

Attualmente, Grok Imagine è disponibile per gli abbonati ai piani SuperGrok e Premium Plus sull'app iOS di Grok. Una versione con funzionalità limitate è in fase di rilascio anche su Android, ma al momento supporta solo la generazione di immagini. Non è chiaro quali siano i limiti imposti dal sistema per la moderazione dei contenuti, anche se in passato è stato dimostrato che i filtri di Grok sono facilmente aggirabili. Alcune restrizioni sembrano riguardare la creazione di immagini che coinvolgano celebrità, ma resta da verificare la reazione del sistema all'uso di immagini reali come base per contenuti Spicy.

Naturalmente, il rischio maggiore è facilmente intuibile: il "revenge porn". Un reato che, a queste condizioni, non solo bypasserebbe il consenso delle persone coinvolte alla pubblicazione di video o immagini, ma rischia perfino di superare la necessità che quei contenuti esistano, poiché sarà sufficiente una foto, magari solo del volto, della vittima.