Meta dichiara guerra alle app "nudify" che creano deepfake espliciti di chiunque

Meta ha deciso di elevare lo sforzo nella lotta contro le app cosiddette "nudify", quegli strumenti strumenti basati sull’intelligenza artificiale che permettono di generare immagini intime e sessualmente esplicite di persone reali senza il loro consenso.

L'azienda di Menlo Park ha infatti annunciato l'avvio di un'azione legale a Hong Kong contro Joy Timeline HK Limited, la società responsabile di CrushAI e di altre app simili, che negli ultimi mesi aveva promosso in modo massiccio i propri servizi tramite annunci a pagamento su Facebook e Instagram.

CrushAI è stata una delle app più pubblicizzate sulle piattaforme Meta, con oltre 8.000 annunci diffusi solo tra la fine dello scorso anno e l’inizio del 2025. Negli annunci veniva evidenziata la possibilità di "rimuovere i vestiti" da foto di celebrità, influencer o persone comuni, sfruttando l’IA per creare deepfake a sfondo sessuale.

Meta ha dichiarato che la causa legale rappresenta una risposta alle ripetute violazioni delle proprie regole da parte di Joy Timeline HK Limited, che avrebbe tentato più volte di aggirare i controlli sugli annunci, continuando a promuovere le app anche dopo la rimozione di numerose inserzioni per violazione delle policy aziendali.

Ma l'azione legale, per altro contro un singolo soggetto, non è da sola risolutiva. A tal proposito, Meta ha annunciato un rafforzamento delle proprie tecnologie di rilevamento e moderazione: sono stati sviluppati nuovi sistemi in grado di identificare gli annunci delle app "nudify" anche quando non mostrano direttamente nudità, grazie all’uso di tecniche di matching e all’espansione delle liste di termini, frasi ed emoji considerate a rischio. Meta ha inoltre dichiarato di collaborare con esperti esterni e team interni specializzati per adattarsi alle strategie sempre più sofisticate adottate dagli sviluppatori di queste app, e di condividere segnali e informazioni con altre aziende tecnologiche e gestori di app store per facilitare la rimozione coordinata di questi servizi anche su altre piattaforme.

Nonostante le policy di Meta vietino esplicitamente la pubblicazione e la promozione di immagini intime non consensuali, le app "nudify" hanno continuato a trovare spazio grazie a tattiche elusive come la creazione di account e pagine fittizie, l’uso di immagini apparentemente innocue negli annunci e il rapido ricambio di domini web. In questo poi giocherebbero un ruolo rilevante anche le differenti procedure di moderazione degli annunci a pagamento rispetto a quelle applicate ai contenuti organici pubblicati dagli utenti.

Le app "nudify" rappresentano solo una parte del problema più ampio legato ai deepfake e ai contenuti manipolati tramite IA. Meta è stata più volte criticata, anche dal proprio Oversight Board, per la scarsa efficacia nel contrastare le truffe pubblicitarie basate su deepfake di personaggi pubblici, spesso utilizzati per promuovere schemi fraudolenti o prodotti ingannevoli. Il Board ha evidenziato come i revisori dei contenuti non abbiano strumenti e poteri sufficienti per intervenire tempestivamente su questi casi, e ha raccomandato a Meta di aggiornare le proprie linee guida e di formare meglio i moderatori sulle tecniche di manipolazione tramite IA.

Meta ha risposto affermando di aver avviato test su tecnologie di riconoscimento facciale e di aver rafforzato le proprie strategie di contrasto, ma secondo molti osservatori le misure adottate finora non sono sufficienti a contenere un fenomeno in rapida crescita, alimentato dalla facilità di accesso agli strumenti di generazione di deepfake e dalla motivazione economica degli sviluppatori di queste app.