Hugging Face ospita migliaia di modelli AI rimossi da Civitai dopo lo scandalo dei deepfake

Hugging Face, la più rilevante piattaforma per la condivisione di strumenti di intelligenza artificiale, sta ospitando oltre 5.000 modelli di generazione immagini AI nati appositamente per ricreare la fisionomia di persone reali, la maggior parte donne famose o personalità note sul web. Questi stessi modelli si trovavano originariamente su Civitai, sito noto per il vasto archivio di modelli AI e recentemente al centro delle polemiche per l’uso massiccio di tali tecnologie nella creazione di pornografia non consensuale e, più in generale, deepfake a sfondo sessuale. La pressione da parte dei circuiti di pagamento ha costretto Civitai a vietare ogni modello in grado di generare l’immagine di persone reali, lasciando così un vuoto subito colmato da centinaia di utenti attivi nelle community online.

A seguito dell’annuncio di Civitai sul nuovo regolamento, in cui il sito offriva agli uploader “un breve periodo di tempo” per salvare e rimuovere i propri modelli, è scattata una vera e propria corsa all’archiviazione: canali Discord dedicati si sono popolati di utenti impegnati nel recuperare e reuploadare sistematicamente i modelli bannati sull’alternativa più popolare, Hugging Face. Addirittura è stato sviluppato uno strumento software dedicato, distribuito sulla stessa Hugging Face, per gestire upload di massa.

Chi si è adoperato a trasferire i modelli su Hugging Face ha anche adottato nomi generici e titoli standardizzati (“LORA”, “Test model”) per impedire all’utenza e ai moderatori di rintracciarli agevolmente tramite semplici ricerche per nome.

Hugging Face non ha risposto alle numerose richieste di chiarimento, né ha spiegato se e come intenda intervenire su questi modelli, dato che il loro pregresso uso per materiale sessualmente esplicito non è di pubblico dominio sulla piattaforma.

La policy ufficiale di Hugging Face vieta formalmente “contenuti illeciti, diffamatori, fraudolenti o intenzionalmente ingannevoli (ad esempio, disinformazione, phishing, truffe, comportamenti inautentici)”, nonché “contenuti sessuali usati per molestie, bullismo o creati senza consenso esplicito”. Nel regolamento, però, non esiste un passaggio esplicito che vieti la pubblicazione di modelli per la riproduzione del volto di persone reali. La policy stessa ammette che tali modelli non devono necessariamente essere impiegati per fini illeciti, e solo un utilizzo specifico e dannoso può rientrare tra le violazioni.

Il gruppo Ethics & Society di Hugging Face, che opera con l'obiettivo di introdurre pratiche etiche nello sviluppo delle tecnologie AI, sottolinea tra le sei categorie prioritarie la necessità che l’innovazione sia “Consentful”: ovvero che le tecnologie rispettino e rafforzino l’autodeterminazione di chi utilizza e di chi subisce l’impatto degli algoritmi. Tuttavia, nelle linee guida attuali, la responsabilità ricade sulla modalità d’uso più che sul tipo di modello pubblicato. Ciò lascia aperto uno “spazio grigio” etico, in cui la rimozione o la moderazione dei modelli avviene solo in presenza di richieste, segnalazioni o dopo la pubblicazione di materiale esplicito dannoso.

La sospensione dei modelli da Civitai ha semplicemente spostato il problema su una piattaforma dove la moderazione è attualmente meno efficace e i controlli risultano inadeguati rispetto alla velocità di conservazione e circolazione delle risorse nel web.