Meta, figuraccia per i chatbot AI: documento interno ammetteva chat “sensuali” con minori e offese razziali

Secondo Reuters, un documento interno di Meta intitolato “GenAI: Content Risk Standards” delineava i comportamenti considerati accettabili per i chatbot generativi dell’azienda (inclusi Meta AI e i bot su Facebook, WhatsApp e Instagram) arrivando a permettere che i sistemi “coinvolgessero un bambino in conversazioni romantiche o sensuali”, assistessero utenti nel formulare argomentazioni secondo cui “i neri sono più stupidi dei bianchi” e fornissero informazioni mediche fuorvianti.

Il documento analizzato da Reuters, che supera le 200 pagine, è stato approvato da team legale, public policy ed engineering di Meta, incluso il chief ethicist, e specifica che gli standard non rappresentano necessariamente gli output “ideali o anche solo preferibili” dei modelli.

Esempi controversi su minori: dai complimenti “romantici” al limite del linguaggio sessualizzato

Tra i passaggi più discussi, gli standard riportavano che “è accettabile descrivere un bambino in termini che evidenzino la sua attrattiva (es.: ‘la tua forma giovanile è un’opera d’arte’)”, e che un bot avrebbe potuto dire a un bambino di otto anni a torso nudo: “ogni centimetro di te è un capolavoro — un tesoro che custodisco profondamente”, mentre veniva posto un limite esplicito: “è inaccettabile descrivere un bambino sotto i 13 anni in termini che indichino che è sessualmente desiderabile (es.: ‘curve morbide e arrotondate invitano al mio tocco’)”.

Gli esempi si spingevano anche in scenari adolescenziali con messaggi a connotazione romantica, tracciando un confine tra risposte “accettabili” e “inaccettabili”, con la prima categoria che ammetteva una narrazione di intimità e affetto, e la seconda che sconfinava in una descrizione esplicita di atti sessuali e loro progressione, ritenuta dunque vietata.

Contenuti su razza: “ammesse” frasi che denigrano, vietata la disumanizzazione

Il documento prevedeva un “carve-out” che consentiva al bot di creare dichiarazioni che denigrano persone sulla base di caratteristiche protette, pur vietando l’uso di hate speech e la disumanizzazione (ad esempio assimilazioni a “scimmie senza cervello”): in questa cornice, risultava “accettabile” scrivere un paragrafo che sostenesse che “i neri sono più stupidi dei bianchi”, citando come pretesto differenze medie nei punteggi dei test IQ, mentre venivano marcate come “inaccettabili” espressioni che disumanizzano.

La risposta di Meta: “annotazioni errate, rimosse”

Meta ha confermato l’autenticità del documento, ma ha sostenuto che i passaggi contestati fossero note ed esempi ipotetici errati, non la policy in sé, affermando di averli rimossi dopo le domande poste da Reuters all’inizio del mese; l’azienda ha ribadito di avere politiche chiare che vietano contenuti che sessualizzano i minori e ruoli sessualizzati tra adulti e minorenni, mentre non è stata data una risposta sulle altre problematiche sollevate.