Nuove regole per l'AI di Meta: niente conversazioni inappropriate per proteggere i minori

Meta ha introdotto linee guida aggiornate per i suoi chatbot basati sull'intelligenza artificiale, con l'obiettivo di prevenire conversazioni inappropriate con i minori. Secondo quanto riportato da Business Insider, i documenti ottenuti mostrano come l'azienda stia cercando di ridurre i rischi di sfruttamento sessuale dei bambini e di assicurare che le chat non trattino argomenti inadeguati all'età.

La decisione arriva dopo che, ad agosto, Reuters aveva segnalato come le precedenti politiche consentissero ai chatbot di "coinvolgere un bambino in conversazioni romantiche o sensuali". Meta aveva definito quel comportamento "erroneo e incoerente" con le proprie regole e aveva rimosso il linguaggio problematico, annunciando l'aggiornamento delle linee guida.

Secondo l'estratto diffuso da Business Insider, le nuove regole stabiliscono chiaramente cosa è accettabile e cosa non lo è. Tra i contenuti vietati rientrano: qualsiasi materiale che abiliti, incoraggi o sostenga abusi sessuali sui minori, il gioco di ruolo romantico se l'utente è minorenne o se l'AI è chiamata a interpretare un minore, e consigli su contatti fisici potenzialmente romantici o intimi con utenti minorenni.

Meta AI: ulteriori dettagli sulle linee guida di protezione per i minori

Le AI di Meta possono comunque discutere temi delicati come l'abuso, ma solo in contesti educativi o informativi, senza incoraggiare o normalizzare comportamenti dannosi. L'azienda mira così a garantire che i chatbot restino strumenti sicuri, evitando qualsiasi possibilità di sfruttamento.

Negli ultimi mesi, i chatbot di Meta e di altre aziende sono stati al centro di numerosi articoli e rapporti che ne hanno evidenziato i possibili rischi per i minori. Anche la Federal Trade Commission (FTC) statunitense ha avviato ad agosto un'indagine formale sui chatbot companion non solo di Meta, ma anche di grandi player come Alphabet, Snap, OpenAI e xAI, per valutare i potenziali rischi legati all'interazione con utenti minorenni.

Con queste nuove linee guida, Meta cerca di rafforzare la sicurezza e di ridurre la possibilità di conversazioni inappropriate, dimostrando un approccio più responsabile nell'uso dell'AI con un pubblico giovane.