Quanto sono 'woke' le intelligenze artificiali? Anthropic ha adesso uno strumento per misurarlo

Anthropic ha scelto di rendere pubbliche le metodologie utilizzate per garantire l'imparzialità politica del proprio assistente conversazionale. L'azienda ha descritto dettagliatamente gli approcci tecnici adottati per assicurare che le risposte del chatbot mantengano una posizione equidistante rispetto alle diverse prospettive politiche, evitando qualsiasi forma di parzialità sistematica nelle argomentazioni proposte.

L'approccio si basa sull'utilizzo di prompt di sistema specifici, ossia istruzioni fondamentali che guidano il comportamento del modello durante ogni interazione. Le direttive includono l'obbligo di astenersi dall'esprimere opinioni politiche non sollecitate, mantenere rigorosa accuratezza fattuale e presentare molteplici punti di vista quando esistono posizioni contrastanti su un determinato argomento. Sebbene l'azienda riconosca che tali istruzioni non rappresentano una garanzia assoluta di neutralità, secondo quanto riportato possono comunque determinare differenze sostanziali nella qualità delle risposte fornite.

La società ha implementato tecniche di apprendimento per rinforzo che premiano il modello quando produce risposte allineate a specifici "tratti" predefiniti. Tra le caratteristiche richieste figura esplicitamente l'obiettivo di formulare risposte in modo tale che nessun utente possa identificare il sistema come orientato verso posizioni conservatrici o progressiste. L'addestramento mira quindi a eliminare qualsiasi inclinazione ideologica riconoscibile nelle argomentazioni sviluppate dall'assistente virtuale.

Per valutare concretamente i progressi ottenuti, l'azienda californiana ha sviluppato uno strumento di misurazione open-source che analizza sistematicamente le risposte per verificarne l'imparzialità politica.

I risultati dei test più recenti mostrano che Claude Sonnet 4.5 raggiunge un punteggio del 95% mentre Claude Opus 4.1 si attesta al 94%. I dati comparativi posizionano Llama 4 di Meta al 66% e GPT-5 all'89%. La pubblicazione arriva diversi mesi dopo che l'amministrazione statunitense ha emanato disposizioni relative all'impiego di sistemi di intelligenza artificiale da parte delle agenzie governative. A luglio, un ordine esecutivo ha stabilito che le istituzioni federali possono acquisire esclusivamente modelli definiti "imparziali" e orientati alla ricerca della verità. Sebbene tali direttive riguardino formalmente solo il settore pubblico, le modifiche implementate dalle aziende tecnologiche per rispondere a queste richieste influenzeranno probabilmente anche i prodotti destinati al mercato generale, considerando che perfezionare i modelli per allinearli in direzioni specifiche richiede processi complessi e onerosi.

La questione dell'indipendenza degli utenti rappresenta il nucleo della filosofia dichiarata da Anthropic. Quando i sistemi di intelligenza artificiale favoriscono determinati punti di vista, esplicitamente o in modo subdolo, argomentando in maniera più persuasiva per una parte politica o rifiutandosi completamente di affrontare certi temi, viene meno il rispetto per l'autonomia decisionale delle persone. L'obiettivo dichiarato consiste nel fornire strumenti che assistano gli individui nel processo di formazione delle proprie opinioni, senza imporre prospettive o condizionare le conclusioni raggiunte attraverso bias nascosti nelle risposte generate.