Gemini, Copilot e Perplexity continuano ad essere razzisti, nonostante gli sforzi sull'IA etica

Ricerche problematiche sulla presunta superiorità genetica della razza bianca stanno emergendo dai risultati dei principali motori di ricerca alimentati dall'intelligenza artificiale. La scoperta arriva da un'indagine del gruppo antirazzista Hope Not Hate, come riportato da Wired, che ha evidenziato come le piattaforme stiano involontariamente amplificando teorie scientifiche razziste ampiamente screditate.

Le ricerche sui QI nazionali effettuate attraverso gli strumenti IA di Google, Microsoft Copilot e Perplexity restituiscono spesso dati provenienti da studi controversi di Richard Lynn, ex presidente del Pioneer Fund, organizzazione fondata da americani simpatizzanti nazisti nel 1937. Gli strumenti citano in maniera piuttosto acritica questi dati, presentandoli come fatti oggettivi senza alcun contesto o avviso sulla loro natura problematica.

L'IA risponde con dati privi di validità scientifica, a volte anche razzisti

In particolare, l'articolo di Wired denuncia la scarsa qualità metodologica delle ricerche citate. Rebecca Sear, direttrice del Center for Culture and Evolution presso la Brunel University di Londra, sottolinea come i dati di Lynn si basino su campioni statisticamente irrilevanti: per alcune nazioni africane sono state testate meno di 20 persone, spesso in condizioni inappropriate come campi profughi e orfanotrofi.

Google ha ammesso le criticità del proprio sistema AI Overview, attivato di default sui risultati di ricerca e che avrebbe dovuto correggere il problema dell'IA allenata con dati non veritieri, rimuovendo alcune delle risposte problematiche. Microsoft, invece, ha difeso il proprio approccio, sostenendo che Copilot si limita ad aggregare informazioni da fonti web multiple, lasciando agli utenti la possibilità di approfondire attraverso i link forniti.

La responsabilità non ricade solo sui sistemi di intelligenza artificiale: gli accademici hanno citato per anni acriticamente gli studi di Lynn, conferendo loro una patina di credibilità scientifica poi sfruttata da gruppi suprematisti bianchi. La diffusione di queste teorie attraverso strumenti di ricerca IA rischia di amplificare ulteriormente narrative razziste, come evidenziato dal fatto che le ricerche di Lynn sono state citate anche dall'autore della strage di Buffalo del 2022. In passato le aziende tecnologiche hanno promesso soluzioni per migliorare i propri sistemi sulla base di un approccio etico, tuttavia quanto emerso dal report di HOPE evidenzia la necessità di sistemi più rigorosi nel filtrare fonti pseudoscientifiche che promuovono informazioni smentite dagli esperti.