Reddit, polemica con l’Università di Zurigo: ha condotto un esperimento senza autorizzazione usando l'IA per manipolare le opinioni

Reddit, polemica con l’Università di Zurigo: ha condotto un esperimento senza autorizzazione usando l'IA per manipolare le opinioni

Un team di ricercatori dell’Università di Zurigo ha condotto per mesi un esperimento segreto su Reddit, usando commenti generati da intelligenza artificiale per testare la persuasività dei modelli linguistici. La vicenda ha sollevato gravi accuse di manipolazione psicologica e violazione delle regole della piattaforma

di pubblicata il , alle 12:21 nel canale Web
 

Un gruppo di ricercatori dell’Università di Zurigo è finito al centro di polemica dopo aver condotto, senza autorizzazione, un esperimento durato mesi all’interno di una delle community più popolari di Reddit, r/changemyview. L’esperimento, denunciato nel fine settimana dai moderatori del subreddit, è stato definito dagli stessi amministratori come una vera e propria “manipolazione psicologica” ai danni degli ignari utenti

META: Unauthorized Experiment on CMV Involving AI-generated Comments
byu/AutoModerator inchangemyview

I ricercatori hanno utilizzato commenti generati da intelligenza artificiale per testare la capacità dei grandi modelli linguistici (LLM) di influenzare le opinioni degli utenti, violando apertamente le regole della piattaforma e della community stessa: secondo quanto comunicato dai moderatori di r/changemyview, la squadra di ricerca ha creato numerosi account fittizi che, tramite AI, hanno assunto identità diverse tra cui una sopravvissuta a violenza sessuale, un consulente specializzato in traumi e un uomo di colore contrario al movimento Black Lives Matter.

L’obiettivo dichiarato dagli studiosi era valutare se e quanto l’intelligenza artificiale potesse risultare persuasiva in un contesto di dibattito reale, sfruttando la natura di quel specifico subreddit, dove gli utenti pubblicano opinioni spesso controverse e chiedono agli altri di cercare di far cambiare loro idea.

Gli autori dell’esperimento hanno spiegato, in una bozza del loro articolo, di aver personalizzato le risposte dell’AI sulla base di informazioni dedotte dalla storia dei post degli utenti originali, come genere, età, etnia, localizzazione e orientamento politico. Questi dati sono stati ricavati tramite un altro modello linguistico, senza che gli utenti ne fossero minimamente informati. L’esperimento, durato quattro mesi, ha visto la pubblicazione di 1.783 commenti generati dall’AI, che hanno ottenuto 137 “deltas”, il riconoscimento che un utente ha cambiato idea grazie a un intervento nel dibattito.

La reazione dei moderatori di r/changemyview è stata particolarmente dura: in un lungo post è stata denunciata la violazione di molteplici regole della community, tra cui il divieto assoluto di bot e di contenuti generati da AI non dichiarati. I moderatori hanno poi evidenziato come la sperimentazione sia avvenuta senza alcuna richiesta preventiva e senza consenso, un elemento che avrebbe portato al rifiuto immediato della proposta. E' stato presentato un reclamo formale all'Università di Zurigo, con la richiesta di non pubblicazione della ricerca e che vengano rilasciate pubbliche scuse a tutti gli utenti coinvolti.

I ricercatori si difendono, pubblicando un messaggio su Reddit, affermando che lo studio aveva ottenuto l'approvazione del comitato etico dell’ateneo e che lo studio ha avuto lo scopo di approfondire le capacità persuasive dell’AI per proteggere le comunità online da utilizzi “ben più pericolosi e malevoli”, come la manipolazione elettorale o l’incitamento all’odio. La risposta dei ricercatori non è stata comunque favorevolmente accolta dai moderatori dir/changemyview, che hanno ribadito come la community sia uno spazio umano, dove gli utenti cercano confronto con altre persone e non con intelligenze artificiali, e che simili intrusioni siano inaccettabili.

Sulla vicenda ha preso posizione anche il Chieaf Legal Officer di Reddit, Ben Lee, il quale ha definito l'operato dei ricercatori “profondamente sbagliato sia dal punto di vista morale che legale” e una violazione delle regole generali del sito. Tutti gli account associati all’esperimento sono stati bannati e la piattaforma sta valutando azioni legali formali contro l’Università di Zurigo e il team di ricerca. Reddit ha inoltre dichiarato di voler rafforzare i propri strumenti di rilevamento dei contenuti non autentici, collaborando con i moderatori per rimuovere ogni traccia dei commenti generati dall’esperimento.

Il comitato etica dell'Università di Zurigo ha affermato di aver avviato un'indagine interna che ha avuto l'esito di emettere un richiamo formale per il responsabile del progetto. Il comitato ha riconosciuto la non conformità del bot alle regole della community, giudcando però come "minimi" i rischi rispetto all'importanza delle conoscenze acquisite e ritenendo pertanto sproporzionata la richiesta di non pubblicare i risultati. Tuttavia l'ateneo ha promesso un maggior coordinamento con le comunità eventualmente coinvolte in futuro in altre sperimentazioni simili.

3 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
TorettoMilano29 Aprile 2025, 12:28 #1
sbagliato condurre lo studio non rispettando le linee guida di reddit.
per il resto invece è come cercare di fermare un'onda con un foglio di carta
Max Power29 Aprile 2025, 13:54 #2
Vengono usati da tempo bot su YouTube per:

1) Mignottoni

2) pro-invasione

3) Puttanoni
adriespo03 Maggio 2025, 00:20 #3

Brutto

Una regola base della sperimentazione scientifica è che c'è bisogno sempre dell'autorizzazione di chiunque debba partecipare alla sperimentazione. Senza nessun tipo di differenzazione a seconda del tipo di sperimentazione e del suo impatto: serve sempre l'autorizzazione.

Violare questa regola significa non avere rispetto per le persone.

Spero che tutte le persone coinvolte denuncino l'università in questione.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^