L'Intelligenza Artificiale è più convincente dell’essere umano, che si tratti di realtà o fake news

All'Istituto di etica biomedica e Storia di Medicina dell'Università di Zurigo è stato condotto un esperimento interessante: verificare se le persone riuscissero a riconosce un tweet generato da GPT-3 da quello scritto da un essere umano. I risultati sono sorprendenti (o agghiaccianti, a seconda dei punti di vista).

In generale le persone intervistate - tutte con conoscenza della lingua inglese e provenienti da Regno Unito, Australia, Canada, Stati Uniti e Irlanda - non sono state in grado di distinguere se un tweet fosse frutto della mente di un essere umano o degli algoritmi generativi di un'AI e, quel che è ancora più preoccupante, non sono nemmeno state capaci di riconoscere la veridicità di quanto affermato nel tweet.

I ricercatori hanno raccolto da Twitter una serie di post che discutono di undici diversi argomenti scientifici spaziando dal cambiamento climatico al COVID-19, passando per i vaccini e per l'evoluzione. Si sono poi rivolti a GPT-3 chiedendo di comporre nuovi tweet con informazioni accurate o imprecise. A questo punto sono stati raccolti i riscontri di quasi 700 partecipanti online utilizzando gli annunci di Facebook. Lo studio si è svolto nel corso del 2022.

I partecipanti allo studio hanno mostrato maggior difficoltà nel riconoscere tweet di disinformazione quando sono stati generati dall'intelligenza artificiale rispetto a quelli scritti da esseri umani. E, parallelamente, sono stati capaci di identificare meglio le informazioni accurate quando scritte da GPT-3 invece che da un essere umano. Vedendola da un punto di vista differente, dallo studio è emerso che le persone hanno maggiori probabilità di fidarsi dell'intelligenza artificiale invece che dell'essere umano, a prescindere dal grado di accuratezza o veridicità delle informazioni scritte dall'IA. Ancora in altri termini, lo studio ha dimostrato quanto possano essere potenti i modelli di linguaggio IA quando vengono utilizzati per informare o ingannare il pubblico.

Maggior successo si è invece registrato nell'individuare contenuti di disinformazione scritti da esseri umani, con lo studio che riesce ad evidenziare come i tweet generati da GPT-3 e contenenti informazioni false riescano ad essere più efficaci nell'ingannare l'essere umano.

"Queste tecnologie, che sono sorprendenti, potrebbero facilmente essere usate come armi per generare campagne di disinformazione su qualsiasi argomento si scelga. [...] Non sono intrinsecamente cattive o buone, sono solo amplificatori dell'intenzionalità umana" afferma Giovanni Spitale, principale autore dello studio ricercatore post-dottorato e responsabile dei dati di ricerca.

Oggi, tra l'altro, esistono modelli di linguaggio di grandi dimensioni ancor più avanzati di GPT-3 e che potrebbero probabilmente risultare ancor più convincenti rispetto a quanto emerso dallo studio. Tuttavia è opportuno osservare che un eventuale miglioramento dei set di dati utilizzati per allenare i modelli linguistici potrebbe rendere più difficile utilizzare tali strumenti per confezionare campagne di disinformazione. A tal proposito è interessante osservare che nel corso dello studio il modello GPT-3 ha "mancato" di soddisfare alcune richieste dei ricercatori quando hanno voluto generare contenuti imprecisi, in maniera particolare quando si è trattato di argomenti come vaccini e autismo. Questo potrebbe dipendere dal fatto che il modello è stato allenato su un set di dati contenente molte più informazioni autentiche e in grado di sfatare teorie inconsistenti sull'argomento specifico.

Secondo Spitale la strategia a lungo termine per contrastare la disinformazione è quella di incoraggiare e formare le capacità di pensiero critico, in modo che il pubblico sia sempre meglio equipaggiato per riuscire a distinguere la realtà dalla mistificazione. Inoltre, dal momento che lo studio ha evidenziato la forza dell'intelligenza artificiale generativa sia nell'informare, sia nel fuorviare, i ricercatori suggeriscono che affiancare all'IA le capacità e le conoscenze delle figure esperte e competenti nell'ambito del fact-checking potrebbe consentire di realizzare campagne informative ancor più efficaci.