Scrive un post con l'intelligenza artificiale: inganna 26 mila persone e arriva in cima ad Hacker News

Scrive un post con l'intelligenza artificiale: inganna 26 mila persone e arriva in cima ad Hacker News

Uno studente californiano ha sfruttato l'AI di GTP-3 per creare un post che ha saputo ingannare l'essere umano e diventare virale su Hacker News

di pubblicata il , alle 18:41 nel canale Web
 

Liam Porr è uno studente universitario che ha pensato bene di utilizzare GPT-3, lo strumento di intelligenza artificiale adibito alla generazione di linguaggio naturale, per realizzare un post artificiale che è arrivato al primo posto su Hacker News. Lo scopo di Porr era quello di dimostrare che il materiale prodotto da GPT-3 potesse passare come scritto da un essere umano. "In realtà è stato semplicissimo, il che è la parte spaventosa" è stato il commento dello studente.

GPT-3 è l'ultima versione di una serie di strumenti di completamento automatico progettati da OpenAI e in sviluppo ormai da diversi anni. Nella sua forma più elementare GPT-3 completa automaticamente il testo sulla base dei suggerimenti ricevuti da un essere umano.

E' un sistema basato su deep learning, il cui principio di funzionamento è quello di ricercare modelli e occorrenze in grandi moli di dati. Nello specifico GPT-3 è stato formato su un enorme corpus di testo per il quale elabora una serie di regolarità statistiche. GPT-3 non prevede alcun intervento umano nella fase di addestramento e cerca e trova schemi e ricorrenze senza alcuna guida, schemi che son poi utilizzati per completare i testi. Per esempio inserendo la parola "pioggia", il sistema sa che è più probabile che venga seguita da parole come "ombrello" o "stivali" invece che "arrosto" o "portafoglio".

Il post di Porr, titolato "Feeling unproductive? Maybe you should stop overthinking", si trova a questa pagina, e ve ne proponiamo un piccolo estratto di seguito (ovviamente in lingua originale):

Anyone can get into the habit of engaging in creative thinking. For example, if you're good at math then try writing a poem about a number or drawing a picture of a mathematical equation. If you're good at writing poems then try drawing a picture to go along with it. If you're good at drawing pictures then try writing a story about it. 

GPT-3 è stato reso disponibile da OpenAI in forma di beta privata al pubblico dei ricercatori. Porr, studente di informatica presso l'Università della California, Berkeley, ha collaborato con un altro studente che già aveva accesso alle API di GPT-3. Tutto ciò che Porr ha fatto è stato realizzare uno script per dare in pasto a GPT-3 un titolo e una breve introduzione. Ha generato poi alcune versioni del post e ne ha scelta una da pubblicare, con pochissime modifiche. Praticamente quasi solo un copia-incolla.

Nel giro di poche ore il post è diventato virale, con oltre 26 mila visitatori e scalando le classifiche di Hacker News. Un solo utente ha chiesto esplicitamente se il post fosse stato generato dall'intelligenza artificiale, mentre alcuni altri hanno solo ipotizzato la possibilità. Porr però ha sottolineato che la community ha declassato questi commenti.

"Mi sono molto divertito con questo esperimento. Alcune persone potrebbero arrabbiarsi con me per averle ingannate, ma pazienza. Il punto di rilasciare questo in beta privata è che in questo modo la community può mostrare nuovi casi d'uso per OpenAI che dovrebbero incoraggiare o tenere d'occhio" ha scritto Porr sul proprio blog personale.

18 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
aldo87mi17 Agosto 2020, 19:05 #1
questa roba è veramente impressionante. Non sono un esperto al riguardo ma sentivo che addirittura molte testate giornalistiche online fanno uso di bots per scrivere articoli. Mi chiedo come questo sia possibile. Come sia possibile addestrare una macchina in tal senso e soprattutto noi non ci accorgiamo di nulla. Mi spaventa che la tecnologia sia arrivata così lontano
Ginopilot17 Agosto 2020, 19:13 #2
A leggere articoli di certe testate si fa fatica a credere che siano scritti da un’intelligenza, artificiale o meno
386DX4017 Agosto 2020, 19:25 #3
Mi chiedo se non fosse una sola persona su 26.000 commenti ma su molti meno ad avere intuito la cosa e se quel numero fossero solo le visualizzazioni (?) in qual caso ogni eventuale lettura potrebbe non essere stata oggetto di credibilità.
Ma off topic a prescindere da questa notizia, semmai "preoccupa" l' epoca in cui nel mondo vero non quello virtuale, le parole di persone vere sono credibili quando dicessero che la luna e' quadrata e il sole e' un triangolo perche' sembrerebbe talvolta non si riesca piu' a riconoscere il vero dal potenzialmente "non del tutto vero" sulla base della propria cultura ed esperienza; ogni cosa predicata diventa credibile anche se ci fosse uno che dimostrasse all' istante l'opposto, basta che chi parla sappia usare le parole che la gente vuole sentirsi dire e tutto diventa credibile. Non e' l' intelligenza artificiale (per ora) il problema ma quella umana che forse si stà un po' adagiando.
Notturnia17 Agosto 2020, 21:35 #4
E quindi ciao ciao mondo “Reale”.. e poi ci si chiede come si influenza l'opinione pubblica?..
mi ricorda S1m0n3
aldo87mi17 Agosto 2020, 22:04 #5
ragazzi su questo tema vi consiglio di vedere il film The Hater di Jan Komasa, è fatto davvero bene (se ancora non lo avete visto). Il film affronta anche altri temi (tutti molto interessanti) ma in particolare quello di come sia facile manipolare l'opinione pubblica su internet...e lo abbiamo visto anche con la brexit, con la crisi dei migranti, con il covid e tanti altri temi (comprese ovviamente le elezioni politiche di paesi chiave a livello internazionale)
pachainti17 Agosto 2020, 22:08 #6
Originariamente inviato da: aldo87mi
questa roba è veramente impressionante. Non sono un esperto al riguardo ma sentivo che addirittura molte testate giornalistiche online fanno uso di bots per scrivere articoli. Mi chiedo come questo sia possibile. Come sia possibile addestrare una macchina in tal senso e soprattutto noi non ci accorgiamo di nulla. Mi spaventa che la tecnologia sia arrivata così lontano


Tranquillo, leggi questo articolo e vedrai quanto è sovrastimato e quanti errori banali commette.
cruelboy17 Agosto 2020, 22:34 #7
Originariamente inviato da: Notturnia
E quindi ciao ciao mondo “Reale”.. e poi ci si chiede come si influenza l'opinione pubblica?..
mi ricorda S1m0n3


credevo di essere stato l'unico a vederlo
MaxP417 Agosto 2020, 23:32 #8
Originariamente inviato da: cruelboy
credevo di essere stato l'unico a vederlo

...siamo almeno in 3!
Notturnia18 Agosto 2020, 00:19 #9
E war games ? Anche li c’era il machine learning.. roba del passato ormai :-D
aldo87mi18 Agosto 2020, 01:53 #10
Originariamente inviato da: Notturnia
E war games ? Anche li c’era il machine learning.. roba del passato ormai :-D


War games è un capolavoro. Hai citato uno dei miei film preferiti di sempre. In pieno stile guerra fredda, ma anche un film per veri nerd la partita al giochetto della guerra termonucleare era un cult negli anni 80 il bello di quel film è che ti tiene veramente attaccato con suspence fino alla fine. Ricordo la prima volta che lo vidi da piccolo avevo il terrore che veramente potesse scoppiare la guerra alla fine. E il sollievo che provai quando tutto si risolse con una partita a scacchi.

Ma se vogliamo, una forma embrionale e primitiva di machine learning c'era già in Odissea nello spazio di Kubrick, film del 68, in cui il supercomputer Hal imparava, aveva una propria intelligenza, parlava con gli umani e soprattutto non commetteva mai errori...peccato che poi ne commise in realtà molti arrivando persino ad uccidere membri dell'equipaggio.

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^