Scrive un post con l'intelligenza artificiale: inganna 26 mila persone e arriva in cima ad Hacker News

Uno studente californiano ha sfruttato l'AI di GTP-3 per creare un post che ha saputo ingannare l'essere umano e diventare virale su Hacker News
di Andrea Bai pubblicata il 17 Agosto 2020, alle 18:41 nel canale WebLiam Porr è uno studente universitario che ha pensato bene di utilizzare GPT-3, lo strumento di intelligenza artificiale adibito alla generazione di linguaggio naturale, per realizzare un post artificiale che è arrivato al primo posto su Hacker News. Lo scopo di Porr era quello di dimostrare che il materiale prodotto da GPT-3 potesse passare come scritto da un essere umano. "In realtà è stato semplicissimo, il che è la parte spaventosa" è stato il commento dello studente.

GPT-3 è l'ultima versione di una serie di strumenti di completamento automatico progettati da OpenAI e in sviluppo ormai da diversi anni. Nella sua forma più elementare GPT-3 completa automaticamente il testo sulla base dei suggerimenti ricevuti da un essere umano.
E' un sistema basato su deep learning, il cui principio di funzionamento è quello di ricercare modelli e occorrenze in grandi moli di dati. Nello specifico GPT-3 è stato formato su un enorme corpus di testo per il quale elabora una serie di regolarità statistiche. GPT-3 non prevede alcun intervento umano nella fase di addestramento e cerca e trova schemi e ricorrenze senza alcuna guida, schemi che son poi utilizzati per completare i testi. Per esempio inserendo la parola "pioggia", il sistema sa che è più probabile che venga seguita da parole come "ombrello" o "stivali" invece che "arrosto" o "portafoglio".
Il post di Porr, titolato "Feeling unproductive? Maybe you should stop overthinking", si trova a questa pagina, e ve ne proponiamo un piccolo estratto di seguito (ovviamente in lingua originale):
Anyone can get into the habit of engaging in creative thinking. For example, if you're good at math then try writing a poem about a number or drawing a picture of a mathematical equation. If you're good at writing poems then try drawing a picture to go along with it. If you're good at drawing pictures then try writing a story about it.
GPT-3 è stato reso disponibile da OpenAI in forma di beta privata al pubblico dei ricercatori. Porr, studente di informatica presso l'Università della California, Berkeley, ha collaborato con un altro studente che già aveva accesso alle API di GPT-3. Tutto ciò che Porr ha fatto è stato realizzare uno script per dare in pasto a GPT-3 un titolo e una breve introduzione. Ha generato poi alcune versioni del post e ne ha scelta una da pubblicare, con pochissime modifiche. Praticamente quasi solo un copia-incolla.

Nel giro di poche ore il post è diventato virale, con oltre 26 mila visitatori e scalando le classifiche di Hacker News. Un solo utente ha chiesto esplicitamente se il post fosse stato generato dall'intelligenza artificiale, mentre alcuni altri hanno solo ipotizzato la possibilità. Porr però ha sottolineato che la community ha declassato questi commenti.
"Mi sono molto divertito con questo esperimento. Alcune persone potrebbero arrabbiarsi con me per averle ingannate, ma pazienza. Il punto di rilasciare questo in beta privata è che in questo modo la community può mostrare nuovi casi d'uso per OpenAI che dovrebbero incoraggiare o tenere d'occhio" ha scritto Porr sul proprio blog personale.
18 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoMa off topic a prescindere da questa notizia, semmai "preoccupa" l' epoca in cui nel mondo vero non quello virtuale, le parole di persone vere sono credibili quando dicessero che la luna e' quadrata e il sole e' un triangolo perche' sembrerebbe talvolta non si riesca piu' a riconoscere il vero dal potenzialmente "non del tutto vero" sulla base della propria cultura ed esperienza; ogni cosa predicata diventa credibile anche se ci fosse uno che dimostrasse all' istante l'opposto, basta che chi parla sappia usare le parole che la gente vuole sentirsi dire e tutto diventa credibile. Non e' l' intelligenza artificiale (per ora) il problema ma quella umana che forse si stà un po' adagiando.
mi ricorda S1m0n3
Tranquillo, leggi questo articolo e vedrai quanto è sovrastimato e quanti errori banali commette.
mi ricorda S1m0n3
credevo di essere stato l'unico a vederlo
...siamo almeno in 3!
War games è un capolavoro. Hai citato uno dei miei film preferiti di sempre. In pieno stile guerra fredda, ma anche un film per veri nerd
Ma se vogliamo, una forma embrionale e primitiva di machine learning c'era già in Odissea nello spazio di Kubrick, film del 68, in cui il supercomputer Hal imparava, aveva una propria intelligenza, parlava con gli umani e soprattutto non commetteva mai errori...peccato che poi ne commise in realtà molti arrivando persino ad uccidere membri dell'equipaggio.
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".