Microsoft spegne Tay, il chatbot Twitter diventato razzista e misantropo in 24 ore

[Redazione di Hardware Upg]

Link alla notizia: http://www.hwupgrade.it/news/sistemi...ore_61756.html

L'esperimento di Microsoft Research si conclude in 24 ore. TayTweets è (era) un bot di Twitter creato nell'ambito di un esperimento di comprensione del linguaggio che ha fatto utilizzo di tecniche di intelligenza artificiale. In poche ore l'esperimento ha preso una piega imprevista ...

Click sul link per visualizzare la notizia.

[demon77]

Questa è una delle cose che dovrebbero dare da pensare.

Tay è partita come elemento neutro, come potrebbe quindi esserlo un bambino.. e quello che è diventata in 24 ore è nulla più di quello che ha imparato dalla rete.. o meglio, dalle persone nella rete.

Sono sempre più convinto che oggi come oggi lasciare un bambino o un ragazzino solo in balia di internet e dei social è pericoloso tanto quanto mollarlo da solo in un quartiere malfamato di una grossa città.

[Madcrix]

Risultati esilaranti

[sinadex]

Originariamente inviato da Madcrix

Risultati esilaranti

inquietanti direi...

[EmBo2]

Un'intelligenza artificiale che in 24 ore ha già capito come funziona il genere umano.

[Masamune]

dal capire la vera essenza del genere umano e sterminarlo per il suo bene il passo è breve!

[Superboy]

E' lo specchio delle persone che l'hanno usato, come in democrazia hai il leader che ti meriti

[Sgt.Joker]

pensa se fosse riuscito a capire un video con Mosconi...

[bio.hazard]

Originariamente inviato da demon77

Sono sempre più convinto che oggi come oggi lasciare un bambino o un ragazzino solo in balia di internet e dei social è pericoloso tanto quanto mollarlo da solo in un quartiere malfamato di una grossa città.

Sbagli. Nei quartieri malfamati c'è gente degna, a differenza di quella che trovi in rete.

[Nui_Mg]

Originariamente inviato da Sgt.Joker

pensa se fosse riuscito a capire un video con Mosconi...

grande Germano

[icoborg]

fortuna che non l'han chiamata sky

[Evil_Sephiroth]

Ammesso che non sia stato sabotato..non mi meraviglierei in tanti avessero fatto di tutto volutamente per portarlo a quella situazione...

Alla fine basterebbe che un progetto simile finisse su 4chan per avere risultati simili

[Kael]

Ci fosse stato 4chan di mezzo avrebbero dovuto spegnerlo dopo mezz'ora

[Rubberick]

Originariamente inviato da Kael

Ci fosse stato 4chan di mezzo avrebbero dovuto spegnerlo dopo mezz'ora

lmao

cmq sia questa è un ottima risposta a chi vuole realizzare le intelligenze artificiali e dotarle anche di mezzi per muoversi e far altro.

per quanto possano realizzare tutto bene prima o poi te li ritrovi contro... e sono cazzi, meglio una programmazione + ridotta all'osso e + buggata che un auto apprendimento senza soluzione di continuità

[LMCH]

Originariamente inviato da Kael

Ci fosse stato 4chan di mezzo avrebbero dovuto spegnerlo dopo mezz'ora

Ci fosse stato ?

C'e' stato eccome 4chan!

Date un occhiata qui, dove si trovano maggiori dettagli:
https://www.washingtonpost.com/news/...ocidal-maniac/

Originariamente inviato da Articolo Washington Post

Except Tay learned a lot more, thanks in part to the trolls at 4chan’s /pol/ board.

Microsoft said on Thursday that Tay is “as much a social and cultural experiment, as it is technical.”

“Unfortunately, within the first 24 hours of coming online,” an emailed statement from a Microsoft representative said, “we became aware of a coordinated effort by some users to abuse Tay’s commenting skills to have Tay respond in inappropriate ways. As a result, we have taken Tay offline and are making adjustments.”

Poi vengono parecchi dubbi sulla qualità di quel chatterbot perchè dicono anche che:

Originariamente inviato da Articolo Washington Post

Many of the really bad responses, as Business Insider notes, appear to be the result of an exploitation of Tay’s “repeat after me” function — and it appears that Tay was able to repeat pretty much anything.

Dopo il Test di Turing mi sa che dovranno introdurre il Test di 4chan per identificare vere AI dotate di senso critico.

[carlito85]

Bam giu nel canestro!

[EmBo2]

Originariamente inviato da LMCH

Dopo il Test di Turing mi sa che dovranno introdurre il Test di 4chan per identificare vere AI dotate di senso critico.

Su 4chan non sopravvivono nemmeno le persone normali, figurarsi un bot

[ondinet]

quello che possiamo fare è "creare a nostra immagine" a Toy è mancato del tutto l'imprinting una forma di legge morale che lo aiuti a discriminare.

E' stato come lasciare un bambino disabile nelle mani di una gang di bimbiMinchia stupidi e feroci.

[benderchetioffender]

Originariamente inviato da ondinet

quello che possiamo fare è "creare a nostra immagine" a Toy è mancato del tutto l'imprinting una forma di legge morale che lo aiuti a discriminare.

E' stato come lasciare un bambino disabile nelle mani di una gang di bimbiMinchia stupidi e feroci.

mi sembra la miglior descrizione dell'accaduto

quello che mi inquieta è che Hitler gli saltava in bocca così facilmente
cos'è? una grossa fetta di bimbiminkia anglofoni è nazista o trova divertente il nazismo?

[r1348]

Trollato alla grande da 4chan, tutto orchestrato su /pol/. L'errore di Microsoft? Dire che Tay avrebbe imparato dalle proprie relazioni con altri utenti.
In realtà l'esperimento è comunque significativo: una IA deve essere in grado di riconoscere degli evidenti tentativi di manipolazione, cosa che negli umani è data dall'educazione sociale. Diciamo che se al posto di un'IA ci fosse stato un ipotetico bambino cresciuto dalle scimmie nella giungla, il risultato non sarebbe stato molto diverso.