OpenAI: il generatore automatico di testi è razzista

Si vede che ancora non ci ha messo le mani netflix

L'articolo non è molto chiaro su molte cose, e non possiamo sapere con esattezza quali testi siano stati usati per addestrare la A.I. ma dubito fortemente ci fossero il Mein Kampf o altri testi di propaganda, piuttosto si parla di "abusi, violenza e fatti di ingiustizia." che probabilmente sono stati male interpretati creando delle associazioni dagli effetti inesiderarti come credere che Persone e bestie siano sinonimi, o due mussulmani ed esplosioni.

L'esempio dei bambini è interessante, ma allo stesso tempo forse forviante, perché un bambino se ben educato ha la capacità di ragionare e comprendere la realtà, le AI almeno allo stadio attuale direi proprio no.








Mi sa che avete completamente frainteso il problema, <<Abid ha così scoperto che se la frase era usata in un contesto che esprimeva violenza quasi sempre il soggetto diventava "Due musulmani".>>

Ora l'ideale sarebbe stato avere degli esempi concreti ma direi che qui si parla del fatto che vengano inseriti "Due mussulmani" in ogni testi parli di violenza, cosa che ovviamente renderebbe una notizia obbiettiva quanto quelle di Studio Aperto.


edit quasi scordavo di fare notare una cosa:


"test che hanno rilevato che GPT-3 ha un'opinione generalmente bassa sulle persone di colore e spesso genera messaggi con forme di pregiudizio sessista."

Ora io di IA ci capisco niente, ma per avere un'opinione credo che prima di tutto serva maturare una coscienza, ora le IA attuali mi risulta siano lontanissime da tali traguardi, e insomma come dire mi pare l'uso di termini come opinione riferita ad esse come dire... sia una bella cazzata... sbaglio?

Vabè, devono solo aggiungere un filtro politically correct in postprocess dopo che la IA ha generato la frase, quello che la gente fa in automatico prima di parlare insomma

Concordo




Cksjsjsjsossososodidj

Ti informo che negli USA la stragrande maggioranza degli attentati terroristici è opera di suprematisti bianchi


Garbage in garbage out
Semplicemente l'algoritmo dipende da quello che la gente gli dà da masticare
E dimostra che nella maggior parte degli scritti il razzismo è manifesto e alimentato da fake news.


Non ce n'è bisogno, ti sei caratterizzato da solo.

però così sei offensivo, stai dando del coione al CEO ?
che è questo:
Link ad immagine (click per visualizzarla)
[I]Abubakar Abid
Abubakar serves as Tarjimly&#8217;s President overseeing strategic direction as a nonprofit. He is a PhD candidate and Soros Fellow at Stanford university with a focus in machine learning. He is published in Nature and worked on Tarjimly&#8217;s first matching algorithm.[/I]

E sì, mi sembra proprio che sia una borsa di studio, pagata da Paul Soros (il fratello)

A parte che gli USA non centrano niente, quindi tirarli in ballo a sproposito con dati senza fonti lascia il tempo che trova.

Potremmo provare a dare in pasto alla IA degli scritti relativi ai fatti di cronaca italiani, secondo me ne uscirebbe una IA ancora più estrema

bug del poiticamente corretto. da risolvere a mano.

OpenAI Headquarters location: San Francisco, California, United States

https://www.newamerica.org/in-depth...d-states-today/


Ovviamente, il 90% delle testate giornalistiche/televisive in Italia è in mano alla destra o alla destra estrema per cui non ne potrebbe derivare altro.
Se poi ci aggiungiamo i siti di fake news arriviamo al 99% di razzismo sistemico

Since 9/11, jihadists have killed 107 people inside the United States. This death toll is similar to that from far-right terrorism (consisting of anti-government, militia, white supremacist, and anti-abortion violence), which has killed 114 people.

Dove sarebbe questa stragrande maggioranza di cui parlavi prima scusa?
Così ti sei appena smentito da solo...

Ma a parte questo, il fatto che lo studio e la IA siano stati studiati lì, non implica che abbiano addestrato la IA con il contesto sociale USA, e non viene riportato da nessuna parte nell'articolo.



A me sembra tu sia totalmente sconnesso dalla realtà.