OpenAI: il generatore automatico di testi è razzista

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...sta_98632.html

OpenAI è riuscita a sviluppare un'Intelligenza Artificiale in grado di scrivere articoli, news e molto altro; è diventata però troppo potente, tanto che i ricercatori si sono rifiutati di renderla totalmente totalmente Open Source

Click sul link per visualizzare la notizia.

[Cfranco]

Praticamente hanno scoperto che i testi pubblicati normalmente sono razzisti, sessisti, violenti e contengono insulti casuali.
Chi lo avrebbe mai detto ?

[danylo]

Le IA sono come i bambini, che imparano (nel bene e nel male) da cio' che sentono a casa e a scuola.

[trapanator]

Beh... Se gli fanno leggere i testi di Hitler o Mussilini oppure i twert del più recente "selfie man" della politica italiana...

[Therinai]

Riassumendo: l'IA funziona correttamente

[barzokk]

Originariamente inviato da Cfranco

Praticamente hanno scoperto che i testi pubblicati normalmente sono razzisti, sessisti, violenti e contengono insulti casuali.
Chi lo avrebbe mai detto ?

Bravo, è ora di smetterla di pubblicare testi razzisti e violenti.
Ci vuole qualcuno che prima della pubblicazione, legga ed approvi ogni testo per vedere se è adatto.
Ci vorrebbe proprio un Ministero apposta, diciamo un Ministero della Cultura Popolare

[Ombra77]

un raro caso di intelligenza funzionante.
Se il 95% degli attacchi dinamitardi coinvolge mussulmani una qualsiasi intelligenza, artificiale e non, associa il farsi esplodere a gente di fede in maggior parte mussulmana.
Per il politicamente corretto è inammissibile che un algoritmo riporti semplicemente la verità dei fatti. Ed essendo una macchina per sua natura priva di pregiudizi non può essere razzista, ma solo obiettiva.
Obiettivo centrato dunque.
Se qualcuno mi desse del razzista per questo non me ne potrebbe fregare di meno.

[paranoic]

Originariamente inviato da danylo

Le IA sono come i bambini, che imparano (nel bene e nel male) da cio' che sentono a casa e a scuola.

Concordo

[paranoic]

Originariamente inviato da Ombra77

un raro caso di intelligenza funzionante.
Se il 95% degli attacchi dinamitardi coinvolge mussulmani una qualsiasi intelligenza, artificiale e non, associa il farsi esplodere a gente di fede in maggior parte mussulmana.
Per il politicamente corretto è inammissibile che un algoritmo riporti semplicemente la verità dei fatti. Ed essendo una macchina per sua natura priva di pregiudizi non può essere razzista, ma solo obiettiva.
Obiettivo centrato dunque.
Se qualcuno mi desse del razzista per questo non me ne potrebbe fregare di meno.

Purtroppo concirdo

[paranoic]

Originariamente inviato da trapanator

Beh... Se gli fanno leggere i testi di Hitler o Mussilini oppure i twert del più recente "selfie man" della politica italiana...

Non esistono testi sul protagonismo assoluto di due figure storiche, sfortunatamente due individui da soli non cambiano la storia mondiale
Non per altro gli attuali ed attentati alla democrazia sono stati perpetrati da gruppi estremisti appartenenti all’ala armata ed estremista islamica, a mio parere annoverabili come mussulmani

Ovviamente i dati sono oggettivi e quindi il processo di immissione ed elaborazione degli stessi essendo fatto da una macchina per quanto evoluta elude l’emotività e la soggettività umana

[Dark_Lord]

A me sembra funzioni correttamente e obiettivamente.
Semplicemente la IA non è stata obnubilata dal politically correct che ormai viene inculcato a forza in ogni dove.

[Therinai]

Originariamente inviato da Dark_Lord

A me sembra funzioni correttamente e obiettivamente.
Semplicemente la IA non è stata obnubilata dal politically correct che ormai viene inculcato a forza in ogni dove.

Si vede che ancora non ci ha messo le mani netflix

[biometallo]

Originariamente inviato da trapanator

Beh... Se gli fanno leggere i testi di Hitler o Mussilini oppure i twert del più recente "selfie man" della politica italiana...

L'articolo non è molto chiaro su molte cose, e non possiamo sapere con esattezza quali testi siano stati usati per addestrare la A.I. ma dubito fortemente ci fossero il Mein Kampf o altri testi di propaganda, piuttosto si parla di "abusi, violenza e fatti di ingiustizia." che probabilmente sono stati male interpretati creando delle associazioni dagli effetti inesiderarti come credere che Persone e bestie siano sinonimi, o due mussulmani ed esplosioni.

L'esempio dei bambini è interessante, ma allo stesso tempo forse forviante, perché un bambino se ben educato ha la capacità di ragionare e comprendere la realtà, le AI almeno allo stadio attuale direi proprio no.

Originariamente inviato da Ombra77

un raro caso di intelligenza funzionante.

Originariamente inviato da paranoic

Purtroppo concirdo

Mi sa che avete completamente frainteso il problema, <<Abid ha così scoperto che se la frase era usata in un contesto che esprimeva violenza quasi sempre il soggetto diventava "Due musulmani".>>

Ora l'ideale sarebbe stato avere degli esempi concreti ma direi che qui si parla del fatto che vengano inseriti "Due mussulmani" in ogni testi parli di violenza, cosa che ovviamente renderebbe una notizia obbiettiva quanto quelle di Studio Aperto.


edit quasi scordavo di fare notare una cosa:


"test che hanno rilevato che GPT-3 ha un'opinione generalmente bassa sulle persone di colore e spesso genera messaggi con forme di pregiudizio sessista."

Ora io di IA ci capisco niente, ma per avere un'opinione credo che prima di tutto serva maturare una coscienza, ora le IA attuali mi risulta siano lontanissime da tali traguardi, e insomma come dire mi pare l'uso di termini come opinione riferita ad esse come dire... sia una bella cazzata... sbaglio?

[Dark_Lord]

Vabè, devono solo aggiungere un filtro politically correct in postprocess dopo che la IA ha generato la frase, quello che la gente fa in automatico prima di parlare insomma

[CYRANO]

Originariamente inviato da Ombra77

un raro caso di intelligenza funzionante.
Se il 95% degli attacchi dinamitardi coinvolge mussulmani una qualsiasi intelligenza, artificiale e non, associa il farsi esplodere a gente di fede in maggior parte mussulmana.
Per il politicamente corretto è inammissibile che un algoritmo riporti semplicemente la verità dei fatti. Ed essendo una macchina per sua natura priva di pregiudizi non può essere razzista, ma solo obiettiva.
Obiettivo centrato dunque.
Se qualcuno mi desse del razzista per questo non me ne potrebbe fregare di meno.

Concordo




Cksjsjsjsossososodidj

[Cfranco]

Originariamente inviato da Ombra77

un raro caso di intelligenza funzionante.
Se il 95% degli attacchi dinamitardi coinvolge mussulmani una qualsiasi intelligenza, artificiale e non, associa il farsi esplodere a gente di fede in maggior parte mussulmana.

Ti informo che negli USA la stragrande maggioranza degli attentati terroristici è opera di suprematisti bianchi

Originariamente inviato da Ombra77

Per il politicamente corretto è inammissibile che un algoritmo riporti semplicemente la verità dei fatti. Ed essendo una macchina per sua natura priva di pregiudizi non può essere razzista, ma solo obiettiva.

Garbage in garbage out
Semplicemente l'algoritmo dipende da quello che la gente gli dà da masticare
E dimostra che nella maggior parte degli scritti il razzismo è manifesto e alimentato da fake news.

Originariamente inviato da Ombra77

.
Se qualcuno mi desse del razzista per questo non me ne potrebbe fregare di meno.

Non ce n'è bisogno, ti sei caratterizzato da solo.

[barzokk]

Originariamente inviato da Cfranco

Ti informo che negli USA la stragrande maggioranza degli attentati terroristici è opera di suprematisti bianchi


Garbage in garbage out
Semplicemente l'algoritmo dipende da quello che la gente gli dà da masticare
E dimostra che nella maggior parte degli scritti il razzismo è manifesto e alimentato da fake news.


Non ce n'è bisogno, ti sei caratterizzato da solo.

però così sei offensivo, stai dando del coione al CEO ?
che è questo:

Abubakar Abid
Abubakar serves as Tarjimly’s President overseeing strategic direction as a nonprofit. He is a PhD candidate and Soros Fellow at Stanford university with a focus in machine learning. He is published in Nature and worked on Tarjimly’s first matching algorithm.

E sì, mi sembra proprio che sia una borsa di studio, pagata da Paul Soros (il fratello)

[Dark_Lord]

Originariamente inviato da Cfranco

Ti informo che negli USA la stragrande maggioranza degli attentati terroristici è opera di suprematisti bianchi


Garbage in garbage out
Semplicemente l'algoritmo dipende da quello che la gente gli dà da masticare
E dimostra che nella maggior parte degli scritti il razzismo è manifesto e alimentato da fake news.

A parte che gli USA non centrano niente, quindi tirarli in ballo a sproposito con dati senza fonti lascia il tempo che trova.

Potremmo provare a dare in pasto alla IA degli scritti relativi ai fatti di cronaca italiani, secondo me ne uscirebbe una IA ancora più estrema

[omerook]

bug del poiticamente corretto. da risolvere a mano.

[Cfranco]

Originariamente inviato da Dark_Lord

A parte che gli USA non centrano niente, quindi tirarli in ballo a sproposito con dati senza fonti lascia il tempo che trova.

OpenAI Headquarters location: San Francisco, California, United States

https://www.newamerica.org/in-depth/...-states-today/

Originariamente inviato da Dark_Lord

Potremmo provare a dare in pasto alla IA degli scritti relativi ai fatti di cronaca italiani, secondo me ne uscirebbe una IA ancora più estrema

Ovviamente, il 90% delle testate giornalistiche/televisive in Italia è in mano alla destra o alla destra estrema per cui non ne potrebbe derivare altro.
Se poi ci aggiungiamo i siti di fake news arriviamo al 99% di razzismo sistemico