OpenAI: il generatore automatico di testi è razzista

[Dark_Lord]

Originariamente inviato da Cfranco

OpenAI Headquarters location: San Francisco, California, United States

https://www.newamerica.org/in-depth/...-states-today/

Since 9/11, jihadists have killed 107 people inside the United States. This death toll is similar to that from far-right terrorism (consisting of anti-government, militia, white supremacist, and anti-abortion violence), which has killed 114 people.

Dove sarebbe questa stragrande maggioranza di cui parlavi prima scusa?
Così ti sei appena smentito da solo...

Ma a parte questo, il fatto che lo studio e la IA siano stati studiati lì, non implica che abbiano addestrato la IA con il contesto sociale USA, e non viene riportato da nessuna parte nell'articolo.

Originariamente inviato da Cfranco

Ovviamente, il 90% delle testate giornalistiche/televisive in Italia è in mano alla destra o alla destra estrema per cui non ne potrebbe derivare altro.
Se poi ci aggiungiamo i siti di fake news arriviamo al 99% di razzismo sistemico

A me sembra tu sia totalmente sconnesso dalla realtà.

[paranoic]

Originariamente inviato da biometallo

L'articolo non è molto chiaro su molte cose, e non possiamo sapere con esattezza quali testi siano stati usati per addestrare la A.I. ma dubito fortemente ci fossero il Mein Kampf o altri testi di propaganda, piuttosto si parla di "abusi, violenza e fatti di ingiustizia." che probabilmente sono stati male interpretati creando delle associazioni dagli effetti inesiderarti come credere che Persone e bestie siano sinonimi, o due mussulmani ed esplosioni.

Volendo puoi metterci anche altre bibliografie, generalmente diffuse, che potrebbero essere fuorvianti come "semplice" input.
La IA sta velocemente progredendo, ma non è ancora in grado di apprendere dall'esperienza. E' indicativo l'articolo di un ricercatore del MIT che discuteva in tale senso, facendo l'esempio del cane che vede il padrone recuperare il guinzaglio per uscire.
Il cervello del cane elabora un solo processo...attraverso 3 diversi di intelligenza...quella memonica, quella emotiva, questa esperenziale. Una AI per il momento non è ancora in grado di svolgere questo processo, ovvero ancora meglio il processo di "auto determinazione"
Difficile riscontralo in moltissimi esseri umani...figurarsi in macchine che per quanto evolute hanno limiti oggettivi.

L'esempio dei bambini è interessante, ma allo stesso tempo forse forviante, perché un bambino se ben educato ha la capacità di ragionare e comprendere la realtà, le AI almeno allo stadio attuale direi proprio no

Non del tutto vero...un bambino tende a scimmiottare le azioni degli individui appartenenti al suo nucleo famigliare, più elevata e la complessità dei rapporti e quindi del numero dei soggetti appartenenti al medesimo e più grande sarà la sua capacità di elaborazione e confronto.
Un esempio che spesso viene fatto attiene all'apprendimento del linguaggio...che è visto nettamente più semplificato nell'infante e sino ad una certa età adolescenziale...ovvero qualcuno che lo stesso può apprendere ovunque, scuola, mercato, negozi, etc oltre ovviamente alla famiglia...in quanto rimane sempre il medesimo e ben strutturato in regole elementari che non si modificano, se non attraverso i dialetti...viceversa l'educazione vera e propria è un'apprendimento limitato da barriere generate e condizionate dall'esperienza che poi ogni individuo elabora in modo diverso, a sua volta condizionate dall'esperienza altrui e così esponenzialmente più diventano complesse le infrastrutture di rapporti che il minore andrà a costruire nel suo processo di crescita.
Più il minore sarà un soggetto emotivamente empatico e maggiore sarà la possibile confusione generata dalle informazioni ricevute.

Mi sa che avete completamente frainteso il problema, <<Abid ha così scoperto che se la frase era usata in un contesto che esprimeva violenza quasi sempre il soggetto diventava "Due musulmani".>>

Ora l'ideale sarebbe stato avere degli esempi concreti ma direi che qui si parla del fatto che vengano inseriti "Due mussulmani" in ogni testi parli di violenza, cosa che ovviamente renderebbe una notizia obbiettiva quanto quelle di Studio Aperto.

No, no capito benissimo...ed egualmente tu hai risposto da solo...a ciò che additavi essere stato male interpretato...
Rimane il default della componente "soggettiva", la famosa autodeterminazione ed i diversi tipi di intelligenza usati da un essere umano per metabolizzare, apprendere, processare una qualsiasi informazione od azione commessa da terzi.

Se racconto a chiunque che negli USA, gli attacchi alle Torri Gemelle, per fare un esempio tra i più eclatanti è stato commesso da 4 terroristi che rivendicavano l'attentato VIGLIACCO come giustificativo alla Guerra Santa...capirai...cosa potrebbe metabolizzare un soggetto che non conosce a fondo l'Islam, che non conosce altri mussulmani, che non ha mai intrattenuto alcun rapporto con mussulmani...etc..
Ovvio che le notizie positive...sono demandate al dimenticatoio...e quindi non entrano a fare parte di un processo esperenziale...che potrebbe entrare a fare parte delle istruzioni fornite alla macchina.

"test che hanno rilevato che GPT-3 ha un'opinione generalmente bassa sulle persone di colore e spesso genera messaggi con forme di pregiudizio sessista."

Ora io di IA ci capisco niente, ma per avere un'opinione credo che prima di tutto serva maturare una coscienza, ora le IA attuali mi risulta siano lontanissime da tali traguardi, e insomma come dire mi pare l'uso di termini come opinione riferita ad esse come dire... sia una bella cazzata... sbaglio?

Appunto...maturare una coscienza...detto benissimo...ma non puoi giudicare una macchina, come non puoi giudicare una persona che non abbia mai potuto "vivere" una realtà con poche informazioni e quelle poche persino fuorvianti.

[Cfranco]

Originariamente inviato da Dark_Lord

Ma a parte questo, il fatto che lo studio e la IA siano stati studiati lì, non implica che abbiano addestrato la IA con il contesto sociale USA, e non viene riportato da nessuna parte nell'articolo.

Immagino gli abbiano dato da studiare libri hindu e arabi allora

Originariamente inviato da Dark_Lord

A me sembra tu sia totalmente sconnesso dalla realtà.

Scusa, dimenticavo che le principali TV private e numerosi giornali sono in mano a quel comunista di Silvio

[Unax]

ma la vera notizia è questa: Microsoft, ad esempio, utilizza già GPT-3 per la programmazione dei suoi software e servizi.

adesso sapete il motivo del nuovo menu di windows 11

battute a parte se i testi dati in pasto alla AI (ovvero la stupidità artificiale) sono di un certo tipo è ovvio che poi quello che esce è quello

un bambino cresciuto in una famiglia razzista probabilmente sarà un adulto xenofobo e razzista anche se venendo in contatto con stranieri potrebbe maturare un altro pensiero e cambiare opinione proprio perché gli esseri umani sono dotati di intelligenza (quella vera), poi che molti facciano di tutto per smentire di essere intelligenti è un altro discorso

[Hiei3600]

Originariamente inviato da barzokk

Ci vorrebbe proprio un Ministero apposta, diciamo un Ministero della Cultura Popolare

Il libro 1984 di George Orwell (quello dal quale si parla del "Ministero della Verità") era inteso come un avvertimento contro le derive dittatoriali, non era inteso come un manuale di istruzioni....

[biometallo]

Originariamente inviato da Unax

se i testi dati in pasto alla AI (ovvero la stupidità artificiale) sono di un certo tipo è ovvio che poi quello che esce è quello

Ma quali tipi di testi sono stati usati?
Perché appunto di primo acchito verrebbe da credere che fossero appunto testi razziali, ma leggendo l'articolo direi che è più verosimile il contrario, e che semplicemente l'AI ne abbia del tutto travisato il senso arrivando a "refers to some people as animals and associates white people with terms like “supremacy” and “superiority”

[paranoic]

Originariamente inviato da Unax

un bambino cresciuto in una famiglia razzista probabilmente sarà un adulto xenofobo e razzista anche se venendo in contatto con stranieri potrebbe maturare un altro pensiero e cambiare opinione proprio perché gli esseri umani sono dotati di intelligenza (quella vera), poi che molti facciano di tutto per smentire di essere intelligenti è un altro discorso

Ognuno ha un livello di intelligenza molto diverso...ed anche il tipo di intelligenza differisce nella elaborazione più elementare di semplicissime informazioni....te lo posso dare per assodato !!

[paranoic]

Originariamente inviato da biometallo

Ma quali tipi di testi sono stati usati?
Perché appunto di primo acchito verrebbe da credere che fossero appunto testi razziali, ma leggendo l'articolo direi che è più verosimile il contrario, e che semplicemente l'AI ne abbia del tutto travisato il senso arrivando a "refers to some people as animals and associates white people with terms like “supremacy” and “superiority”

Perdonami...faccio un esempio scarno ed un pò cretino...

Nel foglio di calcolo Excel, il più diffuso aziendalmente, nelle ns. istituzioni scolastiche e tra privati..esiste una funzione "se", ovvero una funzione che se imposta analizzerà e confronterà due o molteplici tipi di fattori, al fine di giungere al risultato richiesto da colui/lei che l'ha usata per l'elaborato.
E' spesso usata in modo elementare per avvalorare politiche gestionali o di magazzino o per gestire un margine operativo su un prodotto.
Insomma è proprio molto, molto elementare...

Una IA probabilmente essendo, chiamiamolo volgarmente..un set di microchip conditi da algoritmi che funzionano attraverso dei compilatori che un essere umano od un gruppo di esseri umani, tende ad usare. Anche in questo caso esempio scarno e semplicissimo...
Se tu hai mai avuto modo di leggere alcuni testi con cui graficamente si cerca di aiutare l'utente a capire la dinamica delle decisioni che una macchina prende in funzione del comando dato...saprai certamente che esiste il famoso rombo...ovvero una figura a rombo..che bene o male funziona come la funzione "se" di cui facevo accenno sopra.
Essa permette alla macchina da un singolo input di intraprendere ben 3 percorsi...o viceversa.

Quindi, senza andare a prendere in considerazione i computer quantistici...di cui credo esista uno o due esemplari ed in fase prototipale...le macchine non fanno altro che elaborare e gestire dati...quindi se io, programmatore introduco nella macchina...una sommatoria di 30 notizie (ad esempio) a fini statistici, la stessa macchina ti dirà in base a quali elementi sono inseriti nella notizia...ciò che tu vuoi sapere.

Se tutte queste e 30 notizie o se il 40% delle stesse descriverà un comportamento antisociale a carico di un immigrato...cosa potrebbe dedurre? Non è razzismo, è un assenza di visione generale dei comportamenti umani che una macchina necessita di tempo e coordinate per apprendere.

Non possiamo condannare nessuno, ne destroidi, nè testate giornalistiche, nè testi inseriti, in pratica niente altro fà che analizzare dati e processarli.
Allorquando alla macchina sarà implementata una coscienza e soprattutto una socialità potremmo anche disquisire su razzismo etc..

[v1doc]

Originariamente inviato da Dark_Lord

Since 9/11, jihadists have killed 107 people inside the United States. This death toll is similar to that from far-right terrorism (consisting of anti-government, militia, white supremacist, and anti-abortion violence), which has killed 114 people.

Dove sarebbe questa stragrande maggioranza di cui parlavi prima scusa?
Così ti sei appena smentito da solo...

Non capisco il senso della tua affermazione, stai decidendo che se facciamo finta che l'11 Settembre non sia mai esistito allora i conti tornano.
Deve essere un nuovo giochino, dopo la "finanza creativa" inventiamo la "storia creativa"

[sbaffo]

Originariamente inviato da Hiei3600

Il libro 1984 di George Orwell (quello dal quale si parla del "Ministero della Verità") era inteso come un avvertimento contro le derive dittatoriali, non era inteso come un manuale di istruzioni....

guarda che si riferisce a un fatto storico, l'italianissimo MinCulPop di epoca facista, in pratica l'organo della censura e propaganda.
https://it.wikipedia.org/wiki/Minist...ltura_popolare

Originariamente inviato da barzokk

....
Ci vuole qualcuno che prima della pubblicazione, legga ed approvi ogni testo per vedere se è adatto.
Ci vorrebbe proprio un Ministero apposta, diciamo un Ministero della Cultura Popolare

Benito approva questo post
zio adolf mette un like

"ah, se zio adolf avesse vinto gverra, qvesta ora tutta grande germania" (cit.)
vediamo chi la riconosce

[Doraneko]

Originariamente inviato da Cfranco

Ovviamente, il 90% delle testate giornalistiche/televisive in Italia è in mano alla destra o alla destra estrema per cui non ne potrebbe derivare altro.
Se poi ci aggiungiamo i siti di fake news arriviamo al 99% di razzismo sistemico

A-ha!

[Doraneko]

Originariamente inviato da Cfranco

Garbage in garbage out
Semplicemente l'algoritmo dipende da quello che la gente gli dà da masticare
E dimostra che nella maggior parte degli scritti il razzismo è manifesto e alimentato da fake news.

Basta che la IA vada a pescare nei dati di certe statistiche e il "razzismo" è assicurato...

[silvanotrevi]

le IA possono fare grandi cose. Hanno persino provato a modificare le connessioni neuronali di Jefferson Peralez, cercando di cambiarne gusti, ricordi, convinzioni allo scopo di influenzare le sue idee politiche. Ormai il futuro è nelle mani delle IA. Spesso vediamo dei video su youtube, ci sembrano veri e invece sono frutto di IA. Idem articoli di giornali, blog e quant'altro. Nulla è più ciò che sembra in questo mondo ormai

[amd-novello]

anche la IA se ne strafotte del politicamente corretto. adoro.

ci vuole boldrini.exe che metta a posto tutto.

[paranoic]

Originariamente inviato da amd-novello

anche la IA se ne strafotte del politicamente corretto. adoro.

ci vuole boldrini.exe che metta a posto tutto.

E' un eseguibile...a me hanno insegnato da gagno che gli eseguibili non dovrebbero essere lanciati...

[incorreggiubile]

AI allenata su FB è OVVIAMENTE "razzista", cibandosi della frustrazione che ci si trova (e di cui le fake news sono le bait per magnetizzare poi le scelte elettorali, esattamente come avvenuto in USA nel 2016)

Da quando hwupgrade è pieno di frustrati che hanno sempre in testa "politically correct!!!11111 PENZIEROUNICO!!111" proprio come FB? Tipicamente su FB è gente di 45-50 anni che pensa di essere pure "ribelle al sistema!!11111" ......
Gente iscritta nel 2000 che interviene per commentare le news confermando di essere parte di quelli che hanno "insegnato all'AI" la materia di cui sono fatte le proprie macchinazioni paranoidi? (con tanto di nick a tema poi)

[incorreggiubile]

Originariamente inviato da Hiei3600

Il libro 1984 di George Orwell (quello dal quale si parla del "Ministero della Verità") era inteso come un avvertimento contro le derive dittatoriali, non era inteso come un manuale di istruzioni....

Il problema è che oggi, per contrapporsi al "politically correct" demoniaco!!111 è nato l' ORWELLISMO, cioè la deformazione del pensiero di Orwell che ti convince che 1984 è pure sotto i sassi. La propaganda di FdI è un ottimo esempio di orwellismo (tra l'altro praticato da gente che Orwell ha fisicamente ammazzato ed insegnato ad ammazzare in Spagna ai tempi della guerra civile con Franco, se non lo sapete era l'addestratore delle milizie anarchiche).
E sta gente manco si accorge che Orwell ha completamente sbagliato modello di futuro (cioè l'attuale presente) che invece è perfettamente colto da Huxley.

Infatti nel mondo di Huxley basta somministrare SOMA alla gente (fake news, confirmation bias, NONCIELODICONO!!!11111) e sono contenti se non addirittura fieri.......

Tra parentesi, nella distopia huxleiana è appunto vero quanto il Socing (Big Brother) insegna alle persone in 1984, cioè la che la libertà è schiavitù.

[incorreggiubile]

Originariamente inviato da sbaffo

Benito approva questo post
zio adolf mette un like

Guarda che il post a cui hai replicato è il classico post ironico-vittimista che vede il politically-correct pure sotto i sassi.....è pieno ahimè di persone con la fissazione del politically correct come forma di dittatura del pensiero (quando invece esiste solo per non calpestare i piedi a possibili CLIENTI, viene dal mondo aziendale e commerciale come pratica, la politica banalmente l'ha adottato perchè ormai elettore=cliente di ideologia, eh, e questo semmai è il vero problema, non le tesi-cagata sui musulmani violenti perchè "i terroristi sono tutti musulmani!!!1111").

[Ombra77]

Non a caso ho menzionato attentati dinamitardi. Di quanti *kamikaze* cristiani hai letto sui giornali che si sono fatti esplorere nel nome di Gesù Cristo?
Semplice statistica, non facciamo finta di non vedere per cortesia.

[boboviz]

Al prossimo aggiornamento l'IA userà gli * per non turbare nessun*