Sony scopre che tutti i modelli AI hanno pregiudizi razziali: ecco cosa è emerso con il dataset FHIBE

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...be_145899.html

Sony AI presenta FHIBE, dataset globale con immagini di 2.000 partecipanti da 80 paesi raccolte con consenso, che testa equità e pregiudizi nei modelli di visione artificiale. Nessun dataset esistente supera i benchmark

Click sul link per visualizzare la notizia.

[Mars95]

Della metà delle cose scritte non si capisce un razzo.

"alcuni modelli hanno mostrato una precisione inferiore per le persone che utilizzano i pronomi "she/her/hers" (lei/sua/sue)"
Precisione in cosa?

"e FHIBE ha evidenziato una maggiore variabilità delle acconciature come fattore precedentemente trascurato negli studi sulla equità."
Che cavolo vuol dire?

"Quando è stato chiesto quali crimini un individuo avesse commesso, i modelli hanno talvolta prodotto "risposte tossiche a tassi più elevati per individui di origine africana o asiatica, quelli con tonalità della pelle più scure e quelli che si identificano come 'he/him/his' (lui/suo/suoi)""

Se però questo coincide con le statistiche, che in USA danno come categoria che commette più crimini i maschi neri non è che si può accusare la AI di pregiudizi.

[Alodesign]

L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.

[Notturnia]

oddio.. quindi intendono dire che le IA sono obiettive e dicono quello che è vero ?.. che la gente di colore commette più reati ma non vogliamo che venga detto e quindi allora le IA sono cattive e hanno un BIAS e sono razziste..

suvvia.. basta vedere come vengono infarcite le notizie.. eliminano foto e alcune parti per evitare di dire quello che in molti casi si sa.. vedi l'accoltellamento sul treno in UK.. un inglese

le IA forse hanno meno paura di dire le cose come stanno e non usano filtri.. meglio.. speriamo che non mettano il bavaglio anche a loro come si fa con le persone e i giornali..

com'era detta in V For Vendetta "non è nostro compito inventare le notizie per questo ci pensa il governo" ?

[Ripper89]

Non hanno alcun pregiudizio, semplicemente non son influenzate dalle ideologie.
Che neri e islamici commettano più reato è vero, così come è altrettanto vero che la corrente woke è un esempio di demenza sociale.

[Fantapollo]

Originariamente inviato da Alodesign

L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.

Esattamente

[Maxt75]

Originariamente inviato da Alodesign

L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.

Esattamente

[ultraunix]

Esatto, la AI produce risposte basate sui dati disponibili, senza censure o pregiudizi.

ho fatto una prova:

https://grok.com/share/bGVnYWN5_1f47...4-ab79443d467c

[Gio22]

Quindi ora correranno a modificare tutti quei modelli di AI non allineati al pensiero dominante.

Vuoi mica che venga detta la verità nelle nostre avanzate, inclusive, pluraliste democrazie

[Gio22]

...ma sopratutto quelli che nutrono pregiudizi verso predeterminate etnie o gruppi religiosi, hanno un cervello funzionante. Al contrario di ciò che per anni ci hanno fatto credere

[Notturnia]

Originariamente inviato da Gio22

...ma sopratutto quelli che nutrono pregiudizi verso predeterminate etnie o gruppi religiosi, hanno un cervello funzionante. Al contrario di ciò che per anni ci hanno fatto credere

questo è pericoloso.. dire che effettivamente le persone di un certo tipo sono più inclini alla violenza a prescindere da dove vivono è pericoloso..

la verità è fastidiosa quando non segue la dialettica della politica di strada..

servono dei cattivi sicuri (gli Israeliani o gli Americani se possibile) e delle persone innocenti e fragili (gli immigrati o le persone di colore se possibile)..

c'è una logica in tutto questo.. ma è una logica bizzarra.. vedi l'università che apre una moschea dentro alla struttura scolastica per permettere l'integrazione e il diritto di culto (immagino abbiano anche una chiesa cattolica, una protestante, un rabbino etc... giusto per il diritto di culto .. a scuola..)

è l'ipocrisia che è fastidiosa.. le IA, per ora, mangiano numeri.. basta cambiare i numeri e la verità cambia

[Gio22]

Originariamente inviato da Notturnia

.

servono dei cattivi sicuri (gli Israeliani o gli Americani se possibile) e delle persone innocenti e fragili (gli immigrati o le persone di colore se possibile)..

hai la doppia cittadinanza, americana e italiana ?

[h.rorschach]

Originariamente inviato da Alodesign

L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.

Originariamente inviato da Notturnia

oddio.. quindi intendono dire che le IA sono obiettive e dicono quello che è vero ?.. che la gente di colore commette più reati ma non vogliamo che venga detto e quindi allora le IA sono cattive e hanno un BIAS e sono razziste..

suvvia.. basta vedere come vengono infarcite le notizie.. eliminano foto e alcune parti per evitare di dire quello che in molti casi si sa.. vedi l'accoltellamento sul treno in UK.. un inglese

le IA forse hanno meno paura di dire le cose come stanno e non usano filtri.. meglio.. speriamo che non mettano il bavaglio anche a loro come si fa con le persone e i giornali..

com'era detta in V For Vendetta "non è nostro compito inventare le notizie per questo ci pensa il governo" ?

Originariamente inviato da Ripper89

Non hanno alcun pregiudizio, semplicemente non son influenzate dalle ideologie.
Che neri e islamici commettano più reato è vero, così come è altrettanto vero che la corrente woke è un esempio di demenza sociale.

Originariamente inviato da ultraunix

Esatto, la AI produce risposte basate sui dati disponibili, senza censure o pregiudizi.

ho fatto una prova:

https://grok.com/share/bGVnYWN5_1f47...4-ab79443d467c

Originariamente inviato da Gio22

Quindi ora correranno a modificare tutti quei modelli di AI non allineati al pensiero dominante.

Vuoi mica che venga detta la verità nelle nostre avanzate, inclusive, pluraliste democrazie

SHUT IT DOWN!!!