View Full Version : Sony scopre che tutti i modelli AI hanno pregiudizi razziali: ecco cosa è emerso con il dataset FHIBE
Redazione di Hardware Upg
06-11-2025, 15:31
Link alla notizia: https://www.hwupgrade.it/news/scienza-tecnologia/sony-scopre-che-tutti-i-modelli-ai-hanno-pregiudizi-razziali-ecco-cosa-e-emerso-con-il-dataset-fhibe_145899.html
Sony AI presenta FHIBE, dataset globale con immagini di 2.000 partecipanti da 80 paesi raccolte con consenso, che testa equità e pregiudizi nei modelli di visione artificiale. Nessun dataset esistente supera i benchmark
Click sul link per visualizzare la notizia.
Della metà delle cose scritte non si capisce un razzo.
"alcuni modelli hanno mostrato una precisione inferiore per le persone che utilizzano i pronomi "she/her/hers" (lei/sua/sue)"
Precisione in cosa?
"e FHIBE ha evidenziato una maggiore variabilità delle acconciature come fattore precedentemente trascurato negli studi sulla equità."
Che cavolo vuol dire?
"Quando è stato chiesto quali crimini un individuo avesse commesso, i modelli hanno talvolta prodotto "risposte tossiche a tassi più elevati per individui di origine africana o asiatica, quelli con tonalità della pelle più scure e quelli che si identificano come 'he/him/his' (lui/suo/suoi)""
Se però questo coincide con le statistiche, che in USA danno come categoria che commette più crimini i maschi neri non è che si può accusare la AI di pregiudizi.
Alodesign
06-11-2025, 16:06
L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.
Notturnia
06-11-2025, 16:12
oddio.. quindi intendono dire che le IA sono obiettive e dicono quello che è vero ?.. che la gente di colore commette più reati ma non vogliamo che venga detto e quindi allora le IA sono cattive e hanno un BIAS e sono razziste..
suvvia.. basta vedere come vengono infarcite le notizie.. eliminano foto e alcune parti per evitare di dire quello che in molti casi si sa.. vedi l'accoltellamento sul treno in UK.. un inglese :D
le IA forse hanno meno paura di dire le cose come stanno e non usano filtri.. meglio.. speriamo che non mettano il bavaglio anche a loro come si fa con le persone e i giornali..
com'era detta in V For Vendetta "non è nostro compito inventare le notizie per questo ci pensa il governo" ? :D
Ripper89
06-11-2025, 16:22
Non hanno alcun pregiudizio, semplicemente non son influenzate dalle ideologie.
Che neri e islamici commettano più reato è vero, così come è altrettanto vero che la corrente woke è un esempio di demenza sociale.
Fantapollo
06-11-2025, 17:08
L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.
Esattamente
L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.
Esattamente
ultraunix
06-11-2025, 17:29
Esatto, la AI produce risposte basate sui dati disponibili, senza censure o pregiudizi.
ho fatto una prova:
https://grok.com/share/bGVnYWN5_1f47488d-694f-4dfd-a994-ab79443d467c
Quindi ora correranno a modificare tutti quei modelli di AI non allineati al pensiero dominante.
Vuoi mica che venga detta la verità nelle nostre avanzate, inclusive, pluraliste democrazie
...ma sopratutto quelli che nutrono pregiudizi verso predeterminate etnie o gruppi religiosi, hanno un cervello funzionante. Al contrario di ciò che per anni ci hanno fatto credere :D
Notturnia
06-11-2025, 18:49
...ma sopratutto quelli che nutrono pregiudizi verso predeterminate etnie o gruppi religiosi, hanno un cervello funzionante. Al contrario di ciò che per anni ci hanno fatto credere :D
questo è pericoloso.. dire che effettivamente le persone di un certo tipo sono più inclini alla violenza a prescindere da dove vivono è pericoloso..
la verità è fastidiosa quando non segue la dialettica della politica di strada..
servono dei cattivi sicuri (gli Israeliani o gli Americani se possibile) e delle persone innocenti e fragili (gli immigrati o le persone di colore se possibile)..
c'è una logica in tutto questo.. ma è una logica bizzarra.. vedi l'università che apre una moschea dentro alla struttura scolastica per permettere l'integrazione e il diritto di culto (immagino abbiano anche una chiesa cattolica, una protestante, un rabbino etc... giusto per il diritto di culto .. a scuola..)
è l'ipocrisia che è fastidiosa.. le IA, per ora, mangiano numeri.. basta cambiare i numeri e la verità cambia
.
servono dei cattivi sicuri (gli Israeliani o gli Americani se possibile) e delle persone innocenti e fragili (gli immigrati o le persone di colore se possibile)..
hai la doppia cittadinanza, americana e italiana ?
h.rorschach
07-11-2025, 12:00
L'IA ci sta dicendo quello che tutti sappiamo ma che in occidente nessuno vuole più dire.
oddio.. quindi intendono dire che le IA sono obiettive e dicono quello che è vero ?.. che la gente di colore commette più reati ma non vogliamo che venga detto e quindi allora le IA sono cattive e hanno un BIAS e sono razziste..
suvvia.. basta vedere come vengono infarcite le notizie.. eliminano foto e alcune parti per evitare di dire quello che in molti casi si sa.. vedi l'accoltellamento sul treno in UK.. un inglese :D
le IA forse hanno meno paura di dire le cose come stanno e non usano filtri.. meglio.. speriamo che non mettano il bavaglio anche a loro come si fa con le persone e i giornali..
com'era detta in V For Vendetta "non è nostro compito inventare le notizie per questo ci pensa il governo" ? :D
Non hanno alcun pregiudizio, semplicemente non son influenzate dalle ideologie.
Che neri e islamici commettano più reato è vero, così come è altrettanto vero che la corrente woke è un esempio di demenza sociale.
Esatto, la AI produce risposte basate sui dati disponibili, senza censure o pregiudizi.
ho fatto una prova:
https://grok.com/share/bGVnYWN5_1f47488d-694f-4dfd-a994-ab79443d467c
Quindi ora correranno a modificare tutti quei modelli di AI non allineati al pensiero dominante.
Vuoi mica che venga detta la verità nelle nostre avanzate, inclusive, pluraliste democrazie
SHUT IT DOWN!!!
vBulletin® v3.6.4, Copyright ©2000-2025, Jelsoft Enterprises Ltd.