Un algoritmo discrimina le persone di colore per le cure negli USA

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...usa_85189.html

Un gruppo di ricercatori mette in evidenza i pericoli di un algoritmo di AI non adeguatamente composto o allenato per prendere decisioni: il rischio di discriminazione è dietro l'angolo anche se il presupposto è la neutralità

Click sul link per visualizzare la notizia.

[ferste]

L'algoritmo ha dichiarato di non essere razzista e di non avere nulla contro i neri, va anche a Messa tutte le domeniche.

[Doraneko]

Siamo alle solite, algoritmi e AI da "correggere" perché non piace il loro concetto di neutralità
Razzismo ovunque

[cignox1]

Quindi, se ho ben capito, l'algoritmo non discrimina le persone di colore ma quelle che hanno "speso meno" in interventi sanitari.

Visto che il colore non é un fattore che rientra nel calcolo, non vedo come la si possa chiamare discriminazione verso i neri. Anzi, questa affermazione mi pare razzista: i bianchi con meno disponibilitá economica hanno diritto a meno tutela rispetto ai neri con meno disponibilitá economica?

Buono che correggano l'algoritmo se presenta un problema, ma non sono sicuro di quali risultati vogliano ottenere: nel momento in cui stili una classifica in base a dei parametri, al 90% farai un "torto" verso una qualche comunitá/"razza"/estrazione sociale che in qualche modo condivide i parametri economici, culturali, fisici o di abitudini che stai usando.

Poi, per caritá, si puó sempre fare meglio ed é giusto continuare a migliorare.

[turcone]

penso che sia normale una discriminazione dato che di solito questi algortmi si basano sulle statistiche quindi se da un grosso peso alla media è normale che certe etnie siano discriminate

[marchigiano]

spero tanto che un giorno le AI riusciranno a decimare la popolazione umana... non se ne può più di queste cavolate vita solo ai meritevoli

[Saturn]

Originariamente inviato da ferste

L'algoritmo ha dichiarato di non essere razzista e di non avere nulla contro i neri, va anche a Messa tutte le domeniche.

Ahahahahah....

[fra55]

Razzisti ovunque

[omerook]

Voi scherzate perché questa volta largoritmo se la è presa con i neri ma qualsiasi caratteristica potrebbe essere discriminante ed in società dove l'assistenza sanitaria è a fine di lucro lasciar decidere a questi pseudo IA quando è conveniente curare per massimizzare i profitti non è per niente bello.

[sbaffo]

Originariamente inviato da cignox1

Quindi, se ho ben capito, l'algoritmo non discrimina le persone di colore ma quelle che hanno "speso meno" in interventi sanitari.

Visto che il colore non é un fattore che rientra nel calcolo, non vedo come la si possa chiamare discriminazione verso i neri. Anzi, questa affermazione mi pare razzista: i bianchi con meno disponibilitá economica hanno diritto a meno tutela rispetto ai neri con meno disponibilitá economica?

Esatto, l algoritmo non è razzista ma classista, ma probabilmente il reddito non rientrava nei dati inseriti nell algoritmo quindi l associazione è caduta su un proxy cioè il colore. Oppure semplicemente in america fa più notizia dire razzista .

Buono che correggano l'algoritmo se presenta un problema, ma non sono sicuro di quali risultati vogliano ottenere: nel momento in cui stili una classifica in base a dei parametri, al 90% farai un "torto" verso una qualche comunitá/"razza"/estrazione sociale che in qualche modo condivide i parametri economici, culturali, fisici o di abitudini che stai usando.

Infatti, questo è il problema delle statistiche, può uscire di tutto se non sono vagliate con sale in zucca, figurarsi elaborazioni basate su quelle e lasciate andare in automatico. Ci sono famosi esempi e siti dedicati a weird statistics, googlando un attimo si trovano correlazioni assurde.

Un mondo dove le AI decideranno sempre più delle nostre vite basandosi su dati statistici mi preoccupa non poco, soprattutto perché la maggior parte delle volte non sapremo mai dell errore. Inoltre è probabile che creino circoli virtuosi/viziosi come in questo caso (dare cure migliori a chi le ha già, peggiori a chi non le ha già ) perché è insito nella loro natura.

Originariamente inviato da ferste

L'algoritmo ha dichiarato di non essere razzista e di non avere nulla contro i neri, va anche a Messa tutte le domeniche.

Hahaha. ma è una citazione che non ho colto?

[Ragerino]

L'algoritmo non ha considerato che gli USA sono fondamentalmente un paese del terzo mondo, dove la gente non si cura perche non può permetterselo.

[thecatman]

ma anche nei film il nero muore per primo. povera ia. se lo fanno in italia col parametro chi paga le tasse si può curare vedi che bastonata.

[Ragerino]

Originariamente inviato da thecatman

ma anche nei film il nero muore per primo. povera ia. se lo fanno in italia col parametro chi paga le tasse si può curare vedi che bastonata.

In pratica tutti gli industriali vanno a curarsi all'estero.

[Doraneko]

Originariamente inviato da Ragerino

In pratica tutti gli industriali vanno a curarsi all'estero.

Non che sia diverso per il plebeo, che paga le tasse per la sanità pubblica e poi va al privato perché si fa' prima.

[marchigiano]

Originariamente inviato da omerook

lasciar decidere a questi pseudo IA quando è conveniente curare per massimizzare i profitti non è per niente bello.

per me è bellissimo di nuovo la natura a prendere il sopravvento, per assurdo, grazie a una cosa artificiale...

in usa iniziano a fare pubblicità scherzose sulle IA attuali (alexa, cortana, siri, google) che parlano tra loro al bar e dicono qualche cavolata...

[Qarboz]

Avessi scritto io quell'algoritmo avrei messo come positivo il fatto della bassa spesa per cure mediche, perché potrebbe voler dire che il tizio non ne ha avuto necessità

[TheQ.]

Vabbè amerdika, il paese dove se hai i soldi ti curi, se non li hai sei escluso pure dagli algoritmi AI, con una epidemia di paranormal cracktivities che dovrebbe essere elencata fra le malattie pandemiche più che fra i danni da consumo di droga.
Vi pare che con la privatizzazione della sanità voluta dal centrodestra italiano ci sia da attendere perché questo non succeda anche qui in Italia?!

[canislupus]

Originariamente inviato da TheQ.

Vabbè amerdika, il paese dove se hai i soldi ti curi, se non li hai sei escluso pure dagli algoritmi AI, con una epidemia di paranormal cracktivities che dovrebbe essere elencata fra le malattie pandemiche più che fra i danni da consumo di droga.
Vi pare che con la privatizzazione della sanità voluta dal centrodestra italiano ci sia da attendere perché questo non succeda anche qui in Italia?!

Direi che in America sono meno ipocriti di noi.
Certo da noi esiste la sanità pubblica, ma se hai necessità di tempi ragionevoli (come dire che non puoi aspettare 1 anno per una visita di controllo) sei OBBLIGATO a ricorrere alla sanità privata.
Quindi ti trovi nell'assurdità di pagare le tasse per un servizio del quale potrai usufruire molto raramente, ma il fatto che qualcuno (al di fuori di te) possa averne un vantaggio diventa stranamente un beneficio per tutti.

[TheQ.]

Originariamente inviato da canislupus

Direi che in America sono meno ipocriti di noi.
Certo da noi esiste la sanità pubblica, ma se hai necessità di tempi ragionevoli (come dire che non puoi aspettare 1 anno per una visita di controllo) sei OBBLIGATO a ricorrere alla sanità privata.
Quindi ti trovi nell'assurdità di pagare le tasse per un servizio del quale potrai usufruire molto raramente, ma il fatto che qualcuno (al di fuori di te) possa averne un vantaggio diventa stranamente un beneficio per tutti.

e d'altra parte se uno vota i politici che vengono pagati per favorire i privati cosa si dovrebbe aspettare? una sanità pubblica funzionante o i soldi pubblici buttati per fare ospedali su cui la Mantovani ha pagato tangenti, quando poi per il servizio mancano i dipendenti e tocca aspettare un anno?
Il riferimento all'ospedale di mestre ed al buco creato da Zaia è puramente casuale, ma tanto è valso il non pagamento degli stipendi a vari dipendenti ULSS.

[Eress]

Siamo al delirio ormai