L'algoritmo di previsione crimini è razzista: scoppia la polemica negli USA

[Redazione di Hardware Upg]

Link alla notizia: http://www.hwupgrade.it/news/web/l-a...usa_62843.html

Stando ad una nuova indagine condotta negli USA parte delle sentenze su casi di crimini violenti viene stabilita sulla base di un algoritmo di parte contro gli imputati di colore

Click sul link per visualizzare la notizia.

[kamon]

Minority report incontra Salvini.

[dado1979]

Statisticamente gli afroamericani sono più poveri dei caucasici... nei grandi numeri se si è più poveri è più facile compiere crimini... cosa c'è di razzista? E' logica deduttiva.
Certo, ora dovremmo incominciare a discutere del fatto che è sbagliato che gli afroamericani siano più poveri... in effetti è sbagliato.
Ma questo non nega ciò che è attualmente.

[Madcrix]

Credo che quando si tratta di giudicare e ci sono in ballo diritti civili di un individuo, qualsiasi elemento che prescinda dai fatti concreti (come questi algoritmi di predizione) siano un'oscenità e che in galera dovrebbero andarci quelli che li usano impattando sulla vita delle persone.

[kamon]

Originariamente inviato da Madcrix

Credo che quando si tratta di giudicare e ci sono in ballo diritti civili di un individuo, qualsiasi elemento che prescinda dai fatti concreti (come questi algoritmi di predizione) siano un'oscenità e che in galera dovrebbero andarci quelli che li usano impattando sulla vita delle persone.

Esattamente, soprattutto se si tratta di un qualcosa di pensato principalmente per il risparmio finanziario, perchè si tratta solo di questo... Allucinante.

[cignox1]

-Credo che quando si tratta di giudicare e ci sono in ballo diritti civili di un individuo, qualsiasi elemento che prescinda dai fatti concreti (come questi algoritmi di predizione) siano un'oscenità e che in galera dovrebbero andarci quelli che li usano impattando sulla vita delle persone.

I metodi statistici si usano ovunque. Esempio? Le assicurazioni per auto: in teoria pago meno di un napoletano perché la percentuale di incidenti a bolzano é molto bassa. Secondo te dovrei pagare come se abitassi a Napoli per evitare razzismi di sorta?

Poi, chiaro che se l'algoritmo é impreciso o usa pesi discutibili, va valutato di conseguenza. E chiaro pure che il giudice deve sapere perfettamente che il valore é statistico e non puó prescindere da una valutazione dell'individuo e la sua storia...

[ClosingTime]

Senza prendere una posizione (anche se dal video è abbastanza evidente la disparità) ma da questa frase:

"Quando viene rilevato un rischio più alto di recidiva l'imputato può ricevere una sentenza che serve a disincentivare futuri atti criminali"

capisco che allora l' algoritmo funziona, ha individuato un rischio più alto e ha permesso (tramite sanzioni e piani di trattamento) di evitare crimini futuri, no?

[kamon]

Originariamente inviato da cignox1

-Credo che quando si tratta di giudicare e ci sono in ballo diritti civili di un individuo, qualsiasi elemento che prescinda dai fatti concreti (come questi algoritmi di predizione) siano un'oscenità e che in galera dovrebbero andarci quelli che li usano impattando sulla vita delle persone.

I metodi statistici si usano ovunque. Esempio? Le assicurazioni per auto: in teoria pago meno di un napoletano perché la percentuale di incidenti a bolzano é molto bassa. Secondo te dovrei pagare come se abitassi a Napoli per evitare razzismi di sorta?

Poi, chiaro che se l'algoritmo é impreciso o usa pesi discutibili, va valutato di conseguenza. E chiaro pure che il giudice deve sapere perfettamente che il valore é statistico e non puó prescindere da una valutazione dell'individuo e la sua storia...

Quì non si tratta però di metterti o farti uscire di galera, mi pare ben diverso il caso.

[OttoVon]

Non ne sappiamo abbastanza, dubito che ci sia la volontà di svantaggiare i non bianchi.

Come al solito non ho visto ispanici ed asiatici, vengono presi i neri come esempio nel video. Neanche un confronto tra bianco anglosassone e mediterraneo. Siamo ben più scuri.
Se ci fosse la volontà di testare il sw, potrebbero usare un volontario e cambiare il parametro sul colore della pelle.

[cdimauro]

"Secondo Cesare Lombroso il comportamento criminale era relativo alle caratteristiche anatomiche di un individuo. [...] Le sue idee controverse sono state presto considerate alla base di un'ideologia razzista"

Non si capisce, quindi, per quale motivo sia ancora aperto il museo con le sue "opere"...

[phicrand_6358]

Originariamente inviato da cignox1

I metodi statistici si usano ovunque. Esempio? Le assicurazioni per auto: in teoria pago meno di un napoletano perché la percentuale di incidenti a bolzano é molto bassa. Secondo te dovrei pagare come se abitassi a Napoli per evitare razzismi di sorta?

Il tuo esempio non è calzante a quello che si contesta a quell'algoritmo: sarebbe giusto se un tizio di origine napoletana che lavora e risiede a Bolzano pagasse quanto si paga a Napoli?

[Horizont]

E' da innumerevoli anni che è così...la notizia non fa più scalpore di quanto ne avrebbe già dovuto fare tempo fa.

[dado1979]

Originariamente inviato da Madcrix

Credo che quando si tratta di giudicare e ci sono in ballo diritti civili di un individuo, qualsiasi elemento che prescinda dai fatti concreti (come questi algoritmi di predizione) siano un'oscenità e che in galera dovrebbero andarci quelli che li usano impattando sulla vita delle persone.

Completamente d'accordo.

[kamon]

Originariamente inviato da OttoVon

Non ne sappiamo abbastanza, dubito che ci sia la volontà di svantaggiare i non bianchi.

Come al solito non ho visto ispanici ed asiatici, vengono presi i neri come esempio nel video. Neanche un confronto tra bianco anglosassone e mediterraneo. Siamo ben più scuri.
Se ci fosse la volontà di testare il sw, potrebbero usare un volontario e cambiare il parametro sul colore della pelle.

Di sicuro non è intenzionalmente razzista, ma quando si tratta di diritti civili non ci può essere spazio per l'approssimazione e deve essere tutelato il massimo del garantismo per tutti, il risparmio di risorse deve essere cercato altrove... E francamente mi pare terrificante che si possa discuterne.

[koni]

si sa che le persone di colore delinquono di più essendo meno civilizzati però se si dice si passa per razzisti

[Bestio]

Anche in Italia molti reati sono sono compiuti da stranieri, è un dato di fatto, ed essere tacciati di "razzismo" dicendo una cosa che è un dato di fatto è un po assurdo.
Come è un dato di fatto questo genera anche una certa diffidenza, ai danni anche degli stranieri onesti.

Originariamente inviato da dado1979

Statisticamente gli afroamericani sono più poveri dei caucasici... nei grandi numeri se si è più poveri è più facile compiere crimini... cosa c'è di razzista? E' logica deduttiva.
Certo, ora dovremmo incominciare a discutere del fatto che è sbagliato che gli afroamericani siano più poveri... in effetti è sbagliato.
Ma questo non nega ciò che è attualmente.

Esatto, ed è lo stesso motivo percui da noi per gli stranieri è più facile compiere crimini.
Ma dato che da noi sono da poco arrivati da condizioni di vita disagevoli, si capisce benissimo perchè sono più poveri, mentre gli Afroamericani oramai sono radicati nella cultura USA da secoli, come mai restano più poveri?

[PaulGuru]

Originariamente inviato da dado1979

Statisticamente gli afroamericani sono più poveri dei caucasici... nei grandi numeri se si è più poveri è più facile compiere crimini... cosa c'è di razzista? E' logica deduttiva.
Certo, ora dovremmo incominciare a discutere del fatto che è sbagliato che gli afroamericani siano più poveri... in effetti è sbagliato.
Ma questo non nega ciò che è attualmente.

Quoto

[Dragon2002]

"Solo circa il 20% di queste persone ha commesso un crimine dopo che l'algoritmo l'aveva previsto"

Se fosse un gioco sarebbe quantum break uscito per pc,cioè pieno di bug e come un framerate penoso,io direi che sto software lo possono buttare nel cesso.

[aald213]

Originariamente inviato da dado1979

Statisticamente gli afroamericani sono più poveri dei caucasici... nei grandi numeri se si è più poveri è più facile compiere crimini... cosa c'è di razzista? E' logica deduttiva.
Certo, ora dovremmo incominciare a discutere del fatto che è sbagliato che gli afroamericani siano più poveri... in effetti è sbagliato.
Ma questo non nega ciò che è attualmente.

Beata ignoranza

Il sistema di giustizia americano ha un pregiudizio provato nei confronti degli afroamericani.

Hanno calcolato, se non sbaglio nella misura del 30% circa, l'aumento della possibilità di essere giudicato colpevole, determinata sulla base della razza (afroamericano vs. caucasico), a parità delle altre condizioni.

Finché il sistema incarcera piú neri perché sono neri, la logica deduttiva finisce nel cestino.

La cultura americana è razzista nel DNA, non si cambiano centinaia di anni di storia da un giorno all'altro.

[Einhander]

Originariamente inviato da PaulGuru

Quoto

Adesso, tanto per provare, pensa che in realta' sai contare grazie agli arabi, la meta' della filosofia\etica che ha forgiato la tua cultura deriva da "terroni" greco-egiziani (come influenza di pensiero) e che la razza caucasica dall'alto della sua civilta' e' causa ed e' stata causa del maggior numero di conflitti in tutto il pianeta e di certo del maggior numero di morti.

Se dovessi REALMENTE pensare a chi, in termini storici e statistici, e' piu' o meno causa di violenza sia su piccola che larga scala, francamente, gli afro-americani, o gli stessi africani, non li metterei proprio sul podio.

Fermo restando che giudicare la vita di una persona con i dati estrapolati da un algoritmo di cui non si e' direttamente responsabili giustifica una leggerezza nel giudizio del giudice perche' meno dipendente dalla sua capacita' di giudicare e quindi dalla responsabilita' DIRETTA che ne deriva, e se la cosa non ti tocca in questi termini e' facile giudicare con superficialita' persino quando lo fai di mestiere.

Poi se la macchina si sbaglia che facciamo la mettiamo in galera? ci facciamo risarcire i danni dalla sua famiglia? oppure dobbiamo andare contro uno stato intero?

Trovo questa trovata allucinante. Quindi perfettamente in linea con il concetto di democrazia ammerigano
Gli uomini devono essere giudicati dagli uomini, punto.
Perche' essere giudicati e portarne il peso sulla propria coscienza e' un nostro DOVERE prima e una nostra responsabilita' poi.