Quote:
Originariamente inviato da Hiei3600
Okay ma che centra esattamente la "Causa" ? se un algoritmo come in questo caso nella ha la funzione di " valutazione del rischio criminale" (Come riportato prima nell'articolo) non dovrebbe essere responsabile del conoscere o capirne la causa, perché qui non si parla di gente che non ha fatto niente, si parla di gente che è stata già arrestata per un qualche motivo valido(si spera) e della quale l'algoritmo deve semplicemente valutare se carcerare il soggetto in attesa del processo o meno (da quanto ho capito leggendo l'articolo); Quindi di fatto la valutazione del IA arriva già a "Fatto compiuto", non è più rivelante conoscere la "Causa", dato che capire la causa serve a "Prevenire" un crimine, non a valutarne le conseguenze.
|
Allora, il problema è che in questi algoritmi di valutazione del rischio sono entrati (per errore o per dolo) dei pregiudizi razziali e sociali. Pensa a un algoritmo che deve dare un punteggio al tuo merito creditizio, il quale determinerà se ti verrà o meno concesso il prestito che hai chiesto alla banca. Se si verifica che, a parità di ogni altro dato personale imputato nell'algoritmo, una persona nera ottiene un punteggio più basso di una persona bianca, significa che l'algoritmo è razzista, ovvero valuta l'etnia come elemento causale della capacità di una specifica persona di onorare il debito, il che ovviamente è infondato.
Allo stesso modo un algoritmo che deve calcolare la probabilità che una persona che abbia commesso un determinato reato, se scarcerato torni a delinquere, se a partità di tutti gli altri dati personali calcola una probabilità più sfavorevole per una persona nera rispetto a una persona bianca, allora quell'algortimo ha codificato al suo interno un pregudizio razziale, perché il colore della pelle non è ovviamente una causa della propensione a delinquere (indipendentemente dal fatto che le statistiche dicano che nella popolazione carceraria USA ci sono più neri che bianchi). L'autore che ho citato lo spiega molto meglio di come posso fare io, per ovvi motivi (leggi il suo curriculum).