In USA una legge contro gli algoritmi discriminatori

In USA una legge contro gli algoritmi discriminatori

Secondo una nuova proposta, le società dovranno ispezionare e verificare i propri sistemi machine learning affinché gli algoritmi alla base siano liberi da eventuali bias

di pubblicata il , alle 18:41 nel canale Web
 

Resta aggiornato sulle ultime offerte

Ricevi comodamente via email le segnalazioni della redazione di Hardware Upgrade sui prodotti tecnologici in offerta più interessanti per te

Quando invii il modulo, controlla la tua inbox per confermare l'iscrizione.
Leggi la Privacy Policy per maggiori informazioni sulla gestione dei dati personali

18 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - info
giovanni6913 Aprile 2019, 14:17 #11
Originariamente inviato da: WarSide
Adesso volete dirmi che il problema e' l'algoritmo?


Il problema è chi corregge quell'algoritmo una volta che avesse creato distorsioni o situazioni considerate critiche per l'essere umano senza AI decision making e quanto trasparente è la possibilità di intervento. Sarà un altro AI decision maker o l'essere umano privo di AI support? E fino a che punto il sistema diventerà così complesso da essere governato senza l'AI?

Adesso per poter effettuare una ricerca pulita e senza condizionamenti su Amazon, è necessario ripulire come minimo la cache del browser e non solo ( meglio usare browser portable), non essere loggati con il proprio account, cambiare device per avere diversi macaddress, ripulire i links dalle referenze, cambiare ip, ecc. Ma quanti lo fanno per pigrizia ed ignoranza al fine di poter effettuare una ricerca libera?


Se si arriva an mero esecuzionismo dell'algoritmo in quanto frutto di un bias che in origine era umano, ma che nel momento in cui si diviene algoritmo allora viene considerato oggettivo e quasi/dunque incontestabile, allora il problema diventa grosso.

Già oggi ed in passato si arrivava a chiudere il discorso e tacciare di ignoranza le persone rispondendo: "lo dice il computer " o" lo dice la calcolatrice", dimenticandosi il vecchio e saggio garbage-in, garbage-out.
WarSide13 Aprile 2019, 16:14 #12
Originariamente inviato da: giovanni69
Il problema è chi corregge quell'algoritmo una volta che avesse creato distorsioni o situazioni considerate critiche per l'essere umano senza AI decision making e quanto trasparente è la possibilità di intervento. Sarà un altro AI decision maker o l'essere umano privo di AI support? E fino a che punto il sistema diventerà così complesso da essere governato senza l'AI?


Se non si vogliono comportamenti "sconvenienti", allora non puoi fare training dell'algoritmo con i soli dati storici ma devi introdurne di altri.
Un algoritmo di ML e' come un bambino. Se tu insegni ad un bambino che maneggiare pistole e' male, lui non lo fara'. Se non lo educhi lui magari ci gioca e si spara su un piede.

Originariamente inviato da: giovanni69
Adesso per poter effettuare una ricerca pulita e senza condizionamenti su Amazon, è necessario ripulire come minimo la cache del browser e non solo ( meglio usare browser portable), non essere loggati con il proprio account, cambiare device per avere diversi macaddress, ripulire i links dalle referenze, ecc. Ma quanti lo fanno per pigrizia ed ignoranza al fine di poter effettuare una ricerca libera?


Credi seriamente che la ricerca/recommendation di amazon sia libera da condizionamenti quando usi amazon in modalita' anonima?

Ti do una brutta notizia, non e' cosi'. Semplicemente viene usato un dataset di base che non tiene conto delle tue personali necessita'. Ma non vedrai mai amazon suggerirti di comprare il kit del piccolo chimico se stai cercando bambole.


Originariamente inviato da: giovanni69
Se si arriva an mero esecuzionismo dell'algoritmo in quanto frutto di un bias che in origine era umano, ma che nel momento in cui si diviene algoritmo allora viene considerato oggettivo e quasi/dunque incontestabile, allora il problema diventa grosso.

Già oggi ed in passato si arrivava a chiudere il discorso e tacciare di ignoranza le persone rispondendo: "lo dice il computer " o" lo dice la calcolatrice", dimenticandosi il vecchio e saggio garbage-in, garbage-out.


"Lo dice la calcolatrice" direi che va piu' che bene, se non ha bug. La matematica non e' un'opinione.

Diverso e' dire: l'algoritmo di ranking/recommendation/... dice X quindi e' X. C'e' sempre un certo margine di "errore" (il discorso e' molto complesso, lo sto semplificando) in un algo di ML, solo che non viene mostrato assieme ai risultati.

La discrezionalita' dovrebbe essere sempre dell'uomo in ultima battuta.
Un algoritmo potrebbe dire con un grado di confidenza dal 99% che un mutuo alla persona X non deve essere erogato. Sta al banchiere decidere se la persona rientra in quell'1% che merita comunque il mutuo (e diventerebbe un outlier per l'algoritmo stesso).
Hiei360013 Aprile 2019, 16:39 #13
Già mi immagino la scena.
Mi immagino il programmatore che spiega al computer che nonostante in America(tm) le persone di colore compiono più crimini di quelle non di colore il computer deve comunque far finta che i dati sono uguali a prescindere dal colore della pelle,perché la realtà può anche andarsi a farsi fottere.

E poi immagino la gente che mi fa i pipponi perché non è una questione di colore della pelle,ma di cultura / posizione sociale / geografica / eccetera,tutto vero,peccato che queste cose sono altrettanto prese in considerazione e vengono altrettanto riportate,però il 99% delle persone non è che si legge un intero articolo scientifico,legge al massimo il titolo del articolo giornalistico a cui fa riferimento, in cui spesso viene riassunto (male) il risultato dell'articolo scientifico.

(Così come mi immagino la gente che avrà letto solo il primo paragrafo di quello che ho scritto e che mi da del razzista).
Doraneko13 Aprile 2019, 16:43 #14
Originariamente inviato da: giovanni69
Già oggi ed in passato si arrivava a chiudere il discorso e tacciare di ignoranza le persone rispondendo: "lo dice il computer " o" lo dice la calcolatrice", dimenticandosi il vecchio e saggio garbage-in, garbage-out.


Non confondiamo però per "garbage" o per condizionamento umano la totale assenza di peli sulla lingua di una AI, quando magari dovesse scartare il 100% delle donne candidate ad una qualche posizione lavorativa o etichettare una determinata etnia come più incline a delinquere di un'altra. Un "freddo algoritmo" non dovrebbe concepire né le quote rosa né la political correctness, cose che al giorno d'oggi per qualcuno sono imprescindibili.
Hiei360013 Aprile 2019, 16:44 #15
Originariamente inviato da: Doraneko
Non confondiamo però per "garbage" o per condizionamento umano la totale assenza di peli sulla lingua di una AI, quando magari dovesse scartare il 100% delle donne candidate ad una qualche posizione lavorativa o etichettare una determinata etnia come più incline a delinquere di un'altra. Un "freddo algoritmo" non dovrebbe concepire né le quote rosa né la political correctness, cose che al giorno d'oggi per qualcuno sono imprescindibili.


Precisamente!
Doraneko13 Aprile 2019, 16:46 #16
Originariamente inviato da: Hiei3600
Già mi immagino la scena.
Mi immagino il programmatore che spiega al computer che nonostante in America(tm) le persone di colore compiono più crimini di quelle non di colore il computer deve comunque far finta che i dati sono uguali a prescindere dal colore della pelle,perché la realtà può anche andarsi a farsi fottere.


Mi hai preceduto
tallines13 Aprile 2019, 18:09 #17
Originariamente inviato da: giovanni69
Il problema è chi corregge quell'algoritmo una volta che avesse creato distorsioni o situazioni considerate critiche per l'essere umano senza AI decision making e quanto trasparente è la possibilità di intervento. Sarà un altro AI decision maker o l'essere umano privo di AI support? E fino a che punto il sistema diventerà così complesso da essere governato senza l'AI?

Adesso per poter effettuare una ricerca pulita e senza condizionamenti su Amazon, è necessario ripulire come minimo la cache del browser e non solo ( meglio usare browser portable), non essere loggati con il proprio account, cambiare device per avere diversi macaddress, ripulire i links dalle referenze, cambiare ip, ecc. Ma quanti lo fanno per pigrizia ed ignoranza al fine di poter effettuare una ricerca libera?


Se si arriva an mero esecuzionismo dell'algoritmo in quanto frutto di un bias che in origine era umano, ma che nel momento in cui si diviene algoritmo allora viene considerato oggettivo e quasi/dunque incontestabile, allora il problema diventa grosso.

Già oggi ed in passato si arrivava a chiudere il discorso e tacciare di ignoranza le persone rispondendo: "lo dice il computer " o" lo dice la calcolatrice", dimenticandosi il vecchio e saggio garbage-in, garbage-out.

Quoto
Notturnia14 Aprile 2019, 08:11 #18
L’uomo dice che il ML discrimina ?
A me pare che sia nella natura stessa il concetto di discriminare
Non tutto è lasciato al caso
Il leone cerca la preda più debole
Così noi facciamo le scelte delle nostre amicizie già all’asilo etc
Un ML discriminerà sempre perché guarda lo stato dei fatti a meno che non gli vengano negate informazioni
È come dire che vorremmo una matematica più elastica

Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".

La discussione è consultabile anche qui, sul forum.
 
^