Le auto a guida autonoma potrebbero decidere di uccidere i passeggeri, per il bene di tutti

[Goofy Goober]

Originariamente inviato da demon77

Quindi una equazione di base che mette in prima posizione l'occupante dell'auto.
Ok, può essere una scelta.. Ma non sempre può risultare la scelta migliore.

Immagina di avere i super riflessi di una IA e di trovarti davanti il pedone disratto all'improvviso.. tutto si muove a velocità "matrix"..

Pesti sul freno, appare chiaro che non basta e non ti fermerai in tempo.
Opzione cambio direzione per evitare l'ostacolo..

Se lo fai eviti il pedone ma sbatti contro un muro: sicuri danni alla macchina ma probabili danni minimi/assenti agli occupanti per via di airbag, cinture ecc. Pedone salvo.

Se non lo fai investi il pedone (danni gravi o morte) e danni limitati la veiocolo.

Quale l'opzione migliore?

Non esiste l'opzione, perchè l'istruzione per il computer che manovra l'auto deve essere una, non può avere il libero arbitrio di scegliere lui in base a calcolci probabilistici indotti da istruzioni date al software da umani (che loro si hanno libero arbitrio) se è meglio schiantarsi perchè "tanto i danni sarebbero minimi".
Minimi a chi/cosa/quando/come/perchè?
Le auto non sono fatte per schiantarsi a caso contro muri/pali/rocce sperando che non succeda nulla perchè tanto i danni sarebbero sulla carta minimi.

E se il muro che colpisci cede, cade di sotto e finisce in testa ad un tizio che era da tutt'altra parte?

E se colpendo un palo lato strada salta via e colpisce un pedone ammazzandolo?

E se urtando il muro sfondi un tubo del gas e prende fuoco tutto? (a me è successo di vederlo, proprio sotto casa mia col tubo del gas che porta il gas anche a me).

Stai ragionando per danni collaterali.
Implicando che per evitare un danno certo puoi causarne tanti altri indefinibili e imprevedebili.
E soprauttutto implicando che i computer di bordo delle auto dovrebbero esser in grado, oltre a guidare, anche a avere un complesso sistema di auto-calcolo balistico per evitare danni da oggetti urtati e "sparati" via dall'energia cinetica del veicolo, nonchè la capacità di distinguere tubi del gas da quelli dell'acqua....



IMHO l'unica scelta che un computer deve avere è quella di intraprendere l'azione che può causare in assoluto meno probabilità di ULTERIORI danni a cose/persone oltre a quelle coinvolte nell'ipotetico sinistro (in questo caso investimento di persona/e).

[tigroneveloce]

Secondo me gli basterà rispettare il codice della strada e il 99% degli incidenti non ci saranno più. Per gli eventi eccezionali (tentativi di suicidio, cadute di meteoriti ecc.) farà quello che può fare e che farebbe un umano, senza tempo di riflesso.

[mirkonorroz]

Chi viaggia su un'auto decide di muoverla o che si muova.
Decide di mettere in moto un'arma impropria particolarmente pericolosa.
La responsabilita' e' sempre sua rispetto ad un pedone, anche fosse il piu' pazzo, perche' egli usa un mezzo naturalmente innocuo: se e' causa di incidente e' come conseguenza dell'adozione di un mezzo pericoloso da parte di chi e' in auto.
Tanto di cappello a chi va a sbattere addosso ad un platano per scansare un gatto.

Soluzione di compromesso? Viaggiare a 5 km/h.

Sembra una trollata, e forse... o no... o si'... etc.

[Goofy Goober]

Originariamente inviato da tigroneveloce

Secondo me gli basterà rispettare il codice della strada e il 99% degli incidenti non ci saranno più. Per gli eventi eccezionali (tentativi di suicidio, cadute di meteoriti ecc.) farà quello che può fare e che farebbe un umano, senza tempo di riflesso.

Secondo me infatti la concezione di veicolo a guida autonoma dovrebbe trasformare il traffico in una sorta di "trenino" su gomma a vagoni indipendenti.

Gli incidenti in tali casi dovrebbero non esistere.

Di contro non potrebbero più, secondo me, esistere gli attraversamenti pedonali non regolati da semaforo (o cmq dovrebbero esser ridotti di molto e distanzianti il giusto).

A differenza dell'educazione opzionale di un guidatore che decide o meno se fermarsi per lasciar attraversare, il computer seguendo pedissecuamente il codice della strada, si fermerebbe sempre alle strisce ogni qualvolta un pedone mostrasse l'intenzione di dover attraversare, introducendo peraltro il beneficio del dubbio per il computer.
Soprattutto in zone di centro e piazze, si finirebbe ad avere colonne perenni di auto che aspettano l'attraversamento di pedoni.

[TheDarkAngel]

Originariamente inviato da mirkonorroz

Chi viaggia su un'auto decide di muoverla o che si muova.
Decide di mettere in moto un'arma impropria particolarmente pericolosa.
La responsabilita' e' sempre sua rispetto ad un pedone, anche fosse il piu' pazzo, perche' egli usa un mezzo naturalmente innocuo: se e' causa di incidente e' come conseguenza dell'adozione di un mezzo pericoloso da parte di chi e' in auto.
Tanto di cappello a chi va a sbattere addosso ad un platano per scansare un gatto.

Soluzione di compromesso? Viaggiare a 5 km/h.

Sembra una trollata, e forse... o no... o si'... etc.

Fermiamo i treni allora, sono mezzi impropri, così evitiamo che qualcuno possa ammazzarsi attraversando per sbaglio non usando il sottopasso!
Scusa ma siamo sinceramente alla follia più totale

[demon77]

Originariamente inviato da Simonex84

Allora non ci siamo per niente, un sistema di guida autonoma deve essere deterministico, così come è adesso l'autopilota di un aereo

Originariamente inviato da Goofy Goober

Non esiste l'opzione, perchè l'istruzione per il computer che manovra l'auto deve essere una, non può avere il libero arbitrio

Ragazzi, al di là del caso specifico del pedone.. "INTELLIGENZA ARTIFICIALE" è l'esatto opposto di quello che avete detto.

[tigroneveloce]

Originariamente inviato da Goofy Goober

Soprattutto in zone di centro e piazze, si finirebbe ad avere colonne perenni di auto che aspettano l'attraversamento di pedoni.

Che è esattamente quello che prevede il codice della strada.
Allora qui il problema non sono le auto a guida autonoma ma il potere decisionale di un essere umano alla guida?
Un computer non prende decisioni, segue delle regole.
Basterebbe riscrivere alcune regole o introdurne di nuove o eliminarne di vecchie; come giustamente dici tu, tutti le strisce dovrebbero essere regolamentate da semaforo.

[roccia1234]

Originariamente inviato da demon77

Quindi una equazione di base che mette in prima posizione l'occupante dell'auto.
Ok, può essere una scelta.. Ma non sempre può risultare la scelta migliore.

Immagina di avere i super riflessi di una IA e di trovarti davanti il pedone disratto all'improvviso.. tutto si muove a velocità "matrix"..

Pesti sul freno, appare chiaro che non basta e non ti fermerai in tempo.
Opzione cambio direzione per evitare l'ostacolo..

Se lo fai eviti il pedone ma sbatti contro un muro: sicuri danni alla macchina ma probabili danni minimi/assenti agli occupanti per via di airbag, cinture ecc. Pedone salvo.

Se non lo fai investi il pedone (danni gravi o morte) e danni limitati la veiocolo.

Quale l'opzione migliore?

Non ci devono essere opzioni. L'IA non deve pensare "cosa faccio" in base a calcoli probabilistici che potrebbero rivelarsi tragicamente errati a causa di imprevedibilità... In quel caso deve frenare, spostarsi entro la corsia o andare sull'altra corsia se non arriva nessuno o salire sul marciapiede se vuoto, stop. Non può e non deve in nessun caso uscire di strada e andare per campi...
E se l'IA progettasse di schiantarsi (e fermarsi) contro una recizione che dà su un canale/strapiombo... recinzione che è in pessime condizioni, non riesce a fermare l'auto e questa finisce di sotto?
O se tra la recinzione e l'auto ci fosse un fosso reso invisibile o quasi dall'erba? L'auto ci finirebbe dentro fermandosi come se fosse andata contro un muro o addirittura capottandosi, rischiando seriamente di far fuori gli occupanti.

Se un pedone attraversa incautamente, è lui in errore. L'auto deve fare il possibile per fermarsi, ma in nessun caso deve essere messa in discussione la sicurezza degli occupanti.

Originariamente inviato da mirkonorroz

Chi viaggia su un'auto decide di muoverla o che si muova.
Decide di mettere in moto un'arma impropria particolarmente pericolosa.

Qualunque cosa che si muove (ma non solo) può essere un'arma impropria. Anche il coltello da tavolo.
Quindi che facciamo, ci rintaniamo tutti in un mondo ovattato entro una campana di vetro?

La responsabilita' e' sempre sua rispetto ad un pedone, anche fosse il piu' pazzo, perche' egli usa un mezzo naturalmente innocuo: se e' causa di incidente e' come conseguenza dell'adozione di un mezzo pericoloso da parte di chi e' in auto.
Tanto di cappello a chi va a sbattere addosso ad un platano per scansare un gatto.

Soluzione di compromesso? Viaggiare a 5 km/h.

Sembra una trollata, e forse... o no... o si'... etc.

No, non esiste che la causa dell'incidente sia a prescindere quello che usa il mezzo più grosso semplicemente perchè lo usa.
Un pedone che attraversa fuori dalle strisce senza guardare e viene stirato è egli stesso causa del suo male.

Così come quelli che finiscono sotto i treni perchè troppo ""furbi"" per usare i sottopassi... secondo il tuo ragionamento la colpa è del treno che, guardatechecaso, si è trovato a muoversi su dei binari. Ma chi se lo sarebbe mai aspettato di trovare un treno su dei binari?

[mirkonorroz]

Originariamente inviato da TheDarkAngel

Fermiamo i treni allora, sono mezzi impropri, così evitiamo che qualcuno possa ammazzarsi attraversando per sbaglio non usando il sottopasso!
Scusa ma siamo sinceramente alla follia più totale

E' una opzione... che permette di risparmiare la vita a chi si butta sotto (almeno per un po' forse)
Suggerirei anche di spianare l'intero mondo in modo che nessuno si possa buttare giu' dagli edifici o i ponti.

Originariamente inviato da roccia1234

No, non esiste che la causa dell'incidente sia a prescindere quello che usa il mezzo più grosso semplicemente perchè lo usa.
Un pedone che attraversa fuori dalle strisce senza guardare e viene stirato è egli stesso causa del suo male. Così come quelli che finiscono sotto i treni perchè troppo ""furbi"" per usare i sottopassi.

Per me e' responsabile sempre e solo chi crea una situazione di pericolo, il rischio, poi, e' una conseguenza.
La macchina in movimento di per se e' pericolosa in misura maggiore di un pedone, se convive con i pedoni si crea un rischio concreto.
Io parlo di responsabilita' (e non in maniera quantitativa) e non di pene.
E' un po' come lo smog. Ormai e' provato che un sacco di gente muore per tumore o per complicazioni dovute all'inquinamento, ma la societa' ha accettato di correre questo rischio pur di andare avanti e magari in futuro arrivare a qualcosa di piu' salubre. Questo non vuol dire che non esista la responsabilita' di aver creato una situazione nociva, ma a parte casi specifici nessuno va in galera solo per questo.
Non sempre responsabile e' sinonimo di colpevole. Quello viene da altre considerazioni.
Quindi tranqui... lasciate che la vostra auto stiri vostra figlia, poi al funerale datele la colpa e sorridete.

[tigroneveloce]

Originariamente inviato da mirkonorroz

E' un po' come lo smog. Ormai e' provato che un sacco di gente muore per tumore o per complicazioni dovute all'inquinamento, ma la societa' ha accettato di correre questo rischio pur di andare avanti e magari in futuro arrivare a qualcosa di piu' salubre. Questo non vuol dire che non esista la responsabilita' di aver creato una situazione nociva, ma a parte casi specifici nessuno va in galera solo per questo.

Il paragone non regge.
La circolazione dei mezzi e dei pedoni è regolamentata dal codice stradale.
Chi viola le norme del codice della strada è in colpa o in concorso di colpa.
Chi ce l'ha più grosso non c'entra proprio niente!

[mirkonorroz]

Originariamente inviato da tigroneveloce

Il paragone non regge.
La circolazione dei mezzi e dei pedoni è regolamentata dal codice stradale.
Chi viola le norme del codice della strada è in colpa o in concorso di colpa.
Chi ce l'ha più grosso non c'entra proprio niente!

Le regole della strada sono un tentativo di bilanciare qualcosa che sicuramente parte sbilanciato e non e' bilanciabile, ma in genere sono accettate (dai cittadini piu' civili).

[tigroneveloce]

Originariamente inviato da mirkonorroz

Le regole della strada sono un tentativo di bilanciare qualcosa che sicuramente parte sbilanciato e non e' bilanciabile, ma in genere sono accettate (dai cittadini piu' civili).

Certo che è bilanciabile, rispettando le regole.
E poi non credere, anche un pedone può provocare un incidente e la morte di un numero imprecisato di persone... senza neanche un mezzo per le mani... pensaci...

[mirkonorroz]

Originariamente inviato da tigroneveloce

Certo che è bilanciabile, rispettando le regole.
E poi non credere, anche un pedone può provocare un incidente e la morte di un numero imprecisato di persone... senza neanche un mezzo per le mani... pensaci...

Se le macchine non ci sono non puo' causare la morte delle persone in macchina.
Se ti riferisci ad un terrorista con qualche altra cosa in cintura e' un altro discorso.

[demon77]

Originariamente inviato da roccia1234

Non ci devono essere opzioni. L'IA non deve pensare "cosa faccio" in base a calcoli probabilistici che potrebbero rivelarsi tragicamente errati a causa di imprevedibilità...

OK. Allora però non è più una IA.
E' un software.
Giusto o sbagliato lui esegue il programma previsto.

[roccia1234]

Originariamente inviato da mirkonorroz

Per me e' responsabile sempre e solo chi crea una situazione di pericolo, il rischio, poi, e' una conseguenza.
La macchina in movimento di per se e' pericolosa in misura maggiore di un pedone, se convive con i pedoni si crea un rischio concreto.
Io parlo di responsabilita' (e non in maniera quantitativa) e non di pene.
E' un po' come lo smog. Ormai e' provato che un sacco di gente muore per tumore o per complicazioni dovute all'inquinamento, ma la societa' ha accettato di correre questo rischio pur di andare avanti e magari in futuro arrivare a qualcosa di piu' salubre. Questo non vuol dire che non esista la responsabilita' di aver creato una situazione nociva, ma a parte casi specifici nessuno va in galera solo per questo.
Non sempre responsabile e' sinonimo di colpevole. Quello viene da altre considerazioni.
Quindi tranqui... lasciate che la vostra auto stiri vostra figlia, poi al funerale datele la colpa e sorridete.

Il mondo non è e non può essere a prova di idiota. Le situazioni di pericolo te le crei anche in casa mentre tagli l'insalata.
Il rischio si crea nel momento in cui qualcuno sconfina o non rispetta le regole.
Finchè l'auto è nella sua corsia e il pedone sul marciapiede, il pericolo è prossimo a zero.
È quando si incrociano che si creano situazioni di pericolo, ma sta al buon senso della parte "debole" evitare che queste si concretizzino.
E basta seguire semplici regole che ci insegnano fin da bambini: attraversare sulle strisce, guardare da entrambe le parti prima di farlo, usare i sottopassaggi in stazione.
Anche i viaggiatori in auto/treno/aereo corrono rischi. Anche tua figlia mentre gioca in giardino.
Quindi qual'è la tua proposta, a parte questa sterile polemica qualunquista?

[mirkonorroz]

Originariamente inviato da roccia1234

Il mondo non è e non può essere a prova di idiota. Le situazioni di pericolo te le crei anche in casa mentre tagli l'insalata.
Il rischio si crea nel momento in cui qualcuno sconfina o non rispetta le regole.
Finchè l'auto è nella sua corsia e il pedone sul marciapiede, il pericolo è prossimo a zero.
È quando si incrociano che si creano situazioni di pericolo, ma sta al buon senso della parte "debole" evitare che queste si concretizzino.
E basta seguire semplici regole che ci insegnano fin da bambini: attraversare sulle strisce, guardare da entrambe le parti prima di farlo, usare i sottopassaggi in stazione.
Anche i viaggiatori in auto/treno/aereo corrono rischi. Anche tua figlia mentre gioca in giardino.
Quindi qual'è la tua proposta, a parte questa sterile polemica qualunquista?

Quando non si sa dove andare a parare di solito si da del qualunquista all'altro.
Il mio discorso e' un po' diverso e non e' che voglia trovare LA soluzione a tutti i costi.

E' basato anche sul fatto di delegare parte della nostra umanita' (come persone) a una macchina quasi a scaricarci dalle responsabilita' (che ripeto sono anche diverse dalle colpe).

Facciamo ancora l'esempio che magari la tua auto uccide tua figlia di 6 anni (di solito se si pensa a terzi la cosa tocca meno) che a "torto suo" non rispettava le regole.
Se sei tu a guidare sono convinto che nonostante tutto arriveresti a dire "se solo fossi stato piu' attento..." o comunque avresti la cognizione di essere responsabile di qualche cosa.
Se e' la macchina che guida, non riesco ad immaginarmi una reazione o un pensiero che non sia alienante. Cosa dici? E' colpa sua "selezione naturale!" come va di moda dire oggi? Tragedia? Incidente? E' colpa della macchina? (Assurdo).
Ma tenderesti a sentirti meglio perche' tu pensi di non entrarci per nulla, quando invece sei partecipe anche tu della scelta di aver "usato" di quel mezzo o di averne incentivato la diffusione?

Per me il pericolo e' quello di disumanizzarsi. Ok ci saranno meno incidenti, si dice. Pero' quando succederanno come reagiranno le nostre menti/coscienze etc.? Ci sara' un appiattimento?

In genere sono il primo che non ama fare paragoni e quello dello smog lascia il tempo che trova anche se mette in evidenza "la scelta di fondo condivisa da molti" che pero' non esime da responsabilita'.

E come e' stato detto e' impensabile che sia una macchina a decidere chi tirare sotto o se uccidere i passeggeri o scegliere i passeggeri a prescindere. Certe cose, PER ME, devono rimanere sotto il dominio umano in senso stretto in modo diretto.

[dany-dm]

penserei la stessa cosa di mia figlia che muore cadendo dalle scale. Con l'aggiunta "colpa mia che non gli ho insegnato bene/ chiuso il cancello".

[mirkonorroz]

Originariamente inviato da dany-dm

penserei la stessa cosa di mia figlia che muore cadendo dalle scale. Con l'aggiunta "colpa mia che non gli ho insegnato bene/ chiuso il cancello".

A proposito di paragoni...
secondo me difficilmente penseresti la stessa cosa e difficilmente puoi prevedere cosa penseresti in una situazione non avvenuta.

[davide3112]

Mah... io personalmente più che dei pedoni, che sono entità "lente", sono un po' più preoccupato dal confronto Auto-Autonoma/Motocicletta (o comunque un qualsiasi mezzo più o meno veloce) dove il tempo di reazione/decisione è tendenzialmente più breve... a meno che non facciano anche una moto o una bicicletta a guida autonoma... :-)

Pro alla guida autonoma c'è senz'altro la capacità di percepire con cura e tempestività l'ostacolo (e quindi il caso del "non l'avevo visto arrivare" dovrebbe ridursi drasticamente. Contro, forse, la difficoltà della macchina nel discriminare e prevedere l'imprevedibilità di comportamento di un mezzo rapido ed agile.

Staremo a vedere.

[PaulGuru]

Ridicolo, io sono il proprietario la priorità va a me !