Le auto a guida autonoma potrebbero decidere di uccidere i passeggeri, per il bene di tutti

[demon77]

Originariamente inviato da quiete

certo... ma non vedo la possibilità di regolamentare sta cosa

Guarda, è una bella gatta da pelare come ho detto.. ma di certo una quadra bisognerà trovarla. Volente o nolente.

[demon77]

Originariamente inviato da Simonex84

Decidere chi deve vivere e chi no mi sembra un po' troppo giocare a fare dio.

Se un pullman a guida autonoma con 50 anziani sta per investire una comitiva di 40 bambini dell'asilo chi salviamo?

Stando ai numeri dovremmo salvare gli anziani, però gli altri sono dei bambini, magari è meglio salvare la nuova generazione, come si fa a decidere....

Forse il random è la scelta migliore, oppure preservare sempre e comunque gli occupanti del veicolo, fregandosene del numero.

Arogomento ostico e pieno di paradossi..
il punto centrale è che se non puoi farci nulla è un discorso (guidatore umano colto di sorpresa).. ma se puoi deciderlo (reazione fulminea di un computer al presentarsi dell'imprevisto) la questione cambia radicalmente.
Non è giocare a fare dio.. è che sei obbligato a prendere una decisione.

[Haran Banjo]

Eppure la soluzione è semplice... eliminare le strisce pedonali. Così il pedone avrà sempre torto, e l'auto potrà dare la priorità al salvataggio dei suoi occupanti.
Eddài pedone... aspetta un po' che la strada sia completamente sgombra... se hai fretta, vai in auto!
;-)

[demon77]

Originariamente inviato da benderchetioffender

se il cancello automatico (dio non voglia mai) schiaccia tu a figlia? il concetto è lo stesso

cioè l'errore è pensare che una macchina a reazione avanzata sia una AI... bene non è così, perchè la macchina dovrebbe avere coscienza di sè, mentre è solamente una macchina che agisce secondo istruzioni -complesse quanto vuoi, ma sempre istruzioni sono... - tanto quanto si agisce secondo istruzione (il codice stradale) mentre si guida, ne piu ne meno... e reagisce secondo casistiche precompilate

AI è un altra cosa... le auto a guida autonoma son piu simili ai PC, o ad un animale....

Dipende appunto da come si evolve l'auto a guida autonoma.
Mi pare si parli sempre di AI e deep learning. Non auto automatica programmata secondo una sequenza di regole rigide.
Poi AI non vuol dire autocoscienza, vuol dire che è in grado di prendere decisioni sulla base di esperienze accumulate.

[Simonex84]

Originariamente inviato da Haran Banjo

Eppure la soluzione è semplice... eliminare le strisce pedonali. Così il pedone avrà sempre torto, e l'auto potrà dare la priorità al salvataggio dei suoi occupanti.
Eddài pedone... aspetta un po' che la strada sia completamente sgombra... se hai fretta, vai in auto!
;-)

che poi il pedone non paga neanche il bollo, e pretende pure di essere preservato, ma non scherziamo

[Simonex84]

Originariamente inviato da demon77

Dipende appunto da come si evolve l'auto a guida autonoma.
Mi pare si parli sempre di AI e deep learning. Non auto automatica programmata secondo una sequenza di regole rigide.
Poi AI non vuol dire autocoscienza, vuol dire che è in grado di prendere decisioni sulla base di esperienze accumulate.

Per me non si può prescindere dal determinismo, il comportamento dell'IA deve sempre e comunque essere prevedibile.

Nella medesima situazione due IA diverse devono prendere la stessa decisione, altrimenti è anarchia totale.

[TheDarkAngel]

Originariamente inviato da quiete

In entrambi i casi c'è un morto di mezzo e la responsabilità non è di nessuno a quanto pare. Non è accettabile una cosa del genere. Se un'auto a guida autonoma uccide mia figlia (che sia pedone o conducente) a chi mi rivolgo?

A nessuno come oggi? se tua figlia si butta sotto un'auto nessuno ti darà niente
Qui si sta parlando di pedoni che non rispettano il codice della strada, non di pedoni che attraversano sulle strisce o controllano che non sopraggiungano autoveicoli e che le strisce distino più di 100m

[Goofy Goober]

Originariamente inviato da demon77

non so cosa risponderti.
in generale io penso che tre vite sono più di una e se può/deve esserci una preferenza è ovviamnte per salvare le tre vite.
Penso che sia meglio così che "tiriamo la moneta e vediamo chi la scampa"

Ovvio che poi qui si sta un po' facendo un discorso da bar.. le variabili sono molte e tutte possono avere il loro peso nella decisione fulminea di una IA davanti ad una situazione di emergenza.
Il risultato finale non è nè scontato nè sempre il medesimo.

Finchè si parla di "moralità" la decisione che sembra più giusta è sempre quella che è populisticamente più facile da far accettare.
Non per questo si può dire che pochi tecnici/ingegneri che programmano un apparato informatico/meccanico possono decidere chi vive e chi muore sulla base di questo.

Originariamente inviato da quiete

In entrambi i casi c'è un morto di mezzo e la responsabilità non è di nessuno a quanto pare. Non è accettabile una cosa del genere. Se un'auto a guida autonoma uccide mia figlia (che sia pedone o conducente) a chi mi rivolgo?

Uccide nel senso che si mette in moto, parte, sale sul marciapiede e invece volontariamente qualcuno?

Originariamente inviato da quiete

certo... ma non vedo la possibilità di regolamentare sta cosa

Quel di cui si parlava era più una questione di "moralità", piuttosto che "legalità".

Il tuo discorso è più relativo alle implicazioni legali seguenti ad un incidente, piuttosto che alla regolamentazione di un computer che lo ha causato...

Ma in quel caso non penso interessi quale meccanismo software ha causato l'incidente, ma chi è il proprietario dell'oggetto (software incluso) che ha causato il danno.
Almeno credo sia così.

Originariamente inviato da Simonex84

Forse il random è la scelta migliore, oppure preservare sempre e comunque gli occupanti del veicolo, fregandosene del numero.

Già.

[Paganetor]

che poi è la Legge Zero della robotica postulata da Asimov!

[baruk]

Prima Legge delle auto a A.I.: Un'auto ad A.I. non può danneggiare i suoi passeggeri, ne permettere, col suo mancato intervento, che un suo passeggero riceva danno.

Seconda legge delle auto a A.I.: Un'auto ad A.I. può causare danno ai suoi passeggeri nel caso che il numero di pedoni che vengano investiti sia di numero superiore al numero dei passeggeri nell'auto.

Terza legge delle auto a A.I.: Un'auto ad A.I. deve tutelare se stessa, a patto di non essere in contrasto con la prima e la seconda legge.

Scusate, ma mi son venute d'istinto...

[dany-dm]

Se un pedone mi attraversa la strada e io lo investo, amen... la colpa è sua. Mi dispiacerà moltissimo.

Se a causa di quel pedone sterzo sbattendo contro un platano e uccidendo il mio passeggero, sono io ad aver ucciso. e non me lo potrò perdonare mai.

Io non devo mettere a rischio la vita degli altri. Se un pedone mi attraversa la strada, è lui che si mette in pericolo.

Il guidatore deve cercare di evitare il pericolo senza mettere a repentaglio vite umane. Discorso valido sia che il guidatore sia umano che artificiale.

Non importa se su quel pullman ci sono 40 vecchietti e davanti ci sono 40 bambini. Io non ho facoltà di decidere la vita o la morte di nessuno. Chissà che magari tra quei vecchietti non ci sia un ricercatore che sta per rendere pubblica un cura al 100% contro il cancro giovanile.

[tigroneveloce]

Premesso che le auto a guida autonoma rispettino i limiti di velocità e le distanze, avvicinandosi ad un passaggio pedonale controlleranno se non ci sono pedoni in attesa e, in questo caso, si fermerebbero; se il pedone attraversasse senza guardare, l'auto si fermerebbe perché l'avrebbe già "visto"; se si dovesse trovare in una situazione in cui dovrebbe inchiodare, inchioderebbe e basta.
Non vedo il motivo per cui dovrebbe sterzare e decidere chi salvare... ma scherziamo? mica sfreccerebbe a 100 all'ora in pieno centro come fanno certi neopatentati per farsi "fighi" con la ragazza...
Se poi uno si vuole suicidare, probabilmente non ci riuscirebbe nemmeno!

[Simonex84]

Originariamente inviato da tigroneveloce

Premesso che le auto a guida autonoma rispettino i limiti di velocità e le distanze, avvicinandosi ad un passaggio pedonale controlleranno se non ci sono pedoni in attesa e, in questo caso, si fermerebbero; se il pedone attraversasse senza guardare, l'auto si fermerebbe perché l'avrebbe già "visto"; se si dovesse trovare in una situazione in cui dovrebbe inchiodare, inchioderebbe e basta.
Non vedo il motivo per cui dovrebbe sterzare e decidere chi salvare... ma scherziamo? mica sfreccerebbe a 100 all'ora in pieno centro come fanno certi neopatentati per farsi "fighi" con la ragazza...
Se poi uno si vuole suicidare, probabilmente non ci riuscirebbe nemmeno!

sulle strisce è troppo facile, se il pedone, come accade quasi sempre, si butta instrada fuori dalle strisce? mettiamo anche sei in centro urbano e stai andando a 30 km/h se è molto vicino non c'è frenata che tenga, o lo investi o sterzi rischiando di investire chi sta sul marciapiede, o di prendere un palo, o di fare un frontale nell'altra corsia.

[roccia1234]

Io sinceramente non vedo il problema.

Cosa succede oggi quando una persona attraversa all'improvviso senza guardare?
Solitamente l'autista va in panico
Solitamente l'autista pesta sul freno
Solitamente, dopo qualche ulteriore frazione di secondo, l'autista realizza che forse può evitare la persona cambiando traiettoria e, se possibile, lo fa.

Con un'auto a guida autonoma, questa, eliminando il fattore panico, dovrebbe contemporaneamente frenare e cambiare traiettoria, se possibile. Esattamente come accadrebbe con un conducente umano, ma in una frazione del tempo.

Gli occupanti in ogni caso non devono essere messi in pericolo dall'auto... il pedone viene stirato? Beh, lo sarebbe stato anche con un'auto con autista, inoltre la colpa è sua (attraversa all'improvviso senza guardare), quindi non vedo perchè dovrebbero rimetterci altri.

[demon77]

Originariamente inviato da Simonex84

Per me non si può prescindere dal determinismo, il comportamento dell'IA deve sempre e comunque essere prevedibile.

Nella medesima situazione due IA diverse devono prendere la stessa decisione, altrimenti è anarchia totale.

Teoricamente no. E anche praticamente credo.
Per lo meno non è assolutamente scontato.

E' proprio la differenza principe tra IA e programma tradizionale.
Regola che vale panche per le persone ovviamente.. nella medesima situazione tu ed io potremmo prendere la stessa decisione.. oppure no.

[tigroneveloce]

Secondo me staranno "attente" nello stesso modo con la differenza che non si fermeranno se il pedone non è sulle strisce... ma magari rallenteranno lo stesso e, in caso di tentato suicidio, inchioderanno e sterzeranno verso una zona libera se c'è, altrimenti fileranno diritte: di certo è meglio investire il pedone che fare un frontale con una vettura che arriva dal senso opposto...
E' un caso limite comunque, di certo la colpa sarebbe del pedone che è soggetto anche lui al codice stradale, non dimentichiamolo.

[demon77]

Originariamente inviato da roccia1234

Io sinceramente non vedo il problema.

Cosa succede oggi quando una persona attraversa all'improvviso senza guardare?
Solitamente l'autista va in panico
Solitamente l'autista pesta sul freno
Solitamente, dopo qualche ulteriore frazione di secondo, l'autista realizza che forse può evitare la persona cambiando traiettoria e, se possibile, lo fa.

Con un'auto a guida autonoma, questa, eliminando il fattore panico, dovrebbe contemporaneamente frenare e cambiare traiettoria, se possibile. Esattamente come accadrebbe con un conducente umano, ma in una frazione del tempo.

Gli occupanti in ogni caso non devono essere messi in pericolo dall'auto... il pedone viene stirato? Beh, lo sarebbe stato anche con un'auto con autista, inoltre la colpa è sua (attraversa all'improvviso senza guardare), quindi non vedo perchè dovrebbero rimetterci altri.

Quindi una equazione di base che mette in prima posizione l'occupante dell'auto.
Ok, può essere una scelta.. Ma non sempre può risultare la scelta migliore.

Immagina di avere i super riflessi di una IA e di trovarti davanti il pedone disratto all'improvviso.. tutto si muove a velocità "matrix"..

Pesti sul freno, appare chiaro che non basta e non ti fermerai in tempo.
Opzione cambio direzione per evitare l'ostacolo..

Se lo fai eviti il pedone ma sbatti contro un muro: sicuri danni alla macchina ma probabili danni minimi/assenti agli occupanti per via di airbag, cinture ecc. Pedone salvo.

Se non lo fai investi il pedone (danni gravi o morte) e danni limitati la veiocolo.

Quale l'opzione migliore?

[Goofy Goober]

Originariamente inviato da baruk

Prima Legge delle auto a A.I.: Un'auto ad A.I. non può danneggiare i suoi passeggeri, ne permettere, col suo mancato intervento, che un suo passeggero riceva danno.

Seconda legge delle auto a A.I.: Un'auto ad A.I. può causare danno ai suoi passeggeri nel caso che il numero di pedoni che vengano investiti sia di numero superiore al numero dei passeggeri nell'auto.

Terza legge delle auto a A.I.: Un'auto ad A.I. deve tutelare se stessa, a patto di non essere in contrasto con la prima e la seconda legge.

Il metodo perfetto per ammazzare il tuo peggior nemico:

Organizza una comitiva di 10 persone per buttarti sotto la sua auto a guida autonoma (e spera che non arrivi a bordo di un pulmino).

[Simonex84]

Originariamente inviato da demon77

Teoricamente no. E anche praticamente credo.
Per lo meno non è assolutamente scontato.

E' proprio la differenza principe tra IA e programma tradizionale.
Regola che vale panche per le persone ovviamente.. nella medesima situazione tu ed io potremmo prendere la stessa decisione.. oppure no.

Allora non ci siamo per niente, un sistema di guida autonoma deve essere deterministico, così come è adesso l'autopilota di un aereo

[Rinha]

Originariamente inviato da benderchetioffender

se il cancello automatico (dio non voglia mai) schiaccia tu a figlia? il concetto è lo stesso

cioè l'errore è pensare che una macchina a reazione avanzata sia una AI... bene non è così, perchè la macchina dovrebbe avere coscienza di sè, mentre è solamente una macchina che agisce secondo istruzioni -complesse quanto vuoi, ma sempre istruzioni sono... - tanto quanto si agisce secondo istruzione (il codice stradale) mentre si guida, ne piu ne meno... e reagisce secondo casistiche precompilate

AI è un altra cosa... le auto a guida autonoma son piu simili ai PC, o ad un animale....

Non dovete ragionare solo in termine di "torto" - "ragione". Poniamo ad esempio che due macchine stiano viaggiando in senso opposto e ci sia uno smottamento del terreno che potrebbe portare le due macchine a collisione...
E in questi casi la responsabilità di chi sarebbe? Del produttore della macchina? Del proprietario? Del "conducente"?
Insomma ci sono N esempi possibili e non esiste una regola universale. Indubbiamente la giurisprudenza avrà parecchio da deliberare per i prossimi anni...