Le auto a guida autonoma potrebbero decidere di uccidere i passeggeri, per il bene di tutti

[Redazione di Hardware Upg]

Link alla notizia: http://auto.hwupgrade.it/news/tecnol...tti_63351.html

Le auto a guida autonoma dovranno essere in grado di compiere delle scelte che potrebbero compromettere la vita delle persone a bordo

Click sul link per visualizzare la notizia.

[PietroGiuliani]

Ho capito, ci vogliono anche i pedoni che si guidano da soli...

[demon77]

Il dilemma del pedone distratto è una bella gatta da pelare.

l'IA potrebbe decidere se sterzare e magari andare a sbattere contro un muro in base a degli elementi che devono essee tutti parte di una equazione:

- numero di vite presenti nel veicolo rispetto a numero di vite che verrebbero falciate
- le persone nell'auto sono protette dall'auto stessa e dai relativi sistemi di sicurezza.
- evitando i pedoni si potrebbe andare contro altre persone lì vicine

[benderchetioffender]

Originariamente inviato da PietroGiuliani

Ho capito, ci vogliono anche i pedoni che si guidano da soli...

anyway, penso che la scelta sia tutelare il guidatore, d'altronde se l'auto - ricordiamo dotata di radar in grado di vedere entità in movimento e quindi prevederne le traiettorie meglio, molto meglio degli umani- è costretta dagli eventi alla collisione, vuol dire che l'entità ha fatto un palese errore (chessò, un pedone che svolta all'improvviso e taglia la strada).... giusto che paghi le conseguenze

d'altra parte non vedo come una macchina possa fare una valutazione di merito sul tipo di collisione e conseguenze -tipo scelgo di uccidere i passeggeri piuttosto che il bimbo che attraversa senza motivo-

chiudo con: Darwin vince sempre e a mani basse.... purtroppo la società ancora non vuole assimilare il concetto che se uno è inabile a sopravvivere (tipo attraversare all'improvviso) è giusto che ci lasci le penne

[Cfranco]

Ne avevano già parlato a Top Gear
https://www.youtube.com/watch?v=ZbLRIhRqMVk

[Apix_1024]

Originariamente inviato da benderchetioffender

chiudo con: Darwin vince sempre e a mani basse.... purtroppo la società ancora non vuole assimilare il concetto che se uno è inabile a sopravvivere (tipo attraversare all'improvviso) è giusto che ci lasci le penne

massima stima!

[kirylo]

E' un argomento del tutto falso, in quanto le regole di guida e la gestione di situazioni di emergenza sono chiare ed insegnate anche alla scuola guida e nessuna regola sensata sosterebbe di mettere in pericolo te stesso per evitare un altro pericolo.

Nel caso del pedone è molto semplice, se il pedone, animale o per qualsiasi oggetto che si trovi in mezzo al tracciato, la macchina tenterà di evitarlo nei limiti della sicurezza dei passeggeri, in modo da evitare incidenti più gravi, l'ultima opzione è la frenata con impatto se non ci sono soluzioni alternative sicure. Se il pedone viene colpito, il problema è solo del pedone che ha attraversato senza guardare. Stessa logica dovrebbe avvenire con alla guida l'uomo.

[TheDarkAngel]

Originariamente inviato da demon77

Il dilemma del pedone distratto è una bella gatta da pelare.

l'IA potrebbe decidere se sterzare e magari andare a sbattere contro un muro in base a degli elementi che devono essee tutti parte di una equazione:

- numero di vite presenti nel veicolo rispetto a numero di vite che verrebbero falciate
- le persone nell'auto sono protette dall'auto stessa e dai relativi sistemi di sicurezza.
- evitando i pedoni si potrebbe andare contro altre persone lì vicine

L'ai si limiterebbe a rispettare il codice della strada dove non è previsto di scansare il pedone e ammazzarsi, frena, se riesce in tempo bene, oppure muore il pedone. Ci mancherebbe pure che per colpa di un pedone, l'auto decidesse di andare contro un albero, io prima la pago e poi lei mi ammazza

[Notturnia]

se la macchina uccidesse i passeggeri per salvare il pedone (per esempio la macchina centra un albero per fermarsi prima del pedone) nessuno comprerebbe le macchine a guida autonoma.. figuriamoci se compriamo un veicolo che puo' decidere di uccidermi dopo che l'ho comprato io.. resto con la guida manuale come faceva Will Smith in Io Robot :-D

[Goofy Goober]

Originariamente inviato da demon77

l'IA potrebbe decidere se sterzare e magari andare a sbattere contro un muro in base a degli elementi che devono essee tutti parte di una equazione:

- numero di vite presenti nel veicolo rispetto a numero di vite che verrebbero falciate

non mi pare un parametro valido per l'equazione.
tu da solo ti suicideresti seduta stante per salvare altre 10 persone da morte certa?

a prescindere far decidere ad una IA chi vive e chi muore è roba di cui sarebbe meglio non parlare nemmeno...
tantovale tirare una moneta.

[randorama]

e chi l'avrebbe mai detto che le tre leggi dell'automobilismo sarebbero arrivate prima di quelle della robotica?

[demon77]

Originariamente inviato da Goofy Goober

non mi pare un parametro valido per l'equazione.
tu da solo ti suicideresti seduta stante per salvare altre 10 persone da morte certa?

a prescindere far decidere ad una IA chi vive e chi muore è roba di cui sarebbe meglio non parlare nemmeno...
tantovale tirare una moneta.

si mi rendo conto che è piuttosto paradossale.
Ma se stai guidando e all'improvviso ti saltano fuori due bambinni dietro ad un pallone.. magari ti viene pure di istinto o di inchiodare, o di sterzare bruscamente per evitarli andandoti però a schiantare contro un muro magari.

Lì la mossa è dettata dal caso e dall'istinto.. la moneta appunto.
Ma se fossi tu a programmare le auto autonome e lo potessi pianificare come regola cosa sceglieresti?
Un bimbo falciato o uno schianto di un'auto con magari tre persone sopra?
E se i bimbi fossero due sulla strada e l'auto con il solo guidatore la scelta sarebbe la stessa?

[TheDarkAngel]

Originariamente inviato da demon77

Ma se fossi tu a programmare le auto autonome e lo potessi pianificare come regola cosa sceglieresti?
Un bimbo falciato o uno schianto di un'auto con magari tre persone sopra?
E se i bimbi fossero due sulla strada e l'auto con il solo guidatore la scelta sarebbe la stessa?

Si, la responsabilità in italia è personale, sarebbe assurdo cagionare a se danni per responsabilità terze
Potrebbero anche essere 40 bambini (tanto per impietosire sempre....) che non cambia nulla.

[Goofy Goober]

Originariamente inviato da demon77

si mi rendo conto che è piuttosto paradossale.
Ma se stai guidando e all'improvviso ti saltano fuori due bambinni dietro ad un pallone.. magari ti viene pure di istinto o di inchiodare, o di sterzare bruscamente per evitarli andandoti però a schiantare contro un muro magari.

Lì la mossa è dettata dal caso e dall'istinto.. la moneta appunto.

esatto.
se la stessa cosa ti capita su un ponte alto 50mt, se l'istinto ti fa evitare l'impatto con una persona o dieci persone in mezzo alla strada, di contro di condanna a morte quasi sicura.

però che scelta faresti a sangue freddo, adesso in questo momento, se ti dicessero che buttandoti da questo ponte ora salveresti sicuramente la vita a 10 persone random nel mondo, che altrimenti sarebbero quasi certe di morire?

Ma se fossi tu a programmare le auto autonome e lo potessi pianificare come regola cosa sceglieresti?
Un bimbo falciato o uno schianto di un'auto con magari tre persone sopra?
E se i bimbi fossero due sulla strada e l'auto con il solo guidatore la scelta sarebbe la stessa?

E' facile, non sceglierei la regola. Perchè non ci può essere una regola che decidw uno vive-uno muore, uno muore-tanti vivono, uno vive-tanti muoiono.
Non puoi decidere di chi vive o chi muore sulla base di una presunzione che sarà meglio così piuttosto che comì, perchè 3 è più di 1.

E se ci sono 1 adulto e 2 bambini in macchina, e 1 adulto e 2 bambini in strada, che si fa?
Autodistruzione del mezzo dopo l'investimento dei malcapitati, per non fare torti a nessuno?

Se l'auto a guida autonoma fosse una monoposto allora si è già condannati a morte nel 100% dei casi sfigati?

La realtà è che in taluni casi la cosa più ovvia è lasciare tutto nelle mani del caso (o caos se vogliamo dirla realisticamente parlando). Quindi l'auto fa di tutto per evitare lo scontro SENZA mettere in pericolo l'incolumintà dei passeggeri.

Perchè perlomeno il caso è equo.

L'IA non ha "istinto", e non ha "il caso", ha regole dalle quali non può uscire.
Le regole non possono basarsi sull'istinto umano, perchè l'istinto non ha regole.

Tra l'altro se ci pensiamo stiamo parlando del nulla o quasi, perchè si descrive un caso in cui si sta presupponendo il "fallo" della/e persone che verranno investite, ossia il caso che spazia da uno che tenta di suicidarsi ad una possibile caduta accidentale dal lato strada, o ancora ad un pedone distratto/impazzito che attraversa a caso.

Perchè in tutti gli altri casi, come pedone sulle strisce, o pedone già pre-esistente sulla carreggiata, l'auto a guida autonoma sarà programmata a dovere per anticipare ampliamente il disastro.

Infine, penso di aver fatto un errore, ossia parlare di "IA" riguardo a ciò che controllerà la guida autonoma.
A mio parere dire IA è errato, in quanto, sempre secondo me, quello che controllerà la vettura non dovrà esser un sistema intelligente autonomo, bensì qualcosa su "binari" più simile ad un treno che ad una vettura.

[quiete]

In entrambi i casi c'è un morto di mezzo e la responsabilità non è di nessuno a quanto pare. Non è accettabile una cosa del genere. Se un'auto a guida autonoma uccide mia figlia (che sia pedone o conducente) a chi mi rivolgo?

[demon77]

Originariamente inviato da Goofy Goober

esatto.
se la stessa cosa ti capita su un ponte alto 50mt, se l'istinto ti fa evitare l'impatto con una persona o dieci persone in mezzo alla strada, di contro di condanna a morte quasi sicura.

però che scelta faresti a sangue freddo, adesso in questo momento, se ti dicessero che buttandoti da questo ponte ora salveresti sicuramente la vita a 10 persone random nel mondo, che altrimenti sarebbero quasi certe di morire?




E' facile, non sceglierei la regola. Perchè non ci può essere una regola che decidw uno vive-uno muore, uno muore-tanti vivono, uno vive-tanti muoiono.
Non puoi decidere di chi vive o chi muore sulla base di una presunzione che sarà meglio così piuttosto che comì, perchè 3 è più di 1.

E se ci sono 1 adulto e 2 bambini in macchina, e 1 adulto e 2 bambini in strada, che si fa?
Autodistruzione del mezzo dopo l'investimento dei malcapitati, per non fare torti a nessuno?

Se l'auto a guida autonoma fosse una monoposto allora si è già condannati a morte nel 100% dei casi sfigati?

La realtà è che in taluni casi la cosa più ovvia è lasciare tutto nelle mani del caso (o caos se vogliamo dirla realisticamente parlando). Quindi l'auto fa di tutto per evitare lo scontro SENZA mettere in pericolo l'incolumintà dei passeggeri.

Perchè perlomeno il caso è equo.

L'IA non ha "istinto", e non ha "il caso", ha regole dalle quali non può uscire.
Le regole non possono basarsi sull'istinto umano, perchè l'istinto non ha regole.

Tra l'altro se ci pensiamo stiamo parlando del nulla o quasi, perchè si descrive un caso in cui si sta presupponendo il "fallo" della/e persone che verranno investite, ossia il caso che spazia da uno che tenta di suicidarsi ad una possibile caduta accidentale dal lato strada, o ancora ad un pedone distratto/impazzito che attraversa a caso.

Perchè in tutti gli altri casi, come pedone sulle strisce, o pedone già pre-esistente sulla carreggiata, l'auto a guida autonoma sarà programmata a dovere per anticipare ampliamente il disastro.

Infine, penso di aver fatto un errore, ossia parlare di "IA" riguardo a ciò che controllerà la guida autonoma.
A mio parere dire IA è errato, in quanto, sempre secondo me, quello che controllerà la vettura non dovrà esser un sistema intelligente autonomo, bensì qualcosa su "binari" più simile ad un treno che ad una vettura.

non so cosa risponderti.
in generale io penso che tre vite sono più di una e se può/deve esserci una preferenza è ovviamnte per salvare le tre vite.
Penso che sia meglio così che "tiriamo la moneta e vediamo chi la scampa"

Ovvio che poi qui si sta un po' facendo un discorso da bar.. le variabili sono molte e tutte possono avere il loro peso nella decisione fulminea di una IA davanti ad una situazione di emergenza.
Il risultato finale non è nè scontato nè sempre il medesimo.

[demon77]

Originariamente inviato da quiete

In entrambi i casi c'è un morto di mezzo e la responsabilità non è di nessuno a quanto pare. Non è accettabile una cosa del genere. Se un'auto a guida autonoma uccide mia figlia (che sia pedone o conducente) a chi mi rivolgo?

La giurisprudenza in merito deve essere ancora tutta scritta.
E' una tipologia di evento e situazione che non è mai accaduta fino ad oggi.

[quiete]

Originariamente inviato da demon77

La giurisprudenza in merito deve essere ancora tutta scritta.
E' una tipologia di evento e situazione che non è mai accaduta fino ad oggi.

certo... ma non vedo la possibilità di regolamentare sta cosa

[Simonex84]

Originariamente inviato da demon77

non so cosa risponderti.
in generale io penso che tre vite sono più di una e se può/deve esserci una preferenza è ovviamnte per salvare le tre vite.
Penso che sia meglio così che "tiriamo la moneta e vediamo chi la scampa"

Ovvio che poi qui si sta un po' facendo un discorso da bar.. le variabili sono molte e tutte possono avere il loro peso nella decisione fulminea di una IA davanti ad una situazione di emergenza.
Il risultato finale non è nè scontato nè sempre il medesimo.

Decidere chi deve vivere e chi no mi sembra un po' troppo giocare a fare dio.

Se un pullman a guida autonoma con 50 anziani sta per investire una comitiva di 40 bambini dell'asilo chi salviamo?

Stando ai numeri dovremmo salvare gli anziani, però gli altri sono dei bambini, magari è meglio salvare la nuova generazione, come si fa a decidere....

Forse il random è la scelta migliore, oppure preservare sempre e comunque gli occupanti del veicolo, fregandosene del numero.

[benderchetioffender]

Originariamente inviato da quiete

In entrambi i casi c'è un morto di mezzo e la responsabilità non è di nessuno a quanto pare. Non è accettabile una cosa del genere. Se un'auto a guida autonoma uccide mia figlia (che sia pedone o conducente) a chi mi rivolgo?

se il cancello automatico (dio non voglia mai) schiaccia tu a figlia? il concetto è lo stesso

cioè l'errore è pensare che una macchina a reazione avanzata sia una AI... bene non è così, perchè la macchina dovrebbe avere coscienza di sè, mentre è solamente una macchina che agisce secondo istruzioni -complesse quanto vuoi, ma sempre istruzioni sono... - tanto quanto si agisce secondo istruzione (il codice stradale) mentre si guida, ne piu ne meno... e reagisce secondo casistiche precompilate

AI è un altra cosa... le auto a guida autonoma son piu simili ai PC, o ad un animale....