Uber, interrotti i test per le auto a guida autonoma: la causa, un pedone ucciso in Arizona

[emanuele83]

Originariamente inviato da thresher3253

Si chiama beta test per un motivo. Sarà cinico dirlo, ma meglio ora che con migliaia di macchine autonome in servizio.

madonna che fail. Un guidatore umano in quella situazione non so se avrebbe fatto in tempo a evitare l'impatto, ma magari avrebbe forse fatto in tempo a frenare.

Fusa lei ad attraversare in quel punto, ma il guidatore era distratto e il sistema ha fallito miseramente.

[Cfranco]

Originariamente inviato da thresher3253

Si chiama beta test per un motivo. Sarà cinico dirlo, ma meglio ora che con migliaia di macchine autonome in servizio.

Sarà anche un test, ma vedere un pedone in mezzo alla strada è il livello minimo che ci si aspetta, roba che fa il paio con lo schianto della Tesla contro la fiancata del camion, ma quella almeno la vendono come guida assistita, non come autonoma.

[emanuele83]

Ehm ragazzi la tester a bordo era UNA DONNA

voglio dire: io pensavo fosse il solito nerd ciccione, mi pare abbia pure il pizzetto!

[wooow]

Un'auto non viaggia su delle rotaie, forse un guidatore attento istintivamente avrebbe cercato anche di sterzare verso sinistra per cercare di evitare l'impatto, mentre qui l'auto autonoma è andata dritta fino all'impatto.
Non voglio dare colpe all'autista per non aver fatto nulla, questo lo appureranno le autorità e del resto la bicicletta non ha catarinfrangenti laterali e il pedone non indossava indumenti ad alta visibilità, ma sicuramente con la guida automatica l'autista viene anche assuefatto e perde la dovuta attenzione e prontezza nel reagire a situazioni del genere.

[emanuele83]

Originariamente inviato da wooow

Un'auto non viaggia su delle rotaie, forse un guidatore attento istintivamente avrebbe cercato anche di sterzare verso sinistra per cercare di evitare l'impatto, mentre qui l'auto autonoma è andata dritta fino all'impatto.
Non voglio dare colpe all'autista per non aver fatto nulla, questo lo appureranno le autorità e del resto la bicicletta non ha catarinfrangenti laterali e il pedone non indossava indumenti ad alta visibilità, ma sicuramente con la guida automatica l'autista viene anche assuefatto e perde la dovuta attenzione e prontezza nel reagire a situazioni del genere.

se la velocità del video è veritiera ci sono 2 secondi trail momento in cui entra nel cono di luce e l'impatto. un guidatore attento avrebbe forse provato a frenare, ma l'impatto lo vedo inevitabile. un auto a guida autonoma avrebbe dovuto riconoscere la ciclista già da almeno un paio di secondi prima del cono di luce. cazzo era pure bella grossa eh con bici al seguito.

[TheQ.]

Consideriamo che le webcam scuriscono, non essendo camere professionali per la vista notturna, e quindi la donna sarà stata ben visibile.
Un guidatore avrebbe sterzato, Uber no.
Good job.

Ora chiederanno scusa i sostenitori a spada tratta delle AI che già accusavano il gomblotto.

Ciò che emerge invece è la necessità di dotare tutte le auto di telecamere, interna, esterna anteriore e posteriore esterna.
Altro che guida autonoma...

Detto questo, il tempo di reazione è 1 secondo. Rimane 1 secondo di frenata e sterzata che avrebbe ridotto le conseguenze dell'impatto.
Il guidatore sapendo della guida autonoma guardava probabilmente le statistiche dello schermo o qualche apparato di riconoscimento del veicolo, per cui la guida autonoma è un fattore di distrazione per il conducente peggiore dello smartphone.

[wooow]

se la velocità del video è veritiera ci sono 2 secondi trail momento in cui entra nel cono di luce e l'impatto. un guidatore attento avrebbe forse provato a frenare, ma l'impatto lo vedo inevitabile. un auto a guida autonoma avrebbe dovuto riconoscere la ciclista già da almeno un paio di secondi prima del cono di luce. cazzo era pure bella grossa eh con bici al seguito.

Beh! In due secondi, oltre che a frenare riesci anche a sterzare leggermente a sinistra per evitare l'ostacolo e su quel lato la strada è completamente libera (capita mai di vedere all'ultimo una buca e sterzare per evitarla?) ...bastava un metro o poco più per evitare l'impatto, ho letto che la velocità di era di circa 65 Km/h e non mi sembra così elevata per effettuare questa manovra.

[emanuele83]

Originariamente inviato da TheQ.

Consideriamo che le webcam scuriscono, non essendo camere professionali per la vista notturna, e quindi la donna sarà stata ben visibile.
Un guidatore avrebbe sterzato, Uber no.
Good job.

Ora chiederanno scusa i sostenitori a spada tratta delle AI che già accusavano il gomblotto.

Ciò che emerge invece è la necessità di dotare tutte le auto di telecamere, interna, esterna anteriore e posteriore esterna.
Altro che guida autonoma...

Detto questo, il tempo di reazione è 1 secondo. 1 secondo di frenata e sterzata avrebbe ridotto di molto le conseguenze dell'impatto.
Il guidatore sapendo della guida autonoma guardava probabilmente le statistiche dello schermo, per cui la guida autonoma è un fattore di distrazione per il conducente peggiore dello smartphone.

magari era il suo lavoro tenere d'occhio quei parametri o semplicemente stava regolando l'aria condizionata. non possiamo sapere cosa preveda il suo contratto. esempio mantenere sempre le mani sul volante come dice tesla ai suoi clienti. trovo stupido che ci sia un backup umano ma che impiega tempi di reazione più lunghi del normale perchè non ha le mani sul volante o i piedi vicini al freno

EDIT infatti dico da sempre che auto a guida autonoma significa dashcam + scatola nera per legge

Originariamente inviato da wooow

Beh! In due secondi, oltre che a frenare riesci anche a sterzare leggermente a sinistra per evitare l'ostacolo e su quel lato la strada è completamente libera (capita mai di vedere all'ultimo una buca e sterzare per evitarla?) ...bastava un metro o poco più per evitare l'impatto, ho letto che la velocità di era di circa 65 Km/h e non mi sembra così elevata per effettuare questa manovra.

chiaro un guiodatore che fa il suo mestiere frena e magari sterza. Qui il freno non è stato sfiorato e l'auto non ha sterzato. il sistema ha miseramente fallito.

[thresher3253]

Originariamente inviato da TheQ.

Consideriamo che le webcam scuriscono, non essendo camere professionali per la vista notturna, e quindi la donna sarà stata ben visibile.
Un guidatore avrebbe sterzato, Uber no.
Good job.

Ora chiederanno scusa i sostenitori a spada tratta delle AI che già accusavano il gomblotto.

Ciò che emerge invece è la necessità di dotare tutte le auto di telecamere, interna, esterna anteriore e posteriore esterna.
Altro che guida autonoma...

Detto questo, il tempo di reazione è 1 secondo. 1 secondo di frenata e sterzata avrebbe ridotto di molto le conseguenze dell'impatto.
Il guidatore sapendo della guida autonoma guardava probabilmente le statistiche dello schermo, per cui la guida autonoma è un fattore di distrazione per il conducente peggiore dello smartphone.

Sei conscio del fatto che mentre succedeva quell'incidente in altre parti del mondo altre 100 persone morivano per incidenti stradali causati dall'errore umano, si?

Originariamente inviato da Cfranco

Sarà anche un test, ma vedere un pedone in mezzo alla strada è il livello minimo che ci si aspetta, roba che fa il paio con lo schianto della Tesla contro la fiancata del camion, ma quella almeno la vendono come guida assistita, non come autonoma.

Originariamente inviato da wooow

Un'auto non viaggia su delle rotaie, forse un guidatore attento istintivamente avrebbe cercato anche di sterzare verso sinistra per cercare di evitare l'impatto, mentre qui l'auto autonoma è andata dritta fino all'impatto.
Non voglio dare colpe all'autista per non aver fatto nulla, questo lo appureranno le autorità e del resto la bicicletta non ha catarinfrangenti laterali e il pedone non indossava indumenti ad alta visibilità, ma sicuramente con la guida automatica l'autista viene anche assuefatto e perde la dovuta attenzione e prontezza nel reagire a situazioni del genere.

Originariamente inviato da emanuele83

se la velocità del video è veritiera ci sono 2 secondi trail momento in cui entra nel cono di luce e l'impatto. un guidatore attento avrebbe forse provato a frenare, ma l'impatto lo vedo inevitabile. un auto a guida autonoma avrebbe dovuto riconoscere la ciclista già da almeno un paio di secondi prima del cono di luce. cazzo era pure bella grossa eh con bici al seguito.

È tutto verissimo, ma col senno di poi e col "potrebbe" è facile parlare. Non dimentichiamo che ci sono stati - anche in Italia - incidenti di gente che investiva persone senza manco accorgersene se non guardando la carrozzeria una volta tornati a casa.

[emanuele83]

Originariamente inviato da thresher3253

È tutto verissimo, ma col senno di poi e col "potrebbe" è facile parlare. Non dimentichiamo che ci sono stati - anche in Italia - incidenti di gente che investiva persone senza manco accorgersene se non guardando la carrozzeria una volta tornati a casa.

guarda che in tutti i quote che hai linkato dicono tutti la stessa cosa. non parliamo di senno di poi, diciamo soloc he un auto a guida autonoma DEVE riuscire a evitare questi incidenti. anche solo una frenata partita quando il pedone era nel cono di luce sarebbe stata sufficiente per non fare dubitare di questa piattaforma

[marcram]

Originariamente inviato da TheQ.

Ora chiederanno scusa i sostenitori a spada tratta delle AI che già accusavano il gomblotto.

Quale AI? Ci sono già le AI che guidano?

[emanuele83]

Originariamente inviato da marcram

Quale AI? Ci sono già le AI che guidano?

Eh si qua si confondono AI con algoritmi di controllo in anello chiuso

[nickmot]

Originariamente inviato da Bivvoz

Scherzate vero?
Ci vorrebbero secoli per scrivere un algoritmo che contempli tutte le possibilità che può incontrare un'auto a guida autonoma.
È ovvio che usano una IA con algoritmi di machine learing e dopo questo fatto la IA avrà imparato a stare attenta alle signore che attraversano al buio con la bicicletta dove non devono.

Basta che non abbia imparato che la cosa è gustosa e che la polizia non incolperà nessuno, o sarà dura per l'umanità!

[marcram]

Originariamente inviato da Bivvoz

Scherzate vero?
Ci vorrebbero secoli per scrivere un algoritmo che contempli tutte le possibilità che può incontrare un'auto a guida autonoma.
È ovvio che usano una IA con algoritmi di machine learing e dopo questo fatto la IA avrà imparato a stare attenta alle signore che attraversano al buio con la bicicletta dove non devono.

È "ovvio", o è "risaputo"?
No, perché, se è risaputo, perché qualcuno lo ha specificato, allora alzo le mani.
Ma se è solo frutto di un'intuizione, non ne sarei così sicuro.
Mi aspetto che per il momento la guida autonoma sia frutto di un software che elabora dei dati secondo delle regole precise, impostate a priori... non andando a tentativi, imparando man mano che gira per strada...

[emanuele83]

Originariamente inviato da marcram

È "ovvio", o è "risaputo"?
No, perché, se è risaputo, perché qualcuno lo ha specificato, allora alzo le mani.
Ma se è solo frutto di un'intuizione, non ne sarei così sicuro.
Mi aspetto che per il momento la guida autonoma sia frutto di un software che elabora dei dati secondo delle regole precise, impostate a priori... non andando a tentativi, imparando man mano che gira per strada...

in verità credo abbia ragione. nvidia sostiene che senza IA non si va da nessuna parte
https://www.nvidia.com/en-us/self-dr...cars/drive-px/
resta da capire se la AI è usata solo per la fase di sviluppo del prodotto o ogni auto imparerà in maniera diversa dalle altre...

[Raghnar-The coWolf-]

Originariamente inviato da marcram

È "ovvio", o è "risaputo"?
No, perché, se è risaputo, perché qualcuno lo ha specificato, allora alzo le mani.
Ma se è solo frutto di un'intuizione, non ne sarei così sicuro.
Mi aspetto che per il momento la guida autonoma sia frutto di un software che elabora dei dati secondo delle regole precise, impostate a priori... non andando a tentativi, imparando man mano che gira per strada...

e' un mix.
Ci sono regole geometrico-comportamentali hard coded. Ma la IA e' fondamentale nella guida autonoma.

Ad esempio puoi (devi) programmare in modo secco un algoritmo per mantenere e definire la distanza di sicurezza. Oppure per triangolare la distanza sulla base di dati variegati, sono tutti algoritmi deterministici (Triangolazion, PnP, Bundle Adjustment...etc...).

Ma per definire che un albero e' un a albero, una macchina una macchina, l'asfalto come tale, e il pave'...etc... si devono usare algoritmi di machine learning (che rientrano nella definizione di Segmentation).

Esempio sulla guida di Mercedes:
https://www.youtube.com/watch?v=7BtlB8rEqrY

Definire gli "stixels", cioe' le colonne verticali, e' una scelta algoritmica. I colori rappresentano in questo caso le distanze e anche quelle sono computate deterministicamente.
Tuttavia il fatto che lo stixel inizia e finisce in un certo punto, e guardacaso solo dove ci sono le macchine e non dove c'e' l'asfalto, e' frutto di segmentazione artificiale e tramite neural network che riconosce l'asfalto come tale e una macchina grigio piombo come qualcosa di diverso.

C'e' tanta ricerca in ogni ambito poi, anche end-to-end deep learning. Ma i risultati sono puramente accademici. Sappiamo alcune verita' fondamentali, che possiamo calcolare con precisione assoluta (la triangolazione da due immagini con certe proprieta' di distanza relativa e lunghezza focale, ad esempio). Non c'e' bisogno di insegnarle al computer tramite machine learning.

[marcram]

Vi parlo da ignorante in materia.
Premettendo che, tendenzialmente, reputo il machine learning una cosa diversa da una AI. Affine, ma diversa.
Che l'uso del machine learning venga fatto per creare i vari algoritmi che andranno poi a guidare l'auto, lo capisco.
Ma che l'auto venga guidata, allo stato attuale, da un sistema ibrido...
Forse non capisco io, ma vorrebbe dire che poi ogni auto si potrebbe comportare in maniera diversa, a seconda delle situazioni che ha vissuto?
Ad esempio, un'auto che ha sempre girato in città, un giorno viene portata in montagna e scambia gli alberi a bordo strada per dei pedoni, perche non era abituata ad incontrare alberi fino a quel momento?
Ho detto una castronata? Potrebbe anche essere

Comunque sia, il succo del discorso per me non cambia. Che sia un sistema o l'altro, la colpa alla macchina non la si può dare. Almeno fino a quando non venga guidata da una vera AI.

[marcram]

Originariamente inviato da Bivvoz

Capiamoci, non è una IA da film che decide che fare da sola ed è autonoma.
Ci sono delle funzioni di autoapprendimento (machine learning) che rientrano nell'intelligenza artificiale.
Cioè non è la persona che scrive il programma a spiegare alla macchina come riconoscere un pedone ma è la macchina che impara a farlo, poi chi scrive il programma decide come la macchina deve comportarsi in caso ci sia un pedone, non è che la IA decide se frenare o tirarlo sotto a piacimento.

Questo per spiegare a grandi linee una delle centinaia di funzioni che servono.

Quindi non parliamo come ho detto di una IA che guida l'auto, ma di un programma che usa delle funzioni di IA separate o concatenate tra loro.
Immaginiamo tante piccole IA ognuna con la sua piccola funzione (riconosci i pedoni, riconosci i segnali stradali, ecc.) che fanno parte di un grande programma che guida l'auto.

Per machine learning, si intende il processo di autoapprendimento, se non sbaglio.
Un processo che, dati in pasto degli esempi, riesce a riconoscere degli elementi comuni tra i soggetti e quindi creare poi delle regole che permettano di identificarli.
Ma questo processo viene fatto prima.
L'auto, quando è in strada, deve già saper riconoscere i pedoni, le auto, gli alberi ecc.
Non deve più imparare.
Quindi, dal mio punto di vista, l'auto a quel punto viene guidata esclusivamente da algoritmi preimposti, anche se essi sono stati creati da un processo di machine learning...
Cioè, questo è il mio modo di vederla... Poi probabilmente, mi mancano delle basi...

[marcram]

Originariamente inviato da Bivvoz

No, la funzione "apprendimento" viene usata per addestrare la macchina, una volta che la macchina è stata "addestrata" viene inibita.
Non so se il risultato possa essere definiti "algoritmo" (io uso queste funzioni ma non saprei dirti tecnicamente qual'è il nome più corretto).

Appunto, questo intendevo.
Magari algoritmo non è il termine tecnico, ma a quel punto di tratta di regole precise e determinate.

[TheQ.]

Originariamente inviato da emanuele83

magari era il suo lavoro tenere d'occhio quei parametri o semplicemente stava regolando l'aria condizionata. non possiamo sapere cosa preveda il suo contratto. esempio mantenere sempre le mani sul volante come dice tesla ai suoi clienti. trovo stupido che ci sia un backup umano ma che impiega tempi di reazione più lunghi del normale perchè non ha le mani sul volante o i piedi vicini al freno

Si probabilmente guardava lo schermo che mostra il rilevamento...od i parametri. Lo smartphone l'avrebbe tenuto davanti agli occhi.

Io trovo stupido che non facciano i test negli autodromi e non facciano i test sugli "umani" solo dopo aver ridotto la probabilità di errore al 99.99% (che moltiplicato per 16 milioni di veicoli fa comunque 1600 persone morte.
Sempre che abbia senso fare una statistica per auto totali circolanti, anzichè per auto e possibili casi di incidente che eleverebbe non poco l'incidentalità.
Se vuoi commettere su strada meno dell'1% di incidenti con un tot di auto e decine di casi di auto per ogni giorno, devi ottenere una probabilità di errore dello 0.00000000001% o simili

Originariamente inviato da thresher3253

Sei conscio del fatto che mentre succedeva quell'incidente in altre parti del mondo altre 100 persone morivano per incidenti stradali causati dall'errore umano, si?

E tu sei conscio che quelle 100 persone non hanno dei pirla a difenderli a spada tratta nei forum (leggi cosa scrivevano prima del rilascio del video) come invece molti fanno con le AI solo perchè sono AI?
Dico AI in senso generico anche per tecnologia di rilevamento ed interpretazione dei casi di rischio e conflitto ai fini della riduzione dell'incidentalità nei casi di guida autonoma.

Tra l'altro mi pare che la donna in bici non si sia nemmeno girata, il che vuol dire che l'auto od era auto elettrica con motore silenzioso o correva così forte da non essersi nemmeno resa conto del rumore del motore a combustione che arrivava.