Un incidente fatale con FSD di Tesla mette sotto inchiesta il sistema di guida autonoma

[Redazione di Hardware Upg]

Link alla notizia: https://greenmove.hwupgrade.it/news/...ma_131966.html

Diversi episodi di incidenti, tra cui uno mortale, ha spinto l'NHTSA ad aprire una procedura d'indagine sull'FSD di Tesla e sul suo comportamento in condizioni di ridotta visibilità

Click sul link per visualizzare la notizia.

[amd-novello]

"I problemi segnalati sono dovuti proprio alla scelta di affidarsi alle sole videocamere, senza radar, LiDAR o sensori di altro genere per ricostruire l'ambiente circostante. L'agenzia quindi ha avviato una valutazione preliminare dell'FSD di Tesla, che riguarda tutti i veicoli Tesla costruiti dal 2016.

Con la procedura si intende valutare la capacità delle componenti tecniche di rispondere adeguatamente in condizioni di ridotta visibilità, oltre a ricercare possibili altri incidenti simili e le relative cause."


era ora

[Ago72]

Che bello auto-quotarsi:

Originariamente inviato da Ago72

Anche le videocamere falliscono in caso di luce anomala. e questo accade non di rado, contorni non ben definiti, quando sono abbagliate da una fonte luminose, di notte, mal tempo, etc..

Era il 18 agosto 2021...

[Mo42]

Preparo i pop-corn per quando arriveranno quelli che inizieranno a dire "aNcHe gLi UmAnI sBaGlIaNo!!1!1!"

[ginogino65]

Originariamente inviato da Mo42

Preparo i pop-corn per quando arriveranno quelli che inizieranno a dire "aNcHe gLi UmAnI sBaGlIaNo!!1!1!"

Certamente anche gli umani sbagliano, ma quando lo fanno ne sono responsabili, se sbaglia il software della macchina chi ne è responsabile.

[Massimiliano Zocchi]

Originariamente inviato da Ago72

Che bello auto-quotarsi:



Era il 18 agosto 2021...

Sebbene io non mi ritenga competente nel settore in oggetto (cioè intelligenza artificiale e rete neurale applicata alle immagini) giuro che ho sempre sostenuto che, secondo me, usare solo le videocamere era un errore.

[gomax]

Troppa fiducia nell'elaborazione IA delle sole videocamere. Da ignorante in materia, credo che alcuni scenari specifici siano impossibili da elaborare correttamente senza radar/LIDAR, l 'IA lavora con ciò che vede, ma se per qualsiasi motivo le telecamere sono "cieche" in quella frazione di secondo non c'è potenza di calcolo che tenga se non ha i dati lavorare.

Ciao

[TorettoMilano]

non essendo esperto giuridicamente, e quindi ancora meno in merito all'america, mi sfugge dove verte l'inchiesta.
si parla di adas e quindi l'utente deve comunque essere vigile e leggo si parli in passato tesla se la sia cavata con un aggiornamento ota.
ipotizzando l'ultima versione sia efficace con hw3 e hw4 basterebbe far aggiornare tutte le tesla?

in merito al discorso "solo telecamere" noi guidiamo da sempre solo con gli occhi e ne abbiamo solo due con riflessi infinitamente più lenti delle macchine, se le stesse hanno dei limiti che noi non abbiamo allora condivido la scelta possa essere sbagliata. se invece surclassano la nostra vista da ignorante continuo a non ritenere necessari ulteriori sensori

[OUTATIME]

Originariamente inviato da TorettoMilano

non essendo esperto giuridicamente, e quindi ancora meno in merito all'america, mi sfugge dove verte l'inchiesta.
si parla di adas e quindi l'utente deve comunque essere vigile e leggo si parli in passato tesla se la sia cavata con un aggiornamento ota.
ipotizzando l'ultima versione sia efficace con hw3 e hw4 basterebbe far aggiornare tutte le tesla?

in merito al discorso "solo telecamere" noi guidiamo da sempre solo con gli occhi e ne abbiamo solo due con riflessi infinitamente più lenti delle macchine, se le stesse hanno dei limiti che noi non abbiamo allora condivido la scelta possa essere sbagliata. se invece surclassano la nostra vista da ignorante continuo a non ritenere necessari ulteriori sensori

Nella seconda frase ti rispondi alla domanda che fai nella prima: visto che i sistemi ADAS sono intrinsecamente più reattivi dell'uomo, la vigilanza dell'utente passa in secondo piano, di conseguenza usarla come scusante lascia il tempo che trova.
Detto questo, in base al risultato dell'inchiesta, potrebbe anche essere richiesto di inserire ulteriori sicurezze, tipo un controllo sull'attenzione del guidatore, cosa che Musk ovviamente non vorrebbe fare.

[TorettoMilano]

Originariamente inviato da OUTATIME

Nella seconda frase ti rispondi alla domanda che fai nella prima: visto che i sistemi ADAS sono intrinsecamente più reattivi dell'uomo, la vigilanza dell'utente passa in secondo piano, di conseguenza usarla come scusante lascia il tempo che trova.
Detto questo, in base al risultato dell'inchiesta, potrebbe anche essere richiesto di inserire ulteriori sicurezze, tipo un controllo sull'attenzione del guidatore, cosa che Musk ovviamente non vorrebbe fare.

la mia era un riflessione a "regime", non a caso ora è un lv2 di guida autonoma. mi chiedevo se come lv4/lv5 bastassero le telecamera, se bastano a noi due occhi mi verrebbe di dire di si, di qui la mia riflessione

sul controllo del guidatore mi pare sia già inserito, fino a poco fa era obbligatorio tenere il volante e ora invece puoi non toccarlo ma il sistema di cam verifica se guardi la strada

[sbaffo]

Originariamente inviato da Ago72

Che bello auto-quotarsi:

Era il 18 agosto 2021...

Sono andato a ripescare anch'io quella mitica news, dove l'autopilot andava contro i mezzi di soccorso con le lucine accese, evidentemente anche allora le luci lampeggianti confondevano le telecamere.
https://greenmove.hwupgrade.it/news/...rso_99904.html

Originariamente inviato da Massimiliano Zocchi

Sebbene io non mi ritenga competente nel settore in oggetto (cioè intelligenza artificiale e rete neurale applicata alle immagini) giuro che ho sempre sostenuto che, secondo me, usare solo le videocamere era un errore.

Però allora difendevi tesdla a spada tratta, ora ti sei ravveduto per fortuna. Solo toretto resta a difendere il FessSuckDriving.
dall news linkata sopra:

Si tratta, a quanto comunica l'NHTSA, di 11 incidenti, ..... È dunque lecito che l'NHTSA metta sotto scacco un'azienda per una casistica così irrisoria?

e continuava la difesa d'ufficio nei commenti.
Ora finalmente l'entusiasmo sta calando e si torna coi piedi per terra.

A parte le telecamere con i loro limiti, se parliamo di statistiche, io -e tutti quelli del forum credo- non hanno mai ucciso nessuno in auto, quindi siamo tutti meglio di autopilot. Nelle statistiche ci sono gli ubriachi, i drogati, i vecchi, gli imprudenti, ecc. e tutti i casi strani possibili.
Io finchè non è approvato dalle autorità o comunque a regime da anni non affiderei la mia vita a un sistema che non ha responsabilità (perlomeno solo civile non penale, cioè paga soldi ma niente galera).

[amd-novello]

ahah beccato in fallo

[Sandro kensan]

https://www.youtube.com/watch?v=ezz7ndTT198

58.357 visualizzazioni
14 ott 2024

#BILD #Unfall #Nachrichten

Questa Tesla si schianta contro una barriera di lavori stradali senza frenare!

[ziotony]

Ecco nello specifico probabilmente la presenza di un sensore radar avrebbe rilevato le barriere e azionato la frenata di emergenza.

[Piedone1113]

Originariamente inviato da TorettoMilano

la mia era un riflessione a "regime", non a caso ora è un lv2 di guida autonoma. mi chiedevo se come lv4/lv5 bastassero le telecamera, se bastano a noi due occhi mi verrebbe di dire di si, di qui la mia riflessione

sul controllo del guidatore mi pare sia già inserito, fino a poco fa era obbligatorio tenere il volante e ora invece puoi non toccarlo ma il sistema di cam verifica se guardi la strada

Veramente a noi non bastano solo gli occhi.
Quando guidiamo usiamo anche le orecchie ed il culo ( quello poggiato sul sedile e non la fortuna) oltre ad avere la fortuna di avere una una memoria procedurale che permette di prevenire ( anche se molte volte in modo inconscio e meccanico) incidenti senza che ce ne rendiamo conto.
La scusa poi del guidatore che deve prestare attenzione non regge:
Gli ADAS sono funzionali sopratutto nel momento in cui cala l'attenzione, se non sopperiscono a questo a cosa servono allora?

[hookooh]

Ho una Lexus con il Lidar e quando, nella nebbia fitta, l'auto ha frenato da sola dietro ad un'altra auto che io non vedevo ho capito che fumare roba fa molto male. Capisci a me!

[TorettoMilano]

Originariamente inviato da Sandro kensan

https://www.youtube.com/watch?v=ezz7ndTT198

58.357 visualizzazioni
14 ott 2024

#BILD #Unfall #Nachrichten

Questa Tesla si schianta contro una barriera di lavori stradali senza frenare!

nell'articolo si parla di fsd, nel tuo video sembrerebbe si parli dell'autopilot

[LMCH]

Originariamente inviato da TorettoMilano

in merito al discorso "solo telecamere" noi guidiamo da sempre solo con gli occhi e ne abbiamo solo due con riflessi infinitamente più lenti delle macchine, se le stesse hanno dei limiti che noi non abbiamo allora condivido la scelta possa essere sbagliata. se invece surclassano la nostra vista da ignorante continuo a non ritenere necessari ulteriori sensori

N.B. Quello che segue non è un attacco a TorettoMilano, ma al "solo telecamere" che purtroppo è un mito sin troppo diffuso.

Ci sono molti miti da sfatare riguardo il sistema visivo umano e quelli "artificiali".

In primo luogo i nostri occhi non sono "telecamere" come quelle montate sule auto.

Lo spiego in forma molto sintetica:

1) ----------------------------------------------------------
invece di una griglia "fissa" a risoluzione omogenea abbiamo una fovea "ovale/circolare" con densità dei singoli sensori che è massima vicino al centro (a parte il "punto morto" quasi al centro) e decresce man mano che ci si allontana dal centro.

2) ----------------------------------------------------------
la retina oltre ad essere una "rete" di sensori ottici è un super-computer neurale
che in un colpo solo acquisisce :
- un immagine multi-risoluzione
- una mappa di motion detection
- una mappa differenziale di luminosità e di colore
- COMPRIME IL TUTTO E TRASFERISCE i "frame" descritto sopra alla corteccia visiva. Con un frame rate che SEMBRA di circa 10..12FPS, ma l'informazione "compressa" contiene anche informazioni predittive (inun certo senso la derivata di alcune informazioni importanti, su questo maggiori dettagli più avanti).

3) ----------------------------------------------------------
il tempo di reazione tra acquisizione del "frame" ed inizio di una reazione su gambe/braccia/ecc. è circa 1/10 di secondo, ma in realtà parte della rete neurale della retina viaggia a circa 50..60Hz (la componente "motion detection di roba veloce") e passa l'informazione "compressa" al frame successivo.

4) ----------------------------------------------------------
gli occhi hanno un sistema di cambio di messa a fuoco e cambio di orientamento dell'occhio che ha modalità di "threat detection" che prende il comando rispetto agli ordini che arrivano dal cervello, non ha bisogno che il cervello gli dica "c'è qualcosa di strano" per rifocalizzarsi su roba potenzialmente pericolosa (in base a qualche centinaio di milioni di anni di evoluzione e selezione naturale dell'occhio dei primati).
Mi riferisco alle saccadi (900°/secondo di velocità di rotazione istantanea, in media avvengono 3 volte al secondo come "override" di cosa comanda il cervello).

5) ----------------------------------------------------------
gli occhi "cooperano" con messa a fuoco convergente, divergente, ecc.

Riassumendo i punti da 1) a 5) i nostri occhi non sono "due telecamere molto rozze", sono l'equivalente ottico di un doppio sistema radar phased-array passivo bistatico multifonte (che invece di emettere luce direttamente come un lidar, usa fonti ambientali tipo il sole o altro).

Per questo, quel bimbominkia di Musk fa un errore colossale a non volere usare i lidar o almeno un radar in supporto ai dati delle telecamere.
Fin quando non sarà disponibile un lidar bistatico multifonte che si avvicini a quel che possono fare i nostri occhi, meglio usare un lidar insieme a telecamere "classiche".

6) ----------------------------------------------------------
gli occhi da soli fanno un sacco di roba, ma la corteccia visiva fa anche di più.

Quando state guidando un auto in autostrada a 130Km/h (nonsiamaichesuperiamoilimitieh! ) voi non state vedendo "adesso", quando va bene siete coscienti di cosa vedevano i vostri occhi circa 1/10 di secondo fa, siete in realtà circa 4 metri più avanti di quello che vedete.
La vostra corteccia visiva ha ricevuto le informazioni "compresse", le ha FUSE con quelle ricevute nei "frame" precedenti ed ha aggiornato il modello visivo che avete in testa in modo tale che voi non "vedete" saccadi, zoomate, ecc ma una super-immagine ad altissima risoluzione con vettori di predizione di posizione, velocità ed accelerazione aggiornati in modo da "predire il futuro" per decidere cosa fare ORA, che avrà effetto In FUTURO, in base ad informazioni "DAL PASSATO" (le più "fresche" sono di circa 1/10 di secondo fa e 4 metri più indietro di dove siete ora).

7) ----------------------------------------------------------
"Noi" non ci rendiamo conto davvero di tutto questo, ci pensa il nostro FSD integrato a fare tutto questo, quello che ci resta da decidere a livello cosciente sono solo direttive "strategiche" (dove andare, scegliere se investire un ostacolo oppure evitarlo, ecc.).
Il "nostro" FSD ha già riconosciuto per noi (in base ai dati accumulati durante la nostra vita) cosa sono i vari blob nel campo visivo, gli ha taggati con tutte le informazioni utili a decidere ecc.

Il FSD di Tesla o gli altri sistemi di guida (semi)automatica non arrivano a tanto, anche se Tesla ha accumulato anni ed anni di dati di guida, registrazioni video e log dei sistemi FSD, ancora non si avvicina a quello che un essere umano medio con il "suo" FSD incorporato e le sue due non-telecamere può fare.

P.S. Ho stra-semplificato, probabilmente troppo, probabilmente ci sono errori, ma spero di aver reso l'idea del perchè gli occhi non sono "solo telecamere" e perchè Musk deve smetterla con la sua ossessione di fare lo stesso lavoro con "solo delle telecamere".

[Ago72]

Mi permetto di ripetere un concetto che ho già espresso in un altro post. Noi abbiamo un bias cognitivo.che ci fa pensare che la guida umana sia perfetta, invece la guida umana è molto imperfetta. Noi umani con due occhi, due orecchie, commettiamo un sacco di errori alla guida. È per questo che non basta solo la visione per migliorare la guida umana. Sempre che non ci accontentiamo di una guida autonoma fallace come l’uomo.

[Ago72]

Originariamente inviato da TorettoMilano

non essendo esperto giuridicamente, e quindi ancora meno in merito all'america, mi sfugge dove verte l'inchiesta.
si parla di adas e quindi l'utente deve comunque essere vigile e leggo si parli in passato tesla se la sia cavata con un aggiornamento ota.
ipotizzando l'ultima versione sia efficace con hw3 e hw4 basterebbe far aggiornare tutte le tesla?

Ho capito, ma non puoi equipaggiare un’auto con un sistema che non funziona. La mia macchina quando non ci sono le condizioni, automaticamente disabilita adas e ti avverte.

Originariamente inviato da TorettoMilano

in merito al discorso "solo telecamere" noi guidiamo da sempre solo con gli occhi e ne abbiamo solo due con riflessi infinitamente più lenti delle macchine, se le stesse hanno dei limiti che noi non abbiamo allora condivido la scelta possa essere sbagliata. se invece surclassano la nostra vista da ignorante continuo a non ritenere necessari ulteriori sensori

Come ha spiegato perfettamente LMCH, se vuoi superare i limiti della guida umana, devi usare altri sensori. Se invece ti accontenti di una guida fallace o peggio di quella umana, allora va bene solo le telecamere. Ma in questo caso che vantaggio porta?