Un incidente fatale con FSD di Tesla mette sotto inchiesta il sistema di guida autonoma

[TorettoMilano]

Originariamente inviato da LMCH

...

ottimo spunto di riflessione ma a sto punto ti faccio una domanda estrema: con 100 telecamere sull'auto con le quali riproduci in modo fedelissimo l'ambiente circostante riterresti necessario l'utilizzo di ulteriori sensori?

[amd-novello]

Originariamente inviato da LMCH

4) ----------------------------------------------------------
gli occhi hanno un sistema di cambio di messa a fuoco e cambio di orientamento dell'occhio che ha modalità di "threat detection" che prende il comando rispetto agli ordini che arrivano dal cervello, non ha bisogno che il cervello gli dica "c'è qualcosa di strano" per rifocalizzarsi su roba potenzialmente pericolosa (in base a qualche centinaio di milioni di anni di evoluzione e selezione naturale dell'occhio dei primati).
Mi riferisco alle saccadi (900°/secondo di velocità di rotazione istantanea, in media avvengono 3 volte al secondo come "override" di cosa comanda il cervello).

mi spieghi queste due cose? gli occhi sono autonomi senza il bisogno di intervento del cervello?

le saccadi cosa sono

[sbaffo]

Originariamente inviato da TorettoMilano

ottimo spunto di riflessione ma a sto punto ti faccio una domanda estrema: con 100 telecamere sull'auto con le quali riproduci in modo fedelissimo l'ambiente circostante riterresti necessario l'utilizzo di ulteriori sensori?

La solita minchiata di toretto, tanto non mi legge ma lo dico lo stesso: ma se due telecamere sono accecate da nebbia/sole/riflessi/ecc, cento telecamere con gli stessi problemi non servono a nulla, mi pare ovvio. O metti telecamere che vedono attaverso la nebbia, controsole ecc. cioè di fatto altri sensori tipo lidar, oppure non cambia nulla.

[barzokk]

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://greenmove.hwupgrade.it/news/...ma_131966.html

Diversi episodi di incidenti, tra cui uno mortale, ha spinto l'NHTSA ad aprire una procedura d'indagine sull'FSD di Tesla e sul suo comportamento in condizioni di ridotta visibilità

Click sul link per visualizzare la notizia.

Alla faccia del 1 morto

https://abcnews.go.com/US/wireStory/...rian-114920853
NHTSA began its Autopilot crash investigation in 2021, after receiving 11 reports that Teslas that were using Autopilot struck parked emergency vehicles.
In documents explaining why the investigation was ended, NHTSA said it ultimately found 467 crashes involving Autopilot resulting in 54 injuries and 14 deaths.

Originariamente inviato da sbaffo

Sono andato a ripescare anch'io quella mitica news, dove l'autopilot andava contro i mezzi di soccorso con le lucine accese, evidentemente anche allora le luci lampeggianti confondevano le telecamere.
https://greenmove.hwupgrade.it/news/...rso_99904.html
....

uh che ritrovamento, io a quei tempi a Zocchi davo del Lei per rispetto

Originariamente inviato da sbaffo

La solita minchiata di toretto,
....

Ha scritto la sua solita minchiata, così quando LMCH risponderà seriamente, lui ribatterà ancora con qualcosa che si è già preparato, del tipo "Muschio è un genio, Tesla è più avanti", ecc

[Ripper89]

Originariamente inviato da Mo42

Preparo i pop-corn per quando arriveranno quelli che inizieranno a dire "aNcHe gLi UmAnI sBaGlIaNo!!1!1!"

L'essere umano rimarrà sempre uguale, la guida autonomia con tutto l'hardware e il software che la compongono miglioreranno sempre ininterrottamente anno dopo anno.

[AlPaBo]

Un problema della normativa americana (soprattutto evidente nel cibo), è che loro, evidentemente per favorire oltremodo gli imprenditori, partono dal principio che un sistema è sicuro finché non capitano problemi. Quindi spesso si basano su autocertificazioni. Andando su Internet si vedono veicoli modificati in maniera tale che da noi sarebbero assolutamente vietati.

Incidentalmente, la mancanza di test specifici è il motivo per cui il Cybertruck non può tuttora essere importato in Europa, salvo in un paese che ha dato un'autorizzazione temporanea, ma con il divieto di attraversare i confini; e anche lì sembra abbiano trovato "errori" nell'autocertificazione, per cui probabilmente l'autorizzazione verrà tolta; per chi interessa, hanno dovuto comunque fare delle modifiche, per esempio aggiungendo protezioni di gomma ai profili taglienti.

Da noi in Europa, giustamente, si dà più importanza agli esseri umani che a far guadagnare le imprese, per cui un sistema viene considerato a rischio fino a quando non ha superato i test predisposti dagli enti pubblici coinvolti (non bastano i test interni dell'azienda e l'autocertificazione…).

Poi, magari, a posteriori puniscono, ma intanto è morto qualcuno che non avrebbe dovuto.

Originariamente inviato da LMCH

Aggiungerei un altro aspetto legato a quello che chiami il "sistema strategico". Un essere umano riconosce la presenza di nebbia, soprattutto in seguito alla perdita di risoluzione; un essere umano minimamente intelligente sa che con la nebbia bisogna cambiare modalità di guida (dico questo perché chiunque giri per la bassa padana sa che ci sono umani non minimamente intelligenti che guidano ad alta velocità senza minimamente considerare i ridotti spazi di reazione; sarà questo il motivo dell'alto tasso di anziani ciclisti morti nel ferrarese?).

[LMCH]

Originariamente inviato da amd-novello

mi spieghi queste due cose? gli occhi sono autonomi senza il bisogno di intervento del cervello?

le saccadi cosa sono

Le saccadi sono movimenti rapidi dell'occhio.
Noi a livello cosciente non ce ne accorgiamo, ma ad esempio i nostri occhi quando gli scattano sufficienti celle della retina che fanno da motion detector "ri-orientano" le pupille verso il movimento sospetto e poi ritornano verso quello che stavamo osservando se "quel che si è mosso" non ha attirato a sufficienza la nostra attenzione a livello cosciente.

Se vi capita di viaggiare in treno e la persona di fronte a voi sta guardando fuori, fate caso a dove puntano le sue pupille. Noterete che ad esempio ogni volta che si passa un palo della linea elettrica, le pupille avranno un guizzo per poi tornare dove guardavano poco prima.

[LMCH]

Originariamente inviato da TorettoMilano

ottimo spunto di riflessione ma a sto punto ti faccio una domanda estrema: con 100 telecamere sull'auto con le quali riproduci in modo fedelissimo l'ambiente circostante riterresti necessario l'utilizzo di ulteriori sensori?

100 telecamere sono 100 punti di vista "fissi"; se lo scopo è usarle in un sistema di guida autonoma, sono inferiori in termini di efficienza a due punti di vista mobili che puoi orientare come vuoi e che quindi richiedono 50 volte in meno banda di comunicazione, 50 volte di meno potenza di calcolo "nella corteccia visiva" (senza contare tutto il discorso sulla pre-elaborazione che fa la retina e che le telecamere non fanno, le saccadi, ecc.).

[tbo27]

Se non ci sono dati l'IA deve fermarsi, semplice.

[tbo27]

Molto difficile dire di più di quello che ha spiegato magistrale lmch. Posso solo insistere sul fatto che la mappa che si ricostruisce nella corteccia visiva è una specie di mosaico in continuo aggiornamento e decadimento di tutto ciò che l'occhio manda saccade dopo saccade, dal momento che la fovea è molto stretta e che la risoluzione complessiva è data dalla somma dei 2 occhi a meno del punto cieco che viene mutua ente compensato dall'occhio controlatera. Quindi immaginate r la difficoltà dei monocolo che possono stimare la distanza solo per parall'asse oppure vibrando l'occhio tra 2 punti a distanza standard ex i due spigoli che definiscono la larghezza dell'auto che ti precede e ricavano la distanza in base al "tempo di volo". E poi non ha la compensazione del punto morto, e la risoluzione ridotta dell'ordine di V2/2 rispetto al bioculo. Scusate la scrittura orribile ma non ho ls pazienza di stare a correggere perché usare la tastiera dl telefono da monocolo è più difficile...

[TorettoMilano]

Originariamente inviato da LMCH

100 telecamere sono 100 punti di vista "fissi"; se lo scopo è usarle in un sistema di guida autonoma, sono inferiori in termini di efficienza a due punti di vista mobili che puoi orientare come vuoi e che quindi richiedono 50 volte in meno banda di comunicazione, 50 volte di meno potenza di calcolo "nella corteccia visiva" (senza contare tutto il discorso sulla pre-elaborazione che fa la retina e che le telecamere non fanno, le saccadi, ecc.).

qui si sta parlando di sicurezza e non di efficienza, due occhi umani hanno dei limiti fisiologici: mettono a fuoco solo un punto.
da anni circolano video di incidenti evitati da tesla impossibili da evitare per un umano, elogiamo la nostra vista ma o mettiamo un umano per lato dell'auto (quindi 4 umani per auto) o è impossibile anche lontanamente avvicinarsi a un sistema di telecamere

tornando alla notizia non si capisce se la versione odierna di fsd risolve i problemi passati o cosa. magari questo NHTSA punta solo a fare avere aggiornamenti non a campione ma a tutti (non ho nemmeno ben capito le dinamiche con cui tesla distribuisce gli aggiornamenti)

[Piedone1113]

Originariamente inviato da LMCH

100 telecamere sono 100 punti di vista "fissi"; se lo scopo è usarle in un sistema di guida autonoma, sono inferiori in termini di efficienza a due punti di vista mobili che puoi orientare come vuoi e che quindi richiedono 50 volte in meno banda di comunicazione, 50 volte di meno potenza di calcolo "nella corteccia visiva" (senza contare tutto il discorso sulla pre-elaborazione che fa la retina e che le telecamere non fanno, le saccadi, ecc.).

Tutto quello che hai descritto riguarda sopratutto la fase di esplorarazione dell'ambiente.
Ma dopo che ?
Il sistema di memorizzazione stessa del cervello umano è ampiamente diverso da quello di un pc e la nostra memoria lavora più per concetti che per dati:
se con la coda dell'occhio vediamo un oggetto passarci accanto abbiamo 2 possibilità:
1 considerare l'evento normale, e quindi non applicare nessuna azione a riguardo nel scaso specifico
2 considerare l'evento straordinario e quindi allertarci e elaborare azioni eventuali.

Guardiamo ad esempio a quanto ci spaventiamo ( la nostra dicitura di essere preso di soprassalto)
In qualsiasi ambiente e situazione ci troviamo precarichiamo concetti della situazione.
Questi concetti ambientali sono tanto più completi quanto più sono frequenti nella nostra normale vita.
Ogni situazione che discosta dal nostra ambiente ci metterà in allarme, anche una semplice ombra.
Facciamoci caso: ci spaventiamo ( o mi hai fatto prendere un colpo) sopratutto in ambienti a noi famigliari.
Un computer non ha questa preveggenza ne comportamento adeguato:
se c'è un cartello pubblicitario indistinguibile dall'ambiente circostante un sistema di sole telecamere non lo distinguerà ( e probabilmente neanche un uomo),
ma se dietro quel cartello pubblicitario ci passa un oggetto ( una foglia, un uccello) il computer continuerà ad ignorare, mentre il nostro cervello si allerterà considerandolo un evento impossibile.

Si stima che la capacità di memorizzazione del nostro cervello corrisponda a diversi Pbyte di dati grezzi, con la differenza però che immagaziniamo elevati quantità di dati non come dati puri, ma come concetti ( da qui anche la fallabilità di ricordare fedelmente alcuni avvenimenti o situazioni) che ci permette di comprimere in un modo pazzesco informazioni ed attingenci in frazioni di secondi impossibili ad un computer.
Personalmente quando guardo video di incidenti rimango spesso stupito di come non si sia mai adottato un comportamento difensivo in situazioni di potenziale pericolo ( e questo avviente molto più spesso con i sistemi di guida autonoma rispetto a quelli di guida umana ).
Spessissimo quella sistuazione di potenziale pericolo non si presenta come l'evento proprio, ma questo significa semplicemente che la guida autonoma lavora principalmente sull'evento, mentre il nostro cervello opera con la predizione degli eventi.
Entrare in un fitto banco di nebbia, per esempio, annulla tutto il sistema di guida assistita se munito di sole telecamere rendendolo di fatto del tutto inutile come assistente di guida.
Quando ci entra un uomo elabora inconsciamente diversi scenari che variano a seconda dell'esperienza acquisita:
eventuali veicoli che ci precedono o seguono, profondità visiva, conoscenza del luogo ecc ci portano ad adottare strategie ben definite ( anche se non del tutto corrette) mentre un IA smetterà del tutto di darci supporto.

[Piedone1113]

Originariamente inviato da TorettoMilano

qui si sta parlando di sicurezza e non di efficienza, due occhi umani hanno dei limiti fisiologici: mettono a fuoco solo un punto.
da anni circolano video di incidenti evitati da tesla impossibili da evitare per un umano, elogiamo la nostra vista ma o mettiamo un umano per lato dell'auto (quindi 4 umani per auto) o è impossibile anche lontanamente avvicinarsi a un sistema di telecamere

tornando alla notizia non si capisce se la versione odierna di fsd risolve i problemi passati o cosa. magari questo NHTSA punta solo a fare avere aggiornamenti non a campione ma a tutti (non ho nemmeno ben capito le dinamiche con cui tesla distribuisce gli aggiornamenti)

Gli occhi umani mettono a fuoco un solo punto ( meglio una ristretta area del campo visivo) in un determinato istante, ma quel punto varia costantemente nonostante noi non lo percepiamo.
Tu personalmente percepisci quante volte sbatti le palpebre al minuto?

[pachainti]

Elon Musk's predictions for autonomous Tesla vehicles

Elon Musk's Crash Course

[TorettoMilano]

Originariamente inviato da Piedone1113

Gli occhi umani mettono a fuoco un solo punto ( meglio una ristretta area del campo visivo) in un determinato istante, ma quel punto varia costantemente nonostante noi non lo percepiamo.
Tu personalmente percepisci quante volte sbatti le palpebre al minuto?

non percepisco quante volte sbatto le palpebre e mi sfugge dove verte la tua osservazione sulla messa a fuoco "ballerina". possiamo anche cambiare continuamente messa a fuoco ma se succedono due cose contemporaneamente possiamo focalizzarci su una alla volta. inoltre non abbiamo potere su ciò che succede al di fuori del nostro raggio visivo (se non basandosi sull'udito)

[barzokk]

Originariamente inviato da TorettoMilano

qui si sta parlando di sicurezza e non di efficienza, due occhi umani hanno dei limiti fisiologici: mettono a fuoco solo un punto.
da anni circolano video di incidenti evitati da tesla impossibili da evitare per un umano, elogiamo la nostra vista ma o mettiamo un umano per lato dell'auto (quindi 4 umani per auto) o è impossibile anche lontanamente avvicinarsi a un sistema di telecamere

tornando alla notizia non si capisce se la versione odierna di fsd risolve i problemi passati o cosa. magari questo NHTSA punta solo a fare avere aggiornamenti non a campione ma a tutti (non ho nemmeno ben capito le dinamiche con cui tesla distribuisce gli aggiornamenti)

CVD
Ecco la risposta già preparata. Ma non potevi scrivere tutto insieme, invece di fare quella falsa domanda a LMCH ?

E hai scritto una altra minchiata, qui si parla di FSD, quindi sicurezza ED efficienza.
La sicurezza può essere un ADAS con le tue 100 telecamere che ti evitano un incidente.
Il FSD è una cosa diversa, non interessano gli incidenti evitati, ma quelli che ha causato, centinaia di incidenti e decine di morti, perchè è inadeguato e lo sarà sempre almeno finchè vivrò io per vederlo.

[Piedone1113]

Originariamente inviato da TorettoMilano

non percepisco quante volte sbatto le palpebre e mi sfugge dove verte la tua osservazione sulla messa a fuoco "ballerina". possiamo anche cambiare continuamente messa a fuoco ma se succedono due cose contemporaneamente possiamo focalizzarci su una alla volta. inoltre non abbiamo potere su ciò che succede al di fuori del nostro raggio visivo (se non basandosi sull'udito)

Purtroppo se non comprendi non è colpa nostra.
Il nostro campo visivo ha un incidenza ( a testa immobile ) di 220°
Il campo visivo a maggior risoluzione è tra gli 8° e 12°
La visione stereoscopica totale è di 120°.
Tutto questo a testa immobile.
Quando guidi ( ma non solo) copri in frazione di secondi l'intero campo visivo stereoscopico ad alta risoluzione con movimenti impercettibili del collo ( a tener immobilizzato il capo questa è di 100° )
Normalmente quando si guida ( per chi è in grado di farlo) la visione totale copre almeno 260°.
Questo campo visivo non è reale in auto ( in bici lo è invece) perchè abbiamo dei punti ciechi datoci dai montanti dell'abitacolo.
Punti ciechi che hanno anche le telecamere quando ci sono oggetti sovrapposti (comunque)
La differenza sostanziale è che il cervello umano in base alla propria esperienza prevede possibili scenari cosa che l'IA delle auto fa solo in parte.
Per esempio se un auto che ti ha appena superato inchioda ancora nella corsia di sorpasso l'IA con acquisizione di sole immagini non elabora nessuno scenario di difesa perchè non costituisce un reale pericolo.
Il cervello umano invece percepisce quel compartamento come un pericolo ed automaticamente adotta misure difensive anche non avendo visto un potenziale pericolo ( che può essere una moto che sbanda, un animale vagante, un albero che cade o quello che preferisci).
Un sistema a guida autonoma basato su sole telecamere è valido solo quando la visibilità è perfetta e non ci sono ostacoli frapposti ( che guarda caso è anche la condizione migliore di un essere umano).
In tutti gli altri casi grazie alla predizione un essere umano è superiore ( anche se la capacità di evitare eventi è di molto inferiore al normale a causa dei tempi di reazione)
La differenza sostanziale è che noi adottiamo un comportamento predittivo mentre le IA attuali usano una dinamica causa effetto.
Questo compartamento predittivo ci porta ad attuare comportamenti incosci che limitano i rischi anticipandoli.
Quotidianamente noi tutti attuamo comportamenti incosci che anticipano il pericolo potenziale tale da non averci fatto nemmeno percepire il pericolo stesso.
E tutto questo solo grazie alla visione.
Ma un sistema di guida che non aggiunge nulla alla ricezione dei dati circostanti da parte degli occhi umani e che non attua una funzione predittiva può mai essere una valida alternativa?
Semplicemente no.
Se un sistema non aggiunge nulla alla sola visione semplicemente sarà del tutto inutile dove questa sarà limitata o del tutto assente.
In conclusione un sistema di guida autonoma sarà superiore all'uomo in tutti i casi soltando se percepisce gli oggetti anche fuori dal campo visivo.
PS la telecamera posteriore nel 99% dei casi è inutile dato che l'ostacolo è generalmente in senso opposto a quello di marcia.
PPS: lo sbattere le palpebre sta ad indicare come si adottano comportamenti incosci non percepiti, ma non per questi assenti.
Gia il solo fatto di trattenere il fiato viene visto come un fattore pscicologico, mentre in realtà è solo il corpo che si irrigidisce caricando i muscoli preparandosi ad un impatto o ad una reazione disperata, ci dovrebbe far capire come il nostro modus è talmente complesso da non poter essere del tutto compreso in linee generali.

[TorettoMilano]

@Piedone1113 capirei queste tue analisi 20 anni fa ma oggi sono infiniti i casi in cui tesla ha superato l'essere umano.
quindi ogni giorno aumentano le casistiche in cui il FSD supera l'uomo, viceversa l'uomo commette gli stessi errori da sempre.
finchè ci sono miglioramenti lato FSD possiamo rimanere ottimisti sul sistema solo "camere", ovviamente se ci accorgiamo da oggi a ottobre 2025 non ci saranno migliorie allora potremmo affermare "le valutazioni di Piedone1113 erano corrette" e sarò il primo a tessere le tue lodi

[Strato1541]

Per come funziona in europa ( pessimo ) il sistema è da tenere disattivato se:

-il meteo non è buono ( uno spasso in pianura con le nebbie);
-il traffico è troppo e le corsie sono strette;
-l'autostrada ha curvoni troppo stretti ( panoramica Firenze da panico );
-in città;
-in strade con segnaletica orizzontale assente;

Alla fine (almeno io , ma non sono l'unico ) lo tengo sempre spento perchè è più stressante tenerlo attivo che guidare normalmente.
Altre case europee fanno molto meglio con la guida autonoma di secondo livello, ( ho esperienza con Mercedes e Bmw).. Ecco con quelle si può stare discretamente tranquilli, oltre al fatto di non dover muovere il volante ogni manciata di secondi perchè quello Tesla non è capacitivo..

I gonzi che nel 2019-2020 hanno pagato il FSD 7 mila euro ovviamente diranno che è perfetto...

[Strato1541]

EDIT post doppio