Guida autonoma e intelligenza artificiale, gravi rischi di sicurezza secondo l'Unione Europea

[Redazione di Hardware Upg]

Link alla notizia: https://auto.hwupgrade.it/news/tecno...pea_95763.html

I sistemi di guida autonoma e intelligenza artificiale legata alla guida sono proni ad incidenti di sicurezza: è necessario un cambio radicale dell'approccio che tenga conto di tutta la catena di fornitura e dei modelli di sviluppo e implementazione.

Click sul link per visualizzare la notizia.

[niky89]

Quando VW avrà un suo buon sistema l'Europa non si farà più problemi

[TorettoMilano]

mi sembra che l'articolo parli dell'acqua calda. "la compromissione dei sensori di guida con fasci luminosi opportunamente indirizzati così da ingannare i sistemi di rilevamento degli oggetti", pure a me se mi accecano non ci vedo e posso involontariamente causare un incidente eppure agli umani è concesso guidare.
è ovvio che la guida autonoma sarà commercializzata quando sarà pronta e infatti ad oggi non è ancora stata commercializzata

[Ginopilot]

La scoperta dell'acqua calda. Arriveranno prima le auto volanti, poi, forse, la guida autonoma.

[raxas]

secondo me una buona evoluzione potrebbe essere la vendita di auto guidate da androidi su reti stradali apposite: ne guadagnerebbe il mercato auto e connessi, anche per la vendita dei predetti androidi, i quali nel tempo non libero, lavorerebbero a noleggio nelle fabbriche in affitto)
con un grosso sospiro di sollievo per lo stagnamento dei nuovi prodotti
in sintesi lavorerebbero solo gli androidi e con i loro ricavati potrebbero sostenere 4 umani a testa, al netto dell'affitto pagato dagli umani per i loro servigi
altra soluzione la realizzazione di circuiti stradali con auto guidate da androidi, specializzati solo per questo, in maniera da vendere auto, tutto distribuito su vari canali televisivi, in abbonamento agli utenti che guarderanno circolare i predetti androidi, canali televisivi che pagherebbero le spese di rifornimento, manutenzione delle predette auto androidizzate e gestione delle trasmissioni, il netto messo in una cassa comune per le spese emmecinquiste tipo quelle per il lavoro non assistito
ehm

[vraptus]

Originariamente inviato da raxas

secondo me una buona evoluzione potrebbe essere... ... ... ehm

Mangiato pesante?

[berson]

Quindi per gli aerei con cui viaggiano centinaia di persone alla volta tutti questi problemi sono accettabili (come dimostrano alcune penetrazioni dimostrative nei sistemi informatici di bordo e svariati incidenti dovuti a problemi con i sensori), mentre le auto a guida autonoma che portano in media 1,5 passeggeri devono essere perfette. Io sento puzza di cartello e sono d'accordo con niky89 sul fatto che quando i grandi produttori di auto decideranno di iniziare a commercializzare auto a guida autonoma nessuno si farà più problemi, come non ce li facciamo ora per gli aerei.

[raxas]

Originariamente inviato da vraptus

Mangiato pesante?

ma no, ho mangiato il giusto, è che non hai capito che stavo

ma comunque "mai dire non è probabile"

[acerbo]

Aspettiamo la soluzione di Apple, sto progetto titan dovrebbe differenziarsi dalle altre tecnologie.
Il problema legislativo rimarrà e non solo in Europa.

[acerbo]

Originariamente inviato da berson

Quindi per gli aerei con cui viaggiano centinaia di persone alla volta tutti questi problemi sono accettabili (come dimostrano alcune penetrazioni dimostrative nei sistemi informatici di bordo e svariati incidenti dovuti a problemi con i sensori), mentre le auto a guida autonoma che portano in media 1,5 passeggeri devono essere perfette. Io sento puzza di cartello e sono d'accordo con niky89 sul fatto che quando i grandi produttori di auto decideranno di iniziare a commercializzare auto a guida autonoma nessuno si farà più problemi, come non ce li facciamo ora per gli aerei.

Vuoi paragonare il traffico aereo con quello delle strade cittadine? Non ho mai visto attraversare la strada da bambini, biciclette e monopattini a 5000 metri di altezza e non ho mai visto cinghiali né tamponamenti sui voli di linea

[jepessen]

Originariamente inviato da TorettoMilano

mi sembra che l'articolo parli dell'acqua calda. "la compromissione dei sensori di guida con fasci luminosi opportunamente indirizzati così da ingannare i sistemi di rilevamento degli oggetti", pure a me se mi accecano non ci vedo e posso involontariamente causare un incidente eppure agli umani è concesso guidare.
è ovvio che la guida autonoma sarà commercializzata quando sarà pronta e infatti ad oggi non è ancora stata commercializzata

Ah perche' se ti accecano tu continui a guidare come se nulla fosse?

[tallines]

Originariamente inviato da Ginopilot

La scoperta dell'acqua calda. Arriveranno prima le auto volanti, poi, forse, la guida autonoma.

Questa non mi dispiacerebbe, però non si sa quanto viene, forse più delle auto elettriche e più delle auto a guida autonoma ???

https://www.meccanicanews.com/2018/1...to-volante-ok/

[TorettoMilano]

Originariamente inviato da jepessen

Ah perche' se ti accecano tu continui a guidare come se nulla fosse?

??? ho scritto che se mi accecano posso causare un incidente, anche non fare nulla senza vedere cosa si fa può essere pericolo (per esempio posso tamponare quello davanti o farmi tamponare da chi ho dietro o involontariamente invadere corsia).
se non si è capito il senso del mio messaggio è che nell'articolo vengono dette cose ovvie screditando di proposito la guida autonoma. se oggi è in test significa che non è pronta, che senso ha scrivere determinati esempi in cui la guida autonoma oggi fallisce? la possiamo addestrare in modo che pure nelle casistiche più remote possa cavarsela mentre noi umani 100 anni fa e oggi se siamo in una situazione di panico o di improvviso acciecamento siamo un pericolo per noi stessi e per il prossimo

[das]

Dovrebbero avere il sistema di guida non collegabile in alcun modo a internet, privo di qualunque apparato radio e con il firmware salvato su ROM. Aggiornabile solo estraendo materialmente una cartuccia e cambiandola con un'altra.

In questo modo sarebbe molto difficile da attaccare.

Tra l'altro sarebbero misure da rendere obbligatorie gia' adesso sulle macchine attuali.

[Notturnia]

@TorettoMilano io credo che intendesse che SE ti accecano tu UMANO probabilmente freni e ti fermi.. non continui a guidare perchè sai che è pericoloso e quindi non dovresti causare molti danni fermandoti.. se poi accecato continui a guidare allora te la cerchi ma quelle rare volte che sono stato sorpreso dal sole all'alba ho rallentato quando l'ho avuto in faccia .. fermato mai.. ma rallentato si.. e quando invece c'è stata nebbia forte mi sono fermato se mi sono reso conto che era inutile continuare o come quando ho beccato un'acquazzone che mi impediva di vedere.. sensori o no l'uomo a volte prendere anche scelte intelligenti..

il dubbio dell'articolo (che mi pare tirato per i capelli in modo assurdo) è che i sensori sono vulnerabili da hacking attivo e che la cosa va presa in considerazione.. spero che chi fa le macchine autonome ci pensi.. detto questo.. amen.. non fanno per me

[TorettoMilano]

Originariamente inviato da Notturnia

...

perdona l'instistenza ma reputo un umano acciecato pericoloso indipendentemente da ciò che fa. tu parli di rallentare ma se ipoteticamente colui che hai di fronte a te frena o c'è un pedone gli vai addosso o comunque puoi rallentare invadendo la corsia senza rendertene conto e incrociare un'altra auto o investire un pedone o uscire fuoristrada. poi se nonostante ciò tu o altri continuate a reputare un umano accecato non pericoloso rispetto il punto di vista ma è in contrasto col mio

[rockroll]

Originariamente inviato da das

Dovrebbero avere il sistema di guida non collegabile in alcun modo a internet, privo di qualunque apparato radio e con il firmware salvato su ROM. Aggiornabile solo estraendo materialmente una cartuccia e cambiandola con un'altra.

In questo modo sarebbe molto difficile da attaccare.

Tra l'altro sarebbero misure da rendere obbligatorie gia' adesso sulle macchine attuali.

Daccordissimo!

Ma essere sempre connessi in qualunque contesto senza alcuna necessità di esserlo fa parte della stupidissima moda imperante (e mi raccomando, il 5G è un must, nehhh....).

Veramente l'articolo parla anche di sabotaggi fisici, veri atti criminali che provocherebbero esiti drammatici in qualunque contesto e non solo in quello della guida autonoma.
Se siamo circondati da delinquentì del genere, povera Umanità!

[LMCH]

Originariamente inviato da TorettoMilano

perdona l'instistenza ma reputo un umano acciecato pericoloso indipendentemente da ciò che fa. tu parli di rallentare ma se ipoteticamente colui che hai di fronte a te frena o c'è un pedone gli vai addosso o comunque puoi rallentare invadendo la corsia senza rendertene conto e incrociare un'altra auto o investire un pedone o uscire fuoristrada. poi se nonostante ciò tu o altri continuate a reputare un umano accecato non pericoloso rispetto il punto di vista ma è in contrasto col mio

L'articolo non é sufficientemente chiaro, non é che il sensore viene semplicemente accecato o abbagliato, quando parlano di renderlo cieco ai pedoni intendono che, con un emettitore laser a luce visibile oppure ad infrarossi, generano dei pattern che si sovrappongono all'immagine dei pedoni sul sensore della telecamera in modo che il sistema di guida fallisce nel riconoscerli.
Nella stessa situazione un essere umano non viene ingannato perché l'occhio umano e la corteccia visiva non si fanno trarre in inganno così facilmente e letteralmente filtrano via il disturbo, al massimo percependo che c'è qualcosa che lampeggia tipo lucina di natale o poco più.
Se invece si usa qualcosa di molto potente che abbaglia la vista, un essere umano semplicemente distoglie lo sguardo dalla fonte di luce e rallenta, in una situazione simile anche un sistema a guida autonoma fa altrettanto.
Quindi il pericolo non sta nelle situazioni pericolose per un essere umano, ma in quelle "innocue" per un essere umano che un sistema automatico invece ha grosse difficoltà a gestire senza fare incidenti.
A suo tempo all'università mi affascinava molto la visione computazionale (al punto che la mia tesi di laurea è stata proprio su tale tematica), ma più approfondivo l'argomento e più mi rendevo conto dei limiti delle tecnologie e dei modelli teorici utilizzati.

[roccia1234]

Originariamente inviato da berson

Quindi per gli aerei con cui viaggiano centinaia di persone alla volta tutti questi problemi sono accettabili (come dimostrano alcune penetrazioni dimostrative nei sistemi informatici di bordo e svariati incidenti dovuti a problemi con i sensori), mentre le auto a guida autonoma che portano in media 1,5 passeggeri devono essere perfette. Io sento puzza di cartello e sono d'accordo con niky89 sul fatto che quando i grandi produttori di auto decideranno di iniziare a commercializzare auto a guida autonoma nessuno si farà più problemi, come non ce li facciamo ora per gli aerei.

È molto, molto diverso. I due tipi di spostamento, i pericoli e le problematiche che si portano dietro sono profondamente diversi. Imparagonabili.

[cdimauro]

Originariamente inviato da niky89

Quando VW avrà un suo buon sistema l'Europa non si farà più problemi

Basta coi complottismi: quella di cui parla l'articolo è soltanto una RICERCA.