Taxi a guida autonoma si bloccano tutti insieme a San Francisco: Cruise costretta a intervenire

[Redazione di Hardware Upg]

Link alla notizia: https://auto.hwupgrade.it/news/trasp...re_108306.html

Una strada di San Francisco è stata bloccata per ore da alcuni veicoli della flotta di Cruise, che si sono fermati tutti insieme ostacolando la normale viabilità

Click sul link per visualizzare la notizia.

[omerook]

il primo sciopero dei robot!

...manifestavano per i diritti civili di Lamda

[Unax]

ma è necessario che un veicolo a guida autonoma abbia la stessa forma di un'auto normale?

[niky89]

Originariamente inviato da Unax

ma è necessario che un veicolo a guida autonoma abbia la stessa forma di un'auto normale?

I crash test sono quelli, che forma dovrebbero avere?

[agonauta78]

Un assaggio del futuro che ci aspetta, un futuro molto remoto

[WarDuck]

Coloro che appoggiano queste forme di "progresso" idiote, non hanno capito che in realtà stiamo consegnando la nostra libertà nelle mani di poche multinazionali che potranno decidere, in base a come tira il vento, di rompere i coglioni ai cittadini premendo un semplice bottone, e magari giustificare il tutto con "eh ma si è presentato un bug".

Ma questi pagheranno mai penalmente? Perché ora come ora se fossi un cittadino di San Francisco sarei incazzato nero e vorrei vedere questa società risarcire i danni.

Molto del software che gira lì sopra è ben lungi dall'essere provato matematicamente.

E io non farei mai guidare un auto ad un software che non sia stato provato matematicamente (come del resto accade in ambito avionico).

D'altra parte il Machine Learning di fatto è un problema di ottimizzazione, che per definizione non è detto abbia una soluzione e non è garantito terminare.

Quindi ci toccano i beta test, i test drive per "Milioni di KM"... fuffa paragonabile a quelli che fanno i collaudi del software basandosi su unit test, gente che non è abbastanza confidente del suo codice perché non sa programmare.

E noi dovremmo fidarci di questi venditori di fumo?

Benvenuti nel futuro (rido per non piangere).

[demon77]

Originariamente inviato da Unax

ma è necessario che un veicolo a guida autonoma abbia la stessa forma di un'auto normale?

Direi proprio di si.
In primis l'auto guida pure da sola ma continua comunque ad ospitare persone.
In secondo luogo perchè spandere una fucilata di soldi per viluppare un'auto diversa quando puoi prenderne una già fatta e finita?

Un domani probabilmente nasceranno anche auto diverse come forma perchè pensate sin da principio per un tipo di uso diverso e basato sulla guida autonoma, ma desso è presto direi

[demon77]

Originariamente inviato da WarDuck

Coloro che appoggiano queste forme di "progresso" idiote, non hanno capito che in realtà stiamo consegnando la nostra libertà nelle mani di poche multinazionali che potranno decidere, in base a come tira il vento, di rompere i coglioni ai cittadini premendo un semplice bottone, e magari giustificare il tutto con "eh ma si è presentato un bug".

Ma questi pagheranno mai penalmente? Perché ora come ora se fossi un cittadino di San Francisco sarei incazzato nero e vorrei vedere questa società risarcire i danni.

Molto del software che gira lì sopra è ben lungi dall'essere provato matematicamente.

E io non farei mai guidare un auto ad un software che non sia stato provato matematicamente (come del resto accade in ambito avionico).

D'altra parte il Machine Learning di fatto è un problema di ottimizzazione, che per definizione non è detto abbia una soluzione e non è garantito terminare.

Quindi ci toccano i beta test, i test drive per "Milioni di KM"... fuffa paragonabile a quelli che fanno i collaudi del software basandosi su unit test, gente che non è abbastanza confidente del suo codice perché non sa programmare.

E noi dovremmo fidarci di questi venditori di fumo?

Benvenuti nel futuro (rido per non piangere).

Mi pare una visione molto disfattista.
Le multinazionali già adesso controllano con determinati prodotti e servizi delle parti fondamentali di un paese. Vedasi INTERNET, UTENZE e tanto altro.
Non è che parliamo dell'apocalisse se mettono in circolazione auto a guida autonoma.. ricordo soprattutto che "L'ALTERNATIVA" sono i sindacati dei tassinari, non plus ultra dei ladri legalizzati.
Se devo scelgiere tra google ed i tassinari.. google tutta la vita.
Anyway questo è un discorso più politico che come sempre ha i suoi pro ed i suoi contro.

Per quanto riguarda il depp learnig, la AI e le performance alla guida direi che non la vedo come tu dici.
La guida autonoma è una sfida notevole a livello di implementazione, le casisitiche e le variabili quasi infinite.. ergo l'unico modo per migliorare è provare e riprovare dando la possibilità ai sistemi di imparare e migliorare sempre di più. Chiamalo beta testing o come ti pare ma la strada è quella.
Immagino che anche tu da neo patentato eri imbranato, impacciato ed hai fatto errori.. e sei migliorato solo allenandoti nella guida.

[berson]

Ai disfattisti che commentano ricordo che ogni volta che un'auto a guida autonoma ha un malfunzionamento, magari provocando un incidente, il software viene corretto e quel malfunzionamento non avverrà più rendendo le strade più sicure, mentre ogni volta che un umano alla guida provoca un certo tipo di incidente, tutti gli altri umani alla guida non si avvantaggiano di quell'esperienza e la strada continua ad essere pericolosa come prima.

[Emin001]

Originariamente inviato da niky89

I crash test sono quelli, che forma dovrebbero avere?

https://i0.wp.com/scoutlife.org/wp-c...1/IMG_3654.jpg


Unax scusami, si parla di forme....





P.s. chi si aspetta le cosce della Boschi rimarrà deluso.

[TorettoMilano]

guidare rispettando tutte le regole è una tortura quindi ben vengano queste innovazioni. gli errori una volta risolti non dovrebbero più ripresentarsi uguali, gli umani invece commettono gli stessi errori da sempre, concetto già esplicato da berson nel thread.

ah (come ho già scritto in altri thread) se ci fosse nelle auto una mano meccanica pronta a schiaffeggiarci ogni volta non rispettiamo una regola stradale vorremmo TUTTI la guida autonoma il prima possibile

[agonauta78]

A forma di supposta scivolerebbe meglio nel traffico

[WarDuck]

Originariamente inviato da berson

Ai disfattisti che commentano ricordo che ogni volta che un'auto a guida autonoma ha un malfunzionamento, magari provocando un incidente, il software viene corretto e quel malfunzionamento non avverrà più rendendo le strade più sicure, mentre ogni volta che un umano alla guida provoca un certo tipo di incidente, tutti gli altri umani alla guida non si avvantaggiano di quell'esperienza e la strada continua ad essere pericolosa come prima.

Al momento non mi pare che per i sistemi a guida autonoma delle automobili sia dimostrata la correttezza formale, non è disfattismo, è realismo.

Il punto non è tanto l'errore in se (anche se in questi contesti può avere conseguenze gravi, ergo parliamo di roba mission-critical per definizione), il problema è di tipo legale.

Chi è che si prende la responsabilità legale (penale) per un sistema che è di base già poco affidabile e che può diventare a tutti gli effetti molto pericoloso in presenza di avversari?

[demon77]

Originariamente inviato da WarDuck

Chi è che si prende la responsabilità legale (penale) per un sistema che è di base già poco affidabile e che può diventare a tutti gli effetti molto pericoloso in presenza di avversari?

Sicuramente un campo nuovo dove la giurisprudenza dovrà tracciare delle linee guida.
Coi sistemi di guida assistita a vari livelli che trovi ora sulle auto (Cruise control ecc) sei comunque tu il responsabile.
Domani, in presenza di auto a totale guida autonoma e prive di comando manuali ovviamente sarà il gestore del sistema.

In una fase di transizione come adesso e nei prossimi anni non nego ci sarà parecchia confusione ed anche casi stravaganti

[calabar]

Originariamente inviato da WarDuck;

Al momento non mi pare che per i sistemi a guida autonoma delle automobili sia dimostrata la correttezza formale, non è disfattismo, è realismo.

E perchè mai dovrebbe essere dimostrata una correttezza formale? Non è un algoritmo di crittografia. La correttezza formale non ha applicazione in questo genere di software.
Del resto per la guida umana che accettiamo con tanta naturalezza non mi pare che sia richiesta alcuna verifica di correttezza formale.

Per la responsabilità in caso di incidente, secondo me la strada è una sola: se ti affidi ad un'auto a guida autonoma, questa deve essere di chi commercializza l'auto.
Del resto se prendi un taxi (il sistema taxi+autista è a guida "autonoma" per il passeggero), la responsabilità di un eventuale incidente non è certo tua.
Resteranno più complessi i casi intermedi, per esempio auto a guida assistita o auto a guida autonoma con possibilità di guida manuale o di sistemi di guida autonoma che risentono delle decisioni del passeggero (guida lui, ma puoi dirgli tu dove passare, per esempio di imboccare una strada contro mano, in tal caso la responsabilità sarebbe tua).

[megamitch]

Io ho paura che le assicurazioni/produttori in caso di sinistro cercheranno di addossare la colpa al cliente. Ho paura che ci si dovrà difendere anche in tribunale.

Anche perché se un’auto a guida autonoma fa un incidente potenzialmente tutte le auto di quel tipo potrebbero farlo, sai che casino normativo ?

Non so ho paura che potrebbe essere complicata la faccenda.

Sicuro Comunque io non vorrei pagare l’assicurazione se l’auto viene guidata da un computer

[fukka75]

Originariamente inviato da TorettoMilano

guidare rispettando tutte le regole è una tortura quindi ben vengano queste innovazioni. gli errori una volta risolti non dovrebbero più ripresentarsi uguali, gli umani invece commettono gli stessi errori da sempre, concetto già esplicato da berson nel thread

Sai com'è, il codice della strada esiste proprio per evitare che ognuno faccia come gli pare (come ogni altra regola della società civile): il fatto che ci siano idioti che non lo rispettano non significa certo che sia una "tortura". Ma d'altronde su questo forum si leggono cose incredibili riguardo al codice della strada (resta famoso il post di qualcuno di diversi anni fa "i limiti di velocità me li faccio io").....
Se ti vuoi sfogare al volante, vai in pista e fallo lì....

[WarDuck]

Originariamente inviato da calabar

E perchè mai dovrebbe essere dimostrata una correttezza formale? Non è un algoritmo di crittografia. La correttezza formale non ha applicazione in questo genere di software.

Un sistema automatico che prende decisioni pressoché complete sulla guida, per quanto mi riguarda, dovrebbe essere classificato mission-critical: un errore può portare conseguenze gravi, ad esempio perdita di vite umane.

Vedi ad esempio il controllo di volo di un aereo o apparecchi medicali il cui funzionamento dev'essere *sempre* garantito.

In quel caso la correttezza formale si traduce nel garantire il rispetto di scadenze hard real-time in task periodici, possibile usando la teoria di scheduling real-time. Anche lì chiaramente vi possono essere decisioni prese sulla base di valori di sensori, ma questi tipicamente sono molto più semplici e non richiedono alcuna inferenza.

Il sistema operativo, il compilatore che lo produce, e l'hardware che lo esegue (spesso molto semplice e/o vecchio) devono essere certificati.

Chiaramente questo non significa che su tutti questi vi sia una verifica strettamente formale, ma stai pur certo che ogni singola istruzione assembly è stata verificata.

In ogni caso parliamo di sistemi estremamente più semplici (tecnicamente) di roba che fa appunto inferenza o detection di oggetti, in cui per altro bisognerebbe anche garantire che la fase di learning sia stata fatta correttamente (ad esempio definendo procedure standard).

Originariamente inviato da calabar

Del resto per la guida umana che accettiamo con tanta naturalezza non mi pare che sia richiesta alcuna verifica di correttezza formale.

Beh, tecnicamente devi fare un esame per prendere la patente, ma lo so che in molti casi è una pagliacciata.

Originariamente inviato da calabar

Per la responsabilità in caso di incidente, secondo me la strada è una sola: se ti affidi ad un'auto a guida autonoma, questa deve essere di chi commercializza l'auto.
Del resto se prendi un taxi (il sistema taxi+autista è a guida "autonoma" per il passeggero), la responsabilità di un eventuale incidente non è certo tua.
Resteranno più complessi i casi intermedi, per esempio auto a guida assistita o auto a guida autonoma con possibilità di guida manuale o di sistemi di guida autonoma che risentono delle decisioni del passeggero (guida lui, ma puoi dirgli tu dove passare, per esempio di imboccare una strada contro mano, in tal caso la responsabilità sarebbe tua).

Secondo me affidarsi a sistemi tecnicamente più semplici lì dove è possibile, ad esempio in autostrada, sarebbe più semplice che affidarsi a sistemi che fanno inferenza.

[zappy]

Originariamente inviato da Unax

ma è necessario che un veicolo a guida autonoma abbia la stessa forma di un'auto normale?

no, ma oggi come oggi costa meno usare un'auto tirata in milioni di esemplari che una fatta apposta. E poi che forma vorresti avere? al max togli volante e cruscotto, il resto sarebbe uguale... di certo l'esterno non c'è motivo di farlo diverso.

Originariamente inviato da WarDuck

Coloro che appoggiano queste forme di "progresso" idiote, non hanno capito che in realtà stiamo consegnando la nostra libertà nelle mani di poche multinazionali che potranno decidere, in base a come tira il vento, di rompere i coglioni ai cittadini premendo un semplice bottone, e magari giustificare il tutto con "eh ma si è presentato un bug".

Ma questi pagheranno mai penalmente? Perché ora come ora se fossi un cittadino di San Francisco sarei incazzato nero e vorrei vedere questa società risarcire i danni.

io sono già molto incazzato dei milioni di coglioni che causano incidenti sulel strade e mi fanno stare in coda, perdendo il MIO tempo perchè LORO guidano da teste di cazzo e causano problemi.
ogni volta che c'è coda in autostrada farei pagare ai colpevoli le ore di stipendio perse da tutti quelli che stanno in coda... togliendogli casa, auto, conto in banca e facendoli lavorare per tutta la vita gratis.
sono sicuro che si venderebbero solo più auto con 10 cv di potenza e v max di 15 km/h, e si circolerebbe molto più velocemente.

Originariamente inviato da demon77

Direi proprio di si.
In primis l'auto guida pure da sola ma continua comunque ad ospitare persone.
In secondo luogo perchè spandere una fucilata di soldi per viluppare un'auto diversa quando puoi prenderne una già fatta e finita?

Un domani probabilmente nasceranno anche auto diverse come forma perchè pensate sin da principio per un tipo di uso diverso e basato sulla guida autonoma, ma desso è presto direi

anche no. alla fine perchè cambiare forma agli esterni? non c'è alcun motivo tecnico reale. L'unica cosa che potrebbe cambiare sono esclusivamente gli interni.

[TorettoMilano]

Originariamente inviato da fukka75

Sai com'è, il codice della strada esiste proprio per evitare che ognuno faccia come gli pare (come ogni altra regola della società civile): il fatto che ci siano idioti che non lo rispettano non significa certo che sia una "tortura". Ma d'altronde su questo forum si leggono cose incredibili riguardo al codice della strada (resta famoso il post di qualcuno di diversi anni fa "i limiti di velocità me li faccio io").....
Se ti vuoi sfogare al volante, vai in pista e fallo lì....

ma non è il banale "divertirsi al volante" il problema, il mio era un discorso più ampio. autoquoto un post di un altro thread

Originariamente inviato da TorettoMilano

al volante le regole scritte e non scritte da seguire sono così tante che ogni giorno ognuno di noi compie delle scorrettezze dal semplice guidare con una mano, al guidare stanco, a dare una sbirciata di sfuggita al cell, al rispettare al cm le distanze di sicurezza, i limiti di velocità e via dicendo.