Sfida guida autonoma VS superumano digitale: così Waymo ha testato il software dei suoi veicoli

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...li_110598.html

Waymo ha creato un superumano instancabile e impossibile da distrarre per un testa a testa contro il suo software di guida autonoma, al fine di verificare chi fosse il guidatore migliore

Click sul link per visualizzare la notizia.

[TorettoMilano]

ma basta vedere questo video di anni fa per capire come la guida autonoma può solo salvare vite e fare cose disumane
https://youtu.be/KHvLFujWBeg?t=222

[AlPaBo]

Quindi, per verificare il funzionamento di un sistema di IA, l'hanno confrontato con un altro sistema di IA?
E hanno dedotto che il loro sistema di IA funziona meglio di un altro sistema di IA sempre fatto da loro?
E hanno detto che il sistema di IA che funziona peggio somiglia a un superuomo?

Insomma, una serie di affermazioni non conseguenti o basate su assiomi indimostrabili e su osservazioni soggettive. Non ha alcun valore metodologico, è pura fuffa.

E sia ben chiaro: non sto dicendo che un sistema di IA non possa funzionare bene, ma solo che la loro prova non dimostra niente, è pura propaganda che vuol essere ripresa dai fan (come in questo caso hardware upgrade) allo scopo di auto congratularsi.

[TorettoMilano]

Originariamente inviato da AlPaBo

Quindi, per verificare il funzionamento di un sistema di IA, l'hanno confrontato con un altro sistema di IA?
E hanno dedotto che il loro sistema di IA funziona meglio di un altro sistema di IA sempre fatto da loro?
E hanno detto che il sistema di IA che funziona peggio somiglia a un superuomo?

Insomma, una serie di affermazioni non conseguenti o basate su assiomi indimostrabili e su osservazioni soggettive. Non ha alcun valore metodologico, è pura fuffa.

E sia ben chiaro: non sto dicendo che un sistema di IA non possa funzionare bene, ma solo che la loro prova non dimostra niente, è pura propaganda che vuol essere ripresa dai fan (come in questo caso hardware upgrade) allo scopo di auto congratularsi.

è ovvio il test sia autocelebrativo anche perchè waymo testa l'IA di waymo

[frncr]

Originariamente inviato da AlPaBo

Quindi, per verificare il funzionamento di un sistema di IA, l'hanno confrontato con un altro sistema di IA?

No, hanno creato "un benchmark interno per evitare le collisioni che supera il conducente tipico", ovvero da come capisco io hanno modellizzato le prestazioni massime di un conducente umano, e hanno confrontato le prestazioni del loro sistema di guida autonoma a questo modello ideale di guidatore umano, in un contesto di simulazione di incidenti, e hanno concluso che il loro sistema è superiore nell'evitare o contenere i danni. Il modello di guidatore umano ovviamente non è una IA, è un modello statistico.

Dopodiché, il tutto serve a poco a mio avviso; non ci sono dubbi che un sistema di guida autonoma allo stato dell'arte è già ora in grado di evitare molti più incidenti di un guidatore umano (anche attento), non fosse altro per il fatto che ha:
- una percezione dell'ambiente molto più completa di un umano (ad esempio la visione a 360°);
- tempi di reazione incomparabilmente più brevi;
- elevatissima capacità di controllo e previsione della dinamica del mezzo (e di quella degli altri veicoli).
Nondimeno, il problema per arrivare alla legalizzazione di questi sistemi non è la loro efficacia ma la loro affidabilità (oltre alla soluzione dei problemi etici insiti nella programmazione a priori della gerarchia di valore dei possibili danni). Ovvero: se un sistema di guida autonoma è statisticamente più sicuro dei guidatori umani ma ogni tanto sbaglia e provoca incidenti di suo, è accettabile? O posto meglio: quanto deve essere migliore statisticamente un sistema di guida autonoma perché sia accettabile che ogni tanto causi incidenti e la morte di qualcuno? La risposta non è ovvia perché noi siamo abituati ad accettare come inevitabile il fatto che i guidatori umani causino incidenti, danni, feriti e morti con una certa frequenza (ci basta che siano assicurati), ma non siamo probabilmente pronti ad accettare che questo possa farlo un computer, pure se con frequenza molto più bassa.

Alla fine non saranno i problemi tecnici a frenare l'adozione della guida autonoma, ma i problemi sociali ed etici, con le loro conseguenze sull'azione legislativa.