Disastro Air India: AI Overview di Google sbaglia ancora e confonde Airbus con Boeing

Gli eventi di grande impatto innescano una dinamica consolidata ormai da tempo sul web: il pubblico si precipita su Google alla ricerca di informazioni. Sappiamo che da più di qualche settimana anche in Europa il primo risultato visualizzato dal motore di ricerca di Mountain View è un AI Overview, cioè un riassunto/resoconto compilato in tempo reale dall'IA sulla base dei risultati della query di ricerca. La funzionalità era salita agli onori delle cronache in passato (AI Overview è disponibile in USA già dallo scorso anno) per qualche brutta cantonata, la più nota il suggerimento di cospargere la pizza di colla per evitare che la mozzarella si stacchi.

Purtroppo AI Overview ne ha combinata un'altra, questa volta nel contesto dell'incidente aereo avvenuto giovedì 12 giugno che ha visto coinvolto un Boeing 787-8 Dreamliner della compagnia aerea Air India che si è schiantato poco dopo il decollo dall'aeroporto di Ahmedabad. L'intelligenza artificiale di Google, se interrogata sull'evento, indicava il coinvolgimento di un aeromobile Airbus.

Di recente il pubblico sta mostrando una particolare attenzione ai modelli degli aerei, specialmente a seguito di una serie di incidenti che hanno interessato i modelli Boeing 737. L'incidente aereo di ieri, che ha portato alla morte di 241 persone, è prevedibile che innescherà una nuova ondata di ricerche sulle catastrofi aeree. E l'errore è stato notato da un utente di Reddit proprio impegnato a ricercare informazioni su incidenti che hanno coinvolto aerei Airbus: AI Overview ha indicato con sicurezza che nella tragedia di Ahmedabad fosse coinvolgo un velivolo Airbus A330. Altre ricerche simili hanno restituito risultati discordanti: alcune risposte AI menzionavano Boeing, altre Airbus, alcune addirittura un mix dei due, generando ulteriore confusione.

La causa di questi errori risiede nella natura stessa delle AI generative, che sono non deterministiche: anche a partire da uno stesso input o prompt, possono fornire risposte ogni volta differenti. È probabile che l’AI Overview abbia "confuso" i riferimenti ad Airbus come principale concorrente di Boeing, citati in molti articoli sull’incidente, finendo per attribuire erroneamente il coinvolgimento nel disastro all’azienda europea. L’AI, infatti, si limita a sintetizzare i risultati più rilevanti senza una reale comprensione della veridicità delle informazioni.

Google non ha mai nascosto che i suoi strumenti di intelligenza artificiale possano commettere errori: in fondo a ogni AI Overview compare un avvertimento che indica che "le risposte AI possono includere errori". Tuttavia, questo avviso non è particolarmente visibile e molti utenti potrebbero ignorarlo, affidandosi a una risposta che appare come attendibile e convincente ma può essere, semplicemente, errata. La società di Mountain View ha già fatto sapere di aver rimosso manualmente la risposta errata da AI Overview, sottolineando che casi come questo vengono usati per aggiornare i sistemi.