La chatbot IA Bard commette un errore nella prima demo pubblica e le azioni di Google sprofondano

Google Bard è il nuovo servizio sperimentale conversazionale di Google che in qualche modo rappresenta una risposta all'integrazione di ChatGPT all'interno di Bing e alla collaborazione tra OpenAI e Microsoft. Tuttavia, in una delle prime dimostrazioni pubbliche, ha commesso un errore, come confermano le segnalazioni di alcuni astronomi su Twitter.

Quando gli è stato chiesto come poter raccontare le scoperte del telescopio spaziale James Webb a un bambino, Bard ha fornito tre risposte e in una di queste ha asserito che il JWST ha catturato per primo un'immagine di un pianeta esterno al sistema solare. Questo non corrisponde al vero, perché esistono immagini del genere risalenti al 2004, quando il JWST non era ancora in funzione.

L'avvenimento rafforza le perplessità circa l'attendibilità di questi strumenti di intelligenza artificiale, e il pericolo che possano contribuire ad alimentare la disinformazione. Alcuni puntano il dito sulla tendenza delle chatbot AI come ChatGPT e Bard a dichiarare con sicurezza informazioni errate come fatti reali. In altri termini, è il funzionamento alla base di queste tecnologie che viene chiamato in causa, visto che vengono addestrate su enormi fonti di dati e analizzano i modelli per determinare quale parola segue la successiva nelle frasi, invece che attingere da database di fatti comprovati. Operano, dunque, con un approccio probabilistico e non deterministico.

Internet è già pieno di informazioni false e fuorvianti, ma questo non sembra rappresentare fino in fondo un problema per Microsoft, Google e gli altri produttori di motori di ricerca, che molto frequentemente trattano un'informazione non corretta come se fosse corretta. In più, le risposte delle chatbot sembrano essere suffragate da un'autorità onnisciente.

Microsoft, che ha appena rivelato il suo nuovo motore di ricerca Bing basato sull'intelligenza artificiale, ha cercato di prevenire questi problemi attribuendo responsabilità all'utente. "Bing è alimentato dall'intelligenza artificiale, quindi sono possibili sorprese ed errori", afferma il disclaimer dell'azienda. "Assicurati di controllare i fatti e condividere il tuo feedback in modo che possiamo migliorare!".

Ecco invece la risposta di un portavoce di Google sull'increscioso incidente a The Verge: "Questo evidenzia l'importanza di un rigoroso processo di test, qualcosa che stiamo dando il via questa settimana con il nostro programma Trusted Tester. Combineremo il feedback esterno con i nostri test interni per assicurarci che le risposte di Bard assicurino un elevato livello di qualità, sicurezza e fondatezza delle informazioni".

Le rassicurazioni di Google, però, non sembrano aver funzionato fino in fondo, se è vero che le azioni di Alphabet, la compagnia che possiede Google, hanno perso 100 miliardi di valore di mercato nelle ore subito successive alla pubblicazione delle notizie sull'errore di Bard e ai recenti annunci di Microsoft. Ieri, le azioni della compagnia sono scese dell'8% (-8,95 dollari per azione), e nel momento in cui scriviamo sono a 93,40 dollari, mentre si è registrata una grossa attività intorno ad esse.

Google ha intrapreso ormai due anni fa il percorso con modelli linguistici di grandi dimensioni passando per nuove funzionalità onversazionali di ultima generazione basate su LaMDA (Language Model for Dialogue Applications), ovvero il modello linguistico di Google per le applicazioni sul dialogo. Altri dettagli si trovano qui.