Google insiste ancora sui riassunti con l'IA nel motore di ricerca e su AI Overview

Google sta sperimentando un’importante novità nel suo motore di ricerca, con l'obiettivo di migliorare l’esperienza utente attraverso l’introduzione di riassunti generati dall’intelligenza artificiale da far apparire in cima ai risultati di ricerca. Tuttavia, a differenza delle precedenti funzionalità AI Overview, che avevano suscitato polemiche a causa della loro inaccuratezza, questa nuova opzione non rende evidente che si tratta di testi generati dall'intelligenza artificiale.

La scoperta è stata riportata da Barry Schwartz su Search Engine Roundtable, che ha notato come questi nuovi riassunti compaiano senza alcuna etichetta che li identifichi chiaramente come generati da IA. L’unico modo per verificarlo è tramite un pulsante con la scritta “Altro”, nascosto e poco visibile agli utenti comuni. Questa scelta di design pone interrogativi importanti sulla trasparenza e sulla potenziale confusione che potrebbe derivarne: molti utenti potrebbero non rendersi conto che le informazioni che stanno leggendo sono frutto di un processo automatizzato, piuttosto che verificato manualmente.

Attualmente, questo esperimento è disponibile solo negli Stati Uniti ma, in previsione di un arrivo nel resto del mondo, potrebbe avere un impatto decisamente importante. Il fatto che questi riassunti appaiano subito, prima dei tradizionali link dei risultati di ricerca, potrebbe portare molte persone a dare per scontata la loro attendibilità senza indagare sulla fonte.

Sebbene Google abbia dichiarato che la nuova funzione non è collegata direttamente alle precedenti AI Overview, le somiglianze sono evidenti. Un altro aspetto da considerare riguarda la possibile modifica di questa funzione prima del lancio ufficiale. Essendo ancora in fase di test, è plausibile che Google stia raccogliendo feedback per migliorare ulteriormente l’esperienza e apportare correzioni, in particolare sulla visibilità dell’informazione relativa alla generazione automatica dei contenuti. Una segnalazione più chiara e accessibile potrebbe risolvere almeno in parte il problema della trasparenza.

Le AI Overview hanno nei mesi scorsi evidenziato una serie di problematiche. I riassunti automatici avevano fornito suggerimenti sbagliati e potenzialmente pericolosi, come consigliare l'uso di colla sulla pizza. Tali errori avevano costretto Google a limitare l’uso della funzione, restringendo anche l'elenco delle fonti dalle quali venivano tratte le informazioni.