Google limita i riassunti di AI Overview per le ricerche mediche: le informazioni fornite erano sbagliate?

Google ha fatto una parziale marcia indietro su AI Overview, la funzione che consente all'IA di integrarsi con il motore di ricerca per offrire le risposte dirette agli utenti, bypassando le fonti originali e i risultati di ricerca, aspetto che sta creando non pochi problemi a Google.

Negli ultimi giorni, infatti, questa funzione IA ha iniziato a fornire diverse informazioni errate, soprattutto in relazione ad argomenti legati alla salute e alla medicina. A causa di questi problemi, Google sta limitando l'uso di AI Overview in relazione a questi argomenti. A evidenziarlo è un'indagine di The Guardian che aveva già evidenziato il problema.

Cosa è successo

Una volta che il caso è diventato virale, Google avrebbe modificato il comportamento di AI Overview, bloccando l'attivazione dei riassunti generati dall'intelligenza artificiale in relazione a determinati argomenti, che però possono sempre essere trattati sfruttando l'AI Mode.

Un portavoce dell'azienda ha dichiarato al magazine che "Google non commenta le singole rimozioni all'interno della ricerca" e che si impegna ad "apportare miglioramenti di ampia portata" al servizio. In aggiunta, un team interno di medici, evidenzia Google, ha analizzato le query oggetto dell'indagine sottolineando che "in molti casi le informazioni non erano inaccurate ed erano supportate da siti web di alta qualità".

La questione resta aperta. Google non vuole entrare nei dettagli e non approfondirà pubblicamente le cause che potrebbero aver spinto l'IA a fornire informazioni errate. Nel frattempo, però, i riassunti fatti dall'intelligenza artificiale sono stati limitati, su determinati argomenti sensibili, in attesa di miglioramenti al sistema. Chiaramente il colosso di Mountain View vuole andarci con i piedi di piombo, onde evitare di finire al centro di cause legali e cattiva pubblicità derivanti da consigli medici errati e/o pericolosi.