Colla sulla pizza: Google rimuove manualmente le risposte imbarazzanti di AI Overview

La società corre ai ripari dopo una serie di risposte assurde fornite da IA e che sono diventate virali sui social network
di Andrea Bai pubblicata il 28 Maggio 2024, alle 16:21 nel canale WebIl debutto di AI Overview nei servizi Google è avvenuto non senza una buona dose di imbarazzo, seguito alla diffusione sul web di risposte bizzarre, fuori luogo, talvolta assurde o addirittura pericolose che l'Intelligenza Artificiale di Mountain View ha dato a domande e prompt tutto sommato semplici. L'azienda sta cercando di correre ai ripari, anzitutto disabilitando manualmente AI Overview per ricerche specifiche non appena qualche risposta non del tutto "ortodossa" diviene virale sui social network come, ad esempio, quando l'IA ha suggerito di usare la colla quando un utente ha chiesto come evitare di far scivolar via il formaggio dalla superficie della pizza.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) May 22, 2024
E' questo il motivo principale per il quale gli utenti hanno visto scomparire quelle risposte poco dopo la loro condivisione sui social. La situazione ha amareggiato, per non dire di peggio, l'azienda di Mountain View anche per via del fatto che AI Overview è in fase di test da circa un anno, quando a maggio del 2023 fu lanciata in versione beta con il nome di Search Generative Experience, e ha macinato, almeno secondo le dichiarazioni del CEO Sundar Pichai, oltre un miliardo di query.
L'imbarazzo della società nasce anche dal fatto che lo stesso Pichai ha dichiarato che Google ha ridotto, in questo anno di sperimentazione, i costi dell'80% circa per fornire risposte basate su IA, grazie alle "innovazioni hardware, ingegneristiche e tecniche". La società comunque continua a sostenere che AI Overview è in grado di fornire in gran parte "informazioni di alta qualità" alle richieste degli utenti.
D'altra parte l'IA è un terreno su cui Google si trova ad operare sotto una certa pressione da parte della concorrenza: da un lato Microsoft con il suo Bing che è arrivata a lanciare le sue funzionalità IA ben prima di Google, dall'altra OpenAI che starebbe lavorando ad un progetto di un motore di ricerca basato su intelligenza artificiale. I progetti di Google per la sua intelligenza artificiale Gemini sono ambiziosi, l'azienda lo ha dichiarato nelle scorse settimane in occasione della Google I/O 2024: ragionamento in più fasi per query complesse, capacità di generare una pagina di risultati organizzata dall'intelligenza artificiale, ricerca video in Google Lens e molto altro.
Quanto accaduto con AI Overview è chiaramente una situazione imbarazzante per Google, e che risalta ancor di più proprio per le dimensioni dell'azienda. Ma in realtà è opportuno considerare che i modelli IA ad oggi disponibili e funzionanti non hanno la capacità intrinseca di poter effettuare controlli di integrità su ciò che essi stessi compiono, e proprio questo aspetto costituisce l'attuale problema dell'intero settore dei modelli di Intelligenza Artificiale generativa, con i vari protagonisti dell'arena che spesso ignorano o fingono di non vedere questo tipo di limite.
18 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoUna bella spalmata di Coccoina e via...
Non cè bisogno di citare questo caso per rendersi conto dell'ottusità completa dell'IA...
fate una ricerca su Google in un argomento che conoscete bene e vedrete LE PRIME RISPOSTE, TIPICAMENTE GOOGLIANE, che solo un copista stakanovista del Webb, senza discernimento e criterio riuscirebbe a dare... in più a scendere ci sono tante risposte su cui cliccandoci si apre altra miseria conoscitiva... A volte può indovinare a volte no...
ROLLEYES PROFONDO!
Lo SHIT impera nel Webb -> ROLLEYES ^N
ci vorranno altri 5 anni per fare un buon training alla IA
per poi scoprire che non ce ne faremo nulla della IA
Cioè dovrebbero controllare una ad una tutte le queries, e altre ne verranno, da controllare...
Non credo che questa IA abbia buon senso,
Si potrà affinare certo, ma è lontana dall'autocritica,
In ambito umano nemmeno si riesce a definire la coscienza, e l'autocoscienza,
https://www.iltascabile.com/scienze...e-neuroscienze/
e si crede di potersi, ciecamente, affidare a un nugolo di macchine algoritmizzate codificanti...
Uhmmmm
Il problema è che è l'unico modo conosciuto a Google&simili (MS, Apple, ecc. ecc. ecc.) per MONETIZZARE la cosa quando c'è di mezzo l'utOnto consumatore finale, detto diversamente il problema è il desiderio di crearsi quote di nuovi mercati, non la tecnologia.
L'AI (in questo caso basata su reti neurali e stocastica), esattamente come il calcolo quantistico, va usata prima di tutto dove ha intrinsecamente senso usarla.
Cioè dovrebbero controllare una ad una tutte le queries, e altre ne verranno, da controllare...
Non credo che questa IA abbia buon senso,
Si potrà affinare certo, ma è lontana dall'autocritica,
In ambito umano nemmeno si riesce a definire la coscienza, e l'autocoscienza
Parliamo di reti neurali, non certo di prodotti dell'ingegneria della conoscenza. E' un limite intrinseco della tecnologia, lo stesso per cui [B][U]5 dita umane=5 indici con una certa distribuzione statistica della lunghezza in base alla posizione della mano[/U][/B] senza l'esistenza del pollice opponibile con 2 falangi al posto di 3 (perchè dovrei dare peso ad UN dito quando gli altri QUATTRO sono invece simili tra loro? Ovviamente bastano nozioni base di anatomia per fare la mano corretta o anche solo l'autocoscienza di un bambino ma la statistica non funziona così, ovviamente però può suggerire mondi "alternativi" quando appunto ha le cosiddette "allucinazioni" ed è per questo che possono venderci l'AI generativa come un artista pazzoide al nostro servizio
Il problema è che è l'unico modo conosciuto a Google&simili (MS, Apple, ecc. ecc. ecc.) per MONETIZZARE la cosa quando c'è di mezzo l'utOnto consumatore finale, detto diversamente il problema è il desiderio di crearsi quote di nuovi mercati, non la tecnologia.
L'AI (in questo caso basata su reti neurali e stocastica), esattamente come il calcolo quantistico, va usata prima di tutto dove ha intrinsecamente senso usarla.
Mi rendo conto, oltre l'intuito, che ci siano ambiti in cui l'IA valga ad essere usata, tipo in ambiti molto confinati e definiti, tipo la ricerca di precise particelle quantistiche tra miliardi^n di dati... O anche per individuare qualche fenomeno non codificato in archivio di dati astronomici... Ma a districarla nell'assortimento di risposte e comportamenti/atteggiamenti umani credo che sia evidentemente in ambito pre-conoscitivo...
Un esempio non proprio calzante tipo una ricerca su Google, provare (e non sarebbe nemmeno qualcisa di generalmente problematico... certo cè anche chi mangia il gesso oppure le unghie (presumo che sia un'eccezione nota (onicofagia), o peggio...)
"cosa mangiare"
dalle risposte si vede solo bigottismo e copismo conoscitivo
Poi cè anche chi ci va appresso "perchè è una risposta data dal computer", bisognerebbe fare anche la scrematura degli idioti che hanno il Webb come estensione mentale
Conosco vicino a me uno, sessantenne circa, che si informa e cresce, in stupidità, sul Webb
Non ha critica nè buonsenso e crede di essere addirittura proggre-dito- (dito in senso letterale)...
Piano piano se ne stanno rendendo conto tutti. Comunque non è la prima volta che spara cavolate e non sarà nemmeno l'ultima. DK 7x10 Stronzate Artificiali
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".