PDA

View Full Version : Google Gemini: il video di presentazione è ingannevole, la realtà è diversa


Redazione di Hardware Upg
09-12-2023, 17:08
Link alla notizia: https://www.hwupgrade.it/news/web/google-gemini-il-video-di-presentazione-e-ingannevole-la-realta-e-diversa_122508.html

Durante la presentazione di Google Gemini, il nuovo modello di Intelligenza Artificiale, la società ha mostrato un video sorprendente di interazione uomo-macchina. La realtà è però diversa e il video è stato sostanzialmente modificato.

Click sul link per visualizzare la notizia.

Qarboz
09-12-2023, 17:52
Analisi un po' meno politically correct
https://www.youtube.com/watch?v=rI0X6be5zC4

k0nt3
09-12-2023, 18:22
Se Gemini fosse davvero superiore ai modelli esistenti avrebbero mostrato un video in cui fa delle cose utili invece che risolvere degli indovinelli. Per carità interessante, ma così sembra solo un giocattolo rispetto a ChatGPT.

GLaMacchina
09-12-2023, 21:38
Queste "intelligenze" artificiali hanno bisogno di una mostruosa potenza di calcolo, e dunque quantità di energia, per dare risposte quasi sempre imprecise, alle volte completamente errate. Io credo che questa moda finirà presto e si tornata a dare valore alla vera intelligenza, quella che solo gli esseri viventi, quando ci si mettono, sanno esprimere.

Mars95
09-12-2023, 21:50
Queste "intelligenze" artificiali hanno bisogno di una mostruosa potenza di calcolo, e dunque quantità di energia, per dare risposte quasi sempre imprecise, alle volte completamente errate. Io credo che questa moda finirà presto e si tornata a dare valore alla vera intelligenza, quella che solo gli esseri viventi, quando ci si mettono, sanno esprimere.

La cosa che è sbagliata è cercare di farle passare per qualcosa di già pronto e fruibile adesso quando non è così.
Sono impressionanti le possibilità ma è tutto a uno stato embrionale, la moda passerà ma sono certo che resterà in lavorazione per poi ritornare tra 20 anni o quel che sarà qaundo la tecnologia sarà matura.
Un po' come è successo con la realtà virtuale.

k0nt3
09-12-2023, 23:24
Queste "intelligenze" artificiali hanno bisogno di una mostruosa potenza di calcolo, e dunque quantità di energia, per dare risposte quasi sempre imprecise, alle volte completamente errate. Io credo che questa moda finirà presto e si tornata a dare valore alla vera intelligenza, quella che solo gli esseri viventi, quando ci si mettono, sanno esprimere.

La cosa che è sbagliata è cercare di farle passare per qualcosa di già pronto e fruibile adesso quando non è così.
Sono impressionanti le possibilità ma è tutto a uno stato embrionale, la moda passerà ma sono certo che resterà in lavorazione per poi ritornare tra 20 anni o quel che sarà qaundo la tecnologia sarà matura.
Un po' come è successo con la realtà virtuale.

La strategia corretta è quella seguita da Microsoft e non si tratta di fanboysmo dato che non mi ricordo nemmeno l'ultima volta che ho avviato Windows :huh:
Si chiama "copilot" perchè chi guida sei tu, l'IA serve solo a darti una mano ed è già fruibile ora per diversi compiti d'ufficio.
Non si tratta di una moda passeggera come VR, qui ci sono in ballo investimenti di diversi ordini di grandezza superiori. L'IA generativa è qui per rimanere :O

Yuno gasai
10-12-2023, 09:11
La cosa che è sbagliata è cercare di farle passare per qualcosa di già pronto e fruibile adesso quando non è così.
Sono impressionanti le possibilità ma è tutto a uno stato embrionale, la moda passerà ma sono certo che resterà in lavorazione per poi ritornare tra 20 anni o quel che sarà qaundo la tecnologia sarà matura.
Un po' come è successo con la realtà virtuale.

Non credo che sia una moda sinceramente eh :asd: Non è un caso se tutti stanno investendo sull'intelligenza artificiale per non rimanere indietro rispetto ai concorrenti. Tantissima gente comune la usa ormai nel quotidiano anche per il lavoro e non credo che riuscirebbe a farne a meno ormai.

agonauta78
10-12-2023, 10:35
È possibile che sia sopravvalutata rispetto ai vantaggi promessi . Che tutti stiano investendo non significa niente . Tra qualche anno potrebbe rivelarsi un flop (rispetto alle promesse )

biometallo
10-12-2023, 11:30
Analisi un po' meno politically correct
https://www.youtube.com/watch?v=rI0X6be5zC4

Citando Emilio Fede "Che figura di merda" davvero, mi pare che Google sia indifendibile.


Tra qualche anno potrebbe rivelarsi un flop (rispetto alle promesse )
O peggio che superi le aspettative, tanto che molti qui gridano già a Skynet al grande fratello GBT o perfino farne una divinità con tanto di culto...

k0nt3
10-12-2023, 12:57
È possibile che sia sopravvalutata rispetto ai vantaggi promessi . Che tutti stiano investendo non significa niente . Tra qualche anno potrebbe rivelarsi un flop (rispetto alle promesse )
Forse non hai capito che c'è già tanta gente che lavora con l'IA di fianco, è una realtà, non si tratta di promesse. Per esempio chiunque faccia il programmatore dovrebbe usarla, non si tratta di competenze, semplicemente si può evitare di passare ore nei meandri di stackoverflow per trovare la soluzione a un problema, oppure far funzionare una libreria documentata coi piedi.

agonauta78
10-12-2023, 13:21
Nessuno mette in dubbio l'utilità oggi , però c'è gente che profetizza la fine del mondo o la soluzione di ogni male grazie alla IA , e queste aspettative potrebbero non corrispondere a quanto promesso . Ho visto pure io che è in grado di risolvere problemi matematici complessi o creare opere letterarie o artistiche . Ma girano troppi soldi intorno e probabilmente qualcuno resterà col cerino in mano .

HW2021
10-12-2023, 13:25
@k0nt3



Se Gemini fosse davvero superiore ai modelli esistenti avrebbero mostrato un video in cui fa delle cose utili invece che risolvere degli indovinelli. Per carità interessante, ma così sembra solo un giocattolo rispetto a ChatGPT.



Ho provato, per curiosità, sia Gemini che CopiLot che ChatGPT, be ho trovato che la peggio è proprio ChatGPT, viceversa ho trovato più acccurato e preciso CopiLot invece per quanto riguarda Gemini non è male anche se ad un mio quesito ha fatto cilecca e nonostante che l'ho corretta ha continuato a rispondermi al medesimo quesito erroneamente

Infatti a Gemini ho chiesto di definirmi cosa sia uno spazio topologico T2, mi ha dato una risposta errata, al che gli ho scritto la definizione corretta e lui l'ha accettata scrivendomi "si hai ragione" e riscrivendomi la definizione corretta, ho poi cambiato argomento e dopo avergli posto vari quesiti sono ritornato sugli spazi topologici T2 riformulandogli la medesima domanda, be mi ha dato di nuovo la medesima risposta errata

Copilot invece durante tutta la conversazione non ha fatto una piega mi ha dato sempre risposte corrette

Infine ChatGPT è stata la peggio mi ha fornito varie risposte errate, gli ho persino chiesto di disegnarmi un unicorno sulle rive di un lago, mi ha risposto mostrandomi la foto di un cigno Hahahahahaha

sminatore
10-12-2023, 14:31
Ma c'è ancora gente che dice che è una moda?
Se gli unici utilizzi che vi vengono in mente sono banali non vuol dire che questo sia l'unico modo di sfruttare un LLM o qualsiasi altra AI.
Nel campo della ricerca scientifica sta rivoluzionando tutto, in campo medico anche. Il futuro è quello, o vi fidate o vi informate, ma non potete arrivare a una conclusione con solo le informazioni che vi arrivano passivamente.

cresg82
10-12-2023, 16:19
Ma c'è ancora gente che dice che è una moda?
Se gli unici utilizzi che vi vengono in mente sono banali non vuol dire che questo sia l'unico modo di sfruttare un LLM o qualsiasi altra AI.
Nel campo della ricerca scientifica sta rivoluzionando tutto, in campo medico anche. Il futuro è quello, o vi fidate o vi informate, ma non potete arrivare a una conclusione con solo le informazioni che vi arrivano passivamente.

Siamo in piena espansione della bolla, il che non vuol dire che la tecnologia non funziona o non ha futuro.

A oggi, l'unico uso sensato è in contesti dove si è certi di poter riconoscere le allucinazioni, quindi con un controllo umano finale.

cresg82
10-12-2023, 19:51
Un buon uso di queste "non" intelligenze artificiali, sarebbe quello di dotarle di programmi che contengono una vasta enciclopedia su come far provare piacere sessuale e collegarle quindi a strumenti di piacere dove la persona seleziona il livello di intensità preferito.

alla prima allucinazione rischi di prenderlo dove non ti piace :D :D :D

meglio non rischiare

Mars95
10-12-2023, 20:20
Ma c'è ancora gente che dice che è una moda?
Se gli unici utilizzi che vi vengono in mente sono banali non vuol dire che questo sia l'unico modo di sfruttare un LLM o qualsiasi altra AI.
Nel campo della ricerca scientifica sta rivoluzionando tutto, in campo medico anche. Il futuro è quello, o vi fidate o vi informate, ma non potete arrivare a una conclusione con solo le informazioni che vi arrivano passivamente.

Campo medico, campo scientifico sono esempi di utilizzo sensato della IA.
La moda è che sembra che per fare qualsiasi cagata serva la IA e così non è.
Non mi devo fidare, non mi devo informare, ho usato la IA per applicazioni industriali e se da un lato permette cose prima impossibili dall'altro non è sempre la scelta migliore.

ghiltanas
11-12-2023, 07:09
Forse non hai capito che c'è già tanta gente che lavora con l'IA di fianco, è una realtà, non si tratta di promesse. Per esempio chiunque faccia il programmatore dovrebbe usarla, non si tratta di competenze, semplicemente si può evitare di passare ore nei meandri di stackoverflow per trovare la soluzione a un problema, oppure far funzionare una libreria documentata coi piedi.

Quoto, santo copilot e san chat gpt :D , l'importante cmq è sapere di cosa si sta parlando analizzare bene le risposte che danno, a volte sparano cappellate

Qarboz
11-12-2023, 07:29
Forse non hai inteso bene oppure hai tralasciato qualche particolare. :D :D :D

Qui non si tratta di avere "allucinazioni", dato che la persona è cosciente di cosa gli o le sta procurando piacere, a meno che la persona stessa ha assunto qualche tipo di droga. In questo caso allora, come hai scritto, potrebbe avere l'allucinazione. :asd:

Per quanto riguarda invece la "preferenza" del servizio da cui si desidera trarre piacere, và scelta in base alle varie tipologie che questa diciamo macchina offre. Poi, ognuno od ognuna, sceglie quella che dà più godimento. :asd:
Credo che @cresg82 intenda le allucinazioni delle AI, vedi p.es.
https://www.redhotcyber.com/post/che-cose-una-allucinazione-dellintelligenza-artificiale/#:~:text=Allucinare%2C%20per%20un%20essere%20umano,%C3%A8%20effettivamente%20presente%20nei%20dati.

Unrue
11-12-2023, 10:08
Ingannevole mi sembra un pò troppo:

1) E' normale che venga usata la versione più performante per presentare un prodotto. Nelle pubblicità delle auto viene sempre mostrata la più accessoriata, non la più becera.
2) E' normale che per una demo i tempi di latenza vengano tagliati, conta il risultato in questo caso. Altrimenti sai che palle di demo che viene.
3) Nessuno ha mai detto che Gemini funziona con comandi vocali. Nella demo vengono usati solo per dare fluidità. E' più facile seguire se senti piuttosto che leggere.

Infine, Google non ha nascosto nulla. In fondo è solo una pubblicità, e come tutte le pubblicità non ci si ferma a quello, ma si guarda più in dettaglio per avere un quadro completo.

Mars95
11-12-2023, 10:56
Ingannevole mi sembra un pò troppo:

1) E' normale che venga usata la versione più performante per presentare un prodotto. Nelle pubblicità delle auto viene sempre mostrata la più accessoriata, non la più becera.
2) E' normale che per una demo i tempi di latenza vengano tagliati, conta il risultato in questo caso. Altrimenti sai che palle di demo che viene.
3) Nessuno ha mai detto che Gemini funziona con comandi vocali. Nella demo vengono usati solo per dare fluidità. E' più facile seguire se senti piuttosto che leggere.

Infine, Google non ha nascosto nulla. In fondo è solo una pubblicità, e come tutte le pubblicità non ci si ferma a quello, ma si guarda più in dettaglio per avere un quadro completo.

Non è solo questo, semplicemente quello che viene mostrato è falso.
Per esempio nel video c'è una pezzo in cui la IA capisce che l'operatore vuole giocare a sasso-carta-forbice dopo che gli vengono mostrate due "segni".
Nella realtà gli sono state mostrate delle foto e fin qui tutto bene ma non solo due "segni" bensi tutti e 3 e gli è stato esplicitamente chiesto "secondo te cosa sto facendo? ti do un indizio: è un gioco"

Da mostrare due mani a mostrarne 3 con domanda esplicita e indizio c'è un abisso ed è solo uno dei tanti esempi.
Non hanno tolto solo le latenze, hanno tolto anche tutte le domande e indizi intermedi che portano al riconoscimento del compito da svolgere.

Qarboz
11-12-2023, 11:09
Ingannevole mi sembra un pò troppo:

1) E' normale che venga usata la versione più performante per presentare un prodotto. Nelle pubblicità delle auto viene sempre mostrata la più accessoriata, non la più becera.
2) E' normale che per una demo i tempi di latenza vengano tagliati, conta il risultato in questo caso. Altrimenti sai che palle di demo che viene.
3) Nessuno ha mai detto che Gemini funziona con comandi vocali. Nella demo vengono usati solo per dare fluidità. E' più facile seguire se senti piuttosto che leggere.

Infine, Google non ha nascosto nulla. In fondo è solo una pubblicità, e come tutte le pubblicità non ci si ferma a quello, ma si guarda più in dettaglio per avere un quadro completo.1) Nelle pubblicità delle auto difficilmente vengono fatti paragoni con altri marchi (per lo meno in Italia), e se venissero fatti fra la propria full optional (che non è ancora in produzione) e il modello base di 3 anni fa della concorrenza penso che se ne accorgano tutti e chi propone la pubblicità ci farebbe una figura di m... Cioè, vantarsi di aver battuto -non sempre- ChatGPT 4 versione di aprile facendo 5 step di domande contro 32 ottimizzate fatte a Gemini, mi sembra vogliano far passare un messaggio, ad essere buoni, fuorviante
2) E su questo credo che nessuno abbia avuto nulla da dire
3) Non viene contestato l'input, ma il fatto che tutti i passaggi intermedi per arrivare alle risposte non sono stati inseriti nel video.

Unrue
11-12-2023, 13:15
Non è solo questo, semplicemente quello che viene mostrato è falso.
Per esempio nel video c'è una pezzo in cui la IA capisce che l'operatore vuole giocare a sasso-carta-forbice dopo che gli vengono mostrate due "segni".
Nella realtà gli sono state mostrate delle foto e fin qui tutto bene ma non solo due "segni" bensi tutti e 3 e gli è stato esplicitamente chiesto "secondo te cosa sto facendo? ti do un indizio: è un gioco"

Da mostrare due mani a mostrarne 3 con domanda esplicita e indizio c'è un abisso ed è solo uno dei tanti esempi.
Non hanno tolto solo le latenze, hanno tolto anche tutte le domande e indizi intermedi che portano al riconoscimento del compito da svolgere.

Sicuramente hanno un pò enfatizzato, d'altronde chi non lo fa? Ma spiegano anche come hanno generato quelle risposte. Se volevano veramente ingannare non avrebbero spiegato proprio nulla non credi?

E' chiaro che servono test indipendenti, quelli fatti dalla casa madre sono sempre di parte. Infine, la cosa che ripete sempre il tipo del video che hai postato: 32 passate per Gemini, solo 5 per Chat GPT, ci sono anche degli asterischi accanto. Cosa vogliono dire? Non ho trovato il documento che mostra, lo vorrei vedere.

EDIT: credo sia questo:

https://storage.googleapis.com/deepmind-media/gemini/gemini_1_report.pdf

Lì c'è il confronto da 32 passaggi per entrambi. Ma la schermata che mostra al minuto 3:59 non so dove l'abbia presa.

Mars95
11-12-2023, 13:23
Sicuramente hanno un pò enfatizzato, d'altronde chi non lo fa? Ma spiegano anche come hanno generato quelle risposte. Se volevano veramente ingannare non avrebbero spiegato proprio nulla non credi?

Penso che si potrebbe discutere per anni se va considerato un inganno o meno, quindi lasciamo stare.
Tutti però hanno visto quel video e solo una piccola percentuale ha capito da tutte le informazioni di contorno che le cose non stanno come mostrate nel video.

Il mio parere è che qua si va ben oltre l'enfatizzare.
Fare il video al posto della chat è enfatizzare, far credere che risponda giusto al primo colpo quando ci sono 7 o 8 passaggi in mezzo è molto oltre.

mrk-cj94
26-12-2023, 17:39
La strategia corretta è quella seguita da Microsoft e non si tratta di fanboysmo dato che non mi ricordo nemmeno l'ultima volta che ho avviato Windows :huh:
Si chiama "copilot" perchè chi guida sei tu, l'IA serve solo a darti una mano ed è già fruibile ora per diversi compiti d'ufficio.
Non si tratta di una moda passeggera come VR, qui ci sono in ballo investimenti di diversi ordini di grandezza superiori. L'IA generativa è qui per rimanere :O

ovvero? esempi di esperienza diretta?

mrk-cj94
26-12-2023, 17:41
Nessuno mette in dubbio l'utilità oggi , però c'è gente che profetizza la fine del mondo o la soluzione di ogni male grazie alla IA , e queste aspettative potrebbero non corrispondere a quanto promesso . Ho visto pure io che è in grado di risolvere problemi matematici complessi o creare opere letterarie o artistiche . Ma girano troppi soldi intorno e probabilmente qualcuno resterà col cerino in mano .

e chisenefrega di quello/i, l'IA va oltre