PDA

View Full Version : Gli LLM non comprendono il mondo in maniera coerente: lo studio del MIT


Redazione di Hardware Upg
11-11-2024, 11:11
Link alla notizia: https://www.hwupgrade.it/news/scienza-tecnologia/gli-llm-non-comprendono-il-mondo-in-maniera-coerente-lo-studio-del-mit_132649.html

La capacità di produrre testi e codice di programmazione non è necessariamente testimonianza di una reale comprensione della realtà

Click sul link per visualizzare la notizia.

supertigrotto
11-11-2024, 12:19
Gli llm sono potentissimi pappagalli,molto utili,ti possono sveltire il lavoro ma per adesso sono solo pappagalli.
Per ora,la cosa migliore è la guida umana aiutata da questi llm,l'essere umano per adesso ha ancora un peso.

Unax
11-11-2024, 12:53
come fottere una intelligenza artificiale :D

https://www.youtube.com/watch?v=dIpsvF50yps

Opteranium
11-11-2024, 12:56
beh, mi pare ovvio che non comprendano, anche perché diversamente sarebbero già vere e proprie intelligenze artificiali

h.rorschach
11-11-2024, 13:18
Gli LLM non comprendono, non possono comprendere

TorettoMilano
11-11-2024, 13:20
vabbè l'anno prossimo avremo l'AGI, poi valutiamo

pachainti
11-11-2024, 14:58
La scoperta dell'acqua calda.
Peccato se ne fossero accorti praticamente tutti...tranne chi non ha ancora capito come funzionino.

ChatGPT is bullshit (https://link.springer.com/article/10.1007/s10676-024-09775-5)
Pappagalli stocastici e il potere delle big tech (https://www.scienzainrete.it/articolo/pappagalli-stocastici-e-potere-delle-big-tech/chiara-sabelli/2021-03-12)
Generatori di stronzate e sciacquoni (https://www.spreaker.com/episode/dk9x05-generatori-di-stronzate-e-sciacquoni--62461791)
Stronzate Artificiali (https://www.spreaker.com/episode/dk-7x10-stronzate-artificiali--52160617)

Ma soprattutto Searle (https://it.wikipedia.org/wiki/Stanza_cinese).

:D

omerook
11-11-2024, 15:37
l'importante è che prenda i topi!

Nui_Mg
11-11-2024, 16:36
l'importante è che prenda i topi!
Per quelli bastano i gatti, come fanno già da tempo all'Hermitage :)

PierPang
11-11-2024, 19:31
Il paper originale non dice che gli LLM non hanno comprensione del mondo, ma che in determinati casi il modello che si costruiscono è fragile e non del tutto coerente. Lo scopo dei ricercatori, con buona pace dei negazionisti, non era quello di dimostrae che l'AI non esiste, ma di trovare metriche migliori per misurare la qualità del modello implicito che gli LLM si costruiscono in modo da poterli rendere più accurati.

polkaris
12-11-2024, 08:49
@PierPang sono assolutamente d'accordo, il lavoro originale è interessante perché parla di nuove metriche...stavo proprio per fare un intervento analogo al tuo. Il titolo dell'articolo è fuorviante e lo sono anche buona parte dei commenti.

Lahila
12-11-2024, 13:00
"i modelli di intelligenza artificiale possono avere la capacità di eseguire compiti complessi, ma senza necessariamente comprendere le regole sottostanti e ancor di meno di avere una piena comprensione e consapevolezza della realtà."

Anche la nostra amministrazione pubblica, vedasi la rimozione degli sbarramenti fluviali a Valencia.

euscar
12-11-2024, 17:41
non è necessariamente testimonianza di una reale comprensione della realtà

In pratica non lo è per niente!

I modelli LLM agiscono solo in base a risultati statistici, quindi le risposte che forniscono sono solo quelle più probabili, quindi daranno delle risposte a seconda di come vengono "allenati".
Ben lungi dal significato di comprensione che conosciamo noi essere umani. Se poi uno mi viene a stravolgere il senso di questo termine, allora non ci capiamo proprio :rolleyes:

DShimoda82
14-11-2024, 07:59
fanno solo associazioni tra simboli in base agli input.
è assurdo ritenere che possano comprendere.
non fanno esperienza.
non vedono in stereo.
non odono.
non camminano.
non esplorano.
mettiamola in un robot, e poi vediamo come integra le informazioni.
l'informazione è nulla senza esperienza.

Darkon
14-11-2024, 09:52
fanno solo associazioni tra simboli in base agli input.
è assurdo ritenere che possano comprendere.
non fanno esperienza.
non vedono in stereo.
non odono.
non camminano.
non esplorano.
mettiamola in un robot, e poi vediamo come integra le informazioni.
l'informazione è nulla senza esperienza.

Come è stato già detto decine di volte non si può confondere una vera IA con gli LLM.

Gli LLM sono un tool che in certi ambiti è estremamente utile e che semplifica molte cose, non tutte e sicuramente fallibile ma che semplifica molto.

Fare paragoni con quello che dovrebbe/potrebbe fare una vera IA autocosciente non ha alcun senso perché un LLM non lo è, non può esserlo e non vogliono nemmeno essere una cosa del genere.

Per fare un esempio è come se ci si lamentasse delle CPU dicendo che non sono "cervelli elettronici" perché mica pensano realmente, non imparano ecc... ecc...

omerook
14-11-2024, 10:01
Per fare un esempio è come se ci si lamentasse delle CPU dicendo che non sono "cervelli elettronici" perché mica pensano realmente, non imparano ecc... ecc...

..come dire non uso il trattore perché non capisce niente di agricoltura

euscar
14-11-2024, 15:17
Come è stato già detto decine di volte non si può confondere una vera IA con gli LLM.
...


Tutto il mondo si ostina a chiamarli IA ... se si chiamassero solamente LLM immagino non farebbero così presa sulle menti deboli :doh:

In ogni caso, se e/o quando verrà implementata una vera IA spero di non essere ancora vivo per assistere a tale epocale cambiamento.

TorettoMilano
14-11-2024, 15:30
qui dice ci siano diversi livelli di intelligenza artificiale e ci ficca pure dentro siri e alexa nel livello più basso. presumo sul forum si consideri intelligenza artificiale dall'AGI in su ma, tenendo conto dei 3 livelli, è un presupposto sbagliato

https://www.ngsecurity.it/security-blog/ani-agi-o-asi-quale-ai-salvera-il-nostro-mondo

Darkon
15-11-2024, 07:12
Tutto il mondo si ostina a chiamarli IA ... se si chiamassero solamente LLM immagino non farebbero così presa sulle menti deboli :doh:

In ogni caso, se e/o quando verrà implementata una vera IA spero di non essere ancora vivo per assistere a tale epocale cambiamento.

I nomi commerciali da sempre sono cose semplici e alla portata di tutti.

Se le chiamassero LLM t'immagini... il 90% del pubblico non saprebbe nemmeno cosa sono e diventerebbero dei misteriosi siti usati solo da appassionati.

Quanto alla seconda parte francamente non capisco proprio perché tanta gente viva così male l'eventuale avvento di una IA senziente. Io spero di riuscire a vederla nascere e averci a che fare prima della mia fine. L'idea la trovo affascinante e ti dirò di più probabilmente non sarà possibile ma vorrei addestrare e crescere una mia AI senziente.

Pensa alle possibilità... qualcosa che cresce imparando tutto di te, che ti segue ovunque come una interfaccia universale, in grado di interagire e configurare qualsiasi cosa con cui interagisci.
Dopo lo smartphone, il PC e così via una rivoluzione tecnologia e informatica senza precedenti.

qui dice ci siano diversi livelli di intelligenza artificiale e ci ficca pure dentro siri e alexa nel livello più basso. presumo sul forum si consideri intelligenza artificiale dall'AGI in su ma, tenendo conto dei 3 livelli, è un presupposto sbagliato

https://www.ngsecurity.it/security-blog/ani-agi-o-asi-quale-ai-salvera-il-nostro-mondo

Tore per usare quella classificazione diciamo che spero di vivere abbastanza da poter avere una mia AGI e sogno ma con poche speranzie di campare per vedere una ASI.