Gli LLM non comprendono il mondo in maniera coerente: lo studio del MIT

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...it_132649.html

La capacità di produrre testi e codice di programmazione non è necessariamente testimonianza di una reale comprensione della realtà

Click sul link per visualizzare la notizia.

[supertigrotto]

Gli llm sono potentissimi pappagalli,molto utili,ti possono sveltire il lavoro ma per adesso sono solo pappagalli.
Per ora,la cosa migliore è la guida umana aiutata da questi llm,l'essere umano per adesso ha ancora un peso.

[Unax]

come fottere una intelligenza artificiale

https://www.youtube.com/watch?v=dIpsvF50yps

[Opteranium]

beh, mi pare ovvio che non comprendano, anche perché diversamente sarebbero già vere e proprie intelligenze artificiali

[h.rorschach]

Gli LLM non comprendono, non possono comprendere

[TorettoMilano]

vabbè l'anno prossimo avremo l'AGI, poi valutiamo

[pachainti]

La scoperta dell'acqua calda.
Peccato se ne fossero accorti praticamente tutti...tranne chi non ha ancora capito come funzionino.

ChatGPT is bullshit
Pappagalli stocastici e il potere delle big tech
Generatori di stronzate e sciacquoni
Stronzate Artificiali

Ma soprattutto Searle.

[omerook]

l'importante è che prenda i topi!

[Nui_Mg]

Originariamente inviato da omerook

l'importante è che prenda i topi!

Per quelli bastano i gatti, come fanno già da tempo all'Hermitage

[PierPang]

Il paper originale non dice che gli LLM non hanno comprensione del mondo, ma che in determinati casi il modello che si costruiscono è fragile e non del tutto coerente. Lo scopo dei ricercatori, con buona pace dei negazionisti, non era quello di dimostrae che l'AI non esiste, ma di trovare metriche migliori per misurare la qualità del modello implicito che gli LLM si costruiscono in modo da poterli rendere più accurati.

[polkaris]

@PierPang sono assolutamente d'accordo, il lavoro originale è interessante perché parla di nuove metriche...stavo proprio per fare un intervento analogo al tuo. Il titolo dell'articolo è fuorviante e lo sono anche buona parte dei commenti.

[Lahila]

"i modelli di intelligenza artificiale possono avere la capacità di eseguire compiti complessi, ma senza necessariamente comprendere le regole sottostanti e ancor di meno di avere una piena comprensione e consapevolezza della realtà."

Anche la nostra amministrazione pubblica, vedasi la rimozione degli sbarramenti fluviali a Valencia.

[euscar]

non è necessariamente testimonianza di una reale comprensione della realtà

In pratica non lo è per niente!

I modelli LLM agiscono solo in base a risultati statistici, quindi le risposte che forniscono sono solo quelle più probabili, quindi daranno delle risposte a seconda di come vengono "allenati".
Ben lungi dal significato di comprensione che conosciamo noi essere umani. Se poi uno mi viene a stravolgere il senso di questo termine, allora non ci capiamo proprio

[DShimoda82]

fanno solo associazioni tra simboli in base agli input.
è assurdo ritenere che possano comprendere.
non fanno esperienza.
non vedono in stereo.
non odono.
non camminano.
non esplorano.
mettiamola in un robot, e poi vediamo come integra le informazioni.
l'informazione è nulla senza esperienza.

[Darkon]

Originariamente inviato da DShimoda82

fanno solo associazioni tra simboli in base agli input.
è assurdo ritenere che possano comprendere.
non fanno esperienza.
non vedono in stereo.
non odono.
non camminano.
non esplorano.
mettiamola in un robot, e poi vediamo come integra le informazioni.
l'informazione è nulla senza esperienza.

Come è stato già detto decine di volte non si può confondere una vera IA con gli LLM.

Gli LLM sono un tool che in certi ambiti è estremamente utile e che semplifica molte cose, non tutte e sicuramente fallibile ma che semplifica molto.

Fare paragoni con quello che dovrebbe/potrebbe fare una vera IA autocosciente non ha alcun senso perché un LLM non lo è, non può esserlo e non vogliono nemmeno essere una cosa del genere.

Per fare un esempio è come se ci si lamentasse delle CPU dicendo che non sono "cervelli elettronici" perché mica pensano realmente, non imparano ecc... ecc...

[omerook]

Originariamente inviato da Darkon

Per fare un esempio è come se ci si lamentasse delle CPU dicendo che non sono "cervelli elettronici" perché mica pensano realmente, non imparano ecc... ecc...

..come dire non uso il trattore perché non capisce niente di agricoltura

[euscar]

Originariamente inviato da Darkon

Come è stato già detto decine di volte non si può confondere una vera IA con gli LLM.
...

Tutto il mondo si ostina a chiamarli IA ... se si chiamassero solamente LLM immagino non farebbero così presa sulle menti deboli

In ogni caso, se e/o quando verrà implementata una vera IA spero di non essere ancora vivo per assistere a tale epocale cambiamento.

[TorettoMilano]

qui dice ci siano diversi livelli di intelligenza artificiale e ci ficca pure dentro siri e alexa nel livello più basso. presumo sul forum si consideri intelligenza artificiale dall'AGI in su ma, tenendo conto dei 3 livelli, è un presupposto sbagliato

https://www.ngsecurity.it/security-b...l-nostro-mondo

[Darkon]

Originariamente inviato da euscar

Tutto il mondo si ostina a chiamarli IA ... se si chiamassero solamente LLM immagino non farebbero così presa sulle menti deboli

In ogni caso, se e/o quando verrà implementata una vera IA spero di non essere ancora vivo per assistere a tale epocale cambiamento.

I nomi commerciali da sempre sono cose semplici e alla portata di tutti.

Se le chiamassero LLM t'immagini... il 90% del pubblico non saprebbe nemmeno cosa sono e diventerebbero dei misteriosi siti usati solo da appassionati.

Quanto alla seconda parte francamente non capisco proprio perché tanta gente viva così male l'eventuale avvento di una IA senziente. Io spero di riuscire a vederla nascere e averci a che fare prima della mia fine. L'idea la trovo affascinante e ti dirò di più probabilmente non sarà possibile ma vorrei addestrare e crescere una mia AI senziente.

Pensa alle possibilità... qualcosa che cresce imparando tutto di te, che ti segue ovunque come una interfaccia universale, in grado di interagire e configurare qualsiasi cosa con cui interagisci.
Dopo lo smartphone, il PC e così via una rivoluzione tecnologia e informatica senza precedenti.

Originariamente inviato da TorettoMilano

qui dice ci siano diversi livelli di intelligenza artificiale e ci ficca pure dentro siri e alexa nel livello più basso. presumo sul forum si consideri intelligenza artificiale dall'AGI in su ma, tenendo conto dei 3 livelli, è un presupposto sbagliato

https://www.ngsecurity.it/security-b...l-nostro-mondo

Tore per usare quella classificazione diciamo che spero di vivere abbastanza da poter avere una mia AGI e sogno ma con poche speranzie di campare per vedere una ASI.