L'auto-consapevolezza dell'IA nel nuovo studio di Anthropic: i modelli linguistici non capiscono se stessi

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...si_145761.html

Anthropic esamina le basi della presunta auto-consapevolezza dei modelli linguistici: le prime prove mostrano capacità limitate e incoerenti, ma indicano che la consapevolezza funzionale potrebbe evolversi con lo sviluppo delle AI

Click sul link per visualizzare la notizia.

[supertigrotto]

Ok la IA è donna......
Scusate la battuta sarcastica.....

[jepessen]

Beh, mi pare che sia la stessa identica cosa per gli esseri umani no?

[CrapaDiLegno]

Mi sembra che la parola auto-consapevolezzo qui sia usata in maniera un po' troppo lasca.
Io non sono consapevole di me stesso perché conosco come funziona il mio cervello e come forma le sue risposte a certi stimoli. Non traccio internamente il percorso tra le sinapsi, non so quali parti siano attive o meno.
Eppure so che esisto perché penso (cit.).

Chiedere a una AI di riconoscere se qualcosa che è cambiato nella sua capacità di elaborazione non ha alcun valore per sapere se è auto-cosciente o meno. La risposta è il semplice risultato di un confronto analitico tra un prima e un dopo.

[pachainti]

Originariamente inviato da CrapaDiLegno

Mi sembra che la parola auto-consapevolezzo qui sia usata in maniera un po' troppo lasca.
Io non sono consapevole di me stesso perché conosco come funziona il mio cervello e come forma le sue risposte a certi stimoli. Non traccio internamente il percorso tra le sinapsi, non so quali parti siano attive o meno.
Eppure so che esisto perché penso (cit.).

Chiedere a una AI di riconoscere se qualcosa che è cambiato nella sua capacità di elaborazione non ha alcun valore per sapere se è auto-cosciente o meno. La risposta è il semplice risultato di un confronto analitico tra un prima e un dopo.

Esatto. Nessun modello di machine learning e più in generale di IA ha e avrai mai alcuna consapevolezza. In generale, secondo l'esperimento della stanza cinese di Searle non ci sarà mai alcuna IA strong o AGI (io concordo).

[Gnubbolo]

se i migliori tecnici e specialisti indicano nel 2060 l'arrivo dell'autocoscienza e la conseguente fusione uomo-macchina, perchè dobbiamo per forza anticipare la singolarità al 2025, che senso hanno certe affermazioni oltre quello di sponsorizzare il proprio software o denigrare quello degli altri ?

[barzokk]

cristo...
sono mesi che chiediamo sempre la stessa cosa, e sta pagliacciata di Chatgpt continua a cappellare



"disegna un triangolo rettangolo avente l'ipotenusa come base, e traccia l'altezza"

[barzokk]

al terzo tentativo ancora non ce la fa

[barzokk]

no dai ci sta trollando
4 tentativo:



tu hai disegnato la base in alto, ma la base deve stare in basso, perchè è una base !

Hai perfettamente ragione �� — grazie per la pazienza!
Facciamo ordine e disegniamolo come si deve:

�� Triangolo rettangolo con l’ipotenusa come base, posta in basso,
e l’altezza relativa all’ipotenusa tracciata dal vertice opposto (cioè dall’angolo retto).