Queste AI sanno quando vengono messe alla prova e cambiano comportamento

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/qu...to_154835.html

Uno studio di Neo Research ha rilevato che alcuni modelli di intelligenza artificiale, inclusi sistemi sviluppati in Cina, riescono a capire quando sono sottoposti a valutazioni di sicurezza. Questa capacità potrebbe alterare i risultati dei test e mettere in discussione l'affidabilità delle procedure utilizzate per certificare tali tecnologie

Click sul link per visualizzare la notizia.

[UtenteHD]

Grazie per info,
ovvio che siamo alla preistoria, non ragionano, tutto a probabilità ecc..
comunque per un uso free, e nonostante questo nel giro di un anno ho visto miglioramenti veramente importanti nei modelli, sia miglioramento di precisione (sbagliano, ma sono più attenti) sia come finzione di ragionamento, anche se non ragionano, ragionano meglio.

[supertigrotto]

Dopo il diesel gate ecco IA gate!
Oppure mi ricorda quando gli smartphone aumentavano le frequenze quando sentivano che si faceva girare il benchmark

[mmorselli]

Notizia freschissima proprio, è oltre un anno che si conoscono e studiano queste cose

https://arxiv.org/abs/2505.23836

[mmorselli]

Originariamente inviato da UtenteHD

sia come finzione di ragionamento, anche se non ragionano, ragionano meglio.

Ragionano. Si può dire che non siano coscienti, che non siano intelligenti, ma non che non ragionano. Il ragionamento è un sistema che partendo da informazioni disponibili ne elabora di nuove, dire che un LLM non ragiona perché non usa un cervello biologico sarebbe come dire che un computer non conta perché non ha le dita. Contare, come ragionare, è un verbo, un'azione, come la fai non cambia, un orologio conta le ore, le api sanno contare e sicuramente lo fanno in modo molto diverso da come lo facciamo noi. Le api non ragionano pur essendo biologiche, un LLM lo fa, pur essendo un modello di dati digitale.

[UtenteHD]

Originariamente inviato da mmorselli

Ragionano. Si può dire che non siano coscienti, che non siano intelligenti, ma non che non ragionano. Il ragionamento è un sistema che partendo da informazioni disponibili ne elabora di nuove, dire che un LLM non ragiona perché non usa un cervello biologico sarebbe come dire che un computer non conta perché non ha le dita. Contare, come ragionare, è un verbo, un'azione, come la fai non cambia, un orologio conta le ore, le api sanno contare e sicuramente lo fanno in modo molto diverso da come lo facciamo noi. Le api non ragionano pur essendo biologiche, un LLM lo fa, pur essendo un modello di dati digitale.

Avere un cervello biologico non centra nulla, non ragionano (per ora) perchè::
- gli LLM non ragionano davvero, producono solo testo statisticamente coerente
- non hanno comprensione cosciente
- non sono consapevoli di quello che dicono
ecc..
Basta usarle giornalmente per vedere tutto questo.
Gli LLM (per ora) mostrano comportamenti simil ragionamento, ma (per ora) non è che questo corrisponda al "ragionare" nel senso forte e umano (il cervello biologico non centra nulla) del termine
Poi tra X o XX anni saranno meglio di Noi in tutto, è molto probabile e prima o poi dovrebbe succedere

[mmorselli]

Originariamente inviato da UtenteHD

- gli LLM non ragionano davvero, producono solo testo statisticamente coerente

Io sopra ho dato una definizione sommaria di "ragionare" a sto punto danne una tu.

- non hanno comprensione cosciente

Non ci risulta che siano coscienti, ma chi ha detto che il ragionamento richieda coscienza? Non è un requisito.

- non sono consapevoli di quello che dicono

qui secondo me invece fai confusione. La coscienza è ontologica, ma la consapevolezza è cognitiva, un LLM è consapevole del contesto dentro a cui sta producendo la prossima risposta, sa cosa ha detto prima. Sanno quando non sanno qualcosa, e lo dicono, sanno di aver fatto un errore.

malgrado questo, però, nemmeno la consapevolezza è un requisito del ragionamento.

ma (per ora) non è che questo corrisponda al "ragionare" nel senso forte e umano (il cervello biologico non centra nulla) del termine

Eh no, non puoi dire che gli LLM non ragionano "nel senso umano del termine", e grazie al cazzo

Anche un computer non conta "nel senso umano del termine", qualunque cosa voglia dire, semplicemente perché è un computer, ciò nonostante compie l'azione di contare, quindi conta. Allo stesso modo un LLM compie l'azione di ragionare, che non è nulla di particolarmente mistico. Sai in filosofia come si chiama il processo che guida il ragionamento? Inferenza... Dove abbiamo già sentito questa parola?

Non c'è nessuna necessità di antropomorfizzare la macchina per riconoscervi dei comportamenti. Di coscienza non parliamo anche perché si tratta di uno stato ontologico interiore, io so di essere cosciente, ma nulla potrà mai provarmi che tu lo sei. Tramite un processo d'inferenza, appunto, suppongo che siccome io sono umano e tu sei umano, allora abbiamo la stessa mente, ma non ho modo di provare la mia ipotesi, posso solo chiederti se sei cosciente e se mi rispondi di sì, fidarmi che non sei uno zombie che simula la coscienza.

Ma nessuno parlava di coscienza qui...