I modelli AI sono incoerenti: pensano una cosa ma ne dicono un'altra

Redazione di Hardware Upg · 25-06-2025, 11:32

Link alla notizia: https://www.hwupgrade.it/news/scienz...ra_140261.html

Le principali aziende AI come OpenAI e Anthropic usano la tecnica chain-of-thought per mostrare il ragionamento dei modelli, ma nuove ricerche rivelano che spesso il processo esposto non corrisponde a come l’AI arriva davvero alle risposte, sollevando importanti dubbi sulla trasparenza e sicurezza

Click sul link per visualizzare la notizia.

Fantapollo · 25-06-2025, 11:58

Quote:

Originariamente inviato da Redazione di Hardware Upgrade

Link alla notizia: https://www.hwupgrade.it/news/scienz...ra_140261.html

Le principali aziende AI come OpenAI e Anthropic usano la tecnica chain-of-thought per mostrare il ragionamento dei modelli, ma nuove ricerche rivelano che spesso il processo esposto non corrisponde a come l’AI arriva davvero alle risposte, sollevando importanti dubbi sulla trasparenza e sicurezza

Click sul link per visualizzare la notizia.

Ormai le pippate sull'IA sono quotidiane... Persone che non accettano che questa nuova intelligenza sia già superiore all'uomo.

Nicodemo Timoteo Taddeo · 25-06-2025, 12:03

Mah proprio poco fa ho avuto un ulteriore esperienza sulla incoerenza. Cercavo informazioni su un argomento informatico ho posto due domande formulate diversamente per sapere se sempre la stessa IA considerava una operazione fattibile. Due risposte diametralmente opposte.

1) Si può fare, aggiungendo il consueto lungo corollario di info.

2) Non si può fare, aggiungendo il consueto corollario di info.

dmbit · 25-06-2025, 12:19

Se sono incoerenti si comportano esattamente come la maggior parte degli esseri umani reali: sempre più realistiche, insomma!

pachainti · 25-06-2025, 13:03

Pensano?

Sono solo dei generatori di stronzate ChatGPT is bullshit.

FaTcLA · 25-06-2025, 13:18

Quote:

Originariamente inviato da Fantapollo

Ormai le pippate sull'IA sono quotidiane... Persone che non accettano che questa nuova intelligenza sia già superiore all'uomo.

Ma per piacere, é tutta sbobba e dividendi

UtenteHD · 25-06-2025, 14:55

Beh, come gia' detto, in questo sono come o superiori a Noi. Non vedo futuro roseo, per lavori e per ogni altra cosa che sara' fatta da Loro e da Loro decisa, spero ovviamente di sbagliarmi.

euscar · 25-06-2025, 18:15

Quote:

Originariamente inviato da Fantapollo

Ormai le pippate sull'IA sono quotidiane... Persone che non accettano che questa nuova intelligenza sia già superiore all'uomo.

Le tue sono ancora più spassose

Quote:

Originariamente inviato da dmbit

Se sono incoerenti si comportano esattamente come la maggior parte degli esseri umani reali: sempre più realistiche, insomma!

D'altronde sono allenate su tutto ciò che trovano in rete e da questo punto di vista si può leggere di tutto.

supertigrotto · 30-06-2025, 03:46

Naturalmente è sarcasmo.
Una volta si diceva: una donna dice una cosa,ne pensa a un'altra e ne fa un'altra ancora.
La IA è donna!

25-06-2025, 13:03	#5
pachainti Senior Member Iscritto dal: May 2020 Messaggi: 1214	Pensano? Sono solo dei generatori di stronzate ChatGPT is bullshit. __________________ Nel tempo dell'inganno universale, dire la verità è un atto rivoluzionario. George Orwell Il vero valore di una persona non si misura dai valori in cui sostiene di credere, ma da che cosa è disposto a fare per proteggerli. Se non pratichi i valori in cui credi, probabilmente non ci credi fino in fondo. Edward Snowden Coloro che rinuncerebbero alla libertà essenziale, per acquistare un po' di sicurezza temporanea, non meritano né libertà né sicurezza. Benjamin Franklin

25-06-2025, 11:32	#1
Redazione di Hardware Upg www.hwupgrade.it Iscritto dal: Jul 2001 Messaggi: 75166	Link alla notizia: https://www.hwupgrade.it/news/scienz...ra_140261.html Le principali aziende AI come OpenAI e Anthropic usano la tecnica chain-of-thought per mostrare il ragionamento dei modelli, ma nuove ricerche rivelano che spesso il processo esposto non corrisponde a come l’AI arriva davvero alle risposte, sollevando importanti dubbi sulla trasparenza e sicurezza Click sul link per visualizzare la notizia.

25-06-2025, 12:03	#3
Nicodemo Timoteo Taddeo Senior Member Iscritto dal: Mar 2008 Messaggi: 20587	Mah proprio poco fa ho avuto un ulteriore esperienza sulla incoerenza. Cercavo informazioni su un argomento informatico ho posto due domande formulate diversamente per sapere se sempre la stessa IA considerava una operazione fattibile. Due risposte diametralmente opposte. 1) Si può fare, aggiungendo il consueto lungo corollario di info. 2) Non si può fare, aggiungendo il consueto corollario di info.

25-06-2025, 12:19	#4
dmbit Senior Member Iscritto dal: Mar 2003 Città: Bologna Messaggi: 1142	Se sono incoerenti si comportano esattamente come la maggior parte degli esseri umani reali: sempre più realistiche, insomma!

25-06-2025, 14:55	#7
UtenteHD Senior Member Iscritto dal: Sep 2022 Messaggi: 1878	Beh, come gia' detto, in questo sono come o superiori a Noi. Non vedo futuro roseo, per lavori e per ogni altra cosa che sara' fatta da Loro e da Loro decisa, spero ovviamente di sbagliarmi.

30-06-2025, 03:46	#9
supertigrotto Senior Member Iscritto dal: Aug 2006 Città: Valdagno Messaggi: 5762	Naturalmente è sarcasmo. Una volta si diceva: una donna dice una cosa,ne pensa a un'altra e ne fa un'altra ancora. La IA è donna!

Strumenti
Mostra una versione stampabile Invia questa pagina per email