Link alla notizia: https://www.hwupgrade.it/news/apple/gli-assistenti-ia-faticano-a-riconoscere-i-fatti-dalle-opinioni-distorcendo-le-notizie-lo-studio_135596.html

Gli assistenti IA stanno diventando sempre più presenti nelle nostre vite, ma la loro affidabilità è messa in discussione da pregiudizi e distorsioni. Un nuovo studio della BBC esplora come questi problemi possano influenzare le interazioni fra l'uomo e gli strumenti digitali, proponendo soluzioni per migliorare l'equità degli algoritmi.

Click sul link per visualizzare la notizia.

Io credo che sia sempre più fondamentale implementare un sistema di rating delle fonti da cui attingono queste IA.
L'errore di "comprensione" potrebbe essere corretto man mano che i parametri e gli algoritmi vengono affinati ma la base da cui attingono, se non viene correttamente "catalogata" (ad esempio per capire quali contenuti siano "oggettivi" in quanto documentabili e quali siano puramente opinioni) resta una bella insalata di nulla (non credo si possa arrivare alle catastrofi paventate nell'articolo ma sicuramente di confusione ne abbiamo abbastanza).
Anche solo i riferimenti accurati di quali siano le fonti utilizzate per le risposte sarebbe già un passo avanti mostruoso perchè io continuo a usare questi bot ma quando cerco di approfondire l'argomento sembra di scavare nell'oceano, più a fondo cerchi di andare e più roba continua a proporsi.

"Gli assistenti IA faticano a riconoscere i fatti dalle opinioni, distorcendo le notizie" come le persone quindi!

Gli assistenti IA stanno diventando sempre più presenti nelle nostre vite

Parlate per voi....

vorrei capire come una IA (che di intelligente in realtà non ha nulla) fa a distinguere un fatto da una opinione

un essere umano ha capacità di ragionamento e quindi può al limite dedurre la differenza se ha un minimo di QI ma una macchina prende dei dati e li elabora

se quei dati dicessero che la luna è fatta di formaggio alla domanda di cosa è fatta la luna risponderebbe di formaggio ovvero capacità di discernimento inferiore a quella di un bambino di 4 anni

Le aziende che si occupano di Gen AI stanno "giocando con il fuoco"

vediamo chi è la prima che si scotta...

Puoi riuscire a fare il 99% dei lavori in un centesimo del tempo ma se quell'1% ti costa cento volte tanto non hai guadagnato niente.

Mettiamo che azzecchi 99 diagnosi su 100 ma in quella che sbagli, la sbagli così tanto che il paziente muore, che si fa? Per me è palese che l'IA può essere un ottimo aiuto per migliorare la qualità del nostro lavoro ma l'intervento umano almeno come supervisione non potrà mai mancare.

vorrei capire come una IA (che di intelligente in realtà non ha nulla) fa a distinguere un fatto da una opinione

un essere umano ha capacità di ragionamento e quindi può al limite dedurre la differenza se ha un minimo di QI ma una macchina prende dei dati e li elabora

se quei dati dicessero che la luna è fatta di formaggio alla domanda di cosa è fatta la luna risponderebbe di formaggio ovvero capacità di discernimento inferiore a quella di un bambino di 4 anni

L'IA non è un essere umano, ma non è nemmeno un pappagallo orbo. Ha capacità di analisi testuale e classificazione, anche se mancano consapevolezza e intuizione in senso stretto..