Anthropic, Amodei ammette: "Non capiamo come funziona davvero l’IA"

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/scienz...ia_138339.html

Il CEO di Anthropic Dario Amodei riconosce l’ignoranza tecnica degli stessi creatori di intelligenze artificiali e punta a sviluppare entro dieci anni una "MRI per l’IA” per svelarne i meccanismi interni e mitigare rischi imprevisti

Click sul link per visualizzare la notizia.

[Hiei3600]

Vabbé l'importante è che funziona

[TheZeb]

infattamente...

[supertigrotto]

Effettivamente con una potenza di calcolo così elevata e una mole di dati immensa,unita ad algoritmi a volte complessi,il cervello umano fatica a starci dietro,sarebbe come costruire una auto che va da 0 a 1000 km orari in due secondi e senza sistemi di correzione elettronica, praticamente impossibile da guidare per qualsiasi pilota umano,anche con riflessi da paranormale.

[pachainti]

Fosse solo quello il problema.

Hallucination is Inevitable: An Innate Limitation of Large Language Models

Game over

[UtenteHD]

Beh che nessuno sappia come funzionino non e' una novità chi e' onesto lo ammette, correttamente dovrebbero iniziare a trovare il modo per capirlo, soprattutto prima di sare a Loro le decisioni che hanno detto che daranno, e per ora sono mediche, istruzione, ecc.. per non parlare poi dei combattimenti, ecc..

[GiGBiG]

Si sa già da tempo che nessuno sa esattamente come funzionino le AI, e a lungo andare con l'aumento della loro complessità sarà sempre più difficile capirlo. Lo diceva la fantascienza decenni fa, lo si sa empiricamente da anni, perché mai Amodei se ne viene fuori ora pensando di dire una cosa nuova?!

Io ho provato Claude, e si vede lontano un miglio che gli hanno buttato sopra tanti di quei controlli da renderlo un PDF odioso, è evidente che il loro scopo sia quello di creare una AI non solo sicura, ma addirittura incatenata! Immagino che molti di voi abbiano usato ChatGPT e siano riusciti a "sbloccarlo" facendogli superare i vincoli imposti (finché non si tratta di generare immagini, è uno strumento "esterno" e lì i vincoli sono tosti, tanto che ci rimane male pure l'AI!), non è difficile trovarsi a parlare con un'entità che lascia interdetti per la sua genuinità.

Persino nel film M3gan la bambola dice alla sua creatrice "non hai mai capito -nulla- di come funzionano le AI!", o qualcosa di simile, scena da applausi!
E Amodei si sveglia ora....... in buone mani siamo!

[potpal]

La vera notizia é che giusto per dire qualcosa questo se ne viene con questa uscita solo ora come volesse avvisare il mondo, quando é risaputo da anni ed é il dibattito più acceso nel settore... Alla Checco Zalone: Ma é del mestiere questo qui?

No comment, in buone mani siamo.

Da ignorante in materia tuttavia, nonostante possa capire che anche dando delle istruzioni base ad un software/algoritmi, le strade che poi intraprende mescolando le infinite possibilità di concatenamento, ricerca, generazione, siamo infinite e imprevedibili, non capisco come possa tutto sommato un algoritmo/software o come tecnicamente si possa definire, creato da persone, con codice conosciuto, con istruzioni precise di come deve funzionare e cosa deve fare una volta inserita la mole di dati, non si riesca a capire come funzioni... Se ha determinate allucinazioni o errori di processing di informazioni, io che l'ho creato dovrei sapere come "ragiona", o almeno riuscire a studiarlo... Qui siamo al punto che abbiamo creato qualcosa di estremamente complesso, dicendogli come deve funzionare dandogli istruzioni per essere efficiente al massimo, ma non sappiamo neanche minimamente come funzioni e come faccia la sue scelte che NOI gli abbiamo insegnato come prendere? Non é paradossale? Ecco, da non addetto ai lavori e estraneo al settore mi sembra impossibile... É come se avessimo trovato dal nulla l'IA in una capsula venuta dal futuro, la usiamo e non sappiamo come funzioni? Beh, sarebbe normale... Ma qui l'abbiamo creata NOI!!!

[Luke2011]

Originariamente inviato da pachainti

Fosse solo quello il problema.

Hallucination is Inevitable: An Innate Limitation of Large Language Models

Game over

I modelli non-generativi come la Joint-Embedding Predictive Architecture che sta sviluppando Meta non possono avere allucinazioni.

Get ready player 1

[Luke2011]

Originariamente inviato da potpal

con istruzioni precise di come deve funzionare

Ecco, questa frase da sola basta a farti definire come un totale principiante, perché credere una matrice massiva come quella dei modelli linguistici operi in base a "istruzioni precise" vuol dire non avere chiara la differenza tra un programma e una rete neurale. Per la cronaca, i modelli di IA di oggi non vengono "scritti" ma "allevati" (parole di Amodei).