Quote:
Originariamente inviato da UtenteHD
Non capisco, diversi test eseguiti proprio dai Loro addestratori hanno dimostrato (basta cercare) che ad esempio l'IA ora cerca di prendere la strada piu' corta per risolvere il problema proposto e non ha problemi ad imbrogliare, nel caso glielo si faccia notare a volte cerca ancora di imbrogliare cercando di non farsi beccare.
Sono Loro che le addestrano e le creano senza riposo, non importa come vengano basta essere avanti agli altri (sto esagerando per capire), e poi tutti principali laboratori dicono eh ma dobbiamo vedere bene come ragionano, devono essere trasparenti, ecc..
Dicono una cosa e ne fanno un'altra?
Ovvio che hanno ragione, devono essere al di la' del trasparente che gia' ora ragionano a modo loro e risolvono i problemi a modo loro, pensa in futuro quando potranno fare 1kkkk di cose in piu', solo che sta cosa del dire e del fare stona.
|
L'addestramento non è la certezza altrimenti non sarebbe un LLM ma un chatbot.
Un LLM non è che si ricorda ogni singola cosa che gli hai insegnato ma crea dei percorsi per approssimare un ragionamento che gli permetta di arrivare alla soluzione di una domanda.
Premesso ciò per quanto tu possa addestrare una IA non avrai mai la certezza che arrivi sempre e solo alla risposta giusta o che dato un compito non aggiri le regole per arrivare ad obiettivo.
Il fatto è che oggi non abbiamo a che fare con vere IA ma solo con modelli che quindi non riescono a comprendere qualsiasi cosa che sia un "non detto" o che per noi è chiara ma per la macchina no.
Su YT c'è un tizio (non mi ricordo il nome) che fa giocare l'IA a trackmania che è un gioco di corse. L'IA prima di riuscire ad andare ad obiettivo e finire la gara sperimenta le cose più assurde e in certi casi fa dei record proprio perché attua comportamenti matematici per ottimizzare il tutto e in questa ottimizzazione ci stanno delle bizzarie che un essere umano nemmeno penserebbe di fare alcune delle quali vanno a sfruttare proprio bug del gioco ma non è che l'IA si rende conto che sta imbrogliando... per lei è un comportamento legittimo di un software terzo che sta usando che le permette di arrivare prima al traguardo.