Anthropic ha un'AI che trova falle in Windows, Linux e macOS: ecco perché l'ha data prima ai Big Tech

[barzokk]

Originariamente inviato da marcram

Magari si può osservare che uno è PIU' intelligente dell'altro, ma cosa dovrebbe indicare che una è intelligenza e l'altra no?
Perché spesso l'intelligente uomo mi dà risposte molto più stupide di quelle di un LLM...

la definizione di intelligenza è già stata eviscerata all'infinito da decenni di studio della IA (e dalla filosofia ovviamente)
ma tanto per dirne una,
un ragazzino è in grado di riparare la sua bicicletta senza che nessuno lo abbia prima addestrato con milioni e milioni di libri o video specifici sull'argomento,
e soprattutto senza andare a tentativi probabilistici

[marcram]

Originariamente inviato da barzokk

un ragazzino è in grado di riparare la sua bicicletta senza che nessuno lo abbia prima addestrato con milioni e milioni di libri o video specifici sull'argomento,
e soprattutto senza andare a tentativi probabilistici

Non è vero...
Quel ragazzino ha passato 6-8-10 anni della sua vita a vedere come si comportano gli oggetti nel mondo fisico, come funzionano gli ingranaggi, come si "rompono" le cose, e come si può effettuare il processo inverso aggiustandole...
Se porti la bicicletta rotta ad un ragazzino di una tribù amazzonica che non ha mai visto un prodotto meccanico, non avrà idea di dove metterci le mani...

[barzokk]

Originariamente inviato da marcram

Non è vero...
Quel ragazzino ha passato 6-8-10 anni della sua vita a vedere come si comportano gli oggetti nel mondo fisico, come funzionano gli ingranaggi, come si "rompono" le cose, e come si può effettuare il processo inverso aggiustandole...
Se porti la bicicletta rotta ad un ragazzino di una tribù amazzonica che non ha mai visto un prodotto meccanico, non avrà idea di dove metterci le mani...

Se secondo te i processi mentali che permettono al ragazzino di passare dal montare dei Lego a rimettere su una catena o regolare il cavo del deragliatore, sono gli stessi di un LLM del cazzo,
stai lavorando troppo di fantasia.
Poi mica devo convincere nessuno.

E si, il ragazzino di una tribù amazzonica, se gli dai un po' più di tempo ed è "intelligente", è in grado di analizzare un meccanismo e metterci le mani.

[marcram]

Originariamente inviato da barzokk

Se secondo te i processi mentali che permettono al ragazzino di passare dal montare dei Lego a rimettere su una catena o regolare il cavo del deragliatore, sono gli stessi di un LLM del cazzo,
stai lavorando troppo di fantasia.
Poi mica devo convincere nessuno.

Per me sì.
Possono essere su livelli diversi, più sofisticati, ecc... ma la base è quella.
Un essere umano nasce che non sa fare quasi niente, poi immagazzina una quantità di informazioni che lo portano poi a "ragionare". Ragionamenti che sono frutto di elaborazioni delle informazioni precedentemente raccolte.

Non sto cercando di dire che gli LLM facciano un qualcosa di straordinario, sto viceversa dicendo che, probabilmente, è la concezione della nostra intelligenza ad essere, spesso, sopravvalutata.

Gli LLM attuali potrebbero essere un livello base di intelligenza (ma pur sempre intelligenza) a cui viene fornita una fonte immensa di informazioni.
Noi possiamo avere un'intelligenza molto più avanzata, ma associata ad una fonte meno vasta di informazioni.
Sempre di calcoli e interazioni tra informazioni raccolte si tratta.

E si, il ragazzino di una tribù amazzonica, se gli dai un po' più di tempo ed è "intelligente", è in grado di analizzare un meccanismo e metterci le mani.

E, il fatto di dargli del tempo e la possibilità di analizzare e metterci le mani, non è equivalente al dare ad un LLM più dati da elaborare?
Il ragazzino non saprà come installare la catena, finché non impara che cos'è la catena, dove va, e a cosa serve.
Ma se do le stesse informazioni ad un LLM, anche quello mi dirà che è necessario mettere in posizione la catena, e come farlo.
Mentre ad un cane, per quanto essere intelligente anch'esso, non metterà mai a posto una catena, nemmeno se gli mostri passo passo come fare.
Qual è, quindi, la differenza?

[LMCH]

Ritornando in tema, sembra che Mythos sia l'ennesimo caso di annuncio "esagerato" da parte di Anthropic:
https://aisle.com/blog/ai-cybersecur...agged-frontier

L'articolo linkato sopra fornisce un quadro più chiaro dal punto di vista tecnico e ridimensiona parecchio la "mitologia AI" che Anthropic usa per il marketing dei suoi prodotti.