AMD sviluppa modelli linguistici: AMD OLMo conta 1 miliardo di parametri

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/am...ri_132443.html

AMD ha rilasciato la famiglia di modelli linguistici AMD OLMo con 1 miliardo di parametri. La società statunitense ha reso disponibile tutte le risorse pubblicamente e seguendo i dettami dell'open source.

Click sul link per visualizzare la notizia.

[NeroCupo]

Le prime AI sono ovviamente state sviluppate dall'uomo, e su questo non ci piove.

Ma credo sia difficile che dei programmatori abbiano potuto stabilire UN MILIARDO di parametri su cui istruire le nuove AI: ritengo cosa molto probabile che alcune AI siano state poi utilizzate per creare altre AI, che a loro volta creano altre AI che a loro volta...

Già è difficile capire i loro processi logici: interessantissimo il fatto che dalla prima AI che è stata creata ci si aspettava che rispondesse in maniera più o meno intellegibile (erano stati impostate le regole grammaticali) ma con risposte nonsense.
Invece ha sbalordito gli operatori dando risposte sensate!
Figuriamoci se a questo aggiungiamo il fatto che non sappiamo come sono state addestrate

[MikTaeTrioR]

Originariamente inviato da NeroCupo

Le prime AI sono ovviamente state sviluppate dall'uomo, e su questo non ci piove.

Ma credo sia difficile che dei programmatori abbiano potuto stabilire UN MILIARDO di parametri su cui istruire le nuove AI: ritengo cosa molto probabile che alcune AI siano state poi utilizzate per creare altre AI, che a loro volta creano altre AI che a loro volta...

Già è difficile capire i loro processi logici: interessantissimo il fatto che dalla prima AI che è stata creata ci si aspettava che rispondesse in maniera più o meno intellegibile (erano stati impostate le regole grammaticali) ma con risposte nonsense.
Invece ha sbalordito gli operatori dando risposte sensate!
Figuriamoci se a questo aggiungiamo il fatto che non sappiamo come sono state addestrate

I miliardi di parametri vengono generati automaticamente durante l’apprendimento, che in pratica cerca le migliori correlazioni statistiche tra input e output. Alla rete neurale si dà una valanga di dati, spesso etichettati da esseri umani per guidarla nel dare risposte con un certo senso. Il processo di addestramento crea poi tutti i parametri necessari per collegare il dato al significato.

è stupefacente che la "semplice statistica" riesca a raggiungere i risultati che oggi vediamo ma bisogna considerare che questa oggi è supportata da potenza di calcolo e mole di dati senza precedenti...è cosi che riescono ad arrivare a miliardi di parametri in tempi ragionevoli...

quando un uomo imposta i parametri manualmente è proprio un altro genere di AI, esistono e per alcuni compiti vanno benissimo senza bisogno di creare reti neurali...

[ripsk]

Sono l'unico che ha subito pensato a questo Olmo?
https://www.youtube.com/watch?v=2_4r7sHuyEs

[jepessen]

Originariamente inviato da NeroCupo

Le prime AI sono ovviamente state sviluppate dall'uomo, e su questo non ci piove.

Ma credo sia difficile che dei programmatori abbiano potuto stabilire UN MILIARDO di parametri su cui istruire le nuove AI: ritengo cosa molto probabile che alcune AI siano state poi utilizzate per creare altre AI, che a loro volta creano altre AI che a loro volta...

Già è difficile capire i loro processi logici: interessantissimo il fatto che dalla prima AI che è stata creata ci si aspettava che rispondesse in maniera più o meno intellegibile (erano stati impostate le regole grammaticali) ma con risposte nonsense.
Invece ha sbalordito gli operatori dando risposte sensate!
Figuriamoci se a questo aggiungiamo il fatto che non sappiamo come sono state addestrate

Tu non hai la minima idea di come si programmi una IA e come sia organizzato il programma presumo...