PDA

View Full Version : AMD sviluppa modelli linguistici: AMD OLMo conta 1 miliardo di parametri


Redazione di Hardware Upg
05-11-2024, 07:02
Link alla notizia: https://www.hwupgrade.it/news/web/amd-sviluppa-modelli-linguistici-amd-olmo-conta-1-miliardo-di-parametri_132443.html

AMD ha rilasciato la famiglia di modelli linguistici AMD OLMo con 1 miliardo di parametri. La società statunitense ha reso disponibile tutte le risorse pubblicamente e seguendo i dettami dell'open source.

Click sul link per visualizzare la notizia.

NeroCupo
05-11-2024, 07:38
Le prime AI sono ovviamente state sviluppate dall'uomo, e su questo non ci piove.

Ma credo sia difficile che dei programmatori abbiano potuto stabilire UN MILIARDO di parametri su cui istruire le nuove AI: ritengo cosa molto probabile che alcune AI siano state poi utilizzate per creare altre AI, che a loro volta creano altre AI che a loro volta...

Già è difficile capire i loro processi logici: interessantissimo il fatto che dalla prima AI che è stata creata ci si aspettava che rispondesse in maniera più o meno intellegibile (erano stati impostate le regole grammaticali) ma con risposte nonsense.
Invece ha sbalordito gli operatori dando risposte sensate!
Figuriamoci se a questo aggiungiamo il fatto che non sappiamo come sono state addestrate :eek:

MikTaeTrioR
05-11-2024, 13:35
Le prime AI sono ovviamente state sviluppate dall'uomo, e su questo non ci piove.

Ma credo sia difficile che dei programmatori abbiano potuto stabilire UN MILIARDO di parametri su cui istruire le nuove AI: ritengo cosa molto probabile che alcune AI siano state poi utilizzate per creare altre AI, che a loro volta creano altre AI che a loro volta...

Già è difficile capire i loro processi logici: interessantissimo il fatto che dalla prima AI che è stata creata ci si aspettava che rispondesse in maniera più o meno intellegibile (erano stati impostate le regole grammaticali) ma con risposte nonsense.
Invece ha sbalordito gli operatori dando risposte sensate!
Figuriamoci se a questo aggiungiamo il fatto che non sappiamo come sono state addestrate :eek:

I miliardi di parametri vengono generati automaticamente durante l’apprendimento, che in pratica cerca le migliori correlazioni statistiche tra input e output. Alla rete neurale si dà una valanga di dati, spesso etichettati da esseri umani per guidarla nel dare risposte con un certo senso. Il processo di addestramento crea poi tutti i parametri necessari per collegare il dato al significato.

è stupefacente che la "semplice statistica" riesca a raggiungere i risultati che oggi vediamo ma bisogna considerare che questa oggi è supportata da potenza di calcolo e mole di dati senza precedenti...è cosi che riescono ad arrivare a miliardi di parametri in tempi ragionevoli...

quando un uomo imposta i parametri manualmente è proprio un altro genere di AI, esistono e per alcuni compiti vanno benissimo senza bisogno di creare reti neurali...

ripsk
05-11-2024, 18:00
Sono l'unico che ha subito pensato a questo Olmo? :D
https://www.youtube.com/watch?v=2_4r7sHuyEs

jepessen
06-11-2024, 08:02
Le prime AI sono ovviamente state sviluppate dall'uomo, e su questo non ci piove.

Ma credo sia difficile che dei programmatori abbiano potuto stabilire UN MILIARDO di parametri su cui istruire le nuove AI: ritengo cosa molto probabile che alcune AI siano state poi utilizzate per creare altre AI, che a loro volta creano altre AI che a loro volta...

Già è difficile capire i loro processi logici: interessantissimo il fatto che dalla prima AI che è stata creata ci si aspettava che rispondesse in maniera più o meno intellegibile (erano stati impostate le regole grammaticali) ma con risposte nonsense.
Invece ha sbalordito gli operatori dando risposte sensate!
Figuriamoci se a questo aggiungiamo il fatto che non sappiamo come sono state addestrate :eek:

Tu non hai la minima idea di come si programmi una IA e come sia organizzato il programma presumo...