NVIDIA ha creato un LLM open-source che non teme LLaMa e GPT-4o

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/web/nv...4o_131407.html

NVIDIA non realizza solo GPU per l'IA, ma lavora su qualsiasi cosa graviti attorno a quel concetto. Lo dimostra NVLM 1.0, una nuova famiglia di LLM multimodali di frontiera in cui spicca NVLM-D-72B formato da 72 miliardi di parametri.

Click sul link per visualizzare la notizia.

[giovanni69]

Open Source...parola magica!

[marcram]

Ormai è di moda accostare "open source" a ciò che open source non è...
Ti fa sembrare generoso e altruista...

[!fazz]

Originariamente inviato da marcram

Ormai è di moda accostare "open source" a ciò che open source non è...
Ti fa sembrare generoso e altruista...

anche perchè rendere open source un modello di LLM non significa altro che mettere online un grosso file con miliardi di numeri e basta

[supertigrotto]

Open source Nvidia?
Ma che è sto sproloquio?

[MikTaeTrioR]

ottimizzato per GPU NVIDIA che chiaramente non saranno per niente "open source"...

mica scemi

[s12a]

Quale GPU NVidia vorrebbe che venisse usata per tale modello? Una singola 4090 non basta a meno di degradare notevolmente le prestazioni del modello (quantizzazione in 2 bit o giù di lì); con due (in 4 bit) il degrado potrebbe non essere accettabile in molti casi di utilizzo.

[marcram]

Originariamente inviato da !fazz

anche perchè rendere open source un modello di LLM non significa altro che mettere online un grosso file con miliardi di numeri e basta

Bisogna anche rendere disponibili tutti i dati di apprendimento, perché il modello deve essere replicabile...

Considerando poi che la licenza di Nvidia ne vieta l'uso commerciale e la possibilità di distribuirne una versione modificata, di "open source" non ha proprio nulla...

[pachainti]

Originariamente inviato da marcram

Ormai è di moda accostare "open source" a ciò che open source non è...
Ti fa sembrare generoso e altruista...

Si ormai è diventato un termine di marketing.

Originariamente inviato da !fazz

anche perchè rendere open source un modello di LLM non significa altro che mettere online un grosso file con miliardi di numeri e basta

La definizione di open source è dibattuta. Secondo molti il solo modello (i pesi) non rende automaticamente open source LLM, ma ci vuole la possibilità di riprodurlo ovvero i dataset e le condizioni iniziali (giustamente secondo me).

Chissà se questo modello sa contare le vocali/consonanti in una parola o è come GPT-4o.

[MikTaeTrioR]

Originariamente inviato da pachainti

Si ormai è diventato un termine di marketing.



La definizione di open source è dibattuta. Secondo molti il solo modello (i pesi) non rende automaticamente open source LLM, ma ci vuole la possibilità di riprodurlo ovvero i dataset e le condizioni iniziali (giustamente secondo me).

Chissà se questo modello sa contare le vocali/consonanti in una parola o è come GPT-4o.

A parte che valutare un LLM basandosi su domande di utilità praticamente nulla è un po' bizzarro ma a parte uno svarione iniziale poi si adegua alla grande:


Hai detto:
quante r contienre la parola ramarro
ChatGPT ha detto:
ChatGPT
La parola "ramarro" contiene due lettere "r".



Hai detto:
???
ChatGPT ha detto:
ChatGPT
Scusa per la confusione! Forse intendi chiedere quante "r" contiene la parola "ramarro"? Se sì, la risposta è che la parola "ramarro" contiene 3 lettere "r".




Hai detto:
la parola irrorare?
ChatGPT ha detto:
ChatGPT
La parola "irrorare" contiene 4 lettere "r".


Hai detto:
e strasberry?
ChatGPT ha detto:
ChatGPT
La parola "strasberry" non è comune in italiano o in inglese. Forse intendevi "strawberry" (che significa fragola in inglese)? Se sì, la parola "strawberry" contiene 3 lettere "r".

Se "strasberry" è un termine specifico che intendevi, fammi sapere!

[pachainti]

Originariamente inviato da MikTaeTrioR

A parte che valutare un LLM basandosi su domande di utilità praticamente nulla è un po' bizzarro ma a parte uno svarione iniziale poi si adegua alla grande:


Hai detto:
quante r contienre la parola ramarro
ChatGPT ha detto:
ChatGPT
La parola "ramarro" contiene due lettere "r".



Hai detto:
???
ChatGPT ha detto:
ChatGPT
Scusa per la confusione! Forse intendi chiedere quante "r" contiene la parola "ramarro"? Se sì, la risposta è che la parola "ramarro" contiene 3 lettere "r".




Hai detto:
la parola irrorare?
ChatGPT ha detto:
ChatGPT
La parola "irrorare" contiene 4 lettere "r".


Hai detto:
e strasberry?
ChatGPT ha detto:
ChatGPT
La parola "strasberry" non è comune in italiano o in inglese. Forse intendevi "strawberry" (che significa fragola in inglese)? Se sì, la parola "strawberry" contiene 3 lettere "r".

Se "strasberry" è un termine specifico che intendevi, fammi sapere!

Si mi sembra veramente intelligente
Un ottimo generatore di stronzate:
ChatGPT is bullshit
DK 7x10 Stronzate Artificiali

[MikTaeTrioR]

Originariamente inviato da pachainti

Si mi sembra veramente intelligente
Un ottimo generatore di stronzate:
ChatGPT is bullshit
DK 7x10 Stronzate Artificiali

sei sarcastico?

edit:
si penso proprio di si...

bhe sai che ti dico, e cosa dico a tutti quelli che la pensano cosi....avete ragione, continuate a pensarla cosi...auguri!!


edit2:
Madre di dio sto ascoltando quel podcast...addirittura fa il pippone iniziale sulla parola "stronzata"....MA VADA A ZAPPARE QUESTO VA ..tra l'altro è del 2022, invecchiato malissimo sto podcast, veramente male... ..ma d'altronde chi poteva immaginare se non chi ci capisce qualcosa veramente.

edit3:
Ossignore con grande fatica sto andando avanti a sentire.... ma quante ne spara questo??...dovrebbe vergognarsi e rimuove le "stronzate reali" che dice... visione superficiale, senza visione futura...fosse nato quando fu scoperto il fuoco avrebbe notato solo che bruciava le dita.

[pachainti]

Originariamente inviato da MikTaeTrioR

sei sarcastico?

edit:
si penso proprio di si...

Nessun sarcasmo, pura realtà basata sui fatti.

Originariamente inviato da MikTaeTrioR

bhe sai che ti dico, e cosa dico a tutti quelli che la pensano cosi....avete ragione, continuate a pensarla cosi...auguri!!

Quando i fatti mi/ci daranno torto, cambierò idea.

Originariamente inviato da MikTaeTrioR

edit2:
Madre di dio sto ascoltando quel podcast...addirittura fa il pippone iniziale sulla parola "stronzata"....MA VADA A ZAPPARE QUESTO VA ..tra l'altro è del 2022, invecchiato malissimo sto podcast, veramente male... ..ma d'altronde chi poteva immaginare se non chi ci capisce qualcosa veramente.

In realtà dice le stesse cose dell'articolo del 2024, due anni prima e ci aveva preso in pieno.

P.S.
Ti ricordo cosa dicevano i "padri" dell'IA negli anni 60-70.

In 1958, Herbert Simon and Allen Newell wrote, “within ten years a digital computer will be the world’s chess champion”, and “within ten years a digital computer will discover and prove an important new mathematical theorem.”

In 1965, Herbert Simon predicted that “machines will be capable, within twenty years, of doing any work a man can do.”

In 1967, Marvin Minsky predicted that “Within a generation . . . the problem of creating `artificial intelligence’ will substantially be solved.”

In 1970, Marvin Minsky, in an interview with Life Magazine, stated “In from three to eight years we will have a machine with the general intelligence of an average human being.”

[MikTaeTrioR]

Originariamente inviato da pachainti

Quando i fatti mi/ci daranno torto, cambierò idea.

Mha, io sono un programmatore, questa roba mi risparmia ore di lavoro e questo è un fatto.

Per le traduzioni idem.

Per il parsing idem.

E potrei andare avanti..


Se ti aspetti che un LLM serva a ragionare al posto tuo sei tu che stai sbagliando.
E' uno strumento che serve a velocizzare (enormemente) i propri ragionamenti.

Reputi questa una stronzata?

Complimenti, che ti posso dire ...

edit:

non ho capito cosa centra quel che dicevano i padri fondatori dell AI..non ci siamo ancora? siamo in ritardo? non ci arriveremo mai?....E ALLORA? Oggi c'è uno strumento che preso per quello che è funziona egregiamente, e non potrà che migliorare...dire che è una stronzata perchè non "ragiona veramente" è assurdo IMHO..

[pachainti]

Originariamente inviato da MikTaeTrioR

Mha, io sono un programmatore, questa roba mi risparmia ore di lavoro e questo è un fatto.

Per le traduzioni idem.

Per il parsing idem.

E potrei andare avanti..


Se ti aspetti che un LLM serva a ragionare al posto tuo sei tu che stai sbagliando.
E' uno strumento che serve a velocizzare (enormemente) i propri ragionamenti.

Reputi questa una stronzata?

Complimenti, che ti posso dire ...

Purtroppo gli LLM vengo spacciati come IA, ma non hanno niente di intelligente e poco di artificiale.
Gli LLM hanno due grossi problemi:

1. Non hanno alcuna consapevolezza di quello che fanno, sono dei modelli probabilistici che scelgono la parola più probabile in base al loro "addestramento".
2. Non hanno alcun concetto di realtà non avendo consapevolezza di quello che fanno. Generalmente danno risposte verosimili per una persona che non conosce l'argomento, ma con un minimo di informazione tale persona trova subito i limiti "le presunte allucinazioni".

E' stato mostrato che utilizzare la presunta IA per programmare, riduce la qualità e la sicurezza del codice.

Coding on Copilot: 2023 Data Suggests Downward Pressure on Code Quality

Do Users Write More Insecure Code with AI Assistants?

Per quale motivo gli LLM, la presunta IA, non servono a nulla? Poiché se già conosci l'argomento ti accorgi delle supercazzole che spara, viceversa se non lo conosci non puoi prendere per buono quello che ti dice e devi comunque verificare da altre fonti (perdendo lo stesso tempo). Quindi a cosa serve?

[MikTaeTrioR]

Originariamente inviato da pachainti

Purtroppo gli LLM vengo spacciati come IA, ma non hanno niente di intelligente e poco di artificiale.
Gli LLM hanno due grossi problemi:

1. Non hanno alcuna consapevolezza di quello che fanno, sono dei modelli probabilistici che scelgono la parola più probabile in base al loro "addestramento".
2. Non hanno alcun concetto di realtà non avendo consapevolezza di quello che fanno. Generalmente danno risposte verosimili per una persona che non conosce l'argomento, ma con un minimo di informazione tale persona trova subito i limiti "le presunte allucinazioni".

E' stato mostrato che utilizzare la presunta IA per programmare, riduce la qualità e la sicurezza del codice.

Coding on Copilot: 2023 Data Suggests Downward Pressure on Code Quality

Do Users Write More Insecure Code with AI Assistants?

Per quale motivo gli LLM, la presunta IA, non servono a nulla? Poiché se già conosci l'argomento ti accorgi delle supercazzole che spara, viceversa se non lo conosci non puoi prendere per buono quello che ti dice e devi comunque verificare da altre fonti (perdendo lo stesso tempo). Quindi a cosa serve?

il programmatore scrive peggio se è scarso e se pensa che GPT ragioni per lui e non il contrario...altrimenti addirittura ti fa scoprire cose nuove di un linguaggio che utilizzi quotidianamente da più di 10 anni....

chiedi, leggi, capisci cosa ha partorito, correggi, riadatti....non è che prendi copi e incolli...cosi è da stupidi.


gli LLM non sono una vera AI..... che scoperta incredibile....e io che pensavo di affidagli il mio pacchetto azionario........grazie mi hai salvato


Non ti piace che venga chiamata AI, questo posso capirlo ma penso che sia sbagliato non valutare ed approfittare dello strumento per quello che è..


E mi sbilancio per dire che gli LLM sono IMHO una tappa fondamentale della strada da percorrere per raggiungere una vera AI..


Pero voglio ribadire che sentire dire che è "una stronzata" mi fa cascare le braccia...se non si fosse gia capito

[pachainti]

Originariamente inviato da MikTaeTrioR

il programmatore scrive peggio se è scarso e se pensa che GPT ragioni per lui e non il contrario...altrimenti addirittura ti fa scoprire cose nuove di un linguaggio che utilizzi quotidianamente da più di 10 anni....

chiedi, leggi, capisci cosa ha partorito, correggi, riadatti....non è che prendi copi e incolli...cosi è da stupidi.


gli LLM non sono una vera AI..... che scoperta incredibile....e io che pensavo di affidagli il mio pacchetto azionario........grazie mi hai salvato


Non ti piace che venga chiamata AI, questo posso capirlo ma penso che sia sbagliato non valutare ed approfittare dello strumento per quello che è..


E mi sbilancio per dire che gli LLM sono IMHO una tappa fondamentale della strada da percorrere per raggiungere una vera AI..


Pero voglio ribadire che sentire dire che è "una stronzata" mi fa cascare le braccia...se non si fosse gia capito

Articoli scientifici e dati dimostrano quanto ho scritto. Poi sarò il primo a cambiare idea in presenza di evidenza contraria.
Al momento gli LLM sono generatori di stronzate, leggi l'articolo e capirai molte cose.

P.S. sono in attesa dell'IA dagli anni 60-70, ogni anno è quello buono.

[MikTaeTrioR]

Originariamente inviato da pachainti

Articoli scientifici e dati dimostrano quanto ho scritto. Poi sarò il primo a cambiare idea in presenza di evidenza contraria.
Al momento gli LLM sono generatori di stronzate, leggi l'articolo e capirai molte cose.

P.S. sono in attesa dell'IA dagli anni 60-70, ogni anno è quello buono.

E il mercato dimostra esattamente il contrario. E come ben saprai, da intellettuale quale sembri essere, il mercato ha sempre ragione.

D'altra parte se già milioni di di persone lo usano proficuamente un motivo ci sarà no?!




o forse siamo tutti scemi, chi lo sa, puo essere

[pachainti]

Originariamente inviato da MikTaeTrioR

E il mercato dimostra esattamente il contrario. E come ben saprai, da intellettuale quale sembri essere, il mercato ha sempre ragione.

D'altra parte se già milioni di di persone lo usano proficuamente un motivo ci sarà no?!




o forse siamo tutti scemi, chi lo sa, puo essere

In realtà è proprio il contrario. Quando qualcosa la utilizzano tutti in modo "bovino" si dovrebbe accendere la lampadina.
Il mercato libero non esiste è sempre influenzato dalla pubblicità e dai monopoli.

P.S. comunque se prendi gli utenti che utilizzano la presunta IA sono molto pochi, per ora e per fortuna, rispetto a quelli che accedono alla rete.

[MikTaeTrioR]

Originariamente inviato da pachainti

In realtà è proprio il contrario. Quando qualcosa la utilizzano tutti in modo "bovino" si dovrebbe accendere la lampadina.
Il mercato libero non esiste è sempre influenzato dalla pubblicità e dai monopoli.

P.S. comunque se prendi gli utenti che utilizzano la presunta IA sono molto pochi, per ora e per fortuna, rispetto a quelli che accedono alla rete.

ergo
internet is a bullshit

rimani pure della tua idea, io rimango della mia.

buona serata