Il fenomeno DeepSeek fa male a NVIDIA: il titolo crolla in Borsa, ma l'azienda non si scompone

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/mercat...ne_135009.html

Giornata nerissima per il titolo NVIDIA in Borsa. Il panico creato dal rilascio del modello IA cinese DeepSeek-R1 ha scatenato le vendite, facendo crollare le azioni di quasi il 17%. NVIDIA, tuttavia, non si scompone troppo.

Click sul link per visualizzare la notizia.

[F1r3st0rm]

zuckerbergo ha preso abbastanza pugni in testa da rinsavire e smettere di giocare con il metaverso?

[LMCH]

A parte che le cifre dichiarate da DeepSeek sono la risposta dell'oste riguardo quanto sia buono il proprio vino, resta il fatto che questo evidenzia le distorsioni speculative sul lato americano della "corsa alle AI".
Quando lo scopo primario diventa "facciamo più soldi in borsa" la strategia di ricerca va in secondo piano e si privilegiano le tattiche che portano più profitto a breve termine.

[lollo9]

Originariamente inviato da LMCH

A parte che le cifre dichiarate da DeepSeek sono la risposta dell'oste riguardo quanto sia buono il proprio vino, resta il fatto che questo evidenzia le distorsioni speculative sul lato americano della "corsa alle AI".
Quando lo scopo primario diventa "facciamo più soldi in borsa" la strategia di ricerca va in secondo piano e si privilegiano le tattiche che portano più profitto a breve termine.

Il vino in questo caso però non è male. Il training del modello cinese rimane appannaggio loro (e volendo ci sono pure dei dubbi su quanto “poco” effettivamente abbiano dovuto lavorare sul training primario, ma questo è altro discorso), ma la tecnologia è solida, non la solita cinesata.

Ad ogni modo, USA crede moltissimo nel first mover advantage, tanto in generale come cultura quanto nel caso specifico AI. In una certa misura è inevitabile che gli investimenti in capo all’apripista siano più elevati. Tantopiù se ti chiami USA.
C’è speculazione sopra? Sì. Se questo sia un male tout court però è tutto da dimostrare, i margini speculativi potenziali sono anche un enorme traino. L’alternativa quale sarebbe? Ad oggi, non essere della partita; e personalmente trovo difficile sostenere che questo se sia meglio.

[Unrue]

La chiave di volta è rendere tutto open source, non solo open weights come fanno gli altri (a parte Meta mi pare)

Vedremo, anche perché quello che dicono i cinesi va sempre preso con le pinze.

[AlexSwitch]

Intanto la prima " bollicina " AI è scoppiata... Nella giornata di ieri Nvidia ha perso 589 MLD di Dollari in capitalizzazione, semplicemente la più grande della storia!! 589 Miliardi di USD in 24 ore... Potente questo siluro cinese!!

[omerook]

i bei tempi di quando si vendevano le schede per i video giochi a 3 cucuzze!

[Saturn]

Originariamente inviato da AlexSwitch

Intanto la prima " bollicina " AI è scoppiata... Nella giornata di ieri Nvidia ha perso 589 MLD di Dollari in capitalizzazione, semplicemente la più grande della storia!! 589 Miliardi di USD in 24 ore... Potente questo siluro cinese!!

...prego signori controllare i mie post dell'anno precedente, ma anche del 2023 riguardo ai Cinesi che inesorabili sarebbero arrivati anche in questo campo.

E infatti sono arrivati ! C.V.D.

[omerook]

Originariamente inviato da Saturn

...prego signori controllare i mie post dell'anno precedente, ma anche del 2023 riguardo ai Cinesi che inesorabili sarebbero arrivati anche in questo campo.

E infatti sono arrivati ! C.V.D.

un paese che sforna 1.000.000 di ingegneri a l'anno arriva dappertutto

[dwfgerw]

https://www.philschmid.de/deepseek-r1


altro che 6 milioni di dollari. Questi hanno circa 50K GPU ed il supporto di un edgefound da miliardi dietro, inoltre il modello foundational utilizzato è LLMA sempre americano, come i chip che lo elaborano.

[UtenteHD]

Secondo me il tipo di scrittura e lingua influisce sul capacita' di elabolare i dati del cervello e molto altro.
I Cinesi ed i Giapponesi (ovviamente) che hanno a che fare con tutti sti minimo 2000 Kanji ecc.. li fa in genere dei geni.
Detto questo la fame aguzza l'ingegno e piu' togliete Loro, sanzioni, ecc.. e piu' Loro dovranno cavarsela in qualche maniera ed a volte o spesso saltano fuori con qualcosa che stupisce e frega tutti. (un po' come chi vuole giocare ai triple AAA coi giochi moderni e non ha PC ultra potente perche' non ha soldi da buttare, si impegna e mod di qua, manual fix di la ci riesce in qualche maniera dove gli altri gongolano negli allori con super power PC e manco ci pensano a qualcosa del genere)

Mi sa che potranno cercare di limitarli in tutto per miliardi di volte, ma presto domineranno in tutto ed ogni campo.

Per questa IA e le future che ovviamente usciranno surclassando le precedenti, se rendono, sono free e servono, si vedra' se usarle, ovviamente si ricorda di non metterci dati personali, dati propri, proprie info, ecc..

[Unrue]

Originariamente inviato da dwfgerw

https://www.philschmid.de/deepseek-r1


altro che 6 milioni di dollari. Questi hanno circa 50K GPU ed il supporto di un edgefound da miliardi dietro, inoltre il modello foundational utilizzato è LLMA sempre americano, come i chip che lo elaborano.

Vero, però vai a vedere quanti ricercatori cinesi ci sono che lavorano negli USA su queste cose... Se per caso tornassero in patria sarebbero cavoli amari per gli USA.

In pratica è una sfida tra cinesi che lavorano negli USA e cinesi in Cina.

[aqua84]

Non si è scomposta no, oggi scendi, domani sali...

[nebuk]

Scusate, per capire:

Hanno preso un modello pre addestrato e ci hanno fatto un ulteriore tipo di addestramento con GPU di fascia bassa che ha migliorato notevolmente la resa del modello.
Nelle conclusioni del paper hanno anche aggiunto che la resa sarebbe stata superiore con GPU di fascia alta e che l'inferenza richiede molto sforzo computazionale.

Corretto? A me sembra una notizia ottima per nVidia. Hanno usato un modello pre addestrato (probabilmente con GPU nVidia), hanno implementato un nuovo addestramento con ecosistema nVidia e hanno detto che serve più potenza computazionale per avere risultati ancora migliori.

[fra55]

Originariamente inviato da nebuk

Scusate, per capire:

Hanno preso un modello pre addestrato e ci hanno fatto un ulteriore tipo di addestramento con GPU di fascia bassa che ha migliorato notevolmente la resa del modello.
Nelle conclusioni del paper hanno anche aggiunto che la resa sarebbe stata superiore con GPU di fascia alta e che l'inferenza richiede molto sforzo computazionale.

Corretto? A me sembra una notizia ottima per nVidia. Hanno usato un modello pre addestrato (probabilmente con GPU nVidia), hanno implementato un nuovo addestramento con ecosistema nVidia e hanno detto che serve più potenza computazionale per avere risultati ancora migliori.

Esatto.
Alla fine Nvidia ci guadagna comunque

[s12a]

Originariamente inviato da nebuk

Scusate, per capire:

Hanno preso un modello pre addestrato e ci hanno fatto un ulteriore tipo di addestramento con GPU di fascia bassa che ha migliorato notevolmente la resa del modello.
Nelle conclusioni del paper hanno anche aggiunto che la resa sarebbe stata superiore con GPU di fascia alta e che l'inferenza richiede molto sforzo computazionale.

Corretto? A me sembra una notizia ottima per nVidia. Hanno usato un modello pre addestrato (probabilmente con GPU nVidia), hanno implementato un nuovo addestramento con ecosistema nVidia e hanno detto che serve più potenza computazionale per avere risultati ancora migliori.

Il modello pre-addestrato (DeepSeek V3 ossia la base su cui è stato addestrato DeepSeek R1), l'hanno addestrato comunque loro da zero; è quello che è costato solo in termini di costi elaborativi circa 5 milioni di dollari.

https://arxiv.org/abs/2412.19437

DeepSeek-V3 requires only 2.788M H800 GPU hours for its full training.

A titolo di paragone, Llama-3.1-8B di Meta ha richiesto 1.4M di ore-GPU complessive nonostante sia molto più piccolo e assai meno capace.

In ogni caso concordo che questo non vuol dire nulla di negativo per NVidia. Semmai più aziende vedranno ciò come un'opportunità per addestrare modelli capaci a costi più bassi di quanto immaginato (addestrare modelli enormi e mediocri a costi bassi è sempre stato possibile).

[randorama]

a me sta cosa non torna.

quando mai c'è stato, in un qualunque campo una innovazione che ha tagliato i costi/aumentato l'efficienza di un fattore come quello attribuito a sto coso?

per carità, c'è sempre una prima volta; però...però.

[marcram]

Originariamente inviato da nebuk

Scusate, per capire:

Hanno preso un modello pre addestrato e ci hanno fatto un ulteriore tipo di addestramento con GPU di fascia bassa che ha migliorato notevolmente la resa del modello.
Nelle conclusioni del paper hanno anche aggiunto che la resa sarebbe stata superiore con GPU di fascia alta e che l'inferenza richiede molto sforzo computazionale.

Corretto? A me sembra una notizia ottima per nVidia. Hanno usato un modello pre addestrato (probabilmente con GPU nVidia), hanno implementato un nuovo addestramento con ecosistema nVidia e hanno detto che serve più potenza computazionale per avere risultati ancora migliori.

Sì, ma sono passati dal dire "Nvidia è fondamentale" a "Nvidia è migliore, ma si può usare anche altro"...
Nvidia ci guadagnerà comunque, ma è scesa nel livello di "necessarietà".
E, al pari, le questioni di dazi americani...

[Alodesign]

Originariamente inviato da randorama

a me sta cosa non torna.

quando mai c'è stato, in un qualunque campo una innovazione che ha tagliato i costi/aumentato l'efficienza di un fattore come quello attribuito a sto coso?

per carità, c'è sempre una prima volta; però...però.

Intendi tipo:



E poi questo:



?

[randorama]

Originariamente inviato da Alodesign

Intendi tipo:

?

mannaggia a me mi sono mangiato "in così poco tempo".
mi risulta che tra eniac e raspberry ci siano, largo circa, 60 anni.

edit: di più... 70