NVIDIA ha chiuso un anno record: Blackwell parte alla grande, ma la corsa rallenta

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/mercat...ta_136142.html

Nonostante NVIDIA continui a macinare numeri record, il mercato si è abituato a trimestrali esplosive. I dati fiscali e l'outlook, seppur mostruosi, non hanno impressionato e per questo il titolo sta perdendo leggermente nelle contrattazioni after hours.

Click sul link per visualizzare la notizia.

[Cappej]

margine lordo del 70%... vabbè... Chapeau GIACCHETTA!

[supertigrotto]

A loro conviene capitalizzare il vantaggio il più possibile,la concorrenza si sta facendo sotto con soluzioni alternative e proprietarie.

[AceGranger]

Originariamente inviato da supertigrotto

A loro conviene capitalizzare il vantaggio il più possibile,la concorrenza si sta facendo sotto con soluzioni alternative e proprietarie.

sono tipo 10 anni che scrivi questa perla sotto ogni trimestrale e ogni volta vieni puntualmente smentito, chissà, prima o poi ce la farai, anche un orologio rotto segna l'orario corretto 2 volte al giorno.

l'unica "alternativa" è AMD lato GPU e Intel lato CPU che sono indietro anni luce, il resto sono soluzioni che qualche superbig si sta facendo in casa per propri specifici usi, nulla a che vedere con il sistema CUDA di nVidia che è lo standard del mercato.
non è neanche piu una questione di prestazioni ma di ecosistema

[Unrue]

Originariamente inviato da supertigrotto

A loro conviene capitalizzare il vantaggio il più possibile,la concorrenza si sta facendo sotto con soluzioni alternative e proprietarie.

Una volta che un cliente si lega all'ecosistema NVidia difficilmente cambia.

[AceGranger]

Originariamente inviato da Unrue

Una volta che un cliente si lega all'ecosistema NVidia difficilmente cambia.

secondo me non è solo una questione di ecosistema inteso come pacchetto completo offerto da nVidia, ma anche di "ecosistema" di tutto cio che gira attorno, anche dalla cosa piu banale, se un'azienda X si fa un sistema di calcolo nVidia, sa che se un domani deve assumere nuovi sviluppatori perchè vuole espandere l'offerta o altro, il sistema nVidia lo conoscono TUTTI, non hai problemi di reperibilità o di sbattimenti di dover pensare anche ad una formazione interna per un sistema Y che conoscono in 3 gatti, in un mercato che poi cambia velocemente.

o anche, se hai una sistema con GPU nVIdia sai che al 99,999999% se esce un nuovo applicativo GPGPU questo sarà supportato, e più la realta è piccola e piu questo è importante, non è che ci sono solo le megabig che prendono 2K di GPU alla volta.

[Unrue]

Originariamente inviato da AceGranger

secondo me non è solo una questione di ecosistema inteso come pacchetto completo offerto da nVidia, ma anche di "ecosistema" di tutto cio che gira attorno, anche dalla cosa piu banale, se un'azienda X si fa un sistema di calcolo nVidia, sa che se un domani deve assumere nuovi sviluppatori perchè vuole espandere l'offerta o altro, il sistema nVidia lo conoscono TUTTI, non hai problemi di reperibilità o di sbattimenti di dover pensare anche ad una formazione interna per un sistema Y che conoscono in 3 gatti, in un mercato che poi cambia velocemente.

o anche, se hai una sistema con GPU nVIdia sai che al 99,999999% se esce un nuovo applicativo GPGPU questo sarà supportato, e più la realta è piccola e piu questo è importante, non è che ci sono solo le megabig che prendono 2K di GPU alla volta.

Assolutamente si.

[CrapaDiLegno]

Ci sono diversi aspetti da considerare sul perché Nvidia è dominante nel mercato AI.
Prima di tutto parliamo del mercato che rende soldi, cioè quello del training. Che si fa in modo simile per tutti qualsiasi sia il modello che si vuole ottenere, cioè con quantillioni di GPU che macinano per giorni e giorni consumando centinaia di MW di potenza. L'inferenza è differente, dipende molto da quale è lo scopo a cui il modello è applicato e quindi la criticità dei tempi di risposta. Per i chatbot la criticità è minima, serve avere più concorrenza, quindi chip più piccoli e meno potenti ma in gran numero che possono essere sviluppati ad hoc anche da chi non ha grande esperienza nello sviluppo di chip complessi.
Sono questi chippetti che la gente vede come "ecco che è arrivata la concorrenza". Meta, Amazon, Google e Microsoft li fanno da tempo, ma vederli come concorrenza per Nvidia significa non avere ben chiaro cosa c'è dietro.

Due secondo me sono gli aspetti che assicurano ad Nvidia la sua posizione dominante: una è lo muro di ingresso per sviluppare una alternativa. Non si parla di fare SoC per cellulari tutti pressoché uguali cui cambia solo il prezzo di vendita, ma si parla di fare sistemi con decine e decine di miliardi di transistor ottimizzati per un determinato lavoro. Sembra evidente che non è una cosa semplice se mega aziende (intese come aziende con grandi capitali a disposizione) come Microsoft, Meta, Amazon, tutte le compagnie di Musk messe assieme e la stessa Apple non sono state ancora in grado di fare nulla di equivalente ma si affidano ai prodotti Nvidia per addestrare i propri modelli.
Secondo, e qui credo che siamo tutti d'accordo, è il supporto SW allo sviluppo. Nvidia non dà solo CUDA, come molti pensano, che è poi una libreria di funzioni per fare cose come potrebbe essere un'altra che fatta meglio potrebbe anche essere più veloce. CUDA è riconosciuto come uno standard perché è stato sviluppato in modo da essere compatibile HW+SW con il passato da quasi vent'anni facilitando la continuazione dello sviluppo e l'aggiornamento dei sistemi. Non serve re-imparare nuovi concetti, usare nuove librerie, cambiare paradigmi, middleware e strumenti di supporto ad ogni architettura. Il nuovo HW arriva già pronto e compatibile ad day 0 con CUDA. Nulla si rompe, nulla si perde, ma si avanza sempre. Che è una cosa fondamentale per chi investe centinaia (e oggi migliaia) di milioni di dollari per creare qualcosa. Detto questo, CUDA non basta. Intorno a esso Nvidia ha sviluppato tutto un ecosistema che comprende anche i tool che servono per raccogliere, etichettare, filtrare, smistare, catalogare, testare, reiterare e quant'altro è necessario perché un modello AI possa essere addestrato da zero fino a quando è pronto ad essere messo in opera. Praticamente Nvidia offre una soluzione verticale al problema dell'addestramento dei modelli AI, che parte dalla presa di corrente alla risposta sulla console, passando da chip che fa i calcoli, dai dispositivi di rete che fanno scalare tutto a dimensioni gigantesche, agli strumenti di sviluppo che permettono di sfruttare tutto quanto in tempo zero dopo che il sistema è stato avviato.
In un mercato che corre come in una staffetta 4x100, affidarsi a qualcuno che non è in grado di far passare il testimone (ovvero il cambio di architettura verso quella più nuova) in modo indolore è equivalente a perdere la gara. Lo sai già allo start, non serve la prova della gara. Devi solo sperare che l'avversario inciampi e cada e non riesca più a rialzarsi per riuscire a vincere.
La concorrenza cosa ha offre di meglio rispetto ad Nvidia? L'unica che si può prendere in considerazione è AMD che ha un silicio che più o meno sembra avvicinarsi alle prestazioni delle soluzioni Nvidia, in piccola scala. Il silicio è bello ed è importante, anzi necessario, è il testimone che ci permette di schierarci alla partenza della staffetta. Ma poi? A parte problemi di scalabilità e stabilità ancora presenti il supporto SW è al minimo e la compatibilità non garantita da una versione alla successiva dei tool di sviluppo, tanto meno a livello HW, che è una incognita non avendo AMD fatto una vera nuova architettura.

C'è ben poco sul mercato che impensierisca il dominio di Nvidia. Che sta capitalizzando quanto può, mentre spera che la corsa all'oro continui mentre lei vende felicemente e in maniera salata i migliori picconi. Corsa che comunque andrà ad esaurirsi, perché è impensabile che si continui a investire centinaia di migliaia di miliardi all'anno senza che questo porti a veri guadagni a chi sviluppa i modelli, cosa oggi molto lontana dall'essere possibile.