Servono 4 chip Huawei per pareggiare una GPU NVIDIA: la confessione del CEO di DeepSeek

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/server...ek_156802.html

Il CEO di DeepSeek, Liang Wenfeng, ha rivelato in una call con gli investitori dettagli inediti sul divario computazionale della Cina rispetto agli Stati Uniti e sul confronto tra i chip Huawei e quelli NVIDIA.

Click sul link per visualizzare la notizia.

[LMCH]

Quello che ha detto il CEO di Deepseek non é un mistero.

É da notare che lo ha detto per "rassicurare" i concorrenti USA che sono troppo stupidi (a livello di MAGNAgement) per rendersi conto a cosa punta davvero la Cina e quali obiettivi ha già raggiunto.

Per loro non é tutto rose e fiori, ma gli basterà fare meno errori degli americani per scavalcarli.

Paradossalmente il vero pericolo per la Cina é interno, anche loro hanno una leadership che sarebbe ora passasse il testimone ma non lo fa, ma per ora sono ben lontani dai disastri che si sono autoinflitte Russia ed USA.

[Alodesign]

Ok, ci servono 4 chip cinesi per farne uno americano (taiwanese).
Ma quanto costa mettere giù quei 4 chip in confronto a uno singolo americano?

[supertigrotto]

Non c'è da stupirsi,se avessero macchinari ASML il gap sarebbe quasi nullo,huawei ha dimostrato di essere una brava progettista prima dei vari ban.
Se riescono a trovare una sorgente laser valida (stanno cercando di costruire un sincrotone per generare un laser valido) il gap potrebbe azzerarsi,so che in in Lituania stanno sviluppando laser che potrebbero sostituire i laser a stagno nei macchinari litografici e la Lituania non è sotto manipolazione americana,quindi potrebbe tranquillamente lavorare con i cinesi.
Tutte le parti delle macchine litografiche ,i cinesi riescono a costruirsele ,lenti e specchi compresi e sono di alta qualità paragonabili tranquillamente a Zeiss che è il fornitore ufficiale di asml,hanno solo il problema della sorgente laser.
Ovviamente sarebbe come paragonare un Zen 1 con un zen 5,il paragone sarebbe vergognoso,vorrei vedere Nvidia che è considerata il top in questo settore,avere chip sviluppati con lo stesso processo produttivo se il distacco sarebbe così marcato.

[giacomo_uncino]

Originariamente inviato da supertigrotto

Non c'è da stupirsi,se avessero macchinari ASML il gap sarebbe quasi nullo,huawei ha dimostrato di essere una brava progettista prima dei vari ban.
Se riescono a trovare una sorgente laser valida (stanno cercando di costruire un sincrotone per generare un laser valido) il gap potrebbe azzerarsi,so che in in Lituania stanno sviluppando laser che potrebbero sostituire i laser a stagno nei macchinari litografici e la Lituania non è sotto manipolazione americana,quindi potrebbe tranquillamente lavorare con i cinesi.

aspetta la stessa Lituania minacciata un di sì e l'altro pure (con gli altri baltici) dal vicino russo, vicino russo aiutato e rifornito dai cinesi. Si metterebbe a collaborare con quegli stessi cinesi per aiutarli a superare il gap tecnologico, che poi finirebbe per rifornire i russi?

[LMCH]

Originariamente inviato da supertigrotto

Se riescono a trovare una sorgente laser valida (stanno cercando di costruire un sincrotone per generare un laser valido) il gap potrebbe azzerarsi,so che in in Lituania stanno sviluppando laser che potrebbero sostituire i laser a stagno nei macchinari litografici e la Lituania non è sotto manipolazione americana,quindi potrebbe tranquillamente lavorare con i cinesi.

IBM research aveva già provato la strada del sincrotrone e poi ha lasciato perdere (c'é un limite intrinseco di precisione) ed ogni tanto altri ancora ci riprovano e sbattono contro lo stesso muro.

[supertigrotto]

Originariamente inviato da LMCH

IBM research aveva già provato la strada del sincrotrone e poi ha lasciato perdere (c'é un limite intrinseco di precisione) ed ogni tanto altri ancora ci riprovano e sbattono contro lo stesso muro.

In realtà,una altra azienda/start-up americana ci sta provando, è nata dopo che i cinesi hanno dichiarato di lavorare al sincrotrone,vero, IBM ha preferito concentrarsi su altro ma gli americani non vogliono arrivare secondi,altrimenti non possono bloccare i cinesi.
Ecco il problema sta nel indirizzare il laser,tenere bene il vuoto nel sincrotrone e fare i gate di uscita del laser,sembra facile ma la regolazione è difficoltosa ma non impossibile,alcuni prototipi di chip sono stati fatti ma con un grado di difficoltà estremamente elevato,e comunque erano chip semplici per ora.

[Sandro kensan]

Mi pare ci sia un errore nell'articolo quando si dice:

Secondo quanto dichiarato da Wenfeng, le risorse di calcolo attualmente a disposizione di DeepSeek permettono di addestrare modelli capaci di attivare circa 10 miliardi di parametri per volta, una cifra nettamente inferiore rispetto agli 800 miliardi di parametri attivati contemporaneamente dai modelli più avanzati sviluppati negli Stati Uniti.

Nella trascrizione si dice "tens" e non "ten" e si dice "un ordine di grandezza di differenza" ovvero 800G - 80G. Quindi non 10 ma semmai 80 o un range intorno agli 80.

Poi nell'articolo non si dice la cosa più importante ovvero il rapporto tra le gpu HUAWEI e Nvidia riguarda il training e non l'inferenza. Nel campo dell'inferenza le unità Huawei sono molto più prestanti e il divario con le Nvidia è molto più risicato.

Da notare che ogni volta che si da un prompt a una AI si fa una inferenza e non un training.

Infine non è chiaro quanto costino di più i rack ma sembra che sia limitato tanto da affermare:

«Huawei 950 supernode can fully substitute for NVIDIA's GB200 and GB300 in performance and price»

«four Huawei GPUs equal one NVIDIA GPU, and it's two years behind… So our chip gap with the US, I believe, will no longer exist in ecosystems, but in chips it's four-fold plus two years.»

Quindi come ecosystem le Nvidia non servono più in Cina.

[AceGranger]

Originariamente inviato da Sandro kensan

Mi pare ci sia un errore nell'articolo quando si dice:



Nella trascrizione si dice "tens" e non "ten" e si dice "un ordine di grandezza di differenza" ovvero 800G - 80G. Quindi non 10 ma semmai 80 o un range intorno agli 80.

Poi nell'articolo non si dice la cosa più importante ovvero il rapporto tra le gpu HUAWEI e Nvidia riguarda il training e non l'inferenza. Nel campo dell'inferenza le unità Huawei sono molto più prestanti e il divario con le Nvidia è molto più risicato.

Da notare che ogni volta che si da un prompt a una AI si fa una inferenza e non un training.

Infine non è chiaro quanto costino di più i rack ma sembra che sia limitato tanto da affermare:

«Huawei 950 supernode can fully substitute for NVIDIA's GB200 and GB300 in performance and price»

«four Huawei GPUs equal one NVIDIA GPU, and it's two years behind… So our chip gap with the US, I believe, will no longer exist in ecosystems, but in chips it's four-fold plus two years.»

Quindi come ecosystem le Nvidia non servono più in Cina.

The price is definitely higher, but limited. Fifty percent or a hundred percent higher - a hundred percent higher doesn't matter; even two hundred percent higher doesn't matter."

costa sicuramente sensibilmente di piu, solo che per loro il prezzo in piu non è un problema;
ma poi al dilà del prezzo del singolo "armadio" è tutto l'insieme che costa un botto di piu, hai 4 armadi rack al posto di 1, ti servono spazi immensi per ospitare i datacenter ( che gia non sono piccoli) e poi devi anche alimentarle, senza contare che avrai anche una perdita aggiuntiva fra lo scalare su 50.000 GPU o 200.000 GPU.

certo, loro evidentemente hanno elevata disponibilità di fondi e la corrente costerà poco rispetto ad altre parti del mondo, ma non è comuqnue facile da fare, difatti i loro sistemi sono molto piu piccoli e fra la teoria e la pratica un bel po di mare c'è...

[Sandro kensan]

1 rack Huawei ha la stessa potenza di 1 Nvidia e mi pareva che quello Huawei fosse più potente.

[omerook]

Non importa quanto costa il gatto l'importante è che prenda il topo.

[Sandro kensan]

Originariamente inviato da omerook

Non importa quanto costa il gatto l'importante è che prenda il topo.

e non è nemmeno detto che costi di più e probabilmente la differenza di prezzo non è enorme.

Da non dimenticare che il costo della materia prima è molto bassa per esempio nella ram HBM e che i prezzi enormi non sono dovuti al costo della materia prima e dei costi di sviluppo e macchinari litografici ma è dovuto alla speculazione.

Visto che il Governo cinese spesso impone la diffusione della proprietà intellettuale ad altre aziende nazionali, almeno parzialmente, è probabile che ad esempio la RAM HBM sia prodotta e rincarata non delle percentuali stratosferiche applicate da Micron e le altre della triade, ma abbia un prezzo umano quando viene venduta a Huawei per fare il suo rack. Da ricordare che Huawei è una impresa statale forse come la nostra IRI, per chi se la ricorda.

Poi le spiegazioni possono essere molto del perché i rack Huawei costano quanto, quelli nvidia. Ma se i prezzi fossero quelli del costo più un guadagno accettabile, senza speculazione, è ovvio che i rack costino uguale.