DeepSeek-R1, NVIDIA dichiara prestazioni di inferenza da record grazie alle GPU Blackwell

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/skvide...ll_136787.html

NVIDIA ha annunciato prestazioni record per l'inferenza IA con le GPU Blackwell con l'enorme modello DeepSeek-R1 da 671 miliardi di parametri. A giocare un ruolo fondamentale i Tensor core con supporto FP4.

Click sul link per visualizzare la notizia.

[supertigrotto]

Si sa che la IA usa piccoli ma numerosi calcoli,mica è una scoperta di Nvidia (che sta diventando la nuova Apple,ovvero una leggenda metropolitana che "inventa" quello che già esiste) ma lo diceva IBM ancora quando Huang giocava con i pupazzetti Master immedesimandosi in He-Man.
Gli FP 64 sono scomparsi dalle schede Nvidia.....

[CrapaDiLegno]

Mi piacerebbe capire cosa TU hai capito della news.
Da nessuna parte c'è scritto che Nvidia ha inventato qualcosa di nuovo.
C'è scritto che con i nuovi Tensor che supportano FP4 si raggiungono quelle prestazioni.
Secondo la tua affermazione, i calcoli "con i numeri piccoli" sono così semplici da implementare che chiunque, già da quando Huang giocava con i pupazzetti, era in grado di farli.
Ebbene, nel 2025, dopo 3 iterazioni della propria architettura, la maggior concorrente di Nvidia ancora non li supporta.

Poi però la stessa concorrente va in giro a spacciare bench fake dove compara quello che vuole con le ottimizzazioni che vuole, senza test di scaling, per dimostrare che le sue unità di accelerazione sono uno sputo superiori alle GPU di Nvidia della scorsa (o anche quella pima) generazione.
Nella realtà la differenza è abissale, soprattutto quando si parla di datacenter da migliaia e migliaia di acceleratori che devono lavorare in parallelo.
Sarà anche per questo che una azienda ha il 90% del mercato e le altre si litigano le briciole facendo passare le misere percentuali di vendita come una vittoria su cui investire.

P.S: i calcoli FP64 non sono mai serviti alla AI. Nvidia li ha messi in secondo piano da circa 8 anni nelle architetture per server e non li ha mai presi in considerazione per il mercato consumer. E infatti sta dove sta mica per nulla. Forse è perché è l'unica ad aver capito cosa realmente server per avere architetture super prestazionali ed efficienti per l'accelerazione AI.

[AceGranger]

Originariamente inviato da supertigrotto

Si sa che la IA usa piccoli ma numerosi calcoli,mica è una scoperta di Nvidia (che sta diventando la nuova Apple,ovvero una leggenda metropolitana che "inventa" quello che già esiste) ma lo diceva IBM ancora quando Huang giocava con i pupazzetti Master immedesimandosi in He-Man.
Gli FP 64 sono scomparsi dalle schede Nvidia.....

poche idee e molto confuse

ti sei dimentico di scrivere l'inutile frase sulla concorrenza, ah no, l'hai usata per l'altra news .

[Max Power]

Originariamente inviato da CrapaDiLegno

,nel 2025, dopo 3 iterazioni della propria architettura, la maggior concorrente di Nvidia ancora non li supporta.

Ma smettila che Nvidia FP4 non c'è l'ha da nemmeno un anno.

Fra i paper launch (dove sono dei gran maestri), alle consegne effettive ne passa di acqua sotto i ponti...

[CrapaDiLegno]

Originariamente inviato da Max Power

Ma smettila che Nvidia FP4 non c'è l'ha da nemmeno un anno.

Fra i paper launch (dove sono dei gra maestri), alle consegne effettive ne passa di acqua sotto i ponti...

Huh, devo aver toccato un tasto dolente ad un sostenitore AMD vedo.
Poverino, dai non ti preoccupare che tra 3 o 4 annetti anche AMD si presenta con i tensor core sul mercato consumer.

[Max Power]

Originariamente inviato da CrapaDiLegno

Huh, devo aver toccato un tasto dolente ad un sostenitore AMD vedo.
Poverino, dai non ti preoccupare che tra 3 o 4 annetti anche AMD si presenta con i tensor core sul mercato consumer.

Ma ti stai toccando da solo, perché se non sai le cose è un problema tuo