|
|
|
![]() |
|
Strumenti |
![]() |
#1 |
www.hwupgrade.it
Iscritto dal: Jul 2001
Messaggi: 75173
|
Link alla notizia: https://www.hwupgrade.it/news/skvide...md_135098.html
Le GPU NVIDIA, in genere, offrono prestazioni migliori nel campo dell'intelligenza artificiale rispetto alle controparti di AMD. Alcuni test con i distillati di DeepSeek-R1, realizzati da AMD, dipingono però una situazione diversa. Click sul link per visualizzare la notizia. |
![]() |
![]() |
![]() |
#2 |
Senior Member
Iscritto dal: Jun 2006
Città: Finalmente al di fuori del 'bel paese'
Messaggi: 478
|
Interessante.
Chissà se si potranno utilizzare a questo punto anche le schede AMD nei model learning di Stable Diffusion, che in questo momento =credo, non li ho mai usati= si possano fare solo con le schede RTX **90 della NVIDIA (servono 24GB per quanto ho letto). Sarebbe molto più economico e ci farei a questo punto un pensierino ![]() |
![]() |
![]() |
![]() |
#3 |
Senior Member
Iscritto dal: Aug 2006
Città: Valdagno
Messaggi: 5103
|
No dai,non è possibile,deve essere una fake news costruita ad hoc,tutti sanno che le schede video AMD e pure quelle Intel,sono costruite con escrementi di tutti gli esseri viventi di questo pianeta e che le uniche schede video che devono esistere su questo pianeta devono essere Nvidia,lo dicono pure alcuni scienziati di fama mondiale che scrivono su questo e altri forum.....
Scherzi a parte,le schede AMD erano indietro solo in RT e unità per usare elementi IA per generare frame finti, altrimenti le prestazioni in raster (che sono sempre calcoli) se la cavavano bene. |
![]() |
![]() |
![]() |
#4 |
Senior Member
Iscritto dal: Jan 2008
Messaggi: 11128
|
Quando la memoria è saturata dal modello, le prestazioni in token/s sono praticamente esclusivamente dipendenti dalla banda di memoria a disposizione, mentre se se ne usa meno ci saranno altri tipi di overhead.
Dunque vediamo che DeepSeek R1 Distill Qwen 32B, che in 4-bit richiederà circa 16GB di memoria solo per il modello, le prestazioni in token/s sono congruenti con la differenza di banda. (960 GB/s della 7900 XTX contro 1006 GB/s della RTX4090 = quasi esattamente il 96% della banda). La 4080 Super ha 736 GB/s di banda, e i 906 GB/s della 7900 XTX sono il 22% di velocità in più, guarda caso proprio la differenza riportata per DeepSeek R1 Distill Qwen 14B (circa 7GB di memoria in 4-bit). I modelli più piccoli non sono da utilizzare in 4-bit se possibile. ![]()
__________________
CPU Intel i7-12700K ~ Cooler Noctua NH-D15S ~ Motherboard MSI PRO Z690-A WIFI DDR4 ~ RAM Corsair Vengeance LPX 64 GB DDR4-3600
GPU MSI GeForce RTX 3090 GAMING X TRIO 24G ~ SSD SK hynix Platinum P41 2TB + Samsung 990 Pro 4TB PSU Corsair RM850x ~ Case Fractal Design Define C ~ Display Dell U2412M (A00) + NEC EA231WMi ~ OS ∞ Ultima modifica di s12a : 30-01-2025 alle 09:14. |
![]() |
![]() |
![]() |
#5 |
Senior Member
Iscritto dal: Jan 2003
Messaggi: 3106
|
Vediamo
|
![]() |
![]() |
![]() |
Strumenti | |
|
|
Tutti gli orari sono GMT +1. Ora sono le: 07:39.