[Thread Ufficiale] AMD Radeon RX9000 Series

[mikael84]

Originariamente inviato da Lan_Di

ancient gameplay che ha pubblicato il video, di solito è molto affidabile, per cui non ho motivi di credere che sia una burla.
Da quel che ho capito, al momento il tool funziona solo su cyberpunk e ovviamente la perdita di FPS è drastica.

Lo sviluppatore del tool ambisce a portare la 9070 XT al livello della 5070 Ti.

Poi chi vivrà, vedrà

Originariamente inviato da The_SaN

Azz non avevo visto

Comunque è evidente che pure un eventuale FSR5 farà fatica con le attuali, le 10000 sicuramente faranno un salto pazzesco.

Il problema qua non è tanto solo la pesantezza, con 2048 ops, le matrix di AMD in fp8, arrivano al teorico della 5080, il problema è la conversione da CUDA a HIP.
I tensor, come accade alle ALU nel path tracing (lato registri), sono fermi aspettando la conversione.
Analizzando quel video, provando a fare un dimezzamento classico (ma potrebbe essere anche peggio): abbiamo un frame di rendering di 12,5ms circa (ora non ricordo se fossero 80-82), + 12,5 matrix = 25ms (40fps) + 66-67ms legati alla conversione cuda - HIP = 11-12fps.

Ho letto che hanno già migliorato del 12%, ma c'è ancora troppo da fare. La vera svolta sarà il passaggio a directml.

[Mars95]

Originariamente inviato da The_SaN

Azz non avevo visto

Comunque è evidente che pure un eventuale FSR5 farà fatica con le attuali, le 10000 sicuramente faranno un salto pazzesco.

Infatti a quando pare FSR con il neural rendering non ci pensano minimamente a farlo uscire per rdna 4, si parla di 2027 con rdna 5 e xbox nuova.

[Lo Straniero Misterioso]

Sto portando avanti i miei testi di inferenza locale con gli LLM opensource con AMD.
Se qualcuno fosse interessato, questi sono i numeri - direi che siamo diventati un po' più bravi a spremere le schede!

Spero possano essere utili a qualcuno.



Setup: Ryzen 9 7900, 128 GB DDR5, 2× AMD Radeon AI PRO R9700 (32 GB, gfx1201/RDNA4) PCIe 5.0 ×8 su entrambe le schede, llama.cpp b10809 (pacchetto Arch llama-cpp + ggml-hip/ggml-vulkan), contesto 32k, KV cache q8_0, flash attention, MTP (speculative decoding) attivo dove supportato con --spec-draft-n-max 2. Prompt ~850 token, 128 generati, mediana di 3 misure con nonce anti-cache.

  modello               prefill    gen   GPU      quant           GB  backend  attivi
  -----------------------------------------------------------------------------------
  gemma-4-26B-A4B QAT      2249  170.2   1        UD-Q4_K_XL    14.2  Vulkan   4B
  Qwen3.6-35B-A3B          2465  166.9   1        UD-Q4_K_XL    22.9  Vulkan   3B
  aya-expanse-8b           3381   83.1   1        Q4_K_M         4.8  Vulkan   8B denso
  Qwen3.8-27B               835   56.3   1        UD-Q5_K_M     19.8  Vulkan   27B denso
  Qwen3.8-Flash-Next        664   52.9   2 + RAM  UD-IQ3_XXS    82.0  ROCm     6B
  Qwen3.8-27B               910   44.0   1        Q8_0          29.0  Vulkan   27B denso
  Qwen3.8-27B              1069   41.4   1        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-27B               953   38.3   2        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-Flash-Next        613   33.6   2 + RAM  UD-IQ4_XS     93.7  ROCm     6B
  Qwen3.8-Flash-Next        396   23.7   2 + RAM  UD-Q4_K_XL   111.3  ROCm     6B
  GLM-5.3-Flash             111    2.9   2 + RAM  UD-IQ3_XXS   120.4  ROCm     18B
  
  "2 + RAM" = eccede i 63.7 GiB di VRAM totali e sborda in RAM di sistema.

Note utili

• Vulkan (RADV) batte ROCm in generazione su tutto ciò che sta in VRAM, dal +4% al +37%. Eccezione:
  su Q8_0 ROCm fa il miglior prefill in assoluto (1069 contro 910). Sui modelli che sbordano in RAM
  vince ROCm nettamente.
  
• Due schede sono più lente di una se il modello ci sta in una: Q8_0 fa 44.0 su una e 38.3 su
  due. Si usano due schede solo per necessità.
  
• MTP vale ~2× sul denso e +71% su gemma4 (99.8 → 170.2 passando alla variante con drafter).
  Accettazione della bozza misurata: 0.86 su gemma4, 0.92 su Qwen3.6, con n=2.
  
• La generazione è limitata dalla banda: senza MTP, Q8_0 consuma 579 GB/s sui 575 disponibili
  al clock a cui gira. Bus saturo al 100%.
  

[okorop]

Sapete per caso perchè i nuovi driver da Adrenalin non li trova? Io ho su i 26.8.1 e dice che è aggiornato

[Gundam1973]

Originariamente inviato da okorop

Sapete per caso perchè i nuovi driver da Adrenalin non li trova? Io ho su i 26.8.1 e dice che è aggiornato

Perche i 26.9.1 non sono WHQL

[okorop]

Originariamente inviato da Gundam1973

Perche i 26.9.1 non sono WHQL

Ah ok grazie, attendiamo gli ufficiali

[Evilquantico]

Originariamente inviato da okorop

Ah ok grazie, attendiamo gli ufficiali

Perchè ? io li ho installati vanno benissimo i beta 26.9.1 li ho messi per The Blood of Dawnwalker , a 2560x1440 tutto ULTRA non fa una piega , vai tranquillo

[argez]

Originariamente inviato da Lo Straniero Misterioso

Sto portando avanti i miei testi di inferenza locale con gli LLM opensource con AMD.
Se qualcuno fosse interessato, questi sono i numeri - direi che siamo diventati un po' più bravi a spremere le schede!

Spero possano essere utili a qualcuno.



Setup: Ryzen 9 7900, 128 GB DDR5, 2× AMD Radeon AI PRO R9700 (32 GB, gfx1201/RDNA4) PCIe 5.0 ×8 su entrambe le schede, llama.cpp b10809 (pacchetto Arch llama-cpp + ggml-hip/ggml-vulkan), contesto 32k, KV cache q8_0, flash attention, MTP (speculative decoding) attivo dove supportato con --spec-draft-n-max 2. Prompt ~850 token, 128 generati, mediana di 3 misure con nonce anti-cache.

  modello               prefill    gen   GPU      quant           GB  backend  attivi
  -----------------------------------------------------------------------------------
  gemma-4-26B-A4B QAT      2249  170.2   1        UD-Q4_K_XL    14.2  Vulkan   4B
  Qwen3.6-35B-A3B          2465  166.9   1        UD-Q4_K_XL    22.9  Vulkan   3B
  aya-expanse-8b           3381   83.1   1        Q4_K_M         4.8  Vulkan   8B denso
  Qwen3.8-27B               835   56.3   1        UD-Q5_K_M     19.8  Vulkan   27B denso
  Qwen3.8-Flash-Next        664   52.9   2 + RAM  UD-IQ3_XXS    82.0  ROCm     6B
  Qwen3.8-27B               910   44.0   1        Q8_0          29.0  Vulkan   27B denso
  Qwen3.8-27B              1069   41.4   1        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-27B               953   38.3   2        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-Flash-Next        613   33.6   2 + RAM  UD-IQ4_XS     93.7  ROCm     6B
  Qwen3.8-Flash-Next        396   23.7   2 + RAM  UD-Q4_K_XL   111.3  ROCm     6B
  GLM-5.3-Flash             111    2.9   2 + RAM  UD-IQ3_XXS   120.4  ROCm     18B
  
  "2 + RAM" = eccede i 63.7 GiB di VRAM totali e sborda in RAM di sistema.

Note utili

• Vulkan (RADV) batte ROCm in generazione su tutto ciò che sta in VRAM, dal +4% al +37%. Eccezione:
  su Q8_0 ROCm fa il miglior prefill in assoluto (1069 contro 910). Sui modelli che sbordano in RAM
  vince ROCm nettamente.
  
• Due schede sono più lente di una se il modello ci sta in una: Q8_0 fa 44.0 su una e 38.3 su
  due. Si usano due schede solo per necessità.
  
• MTP vale ~2× sul denso e +71% su gemma4 (99.8 → 170.2 passando alla variante con drafter).
  Accettazione della bozza misurata: 0.86 su gemma4, 0.92 su Qwen3.6, con n=2.
  
• La generazione è limitata dalla banda: senza MTP, Q8_0 consuma 579 GB/s sui 575 disponibili
  al clock a cui gira. Bus saturo al 100%.
  

Io non ci capisco nulla ma sono contento che ci siano utenti come te che fanno questi test e li postano sul forum .