[Thread Ufficiale] AMD Radeon RX9000 Series

[mikael84]

Originariamente inviato da Lan_Di

ancient gameplay che ha pubblicato il video, di solito è molto affidabile, per cui non ho motivi di credere che sia una burla.
Da quel che ho capito, al momento il tool funziona solo su cyberpunk e ovviamente la perdita di FPS è drastica.

Lo sviluppatore del tool ambisce a portare la 9070 XT al livello della 5070 Ti.

Poi chi vivrà, vedrà

Originariamente inviato da The_SaN

Azz non avevo visto

Comunque è evidente che pure un eventuale FSR5 farà fatica con le attuali, le 10000 sicuramente faranno un salto pazzesco.

Il problema qua non è tanto solo la pesantezza, con 2048 ops, le matrix di AMD in fp8, arrivano al teorico della 5080, il problema è la conversione da CUDA a HIP.
I tensor, come accade alle ALU nel path tracing (lato registri), sono fermi aspettando la conversione.
Analizzando quel video, provando a fare un dimezzamento classico (ma potrebbe essere anche peggio): abbiamo un frame di rendering di 12,5ms circa (ora non ricordo se fossero 80-82), + 12,5 matrix = 25ms (40fps) + 66-67ms legati alla conversione cuda - HIP = 11-12fps.

Ho letto che hanno già migliorato del 12%, ma c'è ancora troppo da fare. La vera svolta sarà il passaggio a directml.

[Mars95]

Originariamente inviato da The_SaN

Azz non avevo visto

Comunque è evidente che pure un eventuale FSR5 farà fatica con le attuali, le 10000 sicuramente faranno un salto pazzesco.

Infatti a quando pare FSR con il neural rendering non ci pensano minimamente a farlo uscire per rdna 4, si parla di 2027 con rdna 5 e xbox nuova.

[Lo Straniero Misterioso]

Sto portando avanti i miei testi di inferenza locale con gli LLM opensource con AMD.
Se qualcuno fosse interessato, questi sono i numeri - direi che siamo diventati un po' più bravi a spremere le schede!

Spero possano essere utili a qualcuno.



Setup: Ryzen 9 7900, 128 GB DDR5, 2× AMD Radeon AI PRO R9700 (32 GB, gfx1201/RDNA4) PCIe 5.0 ×8 su entrambe le schede, llama.cpp b10809 (pacchetto Arch llama-cpp + ggml-hip/ggml-vulkan), contesto 32k, KV cache q8_0, flash attention, MTP (speculative decoding) attivo dove supportato con --spec-draft-n-max 2. Prompt ~850 token, 128 generati, mediana di 3 misure con nonce anti-cache.

  modello               prefill    gen   GPU      quant           GB  backend  attivi
  -----------------------------------------------------------------------------------
  gemma-4-26B-A4B QAT      2249  170.2   1        UD-Q4_K_XL    14.2  Vulkan   4B
  Qwen3.6-35B-A3B          2465  166.9   1        UD-Q4_K_XL    22.9  Vulkan   3B
  aya-expanse-8b           3381   83.1   1        Q4_K_M         4.8  Vulkan   8B denso
  Qwen3.8-27B               835   56.3   1        UD-Q5_K_M     19.8  Vulkan   27B denso
  Qwen3.8-Flash-Next        664   52.9   2 + RAM  UD-IQ3_XXS    82.0  ROCm     6B
  Qwen3.8-27B               910   44.0   1        Q8_0          29.0  Vulkan   27B denso
  Qwen3.8-27B              1069   41.4   1        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-27B               953   38.3   2        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-Flash-Next        613   33.6   2 + RAM  UD-IQ4_XS     93.7  ROCm     6B
  Qwen3.8-Flash-Next        396   23.7   2 + RAM  UD-Q4_K_XL   111.3  ROCm     6B
  GLM-5.3-Flash             111    2.9   2 + RAM  UD-IQ3_XXS   120.4  ROCm     18B
  
  "2 + RAM" = eccede i 63.7 GiB di VRAM totali e sborda in RAM di sistema.

Note utili

• Vulkan (RADV) batte ROCm in generazione su tutto ciò che sta in VRAM, dal +4% al +37%. Eccezione:
  su Q8_0 ROCm fa il miglior prefill in assoluto (1069 contro 910). Sui modelli che sbordano in RAM
  vince ROCm nettamente.
  
• Due schede sono più lente di una se il modello ci sta in una: Q8_0 fa 44.0 su una e 38.3 su
  due. Si usano due schede solo per necessità.
  
• MTP vale ~2× sul denso e +71% su gemma4 (99.8 → 170.2 passando alla variante con drafter).
  Accettazione della bozza misurata: 0.86 su gemma4, 0.92 su Qwen3.6, con n=2.
  
• La generazione è limitata dalla banda: senza MTP, Q8_0 consuma 579 GB/s sui 575 disponibili
  al clock a cui gira. Bus saturo al 100%.
  

[okorop]

Sapete per caso perchè i nuovi driver da Adrenalin non li trova? Io ho su i 26.8.1 e dice che è aggiornato

[Gundam1973]

Originariamente inviato da okorop

Sapete per caso perchè i nuovi driver da Adrenalin non li trova? Io ho su i 26.8.1 e dice che è aggiornato

Perche i 26.9.1 non sono WHQL

[okorop]

Originariamente inviato da Gundam1973

Perche i 26.9.1 non sono WHQL

Ah ok grazie, attendiamo gli ufficiali

[Evilquantico]

Originariamente inviato da okorop

Ah ok grazie, attendiamo gli ufficiali

Perchè ? io li ho installati vanno benissimo i beta 26.9.1 li ho messi per The Blood of Dawnwalker , a 2560x1440 tutto ULTRA non fa una piega , vai tranquillo

[argez]

Originariamente inviato da Lo Straniero Misterioso

Sto portando avanti i miei testi di inferenza locale con gli LLM opensource con AMD.
Se qualcuno fosse interessato, questi sono i numeri - direi che siamo diventati un po' più bravi a spremere le schede!

Spero possano essere utili a qualcuno.



Setup: Ryzen 9 7900, 128 GB DDR5, 2× AMD Radeon AI PRO R9700 (32 GB, gfx1201/RDNA4) PCIe 5.0 ×8 su entrambe le schede, llama.cpp b10809 (pacchetto Arch llama-cpp + ggml-hip/ggml-vulkan), contesto 32k, KV cache q8_0, flash attention, MTP (speculative decoding) attivo dove supportato con --spec-draft-n-max 2. Prompt ~850 token, 128 generati, mediana di 3 misure con nonce anti-cache.

  modello               prefill    gen   GPU      quant           GB  backend  attivi
  -----------------------------------------------------------------------------------
  gemma-4-26B-A4B QAT      2249  170.2   1        UD-Q4_K_XL    14.2  Vulkan   4B
  Qwen3.6-35B-A3B          2465  166.9   1        UD-Q4_K_XL    22.9  Vulkan   3B
  aya-expanse-8b           3381   83.1   1        Q4_K_M         4.8  Vulkan   8B denso
  Qwen3.8-27B               835   56.3   1        UD-Q5_K_M     19.8  Vulkan   27B denso
  Qwen3.8-Flash-Next        664   52.9   2 + RAM  UD-IQ3_XXS    82.0  ROCm     6B
  Qwen3.8-27B               910   44.0   1        Q8_0          29.0  Vulkan   27B denso
  Qwen3.8-27B              1069   41.4   1        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-27B               953   38.3   2        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-Flash-Next        613   33.6   2 + RAM  UD-IQ4_XS     93.7  ROCm     6B
  Qwen3.8-Flash-Next        396   23.7   2 + RAM  UD-Q4_K_XL   111.3  ROCm     6B
  GLM-5.3-Flash             111    2.9   2 + RAM  UD-IQ3_XXS   120.4  ROCm     18B
  
  "2 + RAM" = eccede i 63.7 GiB di VRAM totali e sborda in RAM di sistema.

Note utili

• Vulkan (RADV) batte ROCm in generazione su tutto ciò che sta in VRAM, dal +4% al +37%. Eccezione:
  su Q8_0 ROCm fa il miglior prefill in assoluto (1069 contro 910). Sui modelli che sbordano in RAM
  vince ROCm nettamente.
  
• Due schede sono più lente di una se il modello ci sta in una: Q8_0 fa 44.0 su una e 38.3 su
  due. Si usano due schede solo per necessità.
  
• MTP vale ~2× sul denso e +71% su gemma4 (99.8 → 170.2 passando alla variante con drafter).
  Accettazione della bozza misurata: 0.86 su gemma4, 0.92 su Qwen3.6, con n=2.
  
• La generazione è limitata dalla banda: senza MTP, Q8_0 consuma 579 GB/s sui 575 disponibili
  al clock a cui gira. Bus saturo al 100%.
  

Io non ci capisco nulla ma sono contento che ci siano utenti come te che fanno questi test e li postano sul forum .

[Totix92]

La mancata firma WHQL non li rende beta
AMD per le versioni beta ha un programma apposito chiamato Vanguard.

[DvL^Nemo]

Stavo adocchiando le R9700 su amazon.. Passate da circa 1500 euro a quasi/vicino a 2000 nel giro di pochi giorni..

[DvL^Nemo]

Originariamente inviato da Lo Straniero Misterioso

Sto portando avanti i miei testi di inferenza locale con gli LLM opensource con AMD.
Se qualcuno fosse interessato, questi sono i numeri - direi che siamo diventati un po' più bravi a spremere le schede!

Spero possano essere utili a qualcuno.



Setup: Ryzen 9 7900, 128 GB DDR5, 2× AMD Radeon AI PRO R9700 (32 GB, gfx1201/RDNA4) PCIe 5.0 ×8 su entrambe le schede, llama.cpp b10809 (pacchetto Arch llama-cpp + ggml-hip/ggml-vulkan), contesto 32k, KV cache q8_0, flash attention, MTP (speculative decoding) attivo dove supportato con --spec-draft-n-max 2. Prompt ~850 token, 128 generati, mediana di 3 misure con nonce anti-cache.

  modello               prefill    gen   GPU      quant           GB  backend  attivi
  -----------------------------------------------------------------------------------
  gemma-4-26B-A4B QAT      2249  170.2   1        UD-Q4_K_XL    14.2  Vulkan   4B
  Qwen3.6-35B-A3B          2465  166.9   1        UD-Q4_K_XL    22.9  Vulkan   3B
  aya-expanse-8b           3381   83.1   1        Q4_K_M         4.8  Vulkan   8B denso
  Qwen3.8-27B               835   56.3   1        UD-Q5_K_M     19.8  Vulkan   27B denso
  Qwen3.8-Flash-Next        664   52.9   2 + RAM  UD-IQ3_XXS    82.0  ROCm     6B
  Qwen3.8-27B               910   44.0   1        Q8_0          29.0  Vulkan   27B denso
  Qwen3.8-27B              1069   41.4   1        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-27B               953   38.3   2        Q8_0          29.0  ROCm     27B denso
  Qwen3.8-Flash-Next        613   33.6   2 + RAM  UD-IQ4_XS     93.7  ROCm     6B
  Qwen3.8-Flash-Next        396   23.7   2 + RAM  UD-Q4_K_XL   111.3  ROCm     6B
  GLM-5.3-Flash             111    2.9   2 + RAM  UD-IQ3_XXS   120.4  ROCm     18B
  
  "2 + RAM" = eccede i 63.7 GiB di VRAM totali e sborda in RAM di sistema.

Note utili

• Vulkan (RADV) batte ROCm in generazione su tutto ciò che sta in VRAM, dal +4% al +37%. Eccezione:
  su Q8_0 ROCm fa il miglior prefill in assoluto (1069 contro 910). Sui modelli che sbordano in RAM
  vince ROCm nettamente.
  
• Due schede sono più lente di una se il modello ci sta in una: Q8_0 fa 44.0 su una e 38.3 su
  due. Si usano due schede solo per necessità.
  
• MTP vale ~2× sul denso e +71% su gemma4 (99.8 → 170.2 passando alla variante con drafter).
  Accettazione della bozza misurata: 0.86 su gemma4, 0.92 su Qwen3.6, con n=2.
  
• La generazione è limitata dalla banda: senza MTP, Q8_0 consuma 579 GB/s sui 575 disponibili
  al clock a cui gira. Bus saturo al 100%.
  

Stavo pensando ad una config simile ( piu' che altro per usare Qwen flash next ) , ma allo stato attuale i prezzi delle RAM sono davvero proibitivi.. Avendo gia' una 5060TI da 16GB alla fine ho ripiegato con l'aggiunta di una seconda 5060TI da 16GB, sk madre, processore, PSU, case ed ho riciclato un po' di DDR4 che mi avanzava. Riesco ad usare Qwen 3.8 27b Q6 con contesto di 131k, viaggia circa a 50t/s non male direi.. 48GB di DDR4
Su discord c'e' un canale che ti potrebbe essere molto di aiuto per le R9700

https://discord.gg/pvs3UHXu6y

Se i prezzi calano piu' in la' passo ad una nuova config tipo la tua.

[OvErClOck82]

da domani (spero) sarò dei vostri, presa una 9070 Reaper ho letto che a rumorosità non è messa benissimo ma con il Fractal Terra (bello, però mortacci di queste schede gigantesche) la scelta era tra questa, la Asus Prime e la Sapphire Pulse che sarebbe stata anche la mia preferita ma si trova solo a prezzi da rapina a mano armata.

[argez]

Originariamente inviato da OvErClOck82

da domani (spero) sarò dei vostri, presa una 9070 Reaper ho letto che a rumorosità non è messa benissimo ma con il Fractal Terra (bello, però mortacci di queste schede gigantesche) la scelta era tra questa, la Asus Prime e la Sapphire Pulse che sarebbe stata anche la mia preferita ma si trova solo a prezzi da rapina a mano armata.

Immaginatevi se i prezzi sono alti ora, cosa succederà da novembre in poi...forse converrà andare a fare delle girate invece che pensare ai pc e all'elettronica di consumo.

[okorop]

Originariamente inviato da OvErClOck82

da domani (spero) sarò dei vostri, presa una 9070 Reaper ho letto che a rumorosità non è messa benissimo ma con il Fractal Terra (bello, però mortacci di queste schede gigantesche) la scelta era tra questa, la Asus Prime e la Sapphire Pulse che sarebbe stata anche la mia preferita ma si trova solo a prezzi da rapina a mano armata.

Benvenuto nel club, a quanto l hai presa?

[OvErClOck82]

Originariamente inviato da argez

Immaginatevi se i prezzi sono alti ora, cosa succederà da novembre in poi...forse converrà andare a fare delle girate invece che pensare ai pc e all'elettronica di consumo.

lasciamo perdere, guarda... l'anno scorso ho dovuto rimandare l'acquisto per altre spese, volevo aggiornare tutta la piattaforma ma con l'esplosione delle ram ho deciso di rimanere così e di cambiare solo gpu e alimentatore. Vada come vada, se la situazione peggiorerà tirerò avanti finchè non mi esplode il pc

Originariamente inviato da okorop

Benvenuto nel club, a quanto l hai presa?

679.. prezzo alto, ma rivendendo la 6700 conto di recuperare sui 250-270, alla fine come esborso complessivo rientra nei parametri che ritengo accettabili senza usato da rivendere non penso che l'avrei presa

[okorop]

Originariamente inviato da OvErClOck82

679.. prezzo alto, ma rivendendo la 6700 conto di recuperare sui 250-270, alla fine come esborso complessivo rientra nei parametri che ritengo accettabili senza usato da rivendere non penso che l'avrei presa

Altino come prezzo ma rivendendo la vecchia sicuramente l esborso si riduce, anche io sono passato dalla 6750xt alla 9070 liscia prime, un altro mondo seppur gioco in full HD, vedrai che hai fatto la scelta giusta e non ne sarai deluso

[belta]

Originariamente inviato da okorop

Altino come prezzo ma rivendendo la vecchia sicuramente l esborso si riduce, anche io sono passato dalla 6750xt alla 9070 liscia prime, un altro mondo seppur gioco in full HD, vedrai che hai fatto la scelta giusta e non ne sarai deluso

Puoi sempre provare il downscaling

[ninja750]

sono aumentate tutte abbastanza l'ultima settimana di agosto

ma sempre nel range di quasi 80€

restano comprabili a differenza di altre

[alethebest90]

Originariamente inviato da belta

Puoi sempre provare il downscaling

esatto anche io lo consiglio, lo facevo con la 6700xt in alcuni giochi finchè ho potuto

in 2K va benissimo la 9070

[DvL^Nemo]

Originariamente inviato da ninja750

sono aumentate tutte abbastanza l'ultima settimana di agosto

ma sempre nel range di quasi 80€

restano comprabili a differenza di altre

La 9700 è aumentata di quasi 500 euro.