[Thread Ufficiale] Aspettando le nuove CPU AMD Ryzen

[Evilquantico]

Che noia aspettare Gennaio 2027 per vedere sia Intel che AMD però , vorrei averli adesso

[BitCrafter]

Originariamente inviato da paolo.oliva2

Ma oggi, paradossalmente, in certi sistemi consuma quasi più la memoria con tutta la relativa interfaccia che i core in sé.
Il punto è che sì, per molti workload serve banda, ma non basta la banda: bisogna vedere che tipo di accessi fai. Se i dati sono random, puoi avere anche una memoria a 100 GHz, ma se ogni dato deve essere recuperato dalla RAM la latenza rimane il problema, e per ottenere quella banda devi tenere altissime frequenze, bus larghi e tutta l'interfaccia di memoria attiva, con consumi importanti.
È proprio qui che una cache grande cambia completamente il discorso. Se hai una L3 enorme, condivisa da molti core, con una buona prefetch/prediction, la RAM viene interrogata solo quando hai un cache miss. Se invece di andare in RAM per il 20-30% degli accessi ci vai per il 2-5%, puoi permetterti una memoria di sistema molto meno estrema: non devi tenere disponibile tutta quella banda continuamente, perché la maggior parte dei dati che servono ai core è già vicina ai core.
E secondo me questo nel desktop è ancora più importante che nel server. Nel server puoi giustificare 8, 12 o più canali di memoria perché stai comprando una macchina progettata proprio per alimentare una quantità enorme di core. Ma un desktop general purpose da 1.000-1.500 € non può diventare una macchina da 4.000 € perché per inseguire la banda gli metti quantità enormi di memoria e un'interfaccia sempre più costosa e affamata di energia.
Se il problema è veramente la banda, allora per quello esistono già Threadripper, EPYC e sistemi HEDT/server. Non è necessario trasformare ogni PC desktop in un piccolo server.
Io vedo più probabile un'altra evoluzione: aumentare enormemente la quantità di cache disponibile al core/chiplet, migliorare prefetch e predizione, e lasciare alla RAM il compito di essere una memoria molto più capiente ma molto meno stressata.
In altre parole, non devi necessariamente rendere la RAM sempre più veloce: devi fare in modo che il processore abbia sempre meno bisogno di andarci.
E questa, secondo me, è una differenza enorme rispetto al dire semplicemente “il futuro è tutta memoria e poco compute”. Il compute non sparisce: diventa sempre più efficiente e soprattutto viene alimentato da una gerarchia di memoria sempre più vicina ai core.

Una scatoletta con memoria unificata velocissima è una soluzione ottima quando puoi permetterti di mettere quella memoria direttamente vicino al compute. Ma non significa che sia automaticamente la soluzione migliore per un general purpose: se devo spendere una fortuna per avere 256/512 GB di memoria ad altissima banda, mentre posso ottenere prestazioni analoghe su un sistema con molta cache e una RAM molto più economica, allora il vantaggio della “scatoletta” diventa molto meno evidente.

Secondo me stai confondendo bandwidth richiesta dal workload con bandwidth che deve necessariamente essere fornita dalla DRAM. Una grossa cache cambia radicalmente quel rapporto.
Il prox X24 Zen6 liscio avrà 96MB di L3... 288MB totali se 3D... meglio spendere +200$ per un 3D con quasi 300MB di L3 o 2000$ di CUDIMM 12000 + mobo da 500$?

Immagina i prox Zen6 X24 3D e Nova con la bLLC... quando si tratterà di scegliere di spendere +200/300$ di CPU con big L3 o 1000/2000$ di DDR5 cazzuta, io scommetto che la gente sceglierà le soluzioni con L3 big, e crollerà l'acquisto di DDR5 >8000... e aggiungo, col cacchio che si sarà gente che al posto riciclare la propria DDR5 6000 la cambierà con DDR5 8000+ e/o CUDIMM per (forse) 1% di FPS in più...

https://www.techtimes.com/tags/ai-data-center/page4.htm

Paolo io ti do ragione su tutta la linea ma non ci stiamo capendo.
A breve gli unici workload di cui la gente avrà bisogno sono quelli in cui parli con il computer e gli dico cosa fare, quei workload sono bandwidth limited.
Io sto parlando di AI che fanno il nostro lavoro, non di workload portati avanti dal singolo individuo.

Purtroppo queste macchine su socket AM5 per le AI fanno cagare perché limitati nel bandwidth dalla memoria di sistema e dal bus PCIe5.

È hardware ormai vecchio su un architettura obsoleta. Ripeto, il mondo sta andando verso il memory bandwidth, non più verso il compute.

Io tiro una previsione alla Nostradamus.
Zen 7 su AM6 sarà una CPU di nicchia e non la comprerà nessuno o quasi se non per applicativi altamente specialistici, la stragrande maggioranza della gente si riverserà su architetture a memoria unificata

[sbaffo]

qui dicono che ZEN 6 suppoeterà le DDR6 su AM5 , mi sono perso qualcosa?
https://www.zeusnews.it/n.php?c=32426

[BitCrafter]

Originariamente inviato da sbaffo

qui dicono che ZEN 6 suppoeterà le DDR6 su AM5 , mi sono perso qualcosa?
https://www.zeusnews.it/n.php?c=32426

È l'articolo che è "rotto".

[Freisar]

Ve la butto li ho un 9950x3d...ma sinceramente in ambito gaming mi serve a poco pensavo di venderlo e prenderci un più prestante zen 6 (quello ideale per il 5 k e che spinga sugli fps) che dite faccio bene?

[Evilquantico]

Originariamente inviato da Freisar

Ve la butto li ho un 9950x3d...ma sinceramente in ambito gaming mi serve a poco pensavo di venderlo e prenderci un più prestante zen 6 (quello ideale per il 5 k e che spinga sugli fps) che dite faccio bene?

Secondo me si , sicuro in gaming zen 6 spingerà molto bene , sopratutto negli fps minimi . Ti riprendi i soldini e aspetti anche di vedere Nova Intel ( Gennaio Marzo 2027 per tutti e 2 ) .

[Ubro92]

Originariamente inviato da Freisar

Ve la butto li ho un 9950x3d...ma sinceramente in ambito gaming mi serve a poco pensavo di venderlo e prenderci un più prestante zen 6 (quello ideale per il 5 k e che spinga sugli fps) che dite faccio bene?

Se non lo stai sfruttando puoi anche far cassa, giusto per non vederlo svalutare troppo, se sei già in previsione di upgrade.

Poi Zen6 passa a CCD da 12 core, non sarebbe neanche assurdo che in MT rivaleggi con i precedenti 16 core Zen4/5, l'unica cosa è che per Zen6X3D non si sa quando saranno disponibili, i tempi potrebbero allungarsi rispetto alle soluzioni prive di cache 3d.

[paolo.oliva2]

https://www.phoronix.com/news/AMD-Ze...nt-EPP-Tunings

Per me queste ultime patch Zen6 specifiche per desktop/mobile, vanno nella direzione di un lancio tra fine settembre e inizi novembre.
Tocca iniziare a mettere da parte i dindi

Un Epyc Zen6 X8/16TH a 700$ a me non pare indicare un listino desktop alto.

Io ipotizzo un Zen6 X24 a 800/900$ con disponibili a 750/800€ come prezzo più basso in Italia.

Originariamente inviato da BitCrafter

Zen 7 su AM6 sarà una CPU di nicchia e non la comprerà nessuno o quasi se non per applicativi altamente specialistici, la stragrande maggioranza della gente si riverserà su architetture a memoria unificata

La direzione della memoria unificata AMD l'ha già fatta, Strix Halo con 192GB LPDDR5X è già presente... la condivisione degli indirizzi sono anni che AMD l'adotta... ma non c'entra nulla con banda e latenza, ma c'entra con quello che ti scrivevo prima.
Strix Halo non ha una memoria X86 i cui dati devono spostarsi nella GDDR, sono tutti nella stessa LPDDR con indirizzi condivisi.
Banda e latenza non vanno a braccetto, le HBM aumentano tantissimo la banda MA a scapito della latenza... oggi, la stessa IA, ha bisogno sia di bande altissime come di latenze bassissime... e l'unica soluzione che tra l'altro sarebbe più economica, più efficiente e più performante, è una cache specifica da cui i core possono accedere a latenza basse e bande alte. Lato server è diverso... il core count è alto, c'è richiesta banda, ma avere 4/8/12 canali di memoria aiuta ad alzare la banda ma SENZA migliorare la latenza... nel tuo discorso quindi un Epyc 3D non dovrebbe esistere, ed invece c'è', e se Microsoft con Azure ha fatto un ordine da 300 miliardi basato su Epyc Zen6 X176 3D, dimostra che aumentare la L3 serve eccome.
Il mercato desktop esisterà sempre, magari ci saranno più richiestre verso l'HYEDT, ma i player CPU non possono ignorare miliardi di clienti da 500€ e prediligere fasce dove anche se il costo della CPU passa a 30X (15.000€), il 95% del costo sistema NON VA nelle loro tasche.

[ninja750]

997€ il prezzo retail per 9965x3D

[paolo.oliva2]

Originariamente inviato da ninja750

997€ il prezzo retail per 9965x3D

Prezzi attuali:



Lasciamo a parte i prezzi di lancio Zen5... anche perchè, ricordo bene, io ho preferito acquistare il 9950X a 720€ al D-DAY vs un 7950X che, scontato era sui 420-450€ mi pare...

Oggi un 9950X si trova a 377,52€... ed un Zen6 24 deve avere un costo/prestazioni in linea.
9950X 377€, Zen6 X24 che performa 2X = 750€, poi +/-50€ ci può anche stare, ma per arrivare 900/1000€ bisogna che offra di più... tipo 7GHz frequenza massima turbo, 6,5GHz Fmax MT e IPC +20%, allora si.

P.S.
Pensavo un errore di battitura... non sapevo esistesse il 9965X3D
Si ma quello è un PRO...

[ninja750]

Originariamente inviato da paolo.oliva2

P.S.
Pensavo un errore di battitura... non sapevo esistesse il 9965X3D
Si ma quello è un PRO...

infatti la notizia è quella è la prima apparizione nel mercato retail di un processore che sarebbe altrimenti relegato a preinstallato in un server

[sbaffo]

Originariamente inviato da BitCrafter

È l'articolo che è "rotto".

Cioè? si sbaglia? o manca un pezzo?

[Gundam1973]

Originariamente inviato da paolo.oliva2

Prezzi attuali:


Oggi un 9950X si trova a 377,52€... ed un Zen6 24 deve avere un costo/prestazioni in linea.

Non vedo l'ora che a 300€ cambio piattaforma e mi accatto un bel 9950x!!

[BitCrafter]

Originariamente inviato da paolo.oliva2

https://www.phoronix.com/news/AMD-Ze...nt-EPP-Tunings

Per me queste ultime patch Zen6 specifiche per desktop/mobile, vanno nella direzione di un lancio tra fine settembre e inizi novembre.
Tocca iniziare a mettere da parte i dindi

Un Epyc Zen6 X8/16TH a 700$ a me non pare indicare un listino desktop alto.

Io ipotizzo un Zen6 X24 a 800/900$ con disponibili a 750/800€ come prezzo più basso in Italia.


La direzione della memoria unificata AMD l'ha già fatta, Strix Halo con 192GB LPDDR5X è già presente... la condivisione degli indirizzi sono anni che AMD l'adotta... ma non c'entra nulla con banda e latenza, ma c'entra con quello che ti scrivevo prima.
Strix Halo non ha una memoria X86 i cui dati devono spostarsi nella GDDR, sono tutti nella stessa LPDDR con indirizzi condivisi.
Banda e latenza non vanno a braccetto, le HBM aumentano tantissimo la banda MA a scapito della latenza... oggi, la stessa IA, ha bisogno sia di bande altissime come di latenze bassissime... e l'unica soluzione che tra l'altro sarebbe più economica, più efficiente e più performante, è una cache specifica da cui i core possono accedere a latenza basse e bande alte. Lato server è diverso... il core count è alto, c'è richiesta banda, ma avere 4/8/12 canali di memoria aiuta ad alzare la banda ma SENZA migliorare la latenza... nel tuo discorso quindi un Epyc 3D non dovrebbe esistere, ed invece c'è', e se Microsoft con Azure ha fatto un ordine da 300 miliardi basato su Epyc Zen6 X176 3D, dimostra che aumentare la L3 serve eccome.
Il mercato desktop esisterà sempre, magari ci saranno più richiestre verso l'HYEDT, ma i player CPU non possono ignorare miliardi di clienti da 500€ e prediligere fasce dove anche se il costo della CPU passa a 30X (15.000€), il 95% del costo sistema NON VA nelle loro tasche.

ma non sono d'accordo con la cache, le IA della cache non sanno che farsene, alle IA ci vogliono le decine di gigabyte di memoria, non le cache.

Originariamente inviato da sbaffo

Cioè? si sbaglia? o manca un pezzo?

si si sbaglia, zen 6 è DDR5 only. tra l'altro l'articolo parla di supporto DDR6 su mobo attuali, cosa impossibile. chi l'ha scritto probabilmente si occupa di vendere le patate al mercato.

[paolo.oliva2]

Originariamente inviato da BitCrafter

ma non sono d'accordo con la cache, le IA della cache non sanno che farsene, alle IA ci vogliono le decine di gigabyte di memoria, non le cache.

Non sto dicendo che la cache debba sostituire decine di GB di RAM/HBM. Il punto è creare un livello di memoria molto più capiente della SRAM (Cache 3D) ma molto più vicino al compute della DRAM/HBM tradizionale. Se AMD parla di 3D DRAM hybrid-bonded fino a 17× più efficiente energeticamente rispetto a HBM con microbump, il vantaggio riguarda soprattutto il costo energetico del movimento dei dati. Nei server il costo del packaging è più facilmente ammortizzabile; nel desktop invece diventa fondamentale trovare il punto in cui capacità, prestazioni e costo per bit rendono la soluzione economicamente sensata.

https://wccftech.com/amd-says-a-hybr...ercialization/

According to AMD, a hybrid-bonded 3D DRAM is up to 17x more energy efficient than a conventional HBM stack. Of course, AMD has unique credential to offer such bold commentary. After all, it has already introduced its 3D V-Cache processors, which leverage a packaging technology that stacks extra cache memory vertically on top of a processor to drastically boost gaming and computing performance, as opposed to these cache memory tiers sitting laterally on the same piece of silicon as compute cores.

Secondo AMD, una DRAM 3D con tecnologia hybrid bonding è fino a 17 volte più efficiente dal punto di vista energetico rispetto a una tradizionale memoria HBM. Naturalmente, AMD ha le credenziali giuste per fare un'affermazione così audace. Dopotutto, ha già introdotto i suoi processori 3D V-Cache, che sfruttano una tecnologia di packaging che impila la memoria cache aggiuntiva verticalmente sopra il processore per incrementare drasticamente le prestazioni di gioco e di calcolo, a differenza di questi livelli di memoria cache posizionati lateralmente sullo stesso chip di silicio dei core di calcolo.

Nei server si guarda il vantaggio e meno il costo... nel desktop il costo è fondamentale.

Tradotto a grandi linee...

Una cosa è CPU "normale" + CUDIMM 15.000
Un'altra è CPU + cache + DDR5 esempio 6000

Bisogna dividere 2 cose:
- La banda massima della memoria del sistema
- La banda massima richiesta a seconda del core-count/programma.

La cache aggiuntiva ha il compito di far trovare il dato vicino ai core e questo avviene in cicli paralleli tramite la predizione.
Senza la cache aggiuntiva quei dati vicino ai core mancano, e vanno letti il prima possibile (e di qui la necessità di memorie veloci).

Se la cache aggiuntiva costa molto meno della RAM di sistema top ed il risultato è uguale.

P.S.
Facendo un esempio... il mio 9950X, il carico che richiede più banda possibile è la conversione video.
1 video da 4GB convertito in 5 minuti? Una normalissima DDR5 6000 ha una banda da 70GB/s.
Sostituire le DDR5 6000 con delle CUDIMM 15.000 aumenta la banda, ma non è la banda il problema, si cerca di diminuire la latenza nel computo AUMENTO BANDA = < tempo trasferimento dati.
Ma se con la cache migliori la latenza in modo maggiore e nel contempo ciò è possibile con un aumento del costo CPU di 200€ invece che dover spendere 1000-2000€ nelle CUDIMM e soprattutto non dover cambiare la mobo, beh... non è solamente il vantaggio dell'upgrade in sè, è che nel caso di sistema nuovo, il costo di 2 banchi CUDIMM 15.000 potrebbero costare quanto 2 banchi DDR5 6000 +ì CPU + Mobo. Così salvi il desktop, non lo uccidi.

Nel desktop questo lo si vede nel game nel confronto CPU lisce vs 3D. Puoi anche spendere 5000€ nella DDR più veloce, ma non solo non arriverai mai alla prestazione di una CPU 3D con DDR5 6000 CL28, ma non arriverai nemmeno alla CPU 3D con DDR5 4800 CL40.

[BitCrafter]

paolo il tuo ragionamento mi torna sui carichi compute intensive.
sui carichi da IA dove hai bisogno di centinaia di giga di dati, avere una cache veloce serve a zero, perchè i dati in cache non li troverai mai perchè saranno sempre sovrascritti da altri dati.
che AMD abbia parlato di maggiore efficienza delle HBM, ci mancherebbe essendo una cache, ma a me non risulta che AMD abbia parlato di maggiore efficienza con i carichi AI.

e poi, seppure aumentasse l'efficienza, non risolverebbe il problema che un modello AI da soli 27B a malapena entra in 32GB di memoria, figuriamoci modelli più grandi da oltre 70 miliardi di parametri.

Ok le tecniche di quantizzazione, i MoE, gli n-gram ma la memoria ce la vuole grossa e vicino alla GPU.

[WarSide]

Io sinceramente non ho capito cosa vuoi. Vuoi un mac studio con l'etichetta AMD?

Se vuoi una APU con 128-256GB di ram impilata (magari hbm), controller ddr6 e pci6, non penso proprio che la troverai come chippone da montare sulla tua scheda madre. Saranno sicuramente chip BGA montati direttamente su una mobo e non costeranno 500-1000€, direi che dovrai aggiungere uno zero.

Detto questo, i carichi AI sono agentici ormai. Le attuali CPU agiscono da "braccia" per il modello (chiamate API, script da far girare, browsing, etc), quindi serve sia potenza computazionale vecchio stile, sia quella per fare inferenza con questi modelli.

Lato server ha ancora senso che siano separate, con schede per fare inferenza e CPU beefy per tutto il resto.

[BitCrafter]

Originariamente inviato da WarSide

Io sinceramente non ho capito cosa vuoi. Vuoi un mac studio con l'etichetta AMD?

Se vuoi una APU con 128-256GB di ram impilata (magari hbm), controller ddr6 e pci6, non penso proprio che la troverai come chippone da montare sulla tua scheda madre. Saranno sicuramente chip BGA montati direttamente su una mobo e non costeranno 500-1000€, direi che dovrai aggiungere uno zero.

Detto questo, i carichi AI sono agentici ormai. Le attuali CPU agiscono da "braccia" per il modello (chiamate API, script da far girare, browsing, etc), quindi serve sia potenza computazionale vecchio stile, sia quella per fare inferenza con questi modelli.

Lato server ha ancora senso che siano separate, con schede per fare inferenza e CPU beefy per tutto il resto.

è proprio questo il punto, vorrei la potenza computazionale di un PC tradizionale con tanta ram per fare girare i modelli, ma pare che al momento si può avere o l'uno, o l'altro in ambito PC.

[WarSide]

Originariamente inviato da BitCrafter

è proprio questo il punto, vorrei la potenza computazionale di un PC tradizionale con tanta ram per fare girare i modelli, ma pare che al momento si può avere o l'uno, o l'altro in ambito PC.

Perché non vuoi una cosa da consumer e, come sempre, se non hai le esigenze da consumer, devi andare su altre fasce.

Se ti bastano 96GB di ram, c'è la RTX6000 a circa 10k€. Ci sto facendo girare qwen 3.8 next flash e va più che bene.

Se ti serve far girare modelli di frontiera e non vuoi usare TP=2/4 (circa 28/70k di pc con 2/4 RTX6000), c'è la DGX Station a 115k€.

Se sei "povero" e ti accontenti di t/s nell'ordine della decina, allora vai di mac studio da 15k€ e ci fai girare GLM/DS con i vari trick di antirez.

[BitCrafter]

la dgx station non è la risposta.
la dgx station ha 270BG/s di bandwidth, ridicolo direi.

la RTX6000 ha un costo stupido per usarla per IA locale vista la poca memoria, IMHO...