[Thread Ufficiale] Aspettando le nuove CPU AMD Ryzen

[Ubro92]

Originariamente inviato da BitCrafter

rimane cmq roba inutilizzabile per l'AI, per me sotto i 400GB/s è spazzatura per l'AI

Le DDR sono pensate per instradare i dati provenienti dalla CPU, non dalle integrate, è normale che oltre una certa soglia sbatti... Poi diciamo che sono ambiti di utilizzo totalmente diversi e richiedono soluzioni diverse.

E se per questo anche le GDDR non è che siano cosi eccezionali, nel settore pro non è che sono masochisti a investire sulle HBM che hanno anche rese inferiori.

Nel consumer, già con Nvidia Sparks per sfruttare a pieno la blackwell da 6144 cuda è stato fatto un lavoro interno decisamente più complesso, delle banali apu.

AMD pure con strix halo ha usato un collegamento 8x32bit, ma è molto brute force e comunque come potenza in sè ha i suoi limiti.

[BitCrafter]

Originariamente inviato da Ubro92

Le DDR sono pensate per instradare i dati provenienti dalla CPU, non dalle integrate, è normale che oltre una certa soglia sbatti... Poi diciamo che sono ambiti di utilizzo totalmente diversi e richiedono soluzioni diverse.

E se per questo anche le GDDR non è che siano cosi eccezionali, nel settore pro non è che sono masochisti a investire sulle HBM che hanno anche rese inferiori.

Nel consumer, già con Nvidia Sparks per sfruttare a pieno la blackwell da 6144 cuda è stato fatto un lavoro interno decisamente più complesso, delle banali apu.

AMD pure con strix halo ha usato un collegamento 8x32bit, ma è molto brute force e comunque come potenza in sè ha i suoi limiti.

eggià, e quindi rimane valido il mio post precedente, i desktop come li conosciamo sono finiti

[Ubro92]

Originariamente inviato da BitCrafter

eggià, e quindi rimane valido il mio post precedente, i desktop come li conosciamo sono finiti

No, è che non ha proprio senso...
In base all'utilizzo che devi farne, prendi la macchina più adatta.

Non ha neanche senso guardare solo le prestazioni crude.

Anche un camion e una supercar potrebbero avere gli stessi cavalli, ma fare un trasloco con la supercar o affrontare un circuito con il camion avrebbe le sue complicazioni, tanto per fare un'analogia spicciola

Attualmente nel consumer risultano molto versatili le APU e SOC, proprio per la presenza di una memoria condivisa, ma come prestazioni pure sei limitato alla tecnologia delle memorie.

Strix Halo ci ha messo una pezza, usando un controller 8x32bit, ma come prestazioni in sè e i limiti delle piattaforme mobile, la 8060s come potenza bruta è una 5050 desktop...

[WarSide]

Originariamente inviato da BitCrafter

eggià, e quindi rimane valido il mio post precedente, i desktop come li conosciamo sono finiti

Semplicemente avremo 3D stacking e le HBM (o similari) impilate sulla CPU, che, nel frattempo, avranno altri chip altamente specializzati per questi carichi (i famosi coprocessori matematici di 286-ettiana memoria).

Comunque non preoccuparti, tempo un paio di anni e comprerai hw verticale per far girare un modello specifico in maniera super efficiente. Bisognerà solo vedere quanto costano

[BitCrafter]

Originariamente inviato da WarSide

Semplicemente avremo 3D stacking e le HBM (o similari) impilate sulla CPU, che, nel frattempo, avranno altri chip altamente specializzati per questi carichi (i famosi coprocessori matematici di 286-ettiana memoria).

Comunque non preoccuparti, tempo un paio di anni e comprerai hw verticale per far girare un modello specifico in maniera super efficiente. Bisognerà solo vedere quanto costano

che intendi per hw verticale?
abbiamo già hw verticale dedicato all'AI a tutti i livelli vedi Strix Halo, DGX Spark, RTX Spark, DGX Station...

alla fine sono tutte scatolette dove l'unica caratteristica vera è quella di avere memoria integrata "veloce".

DGX Station 100K di macchina, poi non ti tiene nemmeno un modello di frontiera se non super quantizzato (vedi GLM 5.x) .
Alla fine con una DGX Station da 100K ci finisci a far girare DeepSeek V4 Flash con 7 o 8 sviluppatori connessi. per 100K anche no.

[BitCrafter]

Originariamente inviato da Ubro92

Strix Halo ci ha messo una pezza, usando un controller 8x32bit, ma come prestazioni in sè e i limiti delle piattaforme mobile, la 8060s come potenza bruta è una 5050 desktop...

non capisco però perchè non portare un controller 256bit anche sulle cpu desktop... possibile che dobbiamo essere fermi ai 128 bit?

alla fine per arrivare ai 256bit basterebbero 2 moduli CAMM2, non voglio "stronzificarla" però non è che si parla di fantascienza è che forse non conviene a nessuno in termini econimici, o meglio
non conviene ai produttori perchè a noi converrebbe sicuro.

oggi chiamiamo super computer scatolette a basso consumo con un compute power di un cellulare, ma dai su.
e sempre senza "stronzificarla" troppo ma il loro essere super computer deriva solo dal fatto che hanno appiccicato su un PCB delle memorie LPDDR5 (tra l'altro) con tanti canali appiccicati alla CPU.
caspita che super computer.

[Evilquantico]

Originariamente inviato da BitCrafter

che intendi per hw verticale?
abbiamo già hw verticale dedicato all'AI a tutti i livelli vedi Strix Halo, DGX Spark, RTX Spark, DGX Station...

alla fine sono tutte scatolette dove l'unica caratteristica vera è quella di avere memoria integrata "veloce".

DGX Station 100K di macchina, poi non ti tiene nemmeno un modello di frontiera se non super quantizzato (vedi GLM 5.x) .
Alla fine con una DGX Station da 100K ci finisci a far girare DeepSeek V4 Flash con 7 o 8 sviluppatori connessi. per 100K anche no.

Ma tu ci lavori con l'IA ? oppure la usi per divertimento ?

[BitCrafter]

Originariamente inviato da Evilquantico

Ma tu ci lavori con l'IA ? oppure la usi per divertimento ?

a lavoro si usano soluzioni cloud, l'inferenza locale è ancora qualcosa in via di definizione.
per ora, l'inferenza locale la uso per sviluppo di progetti personali e per scopi didattici più a basso livello rispetto a soluzioni già pronte sul cloud.

non so a cosa serviva la domanda però.

[Evilquantico]

Originariamente inviato da BitCrafter

non so a cosa serviva la domanda però.

A capire perchè ti stai fracassando la testa adesso , se vuoi giocare il pc lo hai gia , per lavorare non ti serve o al massimo vai in cloud , non credo che hai possibilità di spendere 100k se non hai un azienda

In te io aspetterei che i modelli diventino sempre meno esigenti di memoria e siano ottimizzati , e gia lo stanno facendo per un uso locale e privatizzato

[Ubro92]

Originariamente inviato da BitCrafter

non capisco però perchè non portare un controller 256bit anche sulle cpu desktop... possibile che dobbiamo essere fermi ai 128 bit?

alla fine per arrivare ai 256bit basterebbero 2 moduli CAMM2, non voglio "stronzificarla" però non è che si parla di fantascienza è che forse non conviene a nessuno in termini econimici, o meglio
non conviene ai produttori perchè a noi converrebbe sicuro.

oggi chiamiamo super computer scatolette a basso consumo con un compute power di un cellulare, ma dai su.
e sempre senza "stronzificarla" troppo ma il loro essere super computer deriva solo dal fatto che hanno appiccicato su un PCB delle memorie LPDDR5 (tra l'altro) con tanti canali appiccicati alla CPU.
caspita che super computer.

PC con controller quad channel ci sono è sono quelli di classe HEDT, come i TR, poi ci sono soluzioni entreprise e server che hanno anche controller octa e twelve channel...

Inutile dire che queste soluzioni sono pensate per gestire il traffico dati elaborato dalla cpu, e sono soluzioni con un numero di core elevatissimo.

Strix Halo su mobile è un APU saldata sulla mobo e ha anche dei costi produttivi non indifferenti, ma si è dimostrata valida sia da inserire in design compatti come un tablet o mini-pc e sia per piccole AI locali.

CAMM2 invece è solo un formato, probabilmente diventerà standard con le DDR6, ma già è stato introdotto per le DDR5, da quello che ricordo portava molte meno latenze e rumore elettrico, e permetteva anche una migliore dissipazione dei moduli, oltre a unificare lo standard tra mobile e desktop.

[WarSide]

Originariamente inviato da BitCrafter

che intendi per hw verticale?
abbiamo già hw verticale dedicato all'AI a tutti i livelli vedi Strix Halo, DGX Spark, RTX Spark, DGX Station...

No, non lo abbiamo. Tutte le soluzioni elencate sono general purpose.

Io parlo di questo https://taalas.com/ . Azienda a cui avevo chiesto di fare una beta mesi fa e che poi AMD si è mangiata, purtroppo.

[paolo.oliva2]

L'indirizzo attuale, almeno di AMD, non è di potenziare (a qualsiasi costo) la velocità della RAM (che comunque banda e latenza sono 2 cose distinte, e nel desktop utilizzo game conta la latenza bassa e non strapagare DDR con banda altissima che si traduce in un guadagno minimo di latenza) ma di far sì che nel limite del possibile i dati siano già vicino ai core.

I rumor sono di un Zen7 con 512MB di cache, MA NON DI L3 secondo me, ma di una cache che accorpi la L2/L3 e L4 semplicemente gestendo la priorità.
E il riscontro a ciò che scrivo è ovvio... perchè' il rumor di impilare la L2 sarebbe industrialmente fattibile ma per costi impossibile, semplicemente perchè la L3 la impili sulla L3 sul die, ma non sarebbe concepibile impilare n L2 tanto quanto sono i core (12/16) perchè avrebbe costi molto alti.

Commercialmente IL PROBLEMA NON E' aumentare il costo della CPU di 100-200$, perchè il vero problema è che la maggior parte dei clienti (hobbisti ovviamente) non acquisterà mai una CPU di 500-600$ se per completare il sistema ne spenderà 1000-2000 per la DDRX cazzuta.

E commercialmente la proposta AMD è fattibilissima (impilazione di L3) soprattutto con la concorrenza che ad oggi è costretta ad inserirla nel die dei core e che ancora produce monoliticamente la parte X86 senza frazionarla con MCM, quindi con svantaggi enormi lato costi produzione/resa.
AMD non prevede il passaggio alle DDR6 sino a quando queste non saranno CONVENIENTI (prezzo/prestazioni) il che vuol dire 1 anno dopo (ALMENO) dalla 1a commercializzazione... e con la richiesta AI crescente, a me parrebbe più fattibile che la domanda DDR5 cali (e di qui il listino) piuttosto che sperare che le DDR6 costeranno meno delle DDR5 attuali (con l'AI che si sposterà sulle DDR6, chi sarà il player che produrrà 32GB DDR6 per venderle nel desktop a 90€, quando tra HEDT e Server le venderà a 1000€?.
Mi pare ovvio che se AMD garantisce il socket AM5 sino al 2029 (e Zen7 è previsto per metà 2028), AMD abbia previsto un funzionamento Zen7 + DDR5 che non impatti sulle prestazioni. Mi pare anche ovvio che la compatibilità AM5 non riguardi il socket ma bensì le DDR5... perchè sarebbe assurda "compatibilità socket sempre AM5 ma devi cambiare mobo perchè supporti le CUDIMM".



Tra l'altro...

AMD annuncia il supporto AM5 per Zen6 sia per la versione desktop che per la versione mobile Come avevo previsto mesi fa (ZenC nel desktop) Medusa mobile ANCHE per AM5.

https://videocardz.com/newz/amd-conf...for-am5-socket



https://wccftech.com/amd-confirms-ze...dusa-am5-fp10/

[BitCrafter]

Originariamente inviato da Ubro92

PC con controller quad channel ci sono è sono quelli di classe HEDT, come i TR, poi ci sono soluzioni entreprise e server che hanno anche controller octa e twelve channel...

Inutile dire che queste soluzioni sono pensate per gestire il traffico dati elaborato dalla cpu, e sono soluzioni con un numero di core elevatissimo.

Strix Halo su mobile è un APU saldata sulla mobo e ha anche dei costi produttivi non indifferenti, ma si è dimostrata valida sia da inserire in design compatti come un tablet o mini-pc e sia per piccole AI locali.

CAMM2 invece è solo un formato, probabilmente diventerà standard con le DDR6, ma già è stato introdotto per le DDR5, da quello che ricordo portava molte meno latenze e rumore elettrico, e permetteva anche una migliore dissipazione dei moduli, oltre a unificare lo standard tra mobile e desktop.

Anche se costa sono sempre 64 bit per stock, il bandwidth è cmq banale.

[BitCrafter]

Originariamente inviato da paolo.oliva2

L'indirizzo attuale, almeno di AMD, non è di potenziare (a qualsiasi costo) la velocità della RAM (che comunque banda e latenza sono 2 cose distinte, e nel desktop utilizzo game conta la latenza bassa e non strapagare DDR con banda altissima che si traduce in un guadagno minimo di latenza) ma di far sì che nel limite del possibile i dati siano già vicino ai core.

I rumor sono di un Zen7 con 512MB di cache, MA NON DI L3 secondo me, ma di una cache che accorpi la L2/L3 e L4 semplicemente gestendo la priorità.
E il riscontro a ciò che scrivo è ovvio... perchè' il rumor di impilare la L2 sarebbe industrialmente fattibile ma per costi impossibile, semplicemente perchè la L3 la impili sulla L3 sul die, ma non sarebbe concepibile impilare n L2 tanto quanto sono i core (12/16) perchè avrebbe costi molto alti.

Commercialmente IL PROBLEMA NON E' aumentare il costo della CPU di 100-200$, perchè il vero problema è che la maggior parte dei clienti (hobbisti ovviamente) non acquisterà mai una CPU di 500-600$ se per completare il sistema ne spenderà 1000-2000 per la DDRX cazzuta.

E commercialmente la proposta AMD è fattibilissima (impilazione di L3) soprattutto con la concorrenza che ad oggi è costretta ad inserirla nel die dei core e che ancora produce monoliticamente la parte X86 senza frazionarla con MCM, quindi con svantaggi enormi lato costi produzione/resa.
AMD non prevede il passaggio alle DDR6 sino a quando queste non saranno CONVENIENTI (prezzo/prestazioni) il che vuol dire 1 anno dopo (ALMENO) dalla 1a commercializzazione... e con la richiesta AI crescente, a me parrebbe più fattibile che la domanda DDR5 cali (e di qui il listino) piuttosto che sperare che le DDR6 costeranno meno delle DDR5 attuali (con l'AI che si sposterà sulle DDR6, chi sarà il player che produrrà 32GB DDR6 per venderle nel desktop a 90€, quando tra HEDT e Server le venderà a 1000€?.
Mi pare ovvio che se AMD garantisce il socket AM5 sino al 2029 (e Zen7 è previsto per metà 2028), AMD abbia previsto un funzionamento Zen7 + DDR5 che non impatti sulle prestazioni. Mi pare anche ovvio che la compatibilità AM5 non riguardi il socket ma bensì le DDR5... perchè sarebbe assurda "compatibilità socket sempre AM5 ma devi cambiare mobo perchè supporti le CUDIMM".



Tra l'altro...

AMD annuncia il supporto AM5 per Zen6 sia per la versione desktop che per la versione mobile Come avevo previsto mesi fa (ZenC nel desktop) Medusa mobile ANCHE per AM5.

https://videocardz.com/newz/amd-conf...for-am5-socket



https://wccftech.com/amd-confirms-ze...dusa-am5-fp10/

È evidente che le applicazioni del futuro si stanno sbilanciando più verso richieste di bandwidth elevato piuttosto che di compute elevato, io ci credo poco che arriveremo a zen 7 che questa architettura avrà ancora un senso se non per rare applicazioni di nicchia e i videogame non saranno tra queste.

[Ubro92]

Originariamente inviato da BitCrafter

Anche se costa sono sempre 64 bit per stock, il bandwidth è cmq banale.

Nel contesto desktop il dual channel è sempre stato un ottimo sweet spot per costo/prestazioni, e c'è sempre stato un bilanciamento tra prestazioni della cpu e delle memorie, quando si arriva al punto di saturazione viene proposto un nuovo socket e nuove memorie...

Il QC è sfruttato sulla piattaforma TRX50 di AMD che ha soluzioni che arrivano fino a 96 core attualmente, su un desktop non penso si mettano a sbattersi solo per inserire una IGP più grossa ed energivora...

Al più dovresti farlo sui TRX50, ma a che pro? Visto quanto costano quelle piattaforme e quanto ti costerebbe un APU di quel tipo.

[BitCrafter]

Originariamente inviato da Ubro92

Nel contesto desktop il dual channel è sempre stato un ottimo sweet spot per costo/prestazioni, e c'è sempre stato un bilanciamento tra prestazioni della cpu e delle memorie, quando si arriva al punto di saturazione viene proposto un nuovo socket e nuove memorie...

Il QC è sfruttato sulla piattaforma TRX50 di AMD che ha soluzioni che arrivano fino a 96 core attualmente, su un desktop non penso si mettano a sbattersi solo per inserire una IGP più grossa ed energivora...

Al più dovresti farlo sui TRX50, ma a che pro? Visto quanto costano quelle piattaforme e quanto ti costerebbe un APU di quel tipo.

raga ma vi è chiaro che tra poco parleremo con i computer per dirgli cosa fare?

il mantra delle prestazioni tra poco sarà memory bandwidth, non compute, latenza e tutto quello che abbiamo visto fino ad adesso.

[Evilquantico]

A leggervi non so perchè mi fate venire in mente il Pentium 2 SLOT 1 con la cache L2 montata sulla cartuccia perchè volevano evitare i scarti difettosi , sarebbe figo tornare agli SLOT a Cartuccia se riuscissero a mettere tipo 2GB di cache e farla andare alla stessa velocità di clock della cpu

[paolo.oliva2]

Originariamente inviato da BitCrafter

raga ma vi è chiaro che tra poco parleremo con i computer per dirgli cosa fare?

il mantra delle prestazioni tra poco sarà memory bandwidth, non compute, latenza e tutto quello che abbiamo visto fino ad adesso.

Secondo me il punto è proprio che il problema del consumo non lo risolvi semplicemente facendo memoria sempre più veloce. Anzi, spingere la memoria sempre più in alto significa aumentare consumi, costi e complessità.
La strada che si sta vedendo è quasi l'opposto: portare sempre più memoria/cache vicino ai core, in modo che i core debbano andare il meno possibile a pescare dalla DRAM. Se il dato che ti serve è già dentro la cache, non devi spendere energia per farlo viaggiare attraverso tutto il sistema di memoria.
AMD ha annunciato che è arrivata a consumare 1/4 nei rack AI rispetto al 2024 e che nel 2030 arriverà ad 1/30.
Ed è qui che diventano interessanti i numeri sul consumo: non è che nel 2030 qualcuno avrà inventato una RAM miracolosa che consuma 30 volte meno. È l'architettura nel suo complesso che cerca di evitare di muovere i dati.
In pratica, invece di aumentare all'infinito il bandwidth della memoria per tenere occupati i core, aumenti il riuso dei dati e la quantità di memoria disponibile vicino al calcolo. Il core continua a fare il suo lavoro, ma con molta meno energia spesa per andare a prendere i dati.
E secondo me è proprio questo il cambio di paradigma: il futuro non sarà soltanto "quanto calcola il core", ma soprattutto "quanti dati riesco a far arrivare al core consumando il meno possibile".
Per questo il memory bandwidth diventerà sempre più importante, ma non necessariamente perché dobbiamo avere una DRAM mostruosamente veloce. Anzi, potrebbe essere proprio il contrario: più cache, più memoria vicino al compute e meno traffico verso la memoria esterna.
E Zen7 + cache enorme su socket AM5 + DDR5 rappresenterà ciò.

Guardate... perchè un 3D consuma pochissimo rispetto all'equivalente liscio e prestazionalmente è pure superiore? Eppure i core sono gli stessi... cambia solamente che i dati sono nella L3 più capiente senza andare continuamente nella DDR5.

[BitCrafter]

Originariamente inviato da paolo.oliva2

Secondo me il punto è proprio che il problema del consumo non lo risolvi semplicemente facendo memoria sempre più veloce. Anzi, spingere la memoria sempre più in alto significa aumentare consumi, costi e complessità.
La strada che si sta vedendo è quasi l'opposto: portare sempre più memoria/cache vicino ai core, in modo che i core debbano andare il meno possibile a pescare dalla DRAM. Se il dato che ti serve è già dentro la cache, non devi spendere energia per farlo viaggiare attraverso tutto il sistema di memoria.
AMD ha annunciato che è arrivata a consumare 1/4 nei rack AI rispetto al 2024 e che nel 2030 arriverà ad 1/30.
Ed è qui che diventano interessanti i numeri sul consumo: non è che nel 2030 qualcuno avrà inventato una RAM miracolosa che consuma 30 volte meno. È l'architettura nel suo complesso che cerca di evitare di muovere i dati.
In pratica, invece di aumentare all'infinito il bandwidth della memoria per tenere occupati i core, aumenti il riuso dei dati e la quantità di memoria disponibile vicino al calcolo. Il core continua a fare il suo lavoro, ma con molta meno energia spesa per andare a prendere i dati.
E secondo me è proprio questo il cambio di paradigma: il futuro non sarà soltanto "quanto calcola il core", ma soprattutto "quanti dati riesco a far arrivare al core consumando il meno possibile".
Per questo il memory bandwidth diventerà sempre più importante, ma non necessariamente perché dobbiamo avere una DRAM mostruosamente veloce. Anzi, potrebbe essere proprio il contrario: più cache, più memoria vicino al compute e meno traffico verso la memoria esterna.
E Zen7 + cache enorme su socket AM5 + DDR5 rappresenterà ciò.

Guardate... perchè un 3D consuma pochissimo rispetto all'equivalente liscio e prestazionalmente è pure superiore? Eppure i core sono gli stessi... cambia solamente che i dati sono nella L3 più capiente senza andare continuamente nella DDR5.

io non sono molto d'accordo, la cache va bene per aumentare il compute, il punto è che qui il mondo dell'IT sta dicendo che il compute non serve più a niente e servono solo le performance di memoria e la memoria deve essere grossa.

il concetto dell'HW che abbiamo conosciuto per decenni, si è ribaltato, prima contava più il compute e meno la memoria, oggi conta solo la memoria e poco il compute che è già sufficiente per la maggior parte delle applicazioni.

ovvio che per fare i giochini al massimo il compute sarà ancora utile ma i PC stanno andando verso un ulteriore specializzazione.

il computer general purpose capace di IA e del 90% delle applicazioni sarà una scatoletta a basso consumo con memoria integrata velocissima da giga e giga,
memoria di cacca tra l'altro, la memoria unificata usata dalle varie scatolette è veloce solo perchè collegata direttamente a GPU/CPU con bus diretti a 256 o più bit senza avere i vari colli di bottiglia del bus PCIe.

e poi ci saranno i computer di nicchia più orientati al compute di CPU o GPU o entrambi che serviranno per 4 cose e basta, giocare, fare qualche rendering e poco altro.

il punto è che questi computer diventeranno così di nicchia che inizieranno ad avere poco senso per molti di noi.

immagina che con una scatoletta a memoria unificata puoi lavorare, usare le AI e anche giocare su livelli "5070 like" e fare tutto il resto su un livello fascia medio/alta.

quanti di noi compreranno un PC per lavorare e usare le AI e uno per giocare o fare altro ad un livello poco più alto ma con consumi spropositatamente maggiori?

secondo me moltissimi di noi in futuro si accontenteranno delle scatolette a memoria integrata e addio all'HW come lo conosciamo oggi.

[paolo.oliva2]

Originariamente inviato da BitCrafter

io non sono molto d'accordo, la cache va bene per aumentare il compute, il punto è che qui il mondo dell'IT sta dicendo che il compute non serve più a niente e servono solo le performance di memoria e la memoria deve essere grossa.
il concetto dell'HW che abbiamo conosciuto per decenni, si è ribaltato, prima contava più il compute e meno la memoria, oggi conta solo la memoria e poco il compute che è già sufficiente per la maggior parte delle applicazioni.
ovvio che per fare i giochini al massimo il compute sarà ancora utile ma i PC stanno andando verso un ulteriore specializzazione.
il computer general purpose capace di IA e del 90% delle applicazioni sarà una scatoletta a basso consumo con memoria integrata velocissima da giga e giga,
memoria di cacca tra l'altro, la memoria unificata usata dalle varie scatolette è veloce solo perchè collegata direttamente a GPU/CPU con bus diretti a 256 o più bit senza avere i vari colli di bottiglia del bus PCIe.
e poi ci saranno i computer di nicchia più orientati al compute di CPU o GPU o entrambi che serviranno per 4 cose e basta, giocare, fare qualche rendering e poco altro.
il punto è che questi computer diventeranno così di nicchia che inizieranno ad avere poco senso per molti di noi.
immagina che con una scatoletta a memoria unificata puoi lavorare, usare le AI e anche giocare su livelli "5070 like" e fare tutto il resto su un livello fascia medio/alta.
quanti di noi compreranno un PC per lavorare e usare le AI e uno per giocare o fare altro ad un livello poco più alto ma con consumi spropositatamente maggiori?
secondo me moltissimi di noi in futuro si accontenteranno delle scatolette a memoria integrata e addio all'HW come lo conosciamo oggi.

Ma oggi, paradossalmente, in certi sistemi consuma quasi più la memoria con tutta la relativa interfaccia che i core in sé.
Il punto è che sì, per molti workload serve banda, ma non basta la banda: bisogna vedere che tipo di accessi fai. Se i dati sono random, puoi avere anche una memoria a 100 GHz, ma se ogni dato deve essere recuperato dalla RAM la latenza rimane il problema, e per ottenere quella banda devi tenere altissime frequenze, bus larghi e tutta l'interfaccia di memoria attiva, con consumi importanti.
È proprio qui che una cache grande cambia completamente il discorso. Se hai una L3 enorme, condivisa da molti core, con una buona prefetch/prediction, la RAM viene interrogata solo quando hai un cache miss. Se invece di andare in RAM per il 20-30% degli accessi ci vai per il 2-5%, puoi permetterti una memoria di sistema molto meno estrema: non devi tenere disponibile tutta quella banda continuamente, perché la maggior parte dei dati che servono ai core è già vicina ai core.
E secondo me questo nel desktop è ancora più importante che nel server. Nel server puoi giustificare 8, 12 o più canali di memoria perché stai comprando una macchina progettata proprio per alimentare una quantità enorme di core. Ma un desktop general purpose da 1.000-1.500 € non può diventare una macchina da 4.000 € perché per inseguire la banda gli metti quantità enormi di memoria e un'interfaccia sempre più costosa e affamata di energia.
Se il problema è veramente la banda, allora per quello esistono già Threadripper, EPYC e sistemi HEDT/server. Non è necessario trasformare ogni PC desktop in un piccolo server.
Io vedo più probabile un'altra evoluzione: aumentare enormemente la quantità di cache disponibile al core/chiplet, migliorare prefetch e predizione, e lasciare alla RAM il compito di essere una memoria molto più capiente ma molto meno stressata.
In altre parole, non devi necessariamente rendere la RAM sempre più veloce: devi fare in modo che il processore abbia sempre meno bisogno di andarci.
E questa, secondo me, è una differenza enorme rispetto al dire semplicemente “il futuro è tutta memoria e poco compute”. Il compute non sparisce: diventa sempre più efficiente e soprattutto viene alimentato da una gerarchia di memoria sempre più vicina ai core.

Una scatoletta con memoria unificata velocissima è una soluzione ottima quando puoi permetterti di mettere quella memoria direttamente vicino al compute. Ma non significa che sia automaticamente la soluzione migliore per un general purpose: se devo spendere una fortuna per avere 256/512 GB di memoria ad altissima banda, mentre posso ottenere prestazioni analoghe su un sistema con molta cache e una RAM molto più economica, allora il vantaggio della “scatoletta” diventa molto meno evidente.

Secondo me stai confondendo bandwidth richiesta dal workload con bandwidth che deve necessariamente essere fornita dalla DRAM. Una grossa cache cambia radicalmente quel rapporto.
Il prox X24 Zen6 liscio avrà 96MB di L3... 288MB totali se 3D... meglio spendere +200$ per un 3D con quasi 300MB di L3 o 2000$ di CUDIMM 12000 + mobo da 500$?

Immagina i prox Zen6 X24 3D e Nova con la bLLC... quando si tratterà di scegliere di spendere +200/300$ di CPU con big L3 o 1000/2000$ di DDR5 cazzuta, io scommetto che la gente sceglierà le soluzioni con L3 big, e crollerà l'acquisto di DDR5 >8000... e aggiungo, col cacchio che si sarà gente che al posto riciclare la propria DDR5 6000 la cambierà con DDR5 8000+ e/o CUDIMM per (forse) 1% di FPS in più...

https://www.techtimes.com/tags/ai-data-center/page4.htm