Link alla notizia: https://www.hwupgrade.it/news/skvideo/i-leaker-non-mollano-l-osso-inutile-che-amd-neghi-una-radeon-con-32-gb-di-vram-e-in-arrivo-aggiornata_135754.html

Sebbene Frank Azor di AMD abbia negato l'arrivo di una Radeon RX 9070 XT con 32 GB di memoria, i leaker sono certi che una proposta del genere sia in sviluppo. Da chiarire vi sarebbe solo il nome: sarà commercializzata come Radeon RX 9070 XTX o farà parte della gamma Radeon PRO?

Click sul link per visualizzare la notizia.

Sono d'accordo. QUANDO NEGANO RECISAMENTE è proprio perchè lo stanno facendo ..... la storia insegna.

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

Perché non hai idea di quanto venda il comparto AI. Se nvidia ha la valutazione che ha, non è per quelli che voglio fare finta di essere rambo dietro la tastiera o con un joypad. :rolleyes:

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.

Perché non hai idea di quanto venda il comparto AI. Se nvidia ha la valutazione che ha, non è per quelli che voglio fare finta di essere rambo dietro la tastiera o con un joypad. :rolleyes:

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.Radeon e GeForce sono famiglie di prodotti realizzate per giocare. Che poi le parole AI e AMD nella stessa frase fa già sorgere qualche dubbio.

Mi domando un utente domestico cosa ci fa con l'AI.
Chi ipoteticamente vorrebbe dilettarsi con l'AI con prodotti domestici di certo prende la 5090 a occhi chiusi.

Radeon e GeForce sono famiglie di prodotti realizzate per giocare. Che poi le parole AI e AMD nella stessa frase fa già sorgere qualche dubbio.

Mi domando un utente domestico cosa ci fa con l'AI.
Chi ipoteticamente vorrebbe dilettarsi con l'AI con prodotti domestici di certo prende la 5090 a occhi chiusi.

Tu continua a porti domande, tranquillo che poi c'è chi le schede le usa ;)

Appena annunciano il prezzo vi passa la curiosità . E appena trovate la disponibilità pressoché nulla oppure ai prezzi dei bagarini , Ve la dimenticate proprio

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.

Per arrivare a 32GB dovrebbero già adottare una configurazione clamshell delle memorie (8 moduli × 2GB × 2 lati del PCB); per 64GB servirebbero moduli da 4GB o raddoppiare l'ampiezza di bus ed il numero di moduli di memoria da 2GB.

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

L'obbiettivo non e' venderla a chi gioca ma a chi utilizza modelli AI in locale.

Ora come ora sei costretto a far girare gran parte dei modelli su CPU e con tanta ram, sarebbe meglio farli girare su GPU.

L'obbiettivo non e' venderla a chi gioca ma a chi utilizza modelli AI in locale.

Ora come ora sei costretto a far girare gran parte dei modelli su CPU e con tanta ram, sarebbe meglio farli girare su GPU.

Giusto. Anche se le GPU AMD non sono al livello del supporto software per AI come quelle Nvidia, con 32GB di VRAM sarebbero la soluzione più potente per far girare in locale un LLM su PC.

L'obbiettivo non e' venderla a chi gioca ma a chi utilizza modelli AI in locale.

Ora come ora sei costretto a far girare gran parte dei modelli su CPU e con tanta ram, sarebbe meglio farli girare su GPU.
Mi domando quanti sono quelli che fanno questo utilizzo improprio di tali schede, 1 su 1000 forse, senza considerare che 32GB saranno anche idonei ma la componente più importante è la GPU e un AMD di fascia media non garantisce performance adeguate e soprattutto un supporto software per AI adeguato.

Come anticipato poco fa è poco rilevante, è un azione disperata.

senza CUDA che ce faccio ?
con 24GB con SDXL generi immagini 1024x1024 senza il fastidioso no enough memory error..
con 32GB iniziamo ad intravedere la possibilità di salire al 1080p nativo con prompt semplici.
ma senza CUDA è come comprare un cavallo da corsa velocissimo ma incapace di sopportare la presenza del fantino. a che serve ?

PyTorch (e Llama.cpp, vLLM, ...) dovrebbe supportare AMD ROCm, ma non ho esperienze dirette.

Mi domando quanti sono quelli che fanno questo utilizzo improprio di tali schede, 1 su 1000 forse,
Gli interessati sono molti di più di quanto tu possa immaginare, tanto che ora si cimentano con i vari llama (3.2, 3.1, tiny, ecc.), ovviamente con un tradeoff tra velocità/precisione, perfino con i raspberry pi5 a partire da 8GB. Serve ram e larghezza banda.

E intanto sembra che un leaker abbia messo in giro la voce e la foto che la 9070 XT consumerà 900W (o almeno l'intero sistema) notizia data per via di una fantomatica scatola in possesso di questo leaker.

https://tech.everyeye.it/notizie/consumi-amd-radeon-rx-9070-xt-preparatevi-cambiare-alimentatore-779296.html

Secondo me ogni tanto i leaker sparano qualche cavolata solo per ottenere like e visualizzazioni.

Appena annunciano il prezzo vi passa la curiosità . E appena trovate la disponibilità pressoché nulla oppure ai prezzi dei bagarini , Ve la dimenticate proprio

Ti stai confondendo con Nvidia :asd:

PyTorch (e Llama.cpp, vLLM, ...) dovrebbe supportare AMD ROCm, ma non ho esperienze dirette.

Sì, supportano ROCm ma PER ADESSO nulla di paragonabile a CUDA.

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

Ma qui si parla di Radeon Pro ovvero schede destinate al mercato professionale. Ricordo che con il chip Navi32 (alias 7700/7800xt), AMD ha già proposto una soluzione, single slot da 28GB per il mercato datacenter....e le soluzioni Radeon Pro da 32GB sono basate su una versione fortemente castrata di Navi31...

Pare scontato che AMD cercherà una sistemazione per il nuovo chip anche in quel settore .

Quindi, si probabilmente è in cantiere una scheda destinata al mercato professionale basato su questo chip con 32GB di Vram e dal costo di 2500-3000 euro.

Solo io trovo aberrante il titolo? In che senso il discorso sopra smentirebbe AMD?

Mi domando quanti sono quelli che fanno questo utilizzo improprio di tali schede, 1 su 1000 forse, senza considerare che 32GB saranno anche idonei ma la componente più importante è la GPU e un AMD di fascia media non garantisce performance adeguate e soprattutto un supporto software per AI adeguato.

Come anticipato poco fa è poco rilevante, è un azione disperata.

Non hai idea di cosa dici e parli per sentito dire.

Te lo assicuro, tu non hai mai fatto girare un modello in locale e software come LM Studio non sai nemmeno cosa siano e come girino, ne il motivo per cui uno possa averne necessita'.

E' okay non avere la piu' pallida idea di cosa si dice, ma si fa piu' bella figura a rimanere in silenzio.

Il mercato per GPU con tanta vram (e banda, altrimenti uno installava 5x7600xt 16gb) per fare inferenza e' molto piu' grande di quello degli enthusiast gamers.

Il mercato per GPU con tanta vram (e banda, altrimenti uno installava 5x7600xt 16gb) per fare inferenza e' molto piu' grande di quello degli enthusiast gamers.

THIS.

AMD potrebbe quantomeno provare a scardinare il predominio Nvidia lato inferenza, dove se la gioca già, ma deve tirare fuori schede con quantitativi di RAM decenti per diventare appetibile :muro:

Per arrivare a 32GB dovrebbero già adottare una configurazione clamshell delle memorie (8 moduli × 2GB × 2 lati del PCB); per 64GB servirebbero moduli da 4GB o raddoppiare l'ampiezza di bus ed il numero di moduli di memoria da 2GB.

Ma facessero anche una scheda impilando RAM, non mi interessa, ma che lo facciano.

AMD dovrebbe tirare fuori un clone del GB10 a prezzi appetibili per cercare di aprirsi la strada, poi il software te lo migliorano/sviluppano gli altri dato che AMD deficita.

Potrei utilizzare Flux AI senza spendere 2000 euro !!!

Sono schede che costano di listino 3000 euro o poco meno . 2000 euro in quali sogni ?

Perché non hai idea di quanto venda il comparto AI. Se nvidia ha la valutazione che ha, non è per quelli che voglio fare finta di essere rambo dietro la tastiera o con un joypad. :rolleyes:

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.

Senza CUDA? Poi dipende dal prezzo... Mica costerà uguale da 32... E ci sono schede anche con più di 64gb, se te le puoi permettere

Senza CUDA?

SI

Se AMD non tira fuori niente di decente ed economico, prenderò 2 o 3 GB10 da 128GB da mettere in cluster ad Aprile/Maggio.

senza CUDA che ce faccio ?
con 24GB con SDXL generi immagini 1024x1024 senza il fastidioso no enough memory error..
con 32GB iniziamo ad intravedere la possibilità di salire al 1080p nativo con prompt semplici.
ma senza CUDA è come comprare un cavallo da corsa velocissimo ma incapace di sopportare la presenza del fantino. a che serve ?
Io ho un PC ormai vecchio con un Ryzen 5, 16Gb di RAM, una nVidia GTX 1060 da 3Gb. Stable Diffusion mi riesce a creare immagini 1024x1024 senza problemi, basta usare i modelli giusti poi ci vuole solo del tempo. Ho installato pure Pinokio e i piccoli modelli girano bene, quelli un po' più grandi son semplicemente lenti ad esprimersi. Sicuramente è una esperienza limitante a causa dei tempi (5-10 minuti per un'immagine 512x512) ma per sperimentare va magari bene, certo se avessi un PC più moderno andrei meglio e potrei osare di più ma schede di fascia estrema credo servano solo a chi ci deve lavorare e se ci devi lavorare non prendi AMD.