I leaker non mollano l'osso: inutile che AMD neghi, una Radeon con 32 GB di VRAM è in arrivo | AGGIORNATA

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/skvide...ta_135754.html

Sebbene Frank Azor di AMD abbia negato l'arrivo di una Radeon RX 9070 XT con 32 GB di memoria, i leaker sono certi che una proposta del genere sia in sviluppo. Da chiarire vi sarebbe solo il nome: sarà commercializzata come Radeon RX 9070 XTX o farà parte della gamma Radeon PRO?

Click sul link per visualizzare la notizia.

[zbear]

Sono d'accordo. QUANDO NEGANO RECISAMENTE è proprio perchè lo stanno facendo ..... la storia insegna.

[Ripper89]

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

[WarSide]

Originariamente inviato da Ripper89

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

Perché non hai idea di quanto venda il comparto AI. Se nvidia ha la valutazione che ha, non è per quelli che voglio fare finta di essere rambo dietro la tastiera o con un joypad.

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.

[Ripper89]

Originariamente inviato da WarSide

Perché non hai idea di quanto venda il comparto AI. Se nvidia ha la valutazione che ha, non è per quelli che voglio fare finta di essere rambo dietro la tastiera o con un joypad.

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.

Radeon e GeForce sono famiglie di prodotti realizzate per giocare. Che poi le parole AI e AMD nella stessa frase fa già sorgere qualche dubbio.

Mi domando un utente domestico cosa ci fa con l'AI.
Chi ipoteticamente vorrebbe dilettarsi con l'AI con prodotti domestici di certo prende la 5090 a occhi chiusi.

[WarSide]

Originariamente inviato da Ripper89

Radeon e GeForce sono famiglie di prodotti realizzate per giocare. Che poi le parole AI e AMD nella stessa frase fa già sorgere qualche dubbio.

Mi domando un utente domestico cosa ci fa con l'AI.
Chi ipoteticamente vorrebbe dilettarsi con l'AI con prodotti domestici di certo prende la 5090 a occhi chiusi.

Tu continua a porti domande, tranquillo che poi c'è chi le schede le usa

[agonauta78]

Appena annunciano il prezzo vi passa la curiosità . E appena trovate la disponibilità pressoché nulla oppure ai prezzi dei bagarini , Ve la dimenticate proprio

[s12a]

Originariamente inviato da WarSide

Io invece lamento che sia solo da 32GB e non abbiano fatto il salto a 64GB. La prenderei subito per farci inferenza.

Per arrivare a 32GB dovrebbero già adottare una configurazione clamshell delle memorie (8 moduli × 2GB × 2 lati del PCB); per 64GB servirebbero moduli da 4GB o raddoppiare l'ampiezza di bus ed il numero di moduli di memoria da 2GB.

[Vul]

Originariamente inviato da Ripper89

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

L'obbiettivo non e' venderla a chi gioca ma a chi utilizza modelli AI in locale.

Ora come ora sei costretto a far girare gran parte dei modelli su CPU e con tanta ram, sarebbe meglio farli girare su GPU.

[LMCH]

Originariamente inviato da Vul

L'obbiettivo non e' venderla a chi gioca ma a chi utilizza modelli AI in locale.

Ora come ora sei costretto a far girare gran parte dei modelli su CPU e con tanta ram, sarebbe meglio farli girare su GPU.

Giusto. Anche se le GPU AMD non sono al livello del supporto software per AI come quelle Nvidia, con 32GB di VRAM sarebbero la soluzione più potente per far girare in locale un LLM su PC.

[Ripper89]

Originariamente inviato da Vul

L'obbiettivo non e' venderla a chi gioca ma a chi utilizza modelli AI in locale.

Ora come ora sei costretto a far girare gran parte dei modelli su CPU e con tanta ram, sarebbe meglio farli girare su GPU.

Mi domando quanti sono quelli che fanno questo utilizzo improprio di tali schede, 1 su 1000 forse, senza considerare che 32GB saranno anche idonei ma la componente più importante è la GPU e un AMD di fascia media non garantisce performance adeguate e soprattutto un supporto software per AI adeguato.

Come anticipato poco fa è poco rilevante, è un azione disperata.

[Gnubbolo]

senza CUDA che ce faccio ?
con 24GB con SDXL generi immagini 1024x1024 senza il fastidioso no enough memory error..
con 32GB iniziamo ad intravedere la possibilità di salire al 1080p nativo con prompt semplici.
ma senza CUDA è come comprare un cavallo da corsa velocissimo ma incapace di sopportare la presenza del fantino. a che serve ?

[s12a]

PyTorch (e Llama.cpp, vLLM, ...) dovrebbe supportare AMD ROCm, ma non ho esperienze dirette.

[Nui_Mg]

Originariamente inviato da Ripper89

Mi domando quanti sono quelli che fanno questo utilizzo improprio di tali schede, 1 su 1000 forse,

Gli interessati sono molti di più di quanto tu possa immaginare, tanto che ora si cimentano con i vari llama (3.2, 3.1, tiny, ecc.), ovviamente con un tradeoff tra velocità/precisione, perfino con i raspberry pi5 a partire da 8GB. Serve ram e larghezza banda.

[supertigrotto]

E intanto sembra che un leaker abbia messo in giro la voce e la foto che la 9070 XT consumerà 900W (o almeno l'intero sistema) notizia data per via di una fantomatica scatola in possesso di questo leaker.

https://tech.everyeye.it/notizie/consumi-amd-radeon-rx-9070-xt-preparatevi-cambiare-alimentatore-779296.html

Secondo me ogni tanto i leaker sparano qualche cavolata solo per ottenere like e visualizzazioni.

[Max Power]

Originariamente inviato da agonauta78

Appena annunciano il prezzo vi passa la curiosità . E appena trovate la disponibilità pressoché nulla oppure ai prezzi dei bagarini , Ve la dimenticate proprio

Ti stai confondendo con Nvidia

[carloUba]

Originariamente inviato da s12a

PyTorch (e Llama.cpp, vLLM, ...) dovrebbe supportare AMD ROCm, ma non ho esperienze dirette.

Sì, supportano ROCm ma PER ADESSO nulla di paragonabile a CUDA.

[tuttodigitale]

Originariamente inviato da Ripper89

Va bene che Nvidia è tirchia, ma adesso arrivare a rispondere a quest'ultima riempiendo di VRAM una fascia media dopo aver abbandonato quelle più alte trovo personalmente sia abbastanza imbarazzante. Una mossa disperata.

Ma qui si parla di Radeon Pro ovvero schede destinate al mercato professionale. Ricordo che con il chip Navi32 (alias 7700/7800xt), AMD ha già proposto una soluzione, single slot da 28GB per il mercato datacenter....e le soluzioni Radeon Pro da 32GB sono basate su una versione fortemente castrata di Navi31...

Pare scontato che AMD cercherà una sistemazione per il nuovo chip anche in quel settore .

Quindi, si probabilmente è in cantiere una scheda destinata al mercato professionale basato su questo chip con 32GB di Vram e dal costo di 2500-3000 euro.

Solo io trovo aberrante il titolo? In che senso il discorso sopra smentirebbe AMD?

[Vul]

Originariamente inviato da Ripper89

Mi domando quanti sono quelli che fanno questo utilizzo improprio di tali schede, 1 su 1000 forse, senza considerare che 32GB saranno anche idonei ma la componente più importante è la GPU e un AMD di fascia media non garantisce performance adeguate e soprattutto un supporto software per AI adeguato.

Come anticipato poco fa è poco rilevante, è un azione disperata.

Non hai idea di cosa dici e parli per sentito dire.

Te lo assicuro, tu non hai mai fatto girare un modello in locale e software come LM Studio non sai nemmeno cosa siano e come girino, ne il motivo per cui uno possa averne necessita'.

E' okay non avere la piu' pallida idea di cosa si dice, ma si fa piu' bella figura a rimanere in silenzio.

Il mercato per GPU con tanta vram (e banda, altrimenti uno installava 5x7600xt 16gb) per fare inferenza e' molto piu' grande di quello degli enthusiast gamers.

[WarSide]

Originariamente inviato da Vul

Il mercato per GPU con tanta vram (e banda, altrimenti uno installava 5x7600xt 16gb) per fare inferenza e' molto piu' grande di quello degli enthusiast gamers.

THIS.

AMD potrebbe quantomeno provare a scardinare il predominio Nvidia lato inferenza, dove se la gioca già, ma deve tirare fuori schede con quantitativi di RAM decenti per diventare appetibile