AMD sfida NVIDIA con una GPU AI da 32 GB a soli 1.299 dollari

[Redazione di Hardware Upg]

Link alla notizia: https://www.hwupgrade.it/news/skvide...ri_145273.html

Tra pochi giorni AMD metterà in vendita la Radeon AI Pro R9700, una GPU RDNA 4 pensata per workstation dedicate all'intelligenza artificiale. Con 32 GB di memoria GDDR6, supporto ROCm e architettura ottimizzata per carichi LLM e generativi, la scheda promette prestazioni fino a cinque volte superiori rispetto alle GPU da 16 GB.

Click sul link per visualizzare la notizia.

[supertigrotto]

In teoria,l'anno prossimo se lanciano udna (la base dovrebbe essere la insinct mi 450) avranno unità FP4 come le Nvidia,quindi dovrebbero aumentare di molto le prestazioni con gli LLM (che prediligono istruzioni di calcolo brevi ,ma IBM lo aveva già dimostrato ancora prima del fenomeno Nvidia che,CPU a 8 bit o al massimo 16 bit erano migliori in questo campo,anche andando più sotto dei 4 bit di istruzioni) nel frattempo hanno lanciato un prodotto alternativo a Nvidia e questo è buono per i prezzi e incita Nvidia a fare di meglio e viceversa.

[s12a]

Originariamente inviato da supertigrotto

In teoria,l'anno prossimo se lanciano udna (la base dovrebbe essere la instinct mi 450) avranno unità FP4 come le Nvidia,quindi dovrebbero aumentare di molto le prestazioni con gli LLM

Per gli LLM collo di bottiglia più evidente durante l'inferenza (generazione di testo) sono la quantità di memoria e la banda passante. 32GB sono "OK" (oramai in realtà non più sufficienti perché i modelli open migliori sono di dimensioni spropositate), ma 640 GB/s non sono granché.

NVidia Ampere/Ada (3090/4090) non hanno il supporto al formato FP4 ma con gli LLM (quelli che riesci a fare entrare in 24GB, almeno) vanno ancora alla grande.

Questa R9700 avrebbe più senso se fosse possibile prenderne due al prezzo di una 5090. Pagheresti in potenza computazionale e banda (meno della metà ciascuna), ma 64GB di VRAM discretamente veloce non sarebbero decisamente male.