PDA

View Full Version : Google Gemini, la differenza nelle GPU. Ecco perché è 5 volte più potente di GPT-4


Redazione di Hardware Upg
12-09-2023, 12:01
Link alla notizia: https://www.hwupgrade.it/news/web/google-gemini-la-differenza-nelle-gpu-ecco-perche-5-volte-piu-potente-di-gpt-4_120003.html

Una delle tendenze più recenti nella Silicon Valley è quella che porta i migliori ricercatori del settore del machine learning a vantarsi del numero di GPU a cui hanno o avranno accesso. La potenza di calcolo può essere determinante nell'addestramento dei modelli di IA.

Click sul link per visualizzare la notizia.

The_Hypersonic
12-09-2023, 12:05
Considerando il prezzo Amazon di una singola A100 che viaggia a 7.300 € e moltiplicandolo per 20.000, si ottiene la bellezza di 146.000.000 di euro. Il calcolo con le H100 non lo faccio nemmeno. Ma davvero a NVIDIA conviene fare ancora schede per il settore gaming?

piv3z
12-09-2023, 12:10
shortage delle materie prime. shortage shortage

Gyammy85
12-09-2023, 12:51
Considerando il prezzo Amazon di una singola A100 che viaggia a 7.300 € e moltiplicandolo per 20.000, si ottiene la bellezza di 146.000.000 di euro. Il calcolo con le H100 non lo faccio nemmeno. Ma davvero a NVIDIA conviene fare ancora schede per il settore gaming?

Non credo comprino tutte quelle gpu su amazon
Il settore del gaming non esiste, esistono delle gpu ottimizzate per il gaming, così come non esiste il settore dell'ia, ma delle gpu che sono ottimizzate per fare ia, con la precisione che decide lui, garantita da lui
Quanto resisterebbe nvidia senza il settore gaming? o facciamo come "eh ma guarda abbiamo tanta di quella grana che quasi quasi chiudiamo, tanto la gente compra lo stesso"

Vash88
12-09-2023, 14:32
https://i0.wp.com/fourweekmba.com/wp-content/uploads/2023/02/who-owns-nvidia-1.png?resize=1536%2C1158&ssl=1

Data Center
First-quarter revenue was a record $4.28 billion, up 14% from a year ago and up 18% from the previous quarter

Gaming
First-quarter revenue was $2.24 billion, down 38% from a year ago and up 22% from the previous quarter

quarter on quarter AI è già al doppio del valore rispetto al settore gaming

https://investor.nvidia.com/news/press-release-details/2023/NVIDIA-Announces-Financial-Results-for-First-Quarter-Fiscal-2024/default.aspx

supertigrotto
12-09-2023, 15:56
Considerando il prezzo Amazon di una singola A100 che viaggia a 7.300 € e moltiplicandolo per 20.000, si ottiene la bellezza di 146.000.000 di euro. Il calcolo con le H100 non lo faccio nemmeno. Ma davvero a NVIDIA conviene fare ancora schede per il settore gaming?
Ho trovato un articolo a caso su questi della Corsair
https://www.corrierenerd.it/d-matrix-corsair-c8/
Come diceva IBM,dove lavorano le persone più scarse del Pianeta,le GPU sono efficaci ma non efficienti,per ora Nvidia si gongola ma la concorrenza sulla IA ma la pacchia potrebbe non durare molto.

sminatore
12-09-2023, 18:06
Si cmq io utilizzo modelli (per lo più 7b ma anche 13b) anche su una 3060m con 6gb di RAM. Un quantitativo minimo di 12gb non esiste

Ora92
13-09-2023, 10:13
Considerando il prezzo Amazon di una singola A100 che viaggia a 7.300 € e moltiplicandolo per 20.000, si ottiene la bellezza di 146.000.000 di euro. Il calcolo con le H100 non lo faccio nemmeno. Ma davvero a NVIDIA conviene fare ancora schede per il settore gaming?

Il tuo ragionamento è tipico di un poveraccio italiano che gli mancano le basi dell'economia. Pensi davvero che amazon sarebbe diventata ciò che è se avrebbe detto:" Quasi quasi chiudiamo il ramo ecommerce tanto i margini sono più alti nel segmento AWS".

Un'azienda di successo cerca sempre la massimizzazione dei profitti, la differenziazione estrema dei prodotti/servizi in ogni segmento di mercato in cui il margine operativo è superiore a 0. Ergo NVIDIA continuerà a fare schede gaming anche se i margini in questa categoria sono inferiori al segmento business AI.

Gnubbolo
13-09-2023, 14:05
la censura farà il gioco di nvidia, c'è corsa tra i redditors ad accaparrarsi le vecchie tesla da 24GB quindi vuol dire che la richiesta di schede con memoria grande sale.
mi stupisce che siano fermi a 12 GB

kust0r
14-09-2023, 12:11
Tanto valeva chiamarla "Allied Mastercomputer".

Alodesign
14-09-2023, 12:19
Il tuo ragionamento è tipico di un poveraccio italiano che gli mancano le basi dell'economia. Pensi davvero che amazon sarebbe diventata ciò che è se avrebbe detto:" Quasi quasi chiudiamo il ramo ecommerce tanto i margini sono più alti nel segmento AWS".

Un'azienda di successo cerca sempre la massimizzazione dei profitti, la differenziazione estrema dei prodotti/servizi in ogni segmento di mercato in cui il margine operativo è superiore a 0. Ergo NVIDIA continuerà a fare schede gaming anche se i margini in questa categoria sono inferiori al segmento business AI.

:doh:

A parte l'italiano poveraccioso, si, ogni azienda sfrutta ogni ramo, ma quando da uno riceve più frutti, gli altri vengono coltivati con meno fertilizzante.

Gyammy85
14-09-2023, 12:44
:doh:

A parte l'italiano poveraccioso, si, ogni azienda sfrutta ogni ramo, ma quando da uno riceve più frutti, gli altri vengono coltivati con meno fertilizzante.

Ma sono prodotti diversi, la vga da gaming viene coltivata esattamente come il resto della roba
Come se nvidia avesse risorse da disperdere, non fanno nient'altro oltre questo

Alodesign
14-09-2023, 13:34
Ma sono prodotti diversi, la vga da gaming viene coltivata esattamente come il resto della roba
Come se nvidia avesse risorse da disperdere, non fanno nient'altro oltre questo

Se hai 5 ingegneri buoni li sposti sui progetti più remunerativi, e lasci gli scarsi sugli altri.