GPU per big data. Come confrontarle?

[arsenio.lupin]

Buongiorno a tutti,
devo valutare l'acquisto per lavoro di una workstation per la gestione dei "big data" (per ricerca scientifica).
Il sito del produttore dello strumento da collegare, suggerisce come configurazione minima una RTX 3080, ma come configurazione ottimale una RTX A4000.
Basandomi solo sul famoso sito videocardbenchmark.net, in realtà, le prestazioni passmark - g3d mark della 3080 sono superiori alla A4000...
https://www.videocardbenchmark.net/high_end_gpus.html

Tuttavia credo che la comparazione si basi esclusivamente sul gaming, e non sulla reale potenza in tflops della gpu.

Cercando le caratteristiche delle due schede, vedo però che ci sono troppi dati che non capisco, tutti espressi in tflops o addirittura in gflops... (es: FP16, FP32, FP64 double, oppure FP64 tensor ecc...)

Come comparare dunque le GPU per le prestazioni di utilizzo dei big data?
C'è un sito suggerito per caso?

[Predator_1982]

per big data analytics ti consiglio i modelli quadro, non tanto per una questione di pura performance quanto per un discorso di supporto lato drivers, che sono decisamente ottimizzati per l'ambito descritto.

[arsenio.lupin]

Grazie Predator. Ne terrò certamente presente
I costi non sono tanto diversi tra la RTX A4000 e la 3080
Però sui siti di cui parlavo sopra, le prestazioni della A4000 sono inferiori alla 3080. (la versione a4000 quadro però costa di più della rtx a4000)
Se però il sito produttore dello strumento la raccomanda (e per strumenti più grossi raccomanda addirittura la quadro A100 80Gb che costa un salasso) credo che la ragione sia proprio la gestione del tflops dei dati in elaborazione big data (non ovviamente per il gaming dove immagino le cose siano diverse).
Certamente i driver sono importantissimi!
Volevo però paragonare i tflops "bruti" ma non ci capiaco nulla nei dati che trovo...

[Predator_1982]

Originariamente inviato da arsenio.lupin

Grazie Predator. Ne terrò certamente presente
I costi non sono tanto diversi tra la RTX A4000 e la 3080
Però sui siti di cui parlavo sopra, le prestazioni della A4000 sono inferiori alla 3080. (la versione a4000 quadro però costa di più della rtx a4000)
Se però il sito produttore dello strumento la raccomanda (e per strumenti più grossi raccomanda addirittura la quadro A100 80Gb che costa un salasso) credo che la ragione sia proprio la gestione del tflops dei dati in elaborazione big data (non ovviamente per il gaming dove immagino le cose siano diverse).
Certamente i driver sono importantissimi!
Volevo però paragonare i tflops "bruti" ma non ci capiaco nulla nei dati che trovo...

In termini di pura potenza, la 3080 sicuramente è superiore, se non erro ha più CUDA cores, più RT cores e più Tensor. Ora, non so quale sia la tua esigenza in termini di potenza, ma secondo me devi più che altro considerare quanto ti ho scritto prima. Guadagnare qualcosa in termini di potenza di elaborazione e tempi dunque, non so quanto valga in termini di possibili incompatibilità applicative. Considera pure l'aspetto consumi, una A4000 ha un tdp di 140W, una 3080 di 320W circa...la differenza non è poca.

Ovviamente A100 è un altro pianeta, ma c'è sempre da considerare l'aspetto costi/benefici, che pui conoscere e valutare solo tu.

[arsenio.lupin]

Eccomi.
Si tratta di applicazioni di genetica (genomica per la precisione) ad alto throughput per fini di ricerca universitaria.

Parto dal (ahimè solo un sogno) sequenziatore di genomi interi a 48 cell chiamato PromethION48 (cioè 48 campioni di genomi indipendenti) che ha all'interno 512GB di RAM, 60TB di SSD e la bellezza di 4 schede A100!
(Eh... costa più di 200K euro!)
Se interessasse questo è il link:
https://nanoporetech.com/products/promethion
Gestisce una mole immensa di dati, come puoi immaginare...

Poi c'è la versione ridotta, cioè a sole 2 camere di sequenziamento, il PomethION2, ma che per noi sarebbe perfetto. Al suo interno ha 16TB di SSD, 128GB di RAM e 1 scheda A100.
Certamente la gestione dei dati è ottimizzata da questa configurazione, ma è ancora troppo caro per le tasche del nostro piccolo laboratorio... (>50K euro)

Infine hanno fatto la versione PromethION P2Solo che è identica alla precedente, e che costa meno di 10K euro, ma praticamente non ha hardware di decodifica interno e si deve affidare ad un PC esterno le cui spec. minime e massime sono in questa tabella:
https://community.nanoporetech.com/r...-2s-it-req.pdf

(mi scuso... sopra ho detto che consigliano come ottimale la A4000, ma invece è la A6000 )

Potendo però lavorare come configurazione minima con una RTX3080 e una CPU senza pretese (es: i9 7th o 10th generazione non esagerato, perchè i calcoli li affida alla GPU) , dunque, pensavo di riuscire a cavarmela con un PC sui 3K euro...

Da qui la necessità di capire come paragonare le GPU per scegliere la migliore prezzo/prestazioni... (i nostri fondi sono un p' scarsini ahimè... )

[celsius100]

Ciao
x valutare le prestazioni in potenza bruta delle schede puoi farti un'idea cercando i benchmark ad esempio di test con luxmark, indigobench o blender x citarne qualcuno
come prezzi la 3080 10gb si riesce a trovare sulle 800 euro