[vari] Programmazione GP-GPU

[mux85]

Salve a tutti, mi sembra che ci fosse già una discussione al riguardo ma non sono riuscito a trovarla in alcun modo per cui ne apro un'altra.
Vorrei iniziare a fare qualche esperimento di programmazione GP-GPU, CUDA in questo ambito al momento sembra il framework più maturo ma preferirei qualcosa che funzioni indipendentemente dalla marca della GPU. A questo punto la scelta più ovvia sarebbe OpenCL ma non trovo una implementazione seria, ho provato OpenTK che a quanto pare dovrebbe contenere OpenCL ma se è così non capisco in che modo usarlo.
Conoscete una implementazione che abbia un buon livello di usabilità?
Alternativamente potrei optare per DirectCompute visto che mi interessa di più l'indipendenza dall'HW piuttosto che dal SO.
Qualcuno ha già qualche esperienza in ambito GP-GPU e ha qualche consiglio?
Grazie

[Torav]

Io ho appena finito di scrivere (ma sto ottimizzando) un programma di dinamica molecolare scritto con CUDA. Devo dire che è un bel lavoraccio, soprattutto per quanto riguarda l'ottimizzazione. Si deve entrare "nella materia" e capire bene l'architettura sia della gpu che di CUDA. Non ho esperienza con OpenCL o roba simile, ma da quanto ho letto passare da CUDA a OpenCL (quando sarà sufficientemente maturo) non dovrebbe essere un bagno di sangue.

[mux85]

Il fatto è che per CUDA sul sito di Nvidia trovi tutto quello che serve per iniziare a sviluppare. Mentre per OpenCL sul sito del Khronos Group non c'è molto e in generale su internet si trovano cose molte frammentarie. A me servirebbe una guida del tipo "installa questo e poi quello e poi fai queste impostazioni" poi il linguaggio me lo imparo senza problemi una volta che posso fare delle prove reali.
Nessuno ha mai fatto nulla con OpenCL?

[cionci]

Hai guardato qui ?
http://developer.amd.com/GPU/ATISTRE...ialOpenCL.aspx

[mux85]

Originariamente inviato da cionci

Hai guardato qui ?
http://developer.amd.com/GPU/ATISTRE...ialOpenCL.aspx

Proverò a vedere, grazie. Per il momento forse sto iniziando a capire come funziona OpenTK e ho finalmente trovato un esempio. Tu hai già qualche esperienza con qualche framework per il GP-GPU?

[cionci]

Assolutamente no.

Comunque guarda anche i link in fondo a quella pagina.

[mux85]

Originariamente inviato da cionci

Assolutamente no.

Comunque guarda anche i link in fondo a quella pagina.

Tutto già visto, alla fine per i bindings C# rimanda a OpenTK. Grazie.
Quello che non ho ancora capito è cosa fanno esattamente questi bindings, in pratica al momento della compilazione del programma permettono di chiamare le funzioni OpenCL messe a disposizione dai driver della scheda video no? Quindi non dovrebbe esserci bisogno di installare altro se non ho capito male.
PS questa mia teoria sembra essere confermata dalla presenza sul pc di alcuni file chiamati opencl.dll (in varie cartelle diverse) forniti da nvidia. Quindi se avessi una scheda ATI l'unica cosa che cambierebbe sarebbe in codice interno di quel file dll ma metterebbe a disposizione le stesse funzioni che poi sono quelle che il programma scritto con OpenCL andrebbe a chiamare

[mux85]

ciao a tutti, sto programmando con OpenCL ormai da un po' su piattaforma nvidia. però sto per cambiare pc e pensavo di prendere una scheda video AMD/ATI (in particolare sono orientato sulla 5850). qualcuno ha provato OpenCL su piattaforma AMD? leggendo un po' in giro mi sembra che sia un po' più indietro riguardo al supporto GP-GPU rispetto a nvidia. qualcuno ne sa di più? non ho proprio voglia di prendere una gtx470 ma neanche di trovarmi bloccato con il progetto che sto facendo per l'università. grazie

[Tommo]

Io sapevo che se hai meno di una HD5*** l'openCL la puoi usare massimo per far girare i samples

E poi ho sentito che le OpenCL di NVidia ed AMD sono tutto tranne che compatibili ad oggi, preparati a fare un porting... in effetti l'unica demo scritta per AMD/OpenCL che ho provato non girava affatto sulla mia scheda nvidia, si limita a buttare pallini colorati e mandare in crash Aero. Le demo dello Stream SDK invece non partono proprio sulla "concorrenza".

magari la situazione m'è sembrata così grama perchè mi documento soprattutto sui forum CUDA... però anche il fatto che non esiste un corrispondente forum AMD dovrebbe voler dire qualcosa

[mux85]

Originariamente inviato da Tommo

Io sapevo che se hai meno di una HD5*** l'openCL la puoi usare massimo per far girare i samples

E poi ho sentito che le OpenCL di NVidia ed AMD sono tutto tranne che compatibili ad oggi, preparati a fare un porting... in effetti l'unica demo scritta per AMD/OpenCL che ho provato non girava affatto sulla mia scheda nvidia, si limita a buttare pallini colorati e mandare in crash Aero. Le demo dello Stream SDK invece non partono proprio sulla "concorrenza".

magari la situazione m'è sembrata così grama perchè mi documento soprattutto sui forum CUDA... però anche il fatto che non esiste un corrispondente forum AMD dovrebbe voler dire qualcosa

il forum veramente esiste http://forums.amd.com/devforum/

[cdimauro]

Originariamente inviato da mux85

ciao a tutti, sto programmando con OpenCL ormai da un po' su piattaforma nvidia. però sto per cambiare pc e pensavo di prendere una scheda video AMD/ATI (in particolare sono orientato sulla 5850). qualcuno ha provato OpenCL su piattaforma AMD? leggendo un po' in giro mi sembra che sia un po' più indietro riguardo al supporto GP-GPU rispetto a nvidia. qualcuno ne sa di più?

Le GPU AMD sono un po' più indietro, e al momento soffrono di alcuni problemi relativi all'uso della cache L2, se non ricordo male.

Ma hanno il vantaggio di poter risolvere parecchi problemi perché dipendono fortemente dal compilatore e dall'ottimizzatore che girano sui driver. Mentre le GPU nVidia hanno molta logica di bilanciamento e ottimizzazione del carico gestita in hardware.

non ho proprio voglia di prendere una gtx470 ma neanche di trovarmi bloccato con il progetto che sto facendo per l'università. grazie

Dipende sempre dal tipo di algoritmo che dovrai far girare. Le due famiglie di GPU sono estremamente diverse. Le Ati prediligono codice altamente parallelizzabile, mentre le nVidia uno più "seriale".

E' vero che Fermi come GPU è molto più GP di Cypress, ma non è detto che abbia sempre migliori prestazioni, come dimostrano alcuni benchmark.

Poi di mezzo ci sono pure i costi e i consumi di cui tenere conto. Tanto che al momento attuale è molto più conveniente una HD5900, che ha una doppia GPU, rispetto a una GTX480, ad esempio.

[B|4KWH|T3]

Originariamente inviato da Torav

Io ho appena finito di scrivere (ma sto ottimizzando) un programma di dinamica molecolare scritto con CUDA. Devo dire che è un bel lavoraccio, soprattutto per quanto riguarda l'ottimizzazione. Si deve entrare "nella materia" e capire bene l'architettura sia della gpu che di CUDA. Non ho esperienza con OpenCL o roba simile, ma da quanto ho letto passare da CUDA a OpenCL (quando sarà sufficientemente maturo) non dovrebbe essere un bagno di sangue.

Se non sono indiscreto, posso chiederti dove lavori?
Io mi sto laureando in Bioinformatica

[Torav]

Originariamente inviato da B|4KWH|T3

Se non sono indiscreto, posso chiederti dove lavori?
Io mi sto laureando in Bioinformatica

Sono un dottorando in fisica al primo anno alla Sapienza

[B|4KWH|T3]

Riuppo il thread per segnalare (a chi fosse interessato al GPGPU) :

http://developer.amd.com/zones/OpenC...-May-2010.aspx

e in particolare:

http://developer.amd.com/zones/OpenC...20(201005).pdf

[Tommo]

Originariamente inviato da B|4KWH|T3

Riuppo il thread per segnalare (a chi fosse interessato al GPGPU) :

http://developer.amd.com/zones/OpenC...-May-2010.aspx

e in particolare:

http://developer.amd.com/zones/OpenC...20(201005).pdf

Oddio hanno fatto davvero della documentazione decente e mirata. Ho paura

E poi per la prima volta OpenCL supera CUDA per l'implementazione della Command Queue...
in certi tipi di applicazioni (un VG?) è vitale per evitare che il workflow si sincronizzi, e in CUDA va implementato a mano.

Interessante, potrei portare il mio render.

Si sa qualcosa della compatibilità di AMD Stream con Nvidia? in teoria dovrebbe andare senza alcun problema, in pratica per me non parte

[mux85]

Originariamente inviato da Tommo

E poi per la prima volta OpenCL supera CUDA per l'implementazione della Command Queue...

cosa intendi di preciso? ti riferisci ai miglioramenti portati con OpenCL 1.1? in questa documentazione cmq si parla ancora di OpenCL 1.0 anche perchè non esiste ancora una implementazione della versione 1.1, sul forum di amd lasciano intendere che la prossima versione dell'sdk supporterà OpenCL 1.1

[pabloski]

Originariamente inviato da Tommo

Si sa qualcosa della compatibilità di AMD Stream con Nvidia? in teoria dovrebbe andare senza alcun problema, in pratica per me non parte

non dovrebbero essere compatibili, altrimenti che senso avrebbe opencl?

riguardo opencl è una buona scelta cominciarlo ad usare perchè amd lo sta supportando fin dall'inizio e nvidia la settimana scorsa ha fatto sapere che spingerà anche lei opencl

quindi da qui in poi opencl dovrebbe migliorare molto rapidamente

per esperienza ho provato ad installare l'ambiente di sviluppo cuda su linux ma è stato un bagno di sangue....ok pure i driver nvidia danno rogne su linux ultimamente

[Tommo]

Originariamente inviato da mux85

cosa intendi di preciso? ti riferisci ai miglioramenti portati con OpenCL 1.1? in questa documentazione cmq si parla ancora di OpenCL 1.0 anche perchè non esiste ancora una implementazione della versione 1.1, sul forum di amd lasciano intendere che la prossima versione dell'sdk supporterà OpenCL 1.1

La documentazione però cita esplicitamente una Command Queue per i Kernels, quindi c'è
Magari al momento è un'estensione di OCL1.0 di AMD?

Comunque fa cagarissimo che tutti spacciano OpenCL come "open" ma poi ogni implementazione è binariamente incompatibile con la concorrenza...
fin quando non riuscirò a sviluppare coi tool di AMD su Nvidia e viceversa per me OpenCL può rimanere dov'è

[marco.r]

Originariamente inviato da Tommo

La documentazione però cita esplicitamente una Command Queue per i Kernels, quindi c'è
Magari al momento è un'estensione di OCL1.0 di AMD?

Comunque fa cagarissimo che tutti spacciano OpenCL come "open" ma poi ogni implementazione è binariamente incompatibile con la concorrenza...
fin quando non riuscirò a sviluppare coi tool di AMD su Nvidia e viceversa per me OpenCL può rimanere dov'è

Lo standard riguarda le API non le ABI. Al piu' ti puoi lamentare che non puoi cross-compilare da una architettura all'altra, ma io francamente neanche me lo aspetto. Sarebbe come chiedere di poter cross-compilare binari ARM per linux da VS ...

[mux85]

volendo con un po' di fatica si riesce a scrivere qualcosa che funziona sia con amd che con nvidia. però se hai hw nvidia per farlo andare dovrai avere i driver della nvidia e su hw amd dovrai avere l'ati stream sdk. in pratica sono più che altro gli strumenti di sviluppo ad essere incompatibili. ad esempio stream kernel analyzer se hai hw nvidia non funziona.
se vuoi un esempio scaricati gpu caps viewer. contiene delle demo in opencl che vanno sia su ati che su nvidia.
il discorso cpu è un po' diverso. sono supportate solo dallo stream sdk (sia cpu intel che cpu amd), però sono riuscito a fare qualche prova su cpu anche avendo una gpu nvidia. in pratica avevo sia l'sdk di nvidia che quello di ati, poi però facevi casini con altre cose per cui ho disinstallato quello della ati, cmq come inizio non è male