CUDA: kako distribuirati program?

V Cudi sem spisala manjso dll knjiznico za Windows (za prevajanje uporabljam CMake + VS 2019), vendar mi ne uspe ugotoviti, kako program spraviti do uporabnikov, ne da bi si moral vsak izmed njih z neta sneti se celoten 3 GB CUDA Toolkit (kar je edini zanesljiv recept, ki sem ga doslej nasla, da bo stvar delala).

Uradni viri pravijo, da mora uporabnik imeti namesceno zadnjo verzijo gonilnikov. Pri kolegu sem pred meseci namestila CUDA Toolkit 10.2. Ko sem pri sebi upgrade-ala na verzijo 11, sem mu dala svoj nov dll + dva dll-ja iz SDK-ja, vendar to ni pomagalo. DLL se je sicer naloadal, pri izvajanju kode pa je prislo do napak. Uporabniku bi dala installer, vendar ne vem, kaj je sploh potrebno namestiti, da bi stvari delale out-of-the-box. Sploh po update-ih Toolkita, ko je vajo verjetno potrebno ponoviti.

Nisem gejmer. Ce ne drugega, me zanima, kaksna je ponavadi izkusnja pri igricah. Se uporabniki dejansko potrudijo in na roke namestijo zadnjo verzijo gonilnikov, da jim igrica sploh dela?

mojca je 14. avg 2020 ob 21:17 izjavil:

Pri kolegu sem pred meseci namestila CUDA Toolkit 10.2. Ko sem pri sebi upgrade-ala na verzijo 11, sem mu dala svoj nov dll + dva dll-ja iz SDK-ja, vendar to ni pomagalo. DLL se je sicer naloadal, pri izvajanju kode pa je prislo do napak. Uporabniku bi dala installer, vendar ne vem, kaj je sploh potrebno namestiti, da bi stvari delale out-of-the-box. Sploh po update-ih Toolkita, ko je vajo verjetno potrebno ponoviti.

Appi prevedeni za CUDA 11 rabijo vsaj 451.22 driver. Ne rabiš celega toolkita in ne brezglavo kopirat nekih DLL-jev vsepovprek.

Za cuda ekosistem imaš na voljo cele tabelce kombinacij kartica/driver/cuda. Ko prevajaš cuda kodo, moraš specificirati compute capabilities, s čimer določiš, koliko star hardver in cuda knjižnico podpiraš. To potem navedeš v dokumentaciji, ki jo priložiš in od userja pričakuješ, da ima najman to nameščeno.

HIP prihaja, da ... poletel bo ko bo Frontier online naslednje leto, nakar bo rabil nekaj let da se "prime". Pričakujem da bo resno konkurenčen cudi nekje čez 3-5 let.

Obstaja kaksen dober nacin, da npr. v C/C++ preverim, ce je namescen dovolj nov driver, da lahko uporabniku vsaj sporocim, naj gre na to-in-to spletno strani in si sname novejsega?

Možnosti imaš nebroj. Če uporabljaš CUDA Runtime API, lahko pokličeš cudaGetDeviceCount(...) in preveriš, kaj vrne. V primeru ne dovolj novega driverja, klic rezultira v cudaErrorInsufficientDriver napaki.

Lahko kje dobim listo, kateri driver je potreben za doloceno graficno kartico (GeForce, Quadro) in doloceno verzijo toolkita?

Vsaka verzija CUDA toolkita predpiše minimalno verzijo driverja, ki pa načeloma ni odvisna od grafikulje.

pegasus je 14. avg 2020 ob 22:07 izjavil:

Za cuda ekosistem imaš na voljo cele tabelce kombinacij kartica/driver/cuda.

Kul, hvala, uporabno. Je pa to precej linux-centrično. In moja mašina pravi, da ima verzijo gonilnika 27.21.14.5182 (Quadro, Pascal), česar recimo v teh tabelcah nikjer ne najdem.

Nekje sem našla navodila, naj poženem

"C:\Program Files\NVIDIA Corporation\NVSMI\nvidia-smi" --query-gpu=driver_version --format=csv

, pa tega sploh nimam.

Ko prevajaš cuda kodo, moraš specificirati compute capabilities, s čimer določiš, koliko star hardver in cuda knjižnico podpiraš. To potem navedeš v dokumentaciji, ki jo priložiš in od userja pričakuješ, da ima najman to nameščeno.

Compute capabilities sem že določila in je recimo OK (52 60 61 75: ostale verzije verjetno nimajo smisla, karkoli starejšega je že deprecate-ano, ...), ampak to je ortogonalno in nepovezano z mojo dilemo. Pač uporabniku poveš, da starejše kartice ne delajo in je to to.

Poanta je v tem, da tudi ko mu bo enkrat že vse delalo in bo samo nedolžno posodobil knjižnico, bo morda potreben upgrade driverjev. Nekam v logiko moram verjetno vgraditi funkcijo, ki bo uporabnika prijazno opozorila, da si mora namestiti novejšo verzijo gonilnikov. Ampak za začetek moram vedeti, kako sploh ugotoviti, ali ima uporabnik primerne gonilnike (in to npr. preveriti ob posodobitvi).

HIP prihaja, da ... poletel bo ko bo Frontier online naslednje leto, nakar bo rabil nekaj let da se "prime". Pričakujem da bo resno konkurenčen cudi nekje čez 3-5 let.

Jaz rešitev potrebujem "malenkost" prej :)

Hvala za vse hinte doslej.

Randomness je 14. avg 2020 ob 22:54 izjavil:

27.21.14.5182

Kje si to našla? To ne more biti verzija gonilnika? A to imaš Linux ali Windows mašino? Na Linuxu poženi nvidia-smi, na Windowsih pa nvidia-smi.exe. Mogoče ne iščeš v pravem direktoriju.

To je verzija direkt iz DLL-ov od driverja. 451.82.

In ne rabiš nvidia-smi... Kater runtime je na mašini preveriš z klicem cudaRuntimeGetVersion.

Vidim, da obstaja nekaj po imenu cudart_static.lib. Bom stestirala. Ampak kako statično zlinkaš cuFFT?

Ja, vidim da statično linkanje cuFFT na Windowsih očitno res ni podprto (https://docs.nvidia.com/cuda/cufft/inde.... Kaj moreš, Windowsi so pač kar se CUDA-e tiče drugorazredna platforma. Očitno moraš v tem primeru userju priložiti pač še pripadajoč cuFFT dll. Medtem ko cudart statično linkaš tudi na Windowsih preizkušeno brez problema.

mojca je 14. avg 2020 ob 23:40 izjavil:

NVidio prepricat, da vlozi nekaj developerskega casa za podporo staticni knjiznici.

Haha, dobra šala :D

Verjetno cufft dinamično nalaga cuda knjižnico in ti statično linkanje v tem primeru nič ne pomaga. Drugače pa ti svetujem - če se tega še ne poslužuješ - da skrbno preverjaš statuse, ki ti jih vračajo cuda klici.
error handling