Slo-Tech - Nvidia je začela prodajati svoj DGX Spark, ki ga imenujejo tudi osebni superračunalnik za umetno inteligenco. Nekoliko manj izumetničeno moremo govoriti o majhnem namiznem ohišju, v katerem se tare procesorske in grafične moči, s čimer bo zmogel poganjati velike jezikovne modele, ki imajo do 200 milijard parametrov. DGX Spark stane 4000 dolarjev, podobne so tudi cene izdelkov posameznih proizvajalcev (npr. Acer Veriton GN100).
V DGX Sparku je toliko računske moči, ki smo jo še pred leti dobili le v superračunalniških beštijah. V poldrugi kilogram težki škatli, ki potrebuje 240 W in meri 15 x 15 x 5 centrimetrov, se skriva čip Nvidia GB10 Grace Blackwell, 128GB pomnilnika LPDDR5x, 4 TB velik NVMe SSD. Poganja ga procesor MediaTek z 20 jedri ARMv9.2. Za povezljivost so dodani priključek USB-C, Wi-Fi 7 in HDMI. Za vse skupaj skrbi Nvidijina distribucija Linuxa (DGX OS), ki temelji na Ubuntuju.
Kot v dobrih starih časih grafičnih kartic se obetajo variante različnih proizvajalcev. Svoje verzije so predstavili Acer, Asus, Dell, Gigabyte, HP, Lenovo in MSI. Z njimi bodo lahko razvijalci na področju umetne inteligence delali z večjimi modeli, kot jih podpirajo običajne delovne postaje, ne da bi morali iskati superračunalnike. Na njem na primer tečejo modeli Flux.1 za ustvarjanje slik, Cosmos Reason za prepoznavanje in Qwen3.
Novice » Grafične kartice » Nvidia DGX Spark je osebni superračunalnik

pegasus ::
Drži ... super je le marketing ;)
Sumim pa da bo zaradi te škatlice postal nov standarden pisarniški eth priključek qsfp 200Gb/s
Sumim pa da bo zaradi te škatlice postal nov standarden pisarniški eth priključek qsfp 200Gb/s

Zgodovina sprememb…
- spremenil: pegasus ()

Zimonem ::
Mogoče naslednjo iteracijo. Ampak tudi drugi bodo takrat dodali prepotrebni bandwith. Dokler hbm ne postane dovolj poceni. Pa saj ni raketna znanost lepljenje drama na kup le mašinerije je trenutno premalo. Kitajska tebe gledam.

mrTwelveTrees ::
"V DGX Sparku je toliko računske moči, ki smo jo še pred leti dobili le v superračunalniških beštijah."
Koliko letih ???
Koliko letih ???

pegasus ::
https://www.techpowerup.com/gpu-specs/g... ... tu piše FP64 15TF ... Arctur-1 leta 2010 je bil 10TF (1008 westmere jeder).
Ampak nvidia marketing ti bo danes samo še FP4 cifre prodajal, enostavno zato, ker so večje
pa četudi so samo pogojno uporabne v ai in nikjer drugje
Ampak nvidia marketing ti bo danes samo še FP4 cifre prodajal, enostavno zato, ker so večje



pegasus ::
Aja, ena stvar, ki jo te male škatlice ne ponujajo v izobilju (superkompjutri pa jo), je memory bandwidth. Že v primerjavi z gamerskimi gpuji je ta relativno skromen, kar je cena za nizko porabo in posledično tiho delovanje, primerno za namizno pisarniško okolje. Tako da če kdo fantazira o clustrih iz teh igrač, naj vas posvarim, da se zadeva ne izplača. So pri nvidii to vse zelo dobro premislili ...

Zimonem ::
Sparka prodajajo kot ai. Saj kej drugega gor ne teče. Čakamo še osvobojene modele na sparku. Če ne bo treba za to inštalirat posebej distribucije. Zaenkrat je stvar šw pri recenzentih.
Hw ni impresiven za svojo ceno pa problemi s sw stackom. Je pa trotlzihr za poganjanje prepripravljenih modelov doma.
Ne relativno skromen bandwith, slab za svoj namen. Sploh kar bi pričakovali od nvidije, premajhen bus.
Saj sem rekel mogoče naslednja integracija. Kjer bodo vsi tlačili memory kontrolerje na čip. Ampak lažje bo z hbm ko bo masoven
Hw ni impresiven za svojo ceno pa problemi s sw stackom. Je pa trotlzihr za poganjanje prepripravljenih modelov doma.
Ne relativno skromen bandwith, slab za svoj namen. Sploh kar bi pričakovali od nvidije, premajhen bus.
Saj sem rekel mogoče naslednja integracija. Kjer bodo vsi tlačili memory kontrolerje na čip. Ampak lažje bo z hbm ko bo masoven
Zgodovina sprememb…
- spremenilo: Zimonem ()

Cr00k ::
Men tole bolj deluje kot nek devbox, za ta specifičn HW, ki ga lahko potem z manj težav deployaš v resne sisteme.
Je pa lepa škatlca :D
Je pa lepa škatlca :D

Ales ::
Na žalost je z vidika pasovne širine RAM-a in zavajajočih obljub "AI" marketingašev tole enak fiasko, kot je AMD Ryzen AI Max+ 395 (AMD Strix Halo). Slednji je vsaj pol cenejši, če nič drugega.
Ampak ne omenjeni AMD in ne tale Nvidia nista dejansko sposobna poganjati malo večjih LLM-jev, že malo večji kontekst pa je sploh misija nemogoče.
Tega seveda "AI" marketingaši priročno ne povedo temveč zavajajo npr. s količino deljenega CPU/GPU RAM-a, ki na papirju zgleda OK.
Saj oprema kot taka ni slaba, a človek ne sme nasesti in pričakovati čudežev, sicer sledi precejšnje razočaranje.
Ostaja upanje, da bo Nvidia prednjačila vsaj s programsko opremo. AMD-jev ROCm na primer sploh ne podpira AMD Ryzen™ AI Max+ 395 in se človek vpraša, kdo je tu nor...
Kakorkoli... če gledam individualno uporabo na področju LLM-jev, mi ni jasno, zakaj bi kdo kupil tole Nvidio in ne Mac Studio M4 Max z 128 GB precej hitrejšega RAM-a.
Ampak ne omenjeni AMD in ne tale Nvidia nista dejansko sposobna poganjati malo večjih LLM-jev, že malo večji kontekst pa je sploh misija nemogoče.
Tega seveda "AI" marketingaši priročno ne povedo temveč zavajajo npr. s količino deljenega CPU/GPU RAM-a, ki na papirju zgleda OK.
Saj oprema kot taka ni slaba, a človek ne sme nasesti in pričakovati čudežev, sicer sledi precejšnje razočaranje.
Ostaja upanje, da bo Nvidia prednjačila vsaj s programsko opremo. AMD-jev ROCm na primer sploh ne podpira AMD Ryzen™ AI Max+ 395 in se človek vpraša, kdo je tu nor...

Kakorkoli... če gledam individualno uporabo na področju LLM-jev, mi ni jasno, zakaj bi kdo kupil tole Nvidio in ne Mac Studio M4 Max z 128 GB precej hitrejšega RAM-a.
Zgodovina sprememb…
- spremenil: Ales ()
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Nvidia DGX Spark je osebni superračunalnikOddelek: Novice / Grafične kartice | 398 (60) | Zimonem |
» | OpenAI ob zadnji prodaji delnic vreden 500 milijard dolarjevOddelek: Novice / Nakupi / združitve / propadi | 3053 (1062) | pegasus |
» | Nvidia predstavila superračunalnik DGX GH200Oddelek: Novice / Procesorji | 4991 (3240) | FlyingBee |
» | Nvidia predstavila grafično arhitekturo AmpereOddelek: Novice / Grafične kartice | 14647 (13145) | FlyingBee |
» | Na novi lestvici superračunalnikov ZDA na 1. in 3. mestuOddelek: Novice / Znanost in tehnologija | 6643 (4996) | pegasus |