» »

Nvidia DGX Spark je osebni superračunalnik

Nvidia DGX Spark je osebni superračunalnik

Slo-Tech - Nvidia je začela prodajati svoj DGX Spark, ki ga imenujejo tudi osebni superračunalnik za umetno inteligenco. Nekoliko manj izumetničeno moremo govoriti o majhnem namiznem ohišju, v katerem se tare procesorske in grafične moči, s čimer bo zmogel poganjati velike jezikovne modele, ki imajo do 200 milijard parametrov. DGX Spark stane 4000 dolarjev, podobne so tudi cene izdelkov posameznih proizvajalcev (npr. Acer Veriton GN100).

V DGX Sparku je toliko računske moči, ki smo jo še pred leti dobili le v superračunalniških beštijah. V poldrugi kilogram težki škatli, ki potrebuje 240 W in meri 15 x 15 x 5 centrimetrov, se skriva čip Nvidia GB10 Grace Blackwell, 128GB pomnilnika LPDDR5x, 4 TB velik NVMe SSD. Poganja ga procesor MediaTek z 20 jedri ARMv9.2. Za povezljivost so dodani priključek USB-C, Wi-Fi 7 in HDMI. Za vse skupaj skrbi Nvidijina distribucija Linuxa (DGX OS), ki temelji na Ubuntuju.

Kot v dobrih starih časih grafičnih kartic se obetajo variante različnih proizvajalcev. Svoje verzije so predstavili Acer, Asus, Dell, Gigabyte, HP, Lenovo in MSI. Z njimi bodo lahko razvijalci na področju umetne inteligence delali z večjimi modeli, kot jih podpirajo običajne delovne postaje, ne da bi morali iskati superračunalnike. Na njem na primer tečejo modeli Flux.1 za ustvarjanje slik, Cosmos Reason za prepoznavanje in Qwen3.

10 komentarjev

Zimonem ::

Ne ni nekje na ravni Maca in AMD strix halo. Nič pretresljivega.

pegasus ::

Drži ... super je le marketing ;)

Sumim pa da bo zaradi te škatlice postal nov standarden pisarniški eth priključek qsfp 200Gb/s :))

Zgodovina sprememb…

  • spremenil: pegasus ()

Zimonem ::

Mogoče naslednjo iteracijo. Ampak tudi drugi bodo takrat dodali prepotrebni bandwith. Dokler hbm ne postane dovolj poceni. Pa saj ni raketna znanost lepljenje drama na kup le mašinerije je trenutno premalo. Kitajska tebe gledam.

mrTwelveTrees ::

"V DGX Sparku je toliko računske moči, ki smo jo še pred leti dobili le v superračunalniških beštijah."

Koliko letih ???

pegasus ::

https://www.techpowerup.com/gpu-specs/g... ... tu piše FP64 15TF ... Arctur-1 leta 2010 je bil 10TF (1008 westmere jeder).

Ampak nvidia marketing ti bo danes samo še FP4 cifre prodajal, enostavno zato, ker so večje :)) pa četudi so samo pogojno uporabne v ai in nikjer drugje ;((

pegasus ::

Aja, ena stvar, ki jo te male škatlice ne ponujajo v izobilju (superkompjutri pa jo), je memory bandwidth. Že v primerjavi z gamerskimi gpuji je ta relativno skromen, kar je cena za nizko porabo in posledično tiho delovanje, primerno za namizno pisarniško okolje. Tako da če kdo fantazira o clustrih iz teh igrač, naj vas posvarim, da se zadeva ne izplača. So pri nvidii to vse zelo dobro premislili ...

Zimonem ::

Sparka prodajajo kot ai. Saj kej drugega gor ne teče. Čakamo še osvobojene modele na sparku. Če ne bo treba za to inštalirat posebej distribucije. Zaenkrat je stvar šw pri recenzentih.
Hw ni impresiven za svojo ceno pa problemi s sw stackom. Je pa trotlzihr za poganjanje prepripravljenih modelov doma.

Ne relativno skromen bandwith, slab za svoj namen. Sploh kar bi pričakovali od nvidije, premajhen bus.

Saj sem rekel mogoče naslednja integracija. Kjer bodo vsi tlačili memory kontrolerje na čip. Ampak lažje bo z hbm ko bo masoven

Zgodovina sprememb…

  • spremenilo: Zimonem ()

Cr00k ::

Men tole bolj deluje kot nek devbox, za ta specifičn HW, ki ga lahko potem z manj težav deployaš v resne sisteme.

Je pa lepa škatlca :D

Ales ::

Na žalost je z vidika pasovne širine RAM-a in zavajajočih obljub "AI" marketingašev tole enak fiasko, kot je AMD Ryzen AI Max+ 395 (AMD Strix Halo). Slednji je vsaj pol cenejši, če nič drugega.

Ampak ne omenjeni AMD in ne tale Nvidia nista dejansko sposobna poganjati malo večjih LLM-jev, že malo večji kontekst pa je sploh misija nemogoče.

Tega seveda "AI" marketingaši priročno ne povedo temveč zavajajo npr. s količino deljenega CPU/GPU RAM-a, ki na papirju zgleda OK.

Saj oprema kot taka ni slaba, a človek ne sme nasesti in pričakovati čudežev, sicer sledi precejšnje razočaranje.

Ostaja upanje, da bo Nvidia prednjačila vsaj s programsko opremo. AMD-jev ROCm na primer sploh ne podpira AMD Ryzen™ AI Max+ 395 in se človek vpraša, kdo je tu nor... ;((

Kakorkoli... če gledam individualno uporabo na področju LLM-jev, mi ni jasno, zakaj bi kdo kupil tole Nvidio in ne Mac Studio M4 Max z 128 GB precej hitrejšega RAM-a.

Zgodovina sprememb…

  • spremenil: Ales ()

Zimonem ::

Ni razloga, zato so tudi toliko časa izdajali stvar. Čakamo spark2.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Nvidia DGX Spark je osebni superračunalnik

Oddelek: Novice / Grafične kartice
10398 (60) Zimonem
»

OpenAI ob zadnji prodaji delnic vreden 500 milijard dolarjev

Oddelek: Novice / Nakupi / združitve / propadi
323053 (1062) pegasus
»

Nvidia predstavila superračunalnik DGX GH200

Oddelek: Novice / Procesorji
294991 (3240) FlyingBee
»

Nvidia predstavila grafično arhitekturo Ampere

Oddelek: Novice / Grafične kartice
1414647 (13145) FlyingBee
»

Na novi lestvici superračunalnikov ZDA na 1. in 3. mestu

Oddelek: Novice / Znanost in tehnologija
256643 (4996) pegasus

Več podobnih tem