» »

Nvidia predstavila naslednico arhitekture Hopper, platformo Blackwell

Nvidia predstavila naslednico arhitekture Hopper, platformo Blackwell

vir: Nvidia

Blackwell vs. Hopper

vir: Nvidia
Nvidia - Uvodna predstavitev konference GTC 2024 se je po pričakovanjih vrtela okoli prihodnje Nvidiine arhitekture za superračunalnike, ki nosi ime Blackwell in prispe proti koncu leta.

Letošnja Nvidiina pomladna prireditev GPU Technology Conference (GTC) je prva od začetka epidemije covida-19, ki se v celoti dogaja v živo. Kot se spodobi za eno od največjih podjetij na svetu, se je Jensen Huang za svojo uvodno tiskovko iz tradicionalnega San Jose Convention Centra sprehodil v večjo koncertno dvorano SAP Center, s približno 20.000 sedeži. Po stari navadi je možakar v usnjeni jakni zbranim predočil Nvidiino vizijo razvoja tehnologije in s tem povezanih novih čipov iz zelenega tabora. Govor se je zopet dotikal mnogih različnih področij, od robotike prek avtomobilov do dizajna zdravil, toda če bi bilo treba izluščiti eno misel, oziroma cilj družbe, je Jensen izpostavljal namero, da bi se večina tehnološkega razvoja v prihodnosti odvijala v digitalnih dvojčkih, ki bi seveda tekli v Omniversu, Nvidiinem "operacijskem sistemu" (v bistvu okolju) za digitalne dvojčke.



Ker aktualna eksplozija generativnih modelov strojnega učenja v mnogočem sloni na Nvidiinih čipih, je bilo največ oči uprtih v najavo naslednika aktualne GPGPU arhitekture Hopper. Ta nosi ime Blackwell, po Američanu Davidu Blackwellu, ki je ogromno prispeval k področjem informatike, statistike in teorije iger. Osnovno vodilo pri oblikovanju novega čipa je bilo "vsega več", saj generativni modeli prehajajo v sfero velikosti tisoč milijard parametrov, kar pomeni skokovito povečane zahteve tako po pomnilniku kot procesiranju ter pasovni širini komunikacij med elementi računskih centrov. Blackwell je tako neke sorte podvojeni Hopper (in še malo več), saj je Nvidia to pot prvič uporabila tehnologijo čipletov za svoj GPGPU. Blackwell je zgrajen iz dveh čipletov s po 104 milijardami tranzistorjev, ki ju programje vidi kot en čip. Obenem je proizvodni proces zgolj neznatno izboljšan, kajti uporabljajo TSMC proces 4NP in ne 3N, kar je zanimivo in torej večina pospeškov pride iz naslova same arhitekture. Čip je zato v primerjavi s Hopperjem naravnost gromozanski in po prvih ocenah sodeč tudi požrešen, saj troši okoli 1200 W.



Čip ima pripojenih 192 GB pomnilnika HBM3E s prepustnostjo 8 TB/s - več kot dvakrat več od Hopperja. Zanimivi so trije formati, v katerih bo na začetku na voljo. Osnovni, B200, je najbolj klasičen in vsebuje en čip ter ponuja 4,5 petaflopov procesne moči v načinu FP8 ter 9 Pflopov v FP4. Tako je: Blackwell ima še nižjo stopnico v natančnosti (FP4), ki je namenjena izključno inferenci, torej izvajanju modelov strojnega učenja. S tem se skušajo v podjetju zoperstaviti hitremu množenju konkurenčnih čipov na tem področju, kot so gravitoni. Druga različica čipa, B100, je namenjena strojni združljivosti za nazaj, torej nastanitvi v sistemih HGX. Največjo zmogljivost pa obljublja superčip GB200, ki združuje dva blackwella in en procesni čip Grace. Tu naj bi zmogljivost FP4 znašala kar po 20 Pflopov na čip.

Ker je takšne sorte združevanje gradnikov računskih centrov vse pomembnejša in hitrejša dejavnost, so predstavili tudi novo, peto generacijo vodila NVLink. Prepustnost se je glede na štirico okroglo podvojila, na 1,8 TB/s, kar je bilo spričo podvojene velikosti Blackwella v bistvu nujno. Predstavili so tudi s tem povezane rešitve za komunikacijo v obliki strežniških rezin.

13 komentarjev

pegasus ::

Meni se vse tole zdi ena slepa veja razvoja digitalne tehnike. Kdo bo pripravil nove datacentre s pretokom 2 litra na sekundo na rack hladne (!) vode in 120KW elektrike na rack? Verjetno z lastno elektrarno zraven?

Neuromorphic bo bolj prava smer razvoja, analogna optična mi je daleč najbolj všeč.

kow ::

Odvisno od koristnosti vse te energije. Glede na napredek pri LLM, avtonomije vozil, robotike ipd.. Se zdi kar logicna investicija. Na koncu se bo itak vse energetsko mocno pooptimiziralo.

DamijanD ::

Sam v zadnjem podcastu pri Lexu dejansko omenja energijo kot največji problem. Ampak če ne bo nekega preskoka pri porabi energije za standardne operacije teh modelov, bo dejansko izvajanje imho predrago.

mtosev ::

Vidim, da se je delnica za malenkost dvignila.
Core i9 10900X, ASUS Prime X299 Edition 30, 32GB 4x8 3600Mhz G.skill, CM H500M,
ASUS ROG Strix RTX 2080 Super, Samsung 970 PRO, UltraSharp UP3017, Win 11 Pro,
Enermax Platimax 1700W | moj oče darko 1960-2016, moj labradorec max 2002-2013

pegasus ::

Dokaz več, da vrednost delnice odraža omejenost človeške vrste.

Gregor P ::

Ampak ko jim to rečeš, te začnejo vseznalci zmerjati s skeptikom, nepoznavalcem razmer in tudi hujše seveda8-)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

mtosev ::

Core i9 10900X, ASUS Prime X299 Edition 30, 32GB 4x8 3600Mhz G.skill, CM H500M,
ASUS ROG Strix RTX 2080 Super, Samsung 970 PRO, UltraSharp UP3017, Win 11 Pro,
Enermax Platimax 1700W | moj oče darko 1960-2016, moj labradorec max 2002-2013

FlyingBee ::

Jensen pravi, da tudi, če konkurent ponudi svoje čipe zastonj, bo nvidia za celotno postavitev cenejša varianta.

Drugače pa, ko pridejo Blackwell Geforci, kar takoj kupit highend model in potem 5 let mir.
P200 MMX, 32mb ram, 2gb HDD, s3 virge 2mb, 14" CRT 640x480
New Sphincter Kvartet:
Roko Spestner, Namaž Zlevčar, Daje Heading, Maraje Spetan

dronyx ::

WS funkcionira tako, da najdejo neke delnice, ki jih pumpajo, potem se veliki umaknejo in poberejo profite, mali vlagatelji pa ponavadi izvisijo, ker so kupovali na vrhu, prodajo pa z izgubo. Tesla je lep tak primer, pa za časa Covid razni proizvajalci cepiv, katerih vrednosti so tudi potem strmoglavile. Nvidia čaka po moje ista usoda, ko najdejo koga drugega za napumpat.

AnWar ::

Ne hvala. AI no go. I like humans.
[Asus ROG Strix SCAR III]

gruntfürmich ::

Gregor P je izjavil:

Ampak ko jim to rečeš, te začnejo vseznalci zmerjati s skeptikom, nepoznavalcem razmer in tudi hujše seveda8-)

torej dajmo malo tehtat...
besede enega pegaza napram vsem ostalim v panogi...
pegaz ima prav! vsi ostali so bedaki!
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...

D3m ::

mtosev je izjavil:



Lep balonček.
|HP EliteBook|R5 6650U|

FlyingBee ::

915, 2.29t
P200 MMX, 32mb ram, 2gb HDD, s3 virge 2mb, 14" CRT 640x480
New Sphincter Kvartet:
Roko Spestner, Namaž Zlevčar, Daje Heading, Maraje Spetan


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo

NVIDIA Blackwell (3nm GPU) (strani: 1 2 )

Oddelek: Strojna oprema
894838 (308) bluefish
»

Nvidia najavila prve geforce družine RTX 40 (strani: 1 2 )

Oddelek: Novice / Grafične kartice
5915729 (8847) boset
»

Nvidia snuje nov procesor na Armovi osnovi

Oddelek: Novice / Procesorji
86414 (5062) Aggressor
»

Nvidia predstavila grafično arhitekturo Ampere

Oddelek: Novice / Grafične kartice
1413166 (11664) FlyingBee

Več podobnih tem