Nvidia predstavila superračunalnik DGX GH200

Na sejmu Computex, ki se na Tajvanu uradno začenja jutri in bo potekal do petka, je vse posvečeno umetni inteligenci, med zvezdami pa je tudi Nvidia. Izvršni direktor Jensen Huang je med drugim povedal, da je proizvodnja čipov Grace Hopper sedaj v polnem teku, ob čemer je predstavil tudi DGX GH200. Gre za superračunalniško platformo, ki jo sestavlja 256 takih superčipov, ki jim služi 144 TB pomnilnika.

V superčipu je 72-jedrni CPU Grace, grafični čip Hopper (132 SM, 528 tenzorskih jeder), 96 GB pomnilnika HBM3 in 512 GB pomnilnika LPDDR5X. Skupaj torej 200 milijard tranzistorjev, ki se med seboj pogovarjajo zelo hitro. Povezava med CPU in GPU zmore 1 TB/s. Nvidia je nato izdelala superračunalnik DGX GH200, ki predstavlja nadgradnjo DGX A100. V njem bo 256 superčipov Grace Hopper in 144 TB pomnilnika, povezanih s 96 lokalnimi (L1) stikali in 36 stikali NVLink L2. Ta so, tako trdi Nvidia, 10-krat hitrejša za povezavo GPU-GPU in 7x hitrejša za povezavo CPU-GPU kot v DGX A100. Celotni sistem tehta 18 ton in ima 250 kilometrov optičnih vlaken! InfiniBand pa bi omogočil povezavo več takšnih sistemo DGX GH200.

Tovrstni superračunalniki so namenjeni treningu umetne inteligence, ki ga želeli izvajati končne stranke, hkrati pa predstavljajo referenčni dizajn za druge superračunalnike.