vir: Intel
Nvidia trenutno žanje sadove uspešnega dolgoročnega načrtovanja na področju pospeševalnikov strojnega učenja, toda na tržišču vendarle vlada pomanjkanje takšnih čipov. GPTji in sorodni veliki jezikovni modeli potrebujejo na desettisoče procesorjev, kot so A100 in H100, kar ponuja priložnost tekmecem, kot sta AMD s serijo Instinct ter Intel. Modri tabor eno vejo tehnologije razvija na grafičnem in strežniškem oddelku, z megačipi, kot je Ponte Vecchio. Toda razvoj superračunalniških platform je počasen in zahteven - tako se je podjetje denimo lani odločilo, da prekine razvoj naslednika Ponte Vecchia, Rialto Bridga, in se usmeri neposredno na generacijo zatem, Falcon Shores v letu 2025. To pomeni, da podjetje iz tega naslova ne more hitro pripraviti izdelkov, s katerimi bi odgovorilo na trenutne tržne potrebe. Toda Intel poseduje še eno podružnico, ki se ukvarja s takšnimi čipi, Habana Labs, kjer snujejo procesorje Gaudi. Prejšnji teden so na konferenci Vision predstavili tretjo generacijo, ki je očitno neposredno namenjena čimprejšnjemu prihodu na trg in tekmi z Nvidiinimi izdelki.
V to smer kaže vrsta tehničnih podrobnosti. Gaudi 3 je sestavljen iz dveh polovic, ki sta arhitekturno zasnovani na pretekli, drugi generaciji. To pomeni, da so skušali s preprostim spajanjem čipletov - in tudi prehodom na novejši proizvodni proces, TSMC N5 - močno povečati surovo moč procesorja, brez dodatnih tveganj, ki jih prinesejo nove generacije tehnologij. Gaudi 3 obenem uporablja pomnilnik HBM2e, ki je v tem trenutku že relativno zastarel. Verjetno se v Intelu želijo na ta način izogniti pastem s morebitnim pomanjkanjem aktualnih različic in obenem Gaudija poceniti. Kakorkoli; v podjetju pravijo, da je Gaudi 3 približno dvakrat zmogljivejši od predhodnika, in kažejo projekcije hitrosti v primerjavi z Nvidiinim H100, ki trenutno predstavlja jedro najzmogljivejših strežniških farm za urjenje strojnih modelov, čeprav je star že dve leti. Gaudi 3 naj bi tako konkurenta v treningu Llame2-13B posekal za več kot 50 odstotkov, slabih plus 50 odstotkov naj bi bilo hitrejše tudi izvajanje. Izpostavljajo še energetsko varčnost, medtem ko cene niso navedli.
Če bo realna zmogljivost količkaj blizu oglaševanim, si Intel gotovo lahko pribori vsaj nekaj prostora. Gaudi 3 v zračno hlajeni verziji bo na voljo naslednje četrtletje, vodno hlajena različica pa proti koncu leta. Takrat naj bi prispela tudi izvedenka v obliki PCIe kartice.
