Slo-Tech - Meta in Amazon sta sklenila dogovor, po katerem bo Meta uporabljala Amazonove procesorske čipe Graviton5 v naslednjih letih. Podrobnosti niso znane, a viri so za Reuters povedali, da gre za več milijonov čipov, ki bodo Meti na voljo več let.

Vsak čip Graviton5 ima 192 jeder in se lahko uporabljajo za poganjanje modelov umetne inteligence. Medtem ko trening modelov poteka na grafičnih čipih, so za inferenco povsem sprejemljivi tudi klasični procesorski čipi. Amazonov Graviton je CPU, ki je osnovan na ARM-jevi arhitekturi in namenjen posebej za poganjanje modelov umetne inteligence oziroma agentov. S tem je Amazon povečal učinkovitost in znižal porabo energije. (Amazon ima tudi svoje GPU-je z imenom Trainium.)

Spomnimo, da je lani avgusta Meta sklenila šestletni dogovor z Google Cloudom, potem ko je pred tem uporabljala pretežno Amazonove kapacitete. Dogovor z Googlom je vreden 10 milijard dolarjev, a očitno je več kot dovolj prostora (in povpraševanja) za nov dogovor. Google...

Slo-Tech - Google je predstavil nova čipa osme generacije TPU-jev, ki se imenujeta preprosto TPU 8t in TPU 8i. S tem je Google dokončno ločil čipe, ki so namenjeni treningu modelov umetne inteligence (TPU 8t - training), in čipe za poganjanje teh modelov (TPU 8i - inference). Google pravi, da bo z novimi čipi v primerjavi s prejšnjo generacijo mogoče modele poganjati od dva- do štirikrat hitreje, poraba energije pa bo 30 odstotkov nižja.

Gruča TPU 8t ima 9600 čipov, zmore 121 eksaflops (v natančnosti FP4), obojesmerni prenos podatkov z 19,2 Tb/s in komunikacijo z okolico 400 Gb/s. S tem je približno trikrat zmogljivejši od lanskega Ironwooda. Za inferenco pa ima gruča TPU 8i 1152 čipov, 11,6 eksaflops, 331,8 TB pomnilnika HBM in 19,2 Tb/s prenos podatkov. Oboji bodo na voljo še letos.

Google obljublja, da je možno gruče linearno združevati in sestaviti sisteme z več kot milijonom čipov. To je odlično za trening in uporabo večjih modelov in nekoliko manj odlično za cene pomnilnika. TPU 8t in...

Slo-Tech - Broadcom bo skupaj z Googlom zagotovil 3,5 GW računske moči, ki jo bo uporabljal Anthropic za poganjanje svojega modela Claude. Tekel bo na novih Googlovih tenzorskih čipih TPU (Tensor Processing Units), ki jih bo proizvajal Broadcom. Sistem bodo začeli postavljati prihodnje leto, 3,5 GW pa bo dosegel v nekaj letih.

Broadcom TPU-je razvija že od leta 2016 in je do danes sodeloval že z velikani, kot sta Amazon in Microsoft, saj je zanju dizajniral Trainium in Maio. Najnovejši dogovor z Googlom pa velja do leta 2031 in prav tako vključuje dizajn čipov. Posamezen Googlov TPU, ki se imenuje Ironwood, troši 1000 W energije, torej govorimo o 3,5 milijona čipov.

Anthropic je pojasnil še, da Amazon in Nvidia ostajata pomembna partnerja, ki bosta še naprej zagotavljala velike količine računske moči. Nvidijini čipi so še vedno zlati standard za trening modelov, medtem ko bo inferenca (poganjanje) tekla na Googlovih TPU-jih. Druge izbire Anthropic v resnici nima, saj so njegovi sistemi...

Slo-Tech - Nvidia je napovedala nakup intelektualne lastnine devet let starega zagonskega podjetja Groq, ki se ukvarja z razvojem čipov. Poleg licenc bodo prevzeli tudi vodilne zaposlene, med katerimi sta ustanovitelj Jonathan Ross in predsednik Sunny Madra. Groq bo sicer ostal samostojno podjetje, ki ga bo po novem vodil Simon Edwards.

Groq razvija čipe, ki so namenjeni poganjanju modelov umetne inteligence (inference). Nvidia razvija svoje čipe, a želi sčasoma vanje vgraditi tudi kakšno Groqovo iznajdbo. Groq, ki so ga ustanovili leta 2016, je doslej zbral 750 milijonov dolarjev kapitala in je bil septembra vreden 6,9 milijarde dolarjev. Nvidia je sedaj plačala 20 milijard dolarjev, kar je eden večjih nakupov, sploh ker formalno ne bodo kupili podjetja, dasiravno de facto gre za to. Doslej je Nvidia največ odštela za Mellanox, ki jih je leta 2019 stal sedem milijard dolarjev.

Nvidijin direktor Jensen Huang je zaposlenim dejal, da bodo v svojo arhitekturo vgradili Groqove procesorje z...

Slo-Tech - Nvidii se je nasmehnila sreča oziroma ameriška administracija, saj bo po sestanku z ameriškim predsednikom Donaldom Trumpom dobila izvozno dovoljenje za čipe H20. Te bodo lahko spet prodajali na Kitajsko, česar od letošnjega aprila v praksi niso mogli. Zahtevo za izdajo licence so že vložili, dovoljenja pa še nimajo v roki, temveč zgolj trdna zagotovila. Izvršni direktor Jensen Huang jim verjame, saj je novo politiko že javno napovedal, in to kar v Pekingu.

Po poročanju Reutersa so kitajska podjetja že začela množično naročati H20, ki so eni najpripravnejših čipov za trening in poganjanje modelov umetne inteligence. S temi naročili naj bi Nvidia ustvarila 15-20 milijard dolarjev dodatnih prihodkov na leto. H20 sicer niso bili povsem prepovedani, a jih je bilo v praksi nemogoče prodajati na Kitajsko. Odslej bo drugače.

Lani je Nvidia na Kitajsko prodala za 17 milijard dolarjev izdelkov. Pričakovati je torej, da se bo ta številka približno podvojila. A dogovor ni bil sprejet v...

Slo-Tech - Qualcomm je včeraj naznanil novo generacijo procesorskih čipov Snapdragon 8 Gen 3, ki jo bomo v prvih telefonih ugledali prihodnje leto. Prinaša nižjo porabo energije, več zmogljivosti in novo konfiguracijo jeder 1:5:2. To pomeni, da ima eno zelo hitro jedro (3,3 GHz Corte X4), pet srednje hitrih jeder (3,2 GHz) in dve počasnejši jedri za varčevanje z energijo. Po besedah proizvajalca je čip 30 odstotkov hitrejši in 20 odstotkov varčnejši od predhodnika.

Veliko podrobnosti Qualcomm ni razkril, tako da ne poznamo niti točnega tipa grafičnega procesorja Adreno. Igre bo možno igrati z 240 fps, podpira pa tudi Unreal Engine 5.2. Trdijo, da je 25 odstotkov hitrejši in prav toliko učinkovitejši od predhodnika. Novi Snapdragon podpira pomnilnik LPDDR5x (s frekvenco do 4800 MHz) do 24 GB, Wi-Fi 7 in ima modem za X75 5G. Precej dlje pa se je Qualcomm na predstavitvi pomudil pri sposobnostih poganjanja modelov umetne inteligence. V čipu je temu namenjen del (AI Engine), ki je prilagojen za...