Slo-Tech - Google je izdal krajše poročilo o okoljskih vplivih umetne inteligence, v katerem so ocenili tudi porabo energije za ustvarjanje besedila z velikimi jezikovnimi modeli. Čeprav celokupna poraba električne energije raste, je to posledica večje razširjenosti modelov, medtem ko posamezne poizvedbe porabijo čedalje manj energije. V letu dni se je potratnost poizvedb znižala za 33-krat, so ugotovili.
Energija se ne troši le za delovanje čipov, na katerih teče veliki jezikovni model, temveč tudi za podporni infrastrukturi. To so tako drugi deli strojne opreme, kot pomnilnik, shranjevanje podatkov in prenos podatkov, kot tudi hlajenje, transformatorji in ostalo. Google ocenjuje, da ena poizvedba v Geminiju potroši 0,24 Wh električne energije, kar ustreza nekaj sekundam dela na prenosnem računalniku. Temu pripada ogljični odtis 0,03 grama CO2 in 0,26 mililitra porabe vode.
Razčlemba po podatkovnem centru pa pokaže, da 58 odstotkov energije porabijo delujoči čipi za AI, 24 odstotkov pomnilnik in centralne procesorske enote, 10 odstotkov računalniki brez aktivnih nalog (idle), osem odstotkov pa podporna infrastruktura. Google se trudi še naprej zmanjšati porabo energije, so dodali, k čemur sodi tudi razvoj bolj specializiranih modelov za posamezne naloge, ki so lahko manjši.
Novice » Znanost in tehnologija » Google: ustvarjanje besedila z LLM letos že 33-krat manj potratno kot lani

cekr ::
Slovenščina in številke. Zelo zoprna reč, če to prebere nek tujec, nevešč naših nebuloz.
33-krat manj potratno? Se pravi, da imam že 32x elektrike v plus.
33-krat manj potratno? Se pravi, da imam že 32x elektrike v plus.
Sinclair ZX Spectrum [Zilog Z80A - 3.5 MHz, 48kB, dvojni kasetofon,
TV-OUT, radirke, Sinclair-Basic], Sinclair ZX-81 [Z80A, 3.25MHZ, 1kB]
TV-OUT, radirke, Sinclair-Basic], Sinclair ZX-81 [Z80A, 3.25MHZ, 1kB]

pegasus ::

kow ::
Poraba je smesno nizka, ce delas nekaj poizvedb na dan. Resni porabniki so avtomatika, agenti itd.
Zgodovina sprememb…
- spremenil: kow ()
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Osmina znanstvenih člankov ima prstne odtise umetne inteligenceOddelek: Novice / Znanost in tehnologija | 2669 (1208) | Ales |
» | Kitajska družba DeepSeek razburkala področje umetne inteligence s poceni jezikovnim m (strani: 1 2 3 4 )Oddelek: Novice / Ostala programska oprema | 20280 (9595) | kanarin |
» | Qualcomm pokazal novega Snapdragona 8 Gen 3Oddelek: Novice / Android | 3592 (1959) | kow |
» | Microsoft in Epic bosta pripeljala GPT-4 v medicinoOddelek: Novice / Znanost in tehnologija | 4444 (2442) | starfotr |
» | Microsoft uradno predstavil z GPT podprt BingOddelek: Novice / Ostala programska oprema | 13840 (10353) | fikus_ |