Slo-Tech - Google je izdal krajše poročilo o okoljskih vplivih umetne inteligence, v katerem so ocenili tudi porabo energije za ustvarjanje besedila z velikimi jezikovnimi modeli. Čeprav celokupna poraba električne energije raste, je to posledica večje razširjenosti modelov, medtem ko posamezne poizvedbe porabijo čedalje manj energije. V letu dni se je potratnost poizvedb znižala za 33-krat, so ugotovili.
Energija se ne troši le za delovanje čipov, na katerih teče veliki jezikovni model, temveč tudi za podporni infrastrukturi. To so tako drugi deli strojne opreme, kot pomnilnik, shranjevanje podatkov in prenos podatkov, kot tudi hlajenje, transformatorji in ostalo. Google ocenjuje, da ena poizvedba v Geminiju potroši 0,24 Wh električne energije, kar ustreza nekaj sekundam dela na prenosnem računalniku. Temu pripada ogljični odtis 0,03 grama CO2 in 0,26 mililitra porabe vode.
Razčlemba po podatkovnem centru pa pokaže, da 58 odstotkov energije porabijo delujoči čipi za AI, 24 odstotkov pomnilnik in centralne procesorske enote, 10 odstotkov računalniki brez aktivnih nalog (idle), osem odstotkov pa podporna infrastruktura. Google se trudi še naprej zmanjšati porabo energije, so dodali, k čemur sodi tudi razvoj bolj specializiranih modelov za posamezne naloge, ki so lahko manjši.
Slovenščina in številke. Zelo zoprna reč, če to prebere nek tujec, nevešč naših nebuloz. 33-krat manj potratno? Se pravi, da imam že 32x elektrike v plus.
Newspeak's core principle is a progressively shrinking vocabulary, a deliberate linguistic process to eliminate words with complex or rebellious meanings to limit thought and enforce control by the ruling Party in George Orwell's Nineteen Eighty-Four. The language aims to make "thoughtcrime" impossible by reducing concepts like freedom and dissent to simple, easily controlled ideas.
Slovenščina in številke. Zelo zoprna reč, če to prebere nek tujec, nevešč naših nebuloz. 33-krat manj potratno? Se pravi, da imam že 32x elektrike v plus.
Ne rabiš bit tujc, tudi nam ni jasno. V bistvu nobenmu ni jasno, zato pa imaš polno vprašanj po tujih forumih, kaj pomeni "x-krat zmanjšanje". 33x zmanjšanje bi naj pomenilo, da je nova cena 1/33 stare cene, oz. nova_cena = stara_cena/33.
33x manjša poraba = povprečna poraba na prompt v letu 2024 / povprečna poraba na prompt v letu 2025. Tako si jaz to predstavljam.
Ravno to je problem, da si lahko vsak malo drugače razlaga. Pri številkah pa ne bi smelo biti dvoma v razlagi, ker so lahko zelo hude posledice. Npr. letošnja poraba je 1/33 lanske porabe ali pa letošnja poraba je 1/33 manjša kot lanska. Smo se že mnogo, mnogo let nazaj v šoli pogovarjali s prfokso slovenščine o tem, pa je imela o takih primerih zelo slabo mnenje.
