Intel predstavil drugo generacijo nevromorfnega procesorja Loihi
Jurij Kristan
2. okt 2021 ob 21:07:04
V Intelu so odstrli tančico z nevromorfnega procesorja Loihi 2, ki poleg večjega števila vozlišč nosi še mnoge druge izboljšave, napravljen pa je tudi v šele eksperimentalnem proizvodnem procesu Intel 4.
Velikani dizajna polprevodniških vezij se vse bolj odločno lotevajo nevromorfnega računalništva, kjer računski hardver neposredno povzema obliko živčnih vezij v bioloških organizmih. IBM ima čip TrueNorth, evropska iniciativa Human Brain Project ima računalnik SpiNNaker, toda najhitrejše korake zadnja leta delajo pri Intelu. Leta 2018 so predstavili procesor Loihi, leto pozneje pa še platformi zanj, Pohoiki Beach in Pohoiki Springs. Ker gre za visoko eksperimentalne zasnove, niso bile prosto na voljo, temveč so jih razpošiljali raziskovalnim skupinam širom sveta. Pridobljeni odzivi so temelj druge generacije procesorja, Loihi 2.
Tudi ta ima generalno zasnovo sunkovne nevronske mreže (spiking neural network), kjer imajo signali med vozlišči razmeroma preprosto obliko binarnih sunkov - za razliko od konvolucijskih nevronskih mrež, kjer lahko nosijo več informacije, na primer v obliki realnih števil. Loihi 2 ima za štart skoraj vsega več kot predhodnik: osemkrat več vozlišč, oziroma dober milijon nasproti 130.000 v enici; precej kompleksnejšo strukturo povezav med nevroni, ki omogočajo večjo in natančneje nastavljivo povezljivost; bolj prilagodljiv medpomnilnik, ki ga je mogoče dinamično dodeljevati vozliščem; pa tudi večje, do 32-bitne signale, s čimer se zasnova dejansko malce oddalji od biološkega vzora.
Kar je tudi zanimivo: čip je z 31 kvadratnimi milimetri po površini skoraj dvakrat manjši od prvega Loihija, kar pomeni, da je nova gostota vozlišč glede nanj kar 15-kratna. To je v mnogočem posledica rabe procesa izdelave Intel 4, ki je še v preizkusni fazi in naj bi ga v klasičnih linijah izdelkov pričeli uporabljati čez približno eno leto (za osvežitev, to je nekdanji 7 nm proces, preden je podjetje izvedlo preimenovanje). Loihi 2 je spričo svojih karakteristik kot nalašč za delovno preizkušanje novega procesa, saj je majhen - kar pomeni, da defekti uničijo manjši delež čipov na rezini - in sam po sebi še vedno eksperimentalen čip, ne pa komercialen izdelek. Tudi njega bodo sprva pošiljali izbranim raziskovalnim laboratorijem, zato o "datumu izida" ali ceni pri njem pravzaprav ne moremo govoriti.
Loihi 2 pa pomeni napredek tudi v programskem smislu, saj z njim Intel pospešeno razvija močno asinhroni pristop k računalništvu. Medtem ko tako v klasičnem x86 čipu kot GPUjih sprožanje signalov nadzoruje takt osrednje ure, pa je v Loihiju 2 drugače: posamezna vozlišča dobivajo signale preprosto takrat, ko ti dospejo iz svojih virov. Zato pri njem sploh ne moremo govoriti o frekvenci v klasičnem smislu. Ura v tem čipu namesto tega označuje trenutke, ko krmilna x86 jedra, ki so vdelana poleg 128 nevromorfnih jeder, prisilijo vozlišča v spremembo uteži na povezavah med njimi, s čimer se nevronska mreža uči. To je seveda za klasične računalniške programerje precej neintuitiven način delovanja, zahteva pa tudi povsem lastno programsko platformo, saj na primer PyTorch ali TensorFlow, ki ju uporabljamo v strojnem učenju, tu ne vžgeta. Intel je zato predstavil odprtokodno (!) platformo Lava, s prevajalnikom za Python, ki bo osnova za razvoj programja za Loihi 2.
Prednost nevromorfnih čipov je trenutno predvsem v njihovi varčnosti, saj porabijo od 100- do 1000-krat manj električne energije od GPGPUjev, kjer danes poganjamo večino strojnih algoritmov. Sunkovne nevronske mreže so se doslej dokazale predvsem v robotiki in pa optimizacijskih problemih, od Loihija 2 pa si zaradi večje prilagodljivosti obetajo odkrivanje novih področij. Sunkovne mreže so - kar glede na biološki vzor ni nenavadno - denimo pokazale potencial hitrejšega in trajnejšega učenja od konvolucijskih, ki potrebujejo grozno velike podatkovne baze in rade katastrofično pozabljajo. Z Loihijem 2 bi robot v teoriji lahko sam shodil na kamnitem terenu in hkrati ne pozabil, kako korakati po travi.