Intel - V Intelu so odstrli tančico z nevromorfnega procesorja Loihi 2, ki poleg večjega števila vozlišč nosi še mnoge druge izboljšave, napravljen pa je tudi v šele eksperimentalnem proizvodnem procesu Intel 4.

Velikani dizajna polprevodniških vezij se vse bolj odločno lotevajo nevromorfnega računalništva, kjer računski hardver neposredno povzema obliko živčnih vezij v bioloških organizmih. IBM ima čip TrueNorth, evropska iniciativa Human Brain Project ima računalnik SpiNNaker, toda najhitrejše korake zadnja leta delajo pri Intelu. Leta 2018 so predstavili procesor Loihi, leto pozneje pa še platformi zanj, Pohoiki Beach in Pohoiki Springs. Ker gre za visoko eksperimentalne zasnove, niso bile prosto na voljo, temveč so jih razpošiljali raziskovalnim skupinam širom sveta. Pridobljeni odzivi so temelj druge generacije procesorja, Loihi 2.

Tudi ta ima generalno zasnovo sunkovne nevronske mreže (spiking neural network), kjer imajo signali med vozlišči razmeroma preprosto obliko binarnih...

Slo-Tech - Kot je zadnje čase pri Nvidiji v navadi, uvod v novo generacijo njihovih grafičnih tehnologij predstavljajo rešitve za podatkovne centre. A100, prvi GPU nove arhitekture Ampere, je gromozanski čip z več kot petdesetimi milijardami tranzistorjev in namenjen pretežno pospeševanju strojnega učenja.

Nvidijino tehnološko konferenco GTC v običajni obliki je letos odnesel koronavirus, zato je šef Jen-Hsun Huang tradicionalni nagovor v črni jakni opravil iz domače kalifornijske kuhinje (skrajšan video povzetek). Najbolj impozantna reč, ki jo je pri tem potegnil iz pečice, je superračunalniška rezina DGX 100, v kateri se poti osem novih GPUjev A100, nove arhitekture Ampere. Gre za naslednico družin Volta in Turing - in to obeh hkrati. Medtem ko je Volta poddružina grafičnih čipov za podatkovne centre, Turing pa (pretežno) za domačo uporabo, bo Ampere vsebovala izdelke vseh namembnosti, saj so se snovalci s tehnološkega vidika močno usmerili v univerzalnost. A kot smo lahko sedaj že vajeni,...

Ars Technica - Kitajski inženirji so razvili hibridno integrirano vezje, ki je sposobno nativno procesirati več različnih tipov algoritmov za strojno učenje. To lahko počne hkrati, kar so ponazorili na praktičnem primeru samovozečega kolesa.

Globoke konvolucijske nevronske mreže so zaradi uspeha pri prepoznavanju podob in drugih vzorcev v tem desetletju okupirale pojem strojnega učenja, a gre zgolj za eno od mnogih njegovih sort. Biološke organizme na primer bolje posnema drugačna vrsta - sunkovne (spiking) nevronske mreže. Omenjena tipa delujeta na dokaj različnih principih. Globoke konvolucijske mreže so zgrajene v plasteh, ki gredo v globino (od tu ime), živčna vozlišča pa za vhodni in izhodni signal uporabljajo podatke v standardnem binarnem zapisu. Sunkovne mreže nimajo...

Intel - Intel je pokazal platformo za nevromorfno računalništvo Pohoiki Beach, ki jo sestavlja do 64 procesorjev Loihi in vsebuje do osem milijonov vozlišč. Gre za važen dosežek na poti širjenja računalnikov, ki podatke na strojni ravni procesirajo podobno kot človeški možgani.

Kljub današnji razvpitosti strojnega učenja so nevronske mreže zvečine še vedno v celoti programske in emulirane tečejo na procesorjih klasičnega tipa. Nevromorfno računalništvo, s čimer označujemo čipe, ki tudi na strojni ravni ponazarjajo živčna vozlišča, je še vedno v povojih. Intel je predlani pokazal svoje ambicije s predstavitvijo procesorja Loihi s 130.000 nevroni - se pravi, dva imata približno toliko "živčnih celic" kot vinska mušica. Sedaj pa...

Slo-Tech - IBM je že pred tremi leti predstavil prvo verzijo "kognitivnega čipa", kakor so označili svoj čip TrueNorth. Želeli so ustvariti računalnik, ki deluje na podobnih principih kot človeški možgani, ne kot von Neummanov stroj. V okviru projekta SyNapse, ki ga sofinancira tudi DARPA, razviti TrueNorth ima danes 4096 jeder, ki imajo skupaj 5,4 milijarde tranzistorjev, 256 milijonov programljivih sinaps (povezav) in milijon programljivih nevronov.

Uvide iz razumevanja delovanja človeških možganov pri strojnem učenju in nevronskih mrežah že dlje časa uspešno uporabljamo, a vsi ti tečejo kot emulacija na klasičnih procesorjih. IBM (in tudi drugi) že dlje časa ugotavlja, da je to potratno in da...

Slo-Tech - Google je eno izmed vodilnih podjetij na področju prepoznavanja slik in govora ter strojnega prevajanja. Vsem trem problemom je skupno dejstvo, da niso rešljivi z enostavnimi sekvenčnimi algoritmi, ker ne moremo predvideti vseh možnih vhodnih podatkov. Največ na tem področju obljubljajo umetne nevronske mreže (ANN). Google je v zadnji objavi pokazal nekaj fantastičnih slik, ki dajejo vpogled v delovanje ANN.

Kot tolikokrat v zgodovini je tudi zamisel ANN navdahnila narava, ki je imela milijarde let časa, da poišče rešitve za probleme. Te niso vedno optimalne, so pa v okviru možnosti in potreb zelo dobre. Kjer bi se s klasičnim zaporednim algoritmom zaleteli v zid, so se ozrli po bioloških nevronskih mrežah oziroma možganih. To je zelo logična poteza, saj so človeški možgani izjemno dobri pri reševanju problemov, za katere jih je evolucija...