» »

Prelomen hibridni čip za pospeševanje različnih tipov strojne inteligence

Prelomen hibridni čip za pospeševanje različnih tipov strojne inteligence

Ars Technica - Kitajski inženirji so razvili hibridno integrirano vezje, ki je sposobno nativno procesirati več različnih tipov algoritmov za strojno učenje. To lahko počne hkrati, kar so ponazorili na praktičnem primeru samovozečega kolesa.

Globoke konvolucijske nevronske mreže so zaradi uspeha pri prepoznavanju podob in drugih vzorcev v tem desetletju okupirale pojem strojnega učenja, a gre zgolj za eno od mnogih njegovih sort. Biološke organizme na primer bolje posnema drugačna vrsta - sunkovne (spiking) nevronske mreže. Omenjena tipa delujeta na dokaj različnih principih. Globoke konvolucijske mreže so zgrajene v plasteh, ki gredo v globino (od tu ime), živčna vozlišča pa za vhodni in izhodni signal uporabljajo podatke v standardnem binarnem zapisu. Sunkovne mreže nimajo nujno plasti in so torej njihova vozlišča povezana bolj svobodno ter tudi številčneje; signale predstavljajo preprosti sunki, ki se jih v digitalni emulaciji običajno predstavi kar z "1". Predvsem pa ima delovanje časovno komponento, saj si morajo vozlišča zapomniti sunke, ki so jih prejela v preteklih ciklih, ker sama sprožijo sunek takrat, ko seštevek signalov doseže določeno mejo. Zato je sestava nevromorfnega vezja, ki bi bilo sposobno obeh vrst delovanja, velik izziv. In ravno to je sedaj uspelo Kitajcem z več pekinških univerz ter inštitutov, ki so si s tem prislužili naslovnico zadnje revije Nature.

Njihov čip Tianjic sloni na arhitekturi FCore. V enem jedru FCore se nahaja 256 osnovnih računskih enot, ki so zmožna na strojni ravni ponazarjati tako vozlišča konvolucijskih kot tudi sunkovnih nevronskih mrež. Ne le to - signale lahko tudi pretvarjajo, tako da en del jedra teče v enem režimu, drug pa v drugem. Čip Tianjic sestavlja 156 jeder FCore in teče pri 300 megahercih, napravljen pa je v 28-nanometrskem procesu. Tako je v njem slabih 40.000 vozlišč in deset milijonov "sinaps". V primerjavi z emulacijo na grafični kartici Titan XP je - odvisno od algoritma - od 1,6- do stokrat hitrejši, pri električni porabi pa od 12- do 10.000-krat varčnejši.

Za praktičen in precej navdušujoč primer so Tianjic pritrdili na električno kolo, ki je s tem pridobilo samovozne zmogljivosti. Na čipu pri vožnji hkrati delujejo štirje različni tipi nevronskih mrež: konvolucijska za izogibanje objektom, sunkovna za prepoznavo glasovnih ukazov, preprost večslojni perceptron za ravnotežje in pa continuous attractor network za sledenje človeku. Gre seveda šele za potrditev koncepta, zato nas do samovoznih koles loči še kar nekaj let. Prav tako velja biti previden glede osrednjega motiva, ki naj bi Kitajce pravzaprav gnal - namreč, napraviti generalno umetno inteligenco, podobno človeški. Ne gre zanikati, da bo takšne sorte strojna pamet po vsej verjetnosti res morala obvladati več različnih načinov delovanja na strojni ravni, a bržkone samo to še zdaleč ne bo dovolj za njen nastanek.

Za radovedne opazovalce je Tianjic predvsem nova v vrsti napovedi prihoda specializiranih in nevromorfnih čipov za pospeševanje strojne inteligence v uporabniške naprave, kar bo predstavljalo naslednjo fazo njenega prodora v javno rabo, ki se je lahko nadejamo že zelo kmalu. In pa seveda pokazatelj, koliko Kitajci Američanom pri tosortnem razvoju dihajo za ovratnik.

19 komentarjev

DamijanD ::

Nekaj napredka je od starih časov

filip007 ::

Bravo Kitajci, kar tako naprej.
Palačinka z Ajvarjem in stopljenim sirom v mikrovalovki.

Invictus ::

Včasih so bile za take zafrkancije uporabljana razna programabilna FPGA vezja, ala Xilinx.

Danes malokdo ve kaj to sploh je. Čeprav še vedno obstajajo, samo so šla naprej s tehnologijo...

Kitajci imajo pač sredstva in ljudi, seveda tudi znanje, da si lahko privoščijo narediti, kot bi včasih rekli, koprocesor, specializiran za določene taske.

Ni pa to neka nova znanost...

Je pa fajn marketing, ko vključiš strojno učenje in AI...
"Life is hard; it's even harder when you're stupid."

http://goo.gl/2YuS2x

Zgodovina sprememb…

  • spremenil: Invictus ()

Isotropic ::

DamijanD je izjavil:

Nekaj napredka je od starih časov

tega je delal tisti, ki je googlu ukradel podatke in jih nesel uberju

gus5 ::

filip007 je izjavil:

Bravo Kitajci, kar tako naprej.
Rezultati planskega kapitalizma. Včasih je slovenska Iskra na Kitajskem gradila avtomatizirana semaforska omrežja, Kitajci so se učili. Danes pa...

Tako je v njem slabih 40.000 vozlišč in deset milijonov 'sinaps'.
V povprečju 250 sinaps na 1 nevron.

pegasus ::

Še en zanimiv soroden (v smislu da gre za namenski hw) projekt je darpa sponsored Intel Puma: https://fuse.wikichip.org/news/2611/dar...
Tako reč bi krvavo potreboval ža danes ...

WhiteAngel ::

Nekaj mi smrdi tule. Od 1,6-krat do 100 krat hitrejše od GPGPU-ja? S tem, da gre pri nevronskih mrežah v glavnem za množenje matrik, kar je najbolj osnovna in najhitrejša funkcija GPU-jev. Potem je še splošnonamenski pomnilnik na GPU-ju, o čemer ni govora sploh. Tole je tako "kitajsko", da kar glava boli :|

vostok_1 ::

Zanimivo ane. Pa ste nam zagotovili, da od kitajcev še dolgo časa ne bo nič.
Zgleda, da masa visoko motiviranih in neutrudnih ljudi se vseeno lahko prebije skozi vaše predsodke in inovira.

Je pa jasno, čemu se bo ta čip uporabljal.
Očitno res nobenega ne skrbi, da režim, ki brez slabe vesti krade organe političnih zapornikov, ima cutting edge tehnologijo in vodi na ključnih tehnologijah prihodnosti.
Ampak kot rečeno, se pač boste stežka naučili, tko k otroci.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

Dr_M ::

Predno kdo omedli zarad kitajcev...
Problem zahodnih koorporacij ni pomanjkanje znanja ali sredstev, ampak pomanjkanje interesa. Ce ni instant zasluzka, ni zanimivo. Kitajci pa po drugi strani na to gledajo bolj dolgorocno. In zato so in bodo se nekaj casa uspesni.
The reason why most of society hates conservatives and
loves liberals is because conservatives hurt you with
the truth and liberals comfort you with lies.

vostok_1 ::

CCPju je v velikem interesu obstati na oblasti.
Mi zahodnjaki ne gledamo pravilno na vzhodno azijce. Oni imajo drugo mentaliteto.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

FrRoSt ::

vostok_1 je izjavil:

CCPju je v velikem interesu obstati na oblasti.
Mi zahodnjaki ne gledamo pravilno na vzhodno azijce. Oni imajo drugo mentaliteto.

Ne samo, da imajo drugo mentaliteto. ;)

Oni imajo tudi drugo filozofijo in drug režim! 8-)
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

dice7 ::

Ter 1.3 miljarde prebivalcev, tako, da se tezko resno jemlje ST kavc generalizatorje

Cr00k ::

WhiteAngel je izjavil:

Nekaj mi smrdi tule. Od 1,6-krat do 100 krat hitrejše od GPGPU-ja? S tem, da gre pri nevronskih mrežah v glavnem za množenje matrik, kar je najbolj osnovna in najhitrejša funkcija GPU-jev. Potem je še splošnonamenski pomnilnik na GPU-ju, o čemer ni govora sploh. Tole je tako "kitajsko", da kar glava boli :|


GPUji niso najhitrejši pri računanju matrik. ASIC, namenski čipi so hitrejši, podobno kot za rudarjenje crypto. Pogooglaj TPU za kakšen benchmark v DL v primerjavi z GPU. In ta kitajski hibrid je namenski... Zato je hitrejši.

jype ::

vostok_1 je izjavil:

Zanimivo ane. Pa ste nam zagotovili, da od kitajcev še dolgo časa ne bo nič.
Ne prbiji, ker smo ti zagotovili (že več kot pet let nazaj), da Kitajci _že_ imajo svoj razvoj, pa si ti trdil, da je to nemogoče, ker Kitajci znajo delat samo slabe kopije.

blay44 ::

:D
sem res mislu, da gre za kaj prebojnega.
Obični fpga. Grem stavit, da vse skupaj sloni na openCL zadevščini:))
Eh ja. Tale AI je res en virus.

Aggressor ::

Ljudje, ki bluzite tu s FPGAji, se morate najprej naučit brat.
en CRISPR na dan odžene zdravnika stran

nekikr ::

blay44 je izjavil:

:D
sem res mislu, da gre za kaj prebojnega.
Obični fpga. Grem stavit, da vse skupaj sloni na openCL zadevščini:))
Eh ja. Tale AI je res en virus.

Sem prepričan, da ti to narediš spotoma, med malicanjem porcije riža ;)

vostok_1 ::

dice7 je izjavil:

Ter 1.3 miljarde prebivalcev, tako, da se tezko resno jemlje ST kavc generalizatorje


Daj se malo izobrazi prosim, ker več kot očitno nimaš pojma.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

blay44 ::

Mene je samo zanimal hardver za simulacijo nevronskih mrež.
Ne pa statistična obdelava izhodnih podatkov.
Tale bicikel ima še vedno IQ=0. Pa nič novega.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

AI AlphaStar dosegel stopnjo velemojstra

Oddelek: Novice / Znanost in tehnologija
64540 (3221) TheBlueOne
»

OpenAI nadgrajuje okrepitveno učenje z evolucijo

Oddelek: Novice / Znanost in tehnologija
134812 (3475) vostok_1
»

Intelov nevromorfni računalnik dosegel osem milijonov nevronov

Oddelek: Novice / Procesorji
106195 (4590) bbbbbb2015
»

IBM razvil umetne nevrone

Oddelek: Novice / Znanost in tehnologija
2010939 (8558) antonija
»

Neural Networks

Oddelek: Znanost in tehnologija
106091 (5077) rasta

Več podobnih tem