Slo-Tech - Letošnja prejemnika Nobelova nagrade za fiziko 2024 sta fizik John J. Hopfield s Princetona in Geoffrey E. Hinton z Univerze v Torontu, ki sta bila nagrajena za ključna odkritja in izume, ki so omogočili strojno učenje z umetnimi nevronskimi mrežami. Hopfield je ustvaril strukture, ki zmorejo shranjevati podatke in rekonstruirati informacije, Hinton pa je odkril metodo za iskanje vzorcev v podatkih. Posledice teh odkritij vidimo in uporabljamo vsakodnevno, denimo pri strojnem prevajanju, prepoznavanju slik in uporabi umetne inteligence. Slednja je pogosto zgolj širok izraz, s katerim v resnici mislimo na nevronske mreže.

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu. Klasični računalniški programi so bili strogo deterministični v smislu, da so delovali kot recept. Koraki so bili jasno opredeljeni, rezultati predvidljivi in razumljivi. Pri strojnem učenju pa računalniku ne damo recepta,...

Intel - V Intelu so odstrli tančico z nevromorfnega procesorja Loihi 2, ki poleg večjega števila vozlišč nosi še mnoge druge izboljšave, napravljen pa je tudi v šele eksperimentalnem proizvodnem procesu Intel 4.

Velikani dizajna polprevodniških vezij se vse bolj odločno lotevajo nevromorfnega računalništva, kjer računski hardver neposredno povzema obliko živčnih vezij v bioloških organizmih. IBM ima čip TrueNorth, evropska iniciativa Human Brain Project ima računalnik SpiNNaker, toda najhitrejše korake zadnja leta delajo pri Intelu. Leta 2018 so predstavili procesor Loihi, leto pozneje pa še platformi zanj, Pohoiki Beach in Pohoiki Springs. Ker gre za visoko eksperimentalne zasnove, niso bile prosto na voljo, temveč so jih razpošiljali raziskovalnim skupinam širom sveta. Pridobljeni odzivi so temelj druge generacije procesorja, Loihi 2.

Tudi ta ima generalno zasnovo sunkovne nevronske mreže (spiking neural network), kjer imajo signali med vozlišči razmeroma preprosto obliko binarnih...

Slo-Tech - Kitajski raziskovalci (z University of the Chinese Academy of Sciences) so pokazali, da je možno zlonamerno kodo učinkovito skriti v nevronske mreže in jo s tem pretihotapiti mimo protivirusnih zaščit. V objavljenem članku so 36,9 MB virusne kode skrili v 178 MB veliko nevronsko mrežo, ki je sicer namenjena prepoznavanju fotografij. S tem njenega delovanja niso opazno poslabšali (manj kot odstotek), so pa se izmuznili protivirusnim programom. Storitev VirusTotal, ki uporablja več kot 70 različnih protivirusnih programov in sezname sumljivih strani, domen in podobna orodja za iskanje sumljivega obnašanja, ni opazila ničesar.

Raziskovalci so v izdelani model nevronske mreže, ki je dobro deloval, v primeren sloj podtaknili virus. Možno je tudi drugače, in sicer lahko vzamejo nenatreniran model, mu dodajo virus in ga potem urijo. Rezultat bo nevronska mreža, ki bo nekoliko večja, bo pa primerljivo kakovostna. To je v bistvu steganografija, umetnost skrivanja, ki ni novost. Skrivna...

IEEE Spectrum - Avstrijski inženirji so v enem električnem vezju hkrati implementirali tako fotosenzor kot nevronsko mrežo, s čimer so močno pospešili obdelavo podob.

Strojni vid je danes sestavljen iz svetlobnega tipala - običajno vezja CCD - in računalnika s strojno inteligenco, kamor se signal iz senzorja pošlje v obdelavo. Takšen način je načeloma zadovoljiv v današnjih večjih sistemih na prototipnih samovoznih avtomobilih, ki zmorejo obdelati nad sto sličic v sekundi. Toda širitev strojnega vida na vse manjše naprave terja znatno zmanjšanje tako teže kot električne porabe, dočim bodo roboti, ki se bodo orientirali v okolici ljudi, tudi signale morali predelovati hitreje. Za to se bo treba poslužiti receptov, ki bodo določen del obdelave slike opravili še pred pošiljanjem v centralne "možgane", s čimer bomo zmanjšali zamik.

Raziskovalci na dunajski Tehniški univerzi so sedaj izgotovili prvi čip, ki združuje tako zajem podob kot njihovo grobo osnovno obdelavo. Način je v osnovi preprost:...

Intel - Intel je pokazal platformo za nevromorfno računalništvo Pohoiki Beach, ki jo sestavlja do 64 procesorjev Loihi in vsebuje do osem milijonov vozlišč. Gre za važen dosežek na poti širjenja računalnikov, ki podatke na strojni ravni procesirajo podobno kot človeški možgani.

Kljub današnji razvpitosti strojnega učenja so nevronske mreže zvečine še vedno v celoti programske in emulirane tečejo na procesorjih klasičnega tipa. Nevromorfno računalništvo, s čimer označujemo čipe, ki tudi na strojni ravni ponazarjajo živčna vozlišča, je še vedno v povojih. Intel je predlani pokazal svoje ambicije s predstavitvijo procesorja Loihi s 130.000 nevroni - se pravi, dva imata približno toliko "živčnih celic" kot vinska mušica. Sedaj pa...

Slo-Tech - Zveza za računske stroje (ACM) je sporočila, da Turingovo nagrado za dosežke na področju računalništva prejmejo Geoff Hinton z Univerze v Toronu in Google Braina, Yann LeCun z Univerze New York in vodja umetne inteligence pri Facebooku, ter Yoshua Bengio z Univerze v Montrealu. Nagrajenci si bodo milijon dolarjev nagrade razdelili za pionirsko delo na področju globokega učenja (deep...

TechXplore - Znanstveniki iz Chicaga so pokazali, da je mogoče že s preprostim prijemom, ki posnema delovanje človeških možganov, napraviti umetno nevronsko mrežo večopravilno in močno omejiti njeno pozabljanje ob učenju novih veščin.

Današnja umetna inteligenca sicer počne nekatere navdušujoče stvari, kot sta prepoznava govora in obrazov. A tudi najnaprednejši algoritmi so v svoji namembnosti izredno togi, saj tisti za vožnjo ne znajo prodajati delnic. Ko običajni deep network poskušamo priučiti česa drugega, namreč izgubi originalno znanje, ker nove izkušnje s spreminjanjem moči sinaps podrejo prvotno strukturo. Temu strokovnjaki pravijo katastrofalno pozabljanje (catastrophic forgetting). Intuitivno bi zato sklepali, da bi...

Slo-Tech - Googlova enota DeepMind, ki je bila nekdaj svoje podjetje, pa jo je Google pametno kupil, je pokazala še eno sposobnost svojih nevronskih mrež. Razvili so sistem nevronskih mrež, ki sta sposobni iz le nekaj dvodimenzionalnih posnetkov izluščiti resnično prostorsko postavitev predmetov in jih potem izrisati iz poljubnega zornega kota. Težav jima ne delajo niti osvetlitev, senčenje, prekrivanje in drugi vizualni učinki.

Gre za sposobnost, ki se je ljudje priučimo izkušnjami in jo načeloma obvladamo tako dobro, da niti ne razmišljamo o njej. Če vidimo mizo pred steno, predpostavljamo, da je tudi stena, ki je zaradi mize ne vidimo, enake oblike in barve kot preostanek. Če vidimo fotografijo mize, si kar dobro predstavljamo, kako stoji v prostoru. Tudi če je na fotografiji ena noga zakrita, bomo intuitivno vedeli, kje stoji. Z malo vaje si...

Slo-Tech - Samovozeči avtomobili med vožnjo srečujejo iste prometne znake kakor ljudje, zato jih s kamerami posnamejo in z vgrajenimi algoritmi raztolmačijo. Načeloma to deluje brez težav, saj v najslabšem primeru avtonomno vozilo kakšnega znaka ne prepozna, kar pa ni velik problem, saj vozijo počasi, previdno in z ozirom na promet v bližini. Povsem drugače pa je, če namenoma spremenimo kakšen prometni znak tako, da je ljudem še vedno jasen, samovozeči avtomobili pa razumejo nekaj čisto drugega. Kako gre to v praksi, so pokazali raziskovalci s Princetona.

Niso se ukvarjali z normalno obrabo in poškodbami znakov niti z vandalizmom, temveč jih je zanimalo, ali lahko znak namenoma popačimo ravno dovolj, da zmedemo nevronsko mrežo. Pokazali so, da je to mogoče storiti brez večjih težav. Ne le da lahko znak popačimo tako, da...

Nvidia - Navajeni smo že, da je z modernimi orodji mogoče fotografije zelo popraviti, a da lahko iz dneva naredimo noč in iz dežja sonce, je vseeno osupljivo. Nvidia je predstavila rezultate razvoja nevronskih mrež GAN (generative adversarial networks), s katerimi uspešno počne prav to. Čudež se zgodi, ko povežemo dve nevronski mreži, ki sta se izučili vsaka svoje obrti. Če se ena nevronska mreža uči prepoznavanja cest, druga pa pogleda ponoči, lahko z njuno kombinacijo fotografijo ceste podnevi spremenimo v nočno.

Ta teden je Nvidia objavila precej podroben znanstveni članek (napisan je bil že pred meseci) in na konferenci predstavile dosežke, ki so s tem dosegljivi. Možnosti so praktično

Slo-Tech - Pri nakupovanju izdelkov in storitev se pogosto zanašamo na spletne recenzije predhodnih kupcev, ki jih najdemo na straneh, kot so Yelp ali Amazon. Te so ta hip še kolikor toliko uporabne, ker je računalniško generirane opise mogoče sorazmerno enostavno prepoznati, najem večjega števila ljudi za pisanje lažnih recenzij in umetno dvigovanje ocen pa je še predrag, da bi se množično uporabljal. A raziskovalci z Univerze v Chicagu so pokazali, da se utegne to kmalu spremeniti. Kakor lahko računalniški algoritmi danes sestavljajo enostavna poročila o športnih dogodkih in borznih premikih, za katere nihče ne opazi, da jih ni napisal človek, bodo kmalu pisali tudi recenzije.

Pokazali so, da je mogoče sestaviti nevronsko mrežo (RNN),...

Slo-Tech - V filmih iz točkastega posnetka nizke ločljivosti vedno uspejo izostriti sliko in na njej prepoznati odsev, ki omogoča identifikacijo storilca. Toda v resnici iz posnetka ne moremo izluščiti več podatkov, kot jih je na njem. Vseeno pa to ne pomeni, da slike ne moremo izboljšati. Google je pokazal, kako lahko s svojimi nevronskimi mrežami in strojnim učenjem poveča ločljivost zelo grobo točkastim slikam.

Na sliki so skrajno desno prvotne fotografije, ki so bile zreducirane v ločljivost 8x8 (skrajno levo). Googlov algoritem Brain je iz levih fotografij uspel...

Slo-Tech - IBM je že pred tremi leti predstavil prvo verzijo "kognitivnega čipa", kakor so označili svoj čip TrueNorth. Želeli so ustvariti računalnik, ki deluje na podobnih principih kot človeški možgani, ne kot von Neummanov stroj. V okviru projekta SyNapse, ki ga sofinancira tudi DARPA, razviti TrueNorth ima danes 4096 jeder, ki imajo skupaj 5,4 milijarde tranzistorjev, 256 milijonov programljivih sinaps (povezav) in milijon programljivih nevronov.

Uvide iz razumevanja delovanja človeških možganov pri strojnem učenju in nevronskih mrežah že dlje časa uspešno uporabljamo, a vsi ti tečejo kot emulacija na klasičnih procesorjih. IBM (in tudi drugi) že dlje časa ugotavlja, da je to potratno in da...

IBM - Raziskovalci iz IBM-a so razvili prve umetne nanometrske nevrone iz pomnilnika na fazne spremembe (PCM), ki se obnašajo zelo podobno kot naravni nevroni v živih bitjih. Ekipa IBM Researcha v Zürichu je iznašla postopek za njihovo izgradnjo ter postavila omrežje 500 takih nevronov, s čimer se odpira pot k širši uporabi strojnega učenja in, če se optimistično zazremo v prihodnost, h gradnji umetnih možganov.

Že dolgo časa je sprejeto dejstvo, da s klasičnimi računalniki in proceduralnim programiranje ne bomo umetni inteligenci prišli niti blizu. Človeški možgani pač delujejo drugače in trenutno so edini pametni model kolikor toliko univerzalne inteligence, ki nam je poznan. Strojno učenje, ki svoj razcvet doživlja v zadnjih...

Slo-Tech - Starodavna kitajska igra go je po številu možnih postavitev in potez bistveno kompleksnejša od šaha (Deep Blue je Garyja Kasparova matiral že leta 1997), zato je do nedavnega veljala za eno zadnjih trdnjav, kjer so ljudje še boljši od računalnikov. Zdi se, da nič več, saj je danes zjutraj po našem času Googlova umetna inteligenca premagala drugega najboljšega igralca goja vseh časov, Leeja Sedola. To je bila sicer šele prva partija od načrtovanih petih, zato je mogoč tudi drugačen končni rezultat.

Tekma se je odvijala v hotelu v Južni Koreji, kjer se je velemojster Lee Sedol pomeril s programom AlphaGo, ki ga je razvilo londonsko podjetje DeepMind. To podjetje je kupil Google in sedaj pod njegovim okriljem razvijajo umetno inteligenco....

Slo-Tech - Google je eno izmed vodilnih podjetij na področju prepoznavanja slik in govora ter strojnega prevajanja. Vsem trem problemom je skupno dejstvo, da niso rešljivi z enostavnimi sekvenčnimi algoritmi, ker ne moremo predvideti vseh možnih vhodnih podatkov. Največ na tem področju obljubljajo umetne nevronske mreže (ANN). Google je v zadnji objavi pokazal nekaj fantastičnih slik, ki dajejo vpogled v delovanje ANN.

Kot tolikokrat v zgodovini je tudi zamisel ANN navdahnila narava, ki je imela milijarde let časa, da poišče rešitve za probleme. Te niso vedno optimalne, so pa v okviru možnosti in potreb zelo dobre. Kjer bi se s klasičnim zaporednim algoritmom zaleteli v zid, so se ozrli po bioloških nevronskih mrežah oziroma možganih. To je zelo logična poteza, saj so človeški možgani izjemno dobri pri reševanju problemov, za katere jih je evolucija...

Google - Google je občutno izboljšal algoritem za prepoznavanje predmetov na slikah in ugotavljanje relacij med njimi, so sporočili. Problem prepoznavanja predmetov so že septembra imeli precej dobro rešen, večji zalog pa je predstavljalo ugotavljanje, v kakšnem razmerju so predmeti na sliki.

Rezultati zadnjih preizkusov kažejo, da jim je tudi to dobro uspelo. Novi algoritem prepozna predmete na sliki, potem pa ugotovi, kako so razporejeni in kaj se dogaja; te ugotovitve nato izpiše v človeku razumljivi angleščini (glej sliko). To niso le preproste relacije, kot na primer Pica je na štedilniku, temveč tudi kompleksnejši opisi, na primer Ljudje nakupujejo na tržnici, kjer je na stojnici veliko zelenjave.

Google pravi, da so nadgradili...

New Scientist - Sveti gral mnogo raziskovalcev je umetno življenje ali umetna inteligenca, ki bi se sčasoma razvila v superinteligenco in bi znala odgovoriti na vsa vprašanja. Pot do tja je še dolga, a znanstveniki že dolgo časa precej uspešno hodijo po njej. Svoje dosežke bodo predstavili na 12. mednarodni konferenci o sintezi in simulaciji živih sistemov (Alife) v Odenseju na Danskem čez slaba dva tedna, mi pa si poglejmo predogled dosežkov dveh skupin.

Charles Ofria in sodelavci na Michigan State University gojijo tako imenovane avidiane, ki živijo v računalniku. Gre za digitalne mikrobe, ki se...

Technology Review - Evropska skupina znanstvenikov in raziskovalcev z imenom FACETS (Fast Analog Computing with Emergent Transient States project), ki jo koordinira profesor fizike Karlheinz Meier z Universitãt Heidelberg, je razvila procesor, ki posnema delovanje možganov. Sestavili so ga iz 200.000 umetnih nevronov in 50 milijonov sinaptičnih povezav med njimi, s čimer se želijo približati organiziranosti naših možganov. Ti sicer vsebujejo več kot 100 milijard nevronov. Za vsak nevron so porabili približno 100 elektronskih komponent (tranzistorjev, kondenzatorjev ...), medtem ko jih sinapsa zahteva le 20. Ker je sinaps tako mnogo več, na silicijevi rezini...

Discovery News - Priznana ameriška vedenjska psihologinja na Univerzi Yale Laurie Santos trdi, "da je pregoreče in celo neutemeljeno izražanje nestrpnosti v mladosti škodljivo za nevronske povezave," in opozarja, da so skupaj z Univerzo Stanford v vzorčni populaciji v možganskih slikah odkrili ponavljajoč vzorec.
Stanfordski Gabrieli Laboratory je s Santosovo objavil longitudinalno študijo, v kateri so predstavili rezultate raziskav na 321 osebah iz različnih družbenih okolij in slojev. Osebe so spremljali od začetkov adolescence pa do skoraj 30 leta....

New Scientist - Na New Scientist poročajo, da je IBM začel v sodelovanju s švicarsko univerzo razvijati prvo računalniško simulacijo celotnih človeških možganov vse do molekularnega nivoja. Zadeva bo zasnovana na osnovi Blue Gene-a. Uporabili bodo podatke, ki jih Markram z ekipo z Ecole Polytecnique Fédérale de Lausanne, Švica, zbira že več kot desetletje. V prvi fazi bodo simulirali samo nevronsko mrežo, potem pa bodo razširili simulacijo do molekularnega nivoja. Za dosego cilja bodo po napovedih potrebovali 10 let.