»

Skrivanje zlonamerne kode v nevronske mreže

Slo-Tech - Kitajski raziskovalci (z University of the Chinese Academy of Sciences) so pokazali, da je možno zlonamerno kodo učinkovito skriti v nevronske mreže in jo s tem pretihotapiti mimo protivirusnih zaščit. V objavljenem članku so 36,9 MB virusne kode skrili v 178 MB veliko nevronsko mrežo, ki je sicer namenjena prepoznavanju fotografij. S tem njenega delovanja niso opazno poslabšali (manj kot odstotek), so pa se izmuznili protivirusnim programom. Storitev VirusTotal, ki uporablja več kot 70 različnih protivirusnih programov in sezname sumljivih strani, domen in podobna orodja za iskanje sumljivega obnašanja, ni opazila ničesar.

Raziskovalci so v izdelani model nevronske mreže, ki je dobro deloval, v primeren sloj podtaknili virus. Možno je tudi drugače, in sicer lahko vzamejo nenatreniran model, mu dodajo virus in ga potem urijo. Rezultat bo nevronska mreža, ki bo nekoliko večja, bo pa primerljivo kakovostna. To je v bistvu steganografija, umetnost skrivanja, ki ni novost. Skrivna...

2 komentarja

Uspešno "vrivanje" prometnega znaka v avtomobilski asistenčni sistem

Avto, dron in lažni prometni znak

Slo-Tech - Raziskovalci z izraelske Univerze Negev so uspešno prikazali način, kako prevarati napredne avtomobilske asistenčne sisteme ADAS oz. Advanced driver assistance systems. V precep so vzeli eksterni ADAS sistem Mobileye, ki ga najdemo integriranega v vozilih številnih proizvajalcev, med njimi so Volvo, GM, BMW, Ford, Hyundai, Renault in drugi. Sistem s pomočjo kamere, lidarja in radarja voznika opozarja na potencialne nevarnosti, zaznava zapuščanje voznega pasu in prepoznava prometne znake. Prav slednje je bilo v središču pozornosti raziskovalcev. Ti so Renault Captur opremljen z Mobileyem napadli s pomočjo fiktivnega prometnega znaka, projiciranega s projektorjem na belo projekcijsko platno ob vozišču. Da bi dosegli...

43 komentarjev

Google pokazal nevronske mreže, ki vidijo za vogal

Slo-Tech - Googlova enota DeepMind, ki je bila nekdaj svoje podjetje, pa jo je Google pametno kupil, je pokazala še eno sposobnost svojih nevronskih mrež. Razvili so sistem nevronskih mrež, ki sta sposobni iz le nekaj dvodimenzionalnih posnetkov izluščiti resnično prostorsko postavitev predmetov in jih potem izrisati iz poljubnega zornega kota. Težav jima ne delajo niti osvetlitev, senčenje, prekrivanje in drugi vizualni učinki.

Gre za sposobnost, ki se je ljudje priučimo izkušnjami in jo načeloma obvladamo tako dobro, da niti ne razmišljamo o njej. Če vidimo mizo pred steno, predpostavljamo, da je tudi stena, ki je zaradi mize ne vidimo, enake oblike in barve kot preostanek. Če vidimo fotografijo mize, si kar dobro predstavljamo, kako stoji v prostoru. Tudi če je na fotografiji ena noga zakrita, bomo intuitivno vedeli, kje stoji. Z malo vaje si...

3 komentarji

Kako pretentati samovozeče avtomobile z zlonamernimi prometnimi znaki

Slo-Tech - Samovozeči avtomobili med vožnjo srečujejo iste prometne znake kakor ljudje, zato jih s kamerami posnamejo in z vgrajenimi algoritmi raztolmačijo. Načeloma to deluje brez težav, saj v najslabšem primeru avtonomno vozilo kakšnega znaka ne prepozna, kar pa ni velik problem, saj vozijo počasi, previdno in z ozirom na promet v bližini. Povsem drugače pa je, če namenoma spremenimo kakšen prometni znak tako, da je ljudem še vedno jasen, samovozeči avtomobili pa razumejo nekaj čisto drugega. Kako gre to v praksi, so pokazali raziskovalci s Princetona.

Niso se ukvarjali z normalno obrabo in poškodbami znakov niti z vandalizmom, temveč jih je zanimalo, ali lahko znak namenoma popačimo ravno dovolj, da zmedemo nevronsko mrežo. Pokazali so, da je to mogoče storiti brez večjih težav. Ne le da lahko znak popačimo tako, da...

83 komentarjev

Nevronske mreže pišejo spletne recenzije kot ljudje

Slo-Tech - Pri nakupovanju izdelkov in storitev se pogosto zanašamo na spletne recenzije predhodnih kupcev, ki jih najdemo na straneh, kot so Yelp ali Amazon. Te so ta hip še kolikor toliko uporabne, ker je računalniško generirane opise mogoče sorazmerno enostavno prepoznati, najem večjega števila ljudi za pisanje lažnih recenzij in umetno dvigovanje ocen pa je še predrag, da bi se množično uporabljal. A raziskovalci z Univerze v Chicagu so pokazali, da se utegne to kmalu spremeniti. Kakor lahko računalniški algoritmi danes sestavljajo enostavna poročila o športnih dogodkih in borznih premikih, za katere nihče ne opazi, da jih ni napisal človek, bodo kmalu pisali tudi recenzije.

Pokazali so, da je mogoče sestaviti nevronsko mrežo (RNN),...

12 komentarjev

IBM razvil umetne nevrone

IBM - Raziskovalci iz IBM-a so razvili prve umetne nanometrske nevrone iz pomnilnika na fazne spremembe (PCM), ki se obnašajo zelo podobno kot naravni nevroni v živih bitjih. Ekipa IBM Researcha v Zürichu je iznašla postopek za njihovo izgradnjo ter postavila omrežje 500 takih nevronov, s čimer se odpira pot k širši uporabi strojnega učenja in, če se optimistično zazremo v prihodnost, h gradnji umetnih možganov.

Že dolgo časa je sprejeto dejstvo, da s klasičnimi računalniki in proceduralnim programiranje ne bomo umetni inteligenci prišli niti blizu. Človeški možgani pač delujejo drugače in trenutno so edini pametni model kolikor toliko univerzalne inteligence, ki nam je poznan. Strojno učenje, ki svoj razcvet doživlja v zadnjih...

20 komentarjev

Tudi Ford bo na samem preizkušal samovozeče avtomobile

Slo-Tech - Naslednji proizvajalec avtomobilov, ki je pri razvoju avtonomnih vozil tako daleč, da jih bo šel preizkušat na asfalt, je Ford. V umetnem mestu brez prebivalcev Mcity (z uradnim imenom Mobility Transformation Center), ki ga je postavila Univerza v Michiganu, bodo na 13 hektarjih preizkušali samovozeče avtomobile. Mcity obratuje od julija in je opremljen prav za preizkušanje tovrstnih vozil, saj ima več kilometrov enopasovnic, dvopasovnic in tripasovnic, prometne znake, križišča in krožišča, nadvoze in podvoze, semaforje, pločnike, hiše in vse ostale sestavne dele prometne ureditve. Manjkajo le pešci.

Ford je prvo podjetje, ki je najelo Mcity in bo tam tudi uradno testiralo svoja vozila. Popularen poligon je tudi GoMentum Station v okolici San Francisca, kjer...

44 komentarjev

O čem sanjajo umetni možgani

Nižji nivoji nevronskih mrež zaznavajo oblike in krivulje

Slo-Tech - Google je eno izmed vodilnih podjetij na področju prepoznavanja slik in govora ter strojnega prevajanja. Vsem trem problemom je skupno dejstvo, da niso rešljivi z enostavnimi sekvenčnimi algoritmi, ker ne moremo predvideti vseh možnih vhodnih podatkov. Največ na tem področju obljubljajo umetne nevronske mreže (ANN). Google je v zadnji objavi pokazal nekaj fantastičnih slik, ki dajejo vpogled v delovanje ANN.

Kot tolikokrat v zgodovini je tudi zamisel ANN navdahnila narava, ki je imela milijarde let časa, da poišče rešitve za probleme. Te niso vedno optimalne, so pa v okviru možnosti in potreb zelo dobre. Kjer bi se s klasičnim zaporednim algoritmom zaleteli v zid, so se ozrli po bioloških nevronskih mrežah oziroma možganih. To je zelo logična poteza, saj so človeški možgani izjemno dobri pri reševanju problemov, za katere jih je evolucija...

32 komentarjev

Google in Stanford z velikim napredkom pri prepoznavi slik

Google - Google je občutno izboljšal algoritem za prepoznavanje predmetov na slikah in ugotavljanje relacij med njimi, so sporočili. Problem prepoznavanja predmetov so že septembra imeli precej dobro rešen, večji zalog pa je predstavljalo ugotavljanje, v kakšnem razmerju so predmeti na sliki.

Rezultati zadnjih preizkusov kažejo, da jim je tudi to dobro uspelo. Novi algoritem prepozna predmete na sliki, potem pa ugotovi, kako so razporejeni in kaj se dogaja; te ugotovitve nato izpiše v človeku razumljivi angleščini (glej sliko). To niso le preproste relacije, kot na primer Pica je na štedilniku, temveč tudi kompleksnejši opisi, na primer Ljudje nakupujejo na tržnici, kjer je na stojnici veliko zelenjave.

Google pravi, da so nadgradili...

56 komentarjev