Slo-Tech - Samovozeči avtomobili med vožnjo srečujejo iste prometne znake kakor ljudje, zato jih s kamerami posnamejo in z vgrajenimi algoritmi raztolmačijo. Načeloma to deluje brez težav, saj v najslabšem primeru avtonomno vozilo kakšnega znaka ne prepozna, kar pa ni velik problem, saj vozijo počasi, previdno in z ozirom na promet v bližini. Povsem drugače pa je, če namenoma spremenimo kakšen prometni znak tako, da je ljudem še vedno jasen, samovozeči avtomobili pa razumejo nekaj čisto drugega. Kako gre to v praksi, so pokazali raziskovalci s Princetona.
Niso se ukvarjali z normalno obrabo in poškodbami znakov niti z vandalizmom, temveč jih je zanimalo, ali lahko znak namenoma popačimo ravno dovolj, da zmedemo nevronsko mrežo. Pokazali so, da je to mogoče storiti brez večjih težav. Ne le da lahko znak popačimo tako, da bo človek prebral omejitev 80 kilometrov na uro, nevronska mreža pa bo videla znak stop, "prometne znake" lahko skrijemo celo v logotipe ali nesmiselne barvne čačke. Še ena zanima taktika je priprava znaka, ki se mu napis spreminja v odvisnosti od zornega kota, pod katerim ga gledamo, čemur pravimo lentikularni napad. Napad so poimenovali DARTS (Deceiving Autonomous caRs with Toxic Signs).
Ranljivost nevronskih mrež na te toksične prometne znake so najprej preverili računalniško, potem pa so jih dejansko natisnili in preizkusili. Rezultati so pokazali, da je nevarnost resnična. Prevara je v okrog 90 odstotkih uspela. Pred tovrstnimi napadi se je mogoče zaščititi na več načinov, denimo z boljšimi detektorji in nevronskimi mrežami ter kombiniranjem več različnih senzorjev. Za nekatere napade je treba poznati konkretno nevronsko mrežo, ki jo uporablja neko vozilo, za druge (npr. lentikularne) to ni nujno in deluje na vse enako.
mislim da bo potrebno modernizirati ceste, da bo samovožnja mogoča. V ceste vgraditi brezžične oddajnike z enkripcijo, da bodo vozila lahko takoj vedela kolikšna je omejitev na tistem delu in podobno. Ne pa nek računalniški vid, ki ne loči (manjšega) penisa od vagine
mislim da bo potrebno modernizirati ceste, da bo samovožnja mogoča. V ceste vgraditi brezžične oddajnike z enkripcijo, da bodo vozila lahko takoj vedela kolikšna je omejitev na tistem delu in podobno.
To se seveda da relativno enostavno shekat.
Oddajnik iz enega odseka ceste postaviš drugam. Podatki so pa še vedno kriptirani/podpisani, samo pravi niso.
računalniški vid bo rešen takrat kot jezik, ker je zadaj ista logika. gre se za zmožnost prepoznave podobnosti in analogij, ki je še niso znali sprogramirati tako kot bi jo morali. zdej pa AI vid narobe oceni podobnost stop znaka enemu x znaku. biti zmožen pravilno oceniti podobnost dveh stvari je jedro inteligence.
biti zmožen pravilno oceniti podobnost dveh stvari je jedro inteligence.
Brati zmazke ni nobena inteligenca, zmazkov sploh ne rabimo. Vseh zmazkov, ki smo jih do danes sproducirali, bi se lahko znebili in se jih tudi bomo, ker nima nobenega smisla samemu sebi delati zmedo.
Zmedo bomo še nekaj časa delali eden drugemu (pomeni sebi), ampak nazadnje bo odpadla.
o+ nevone
Either we will eat the Space or Space will eat us.
Khm... ali res nihče več noče voziti avtomobila? Čemu potem ni več taksijev na cestah? Bo potlej kaj folk delal med vožnjo? Diplomsko nalogo? Onaniral? Updejtal fejs account? Je že bolje, da potem "Surogates" furamo...
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.
Če je delo na cesti pa itak avto sledi beli črti, obvoz dela na cesti pa je označen z rumeno. In samovozeči avto veselo šiba v smeri bele...
Barva črte nima nobene vloge. Avto lahko pelje tudi brez črt.
Kako pa veš da je vozil avtopilo in ne voznik? In tole je tak nasty prometni režim, da človek komaj sprocesira kaj je potrebno naredit.
Saj ti v manualu piše, da nismo še v dobi skynet-a in da mora dumbass za volanom še vedno gledat na cesto in upravljat z vozilom. Gremo pa v tisti smeri, pa če se haterji razpočijo.
Not to mention, na 1 crash video jih pride 10 takih, kjer je autopilot rešil situacijo: ;)
Khm... ali res nihče več noče voziti avtomobila? Čemu potem ni več taksijev na cestah? Bo potlej kaj folk delal med vožnjo? Diplomsko nalogo? Onaniral? Updejtal fejs account? Je že bolje, da potem "Surogates" furamo...
Folk ("šofer") bo med vožnjo še vedno delal iste stvari kot jih dela že sedaj (branje/pisanje SMS, brskanje po facebooku oz. katerikoli drug app, popravljanje šminke, klepetanje, jedel sendviče, branje časopisa/revije ...), le da bodo potem te zadeve manj nevarne za ostale udeležence v prometu.
mislim da bo potrebno modernizirati ceste, da bo samovožnja mogoča. V ceste vgraditi brezžične oddajnike z enkripcijo, da bodo vozila lahko takoj vedela kolikšna je omejitev na tistem delu in podobno.
To se seveda da relativno enostavno shekat.
Oddajnik iz enega odseka ceste postaviš drugam. Podatki so pa še vedno kriptirani/podpisani, samo pravi niso.
Za GPS si kdaj slišal? Oddajnik lahko točno ve, kje je. In prestavljanje oddajnikov je mogoče onemogočiti še na druge načine - recimo z medsebojno komunikacijo sosednjih oddajnikov, s tipali premikanja, z dovolj debelo ketno ...
Khm... ali res nihče več noče voziti avtomobila? Čemu potem ni več taksijev na cestah? Bo potlej kaj folk delal med vožnjo? Diplomsko nalogo? Onaniral? Updejtal fejs account? Je že bolje, da potem "Surogates" furamo...
Saj bo lahko vzporedno vozil, le da bo vožnja virtualna, kar pa bo nezaznavno, ker bodo gerete omogočale, da bo enako kot če bi vozil zares.
o+ nevone
Either we will eat the Space or Space will eat us.
tam ene 2050 bomo pa res mel samovozeča vozila, ki ne bodo v full retard mode
Kdaj pa bomo imeli voznike, ki ne bodo v full retard mode?
Da. Čeprav vidimo bolje, so avnonomni avtomobili v mnogis situacijah že boljši.
Zakaj le? Ker avtomobili za odločanje uporabljajo nevronsko mrežo, ki posnema človeške možgane, medtem ko lep del šoferjev vozi s kurcem namesto s pametjo.
--- Z zlonamernimi znaki pa se seveda da zmesti tudi ljudi. Predelamo kak semafor ali pa zamenjamo stop z znakom za prednost?
Kot da šoferja pa ni možno zmseti s prometnimi znaki? -tudi v domačem okolju, boš ignoriral znak, za katerega imaš občutek, da je bil včasih drugačen? AI bi moral imeti mrežo prometnih znakov in podobno v hrambi, sinhronizacijo p2p ali s centralno bazo (mogoče zaščiteno z blockchainom), označene izjeme, napake oziroma neskladja (in jih v realtajmu updejtat, s pomočjo voznika)... Potem se šele lahko pogovarjamo o učinkoviti in na take napade odporni samovožnji.
Za samovozeča vozila je dovolj, če jim onemogočiš zavore. Že danes lahko preko OBD delaš podobne zadeve (še posebej, če je zadfeva wi-fi ali BT), z več elektronike bo pa vse še lažje.
Ne le da lahko znak popačimo tako, da bo človek prebral omejitev 80 kilometrov na uro, nevronska mreža pa bo videla znak stop
Danes je to celo lahko res, a ni relevantno, razen za nadaljni razvoj. Nevronska mreža ne bi gledala strogo samo znak, amak tudi druge okoliščine in bo lahko sklepala, da tam kjer stoji znak za omejitev 80 km/h ni možno, da stoji stop znak.
Končna rešitev bo pa itak nekaj tretjega.
o+ nevone
Either we will eat the Space or Space will eat us.
prometni znaki? Zakaj jih pa naj bi avtonomno vozilo sploh bralo? Pri vseh svojih sistemih za varnost pa res ne rabi neke omejitve, ker sam doloci ustrezno hitrost glede na pogoje...
prometni znaki? Zakaj jih pa naj bi avtonomno vozilo sploh bralo? Pri vseh svojih sistemih za varnost pa res ne rabi neke omejitve, ker sam doloci ustrezno hitrost glede na pogoje...
Računalniško vodena vožnja je relativno enostaven problem. Zaznavanje okolice je pa v čisto drugem težavnostnem razredu. Za avtonomno vožnjo pa potrebuješ oboje na max.
Nevronske mreže imajo velik potencial, sam zaenkrat so še daleč, daleč stran od uporabnega produkta za popolnoma avtonomno vožnjo.
Združevanje stereo vida in nevronskih mrež omogoča ogromno zadev in je kr konkretno v hitrem razvoju (celo na računalniških faksih je sedaj to en pomembnejših predmetov). Problem jaz vidim bolj v proizvajalcih, da premalo vlagajo v to. V bistvu jih je samo par naprednih, ostali pa čakajo, da bodo kopirali in se s problemom sploh ne ukvarjajo, ker se jim zdi predrag.
Recimo subarujev "eyesight" je ena izmed takih pomagal vozniku, ki bazira na stereo vidu in nevronskih mrežah. Ni sicer narejen za avtonomno vožnjo (je samo "Driver Assist Technology"), pomaga pa vozniku res ogromno. Od prepoznave znakov, semaforjev, avtomobilov (gosji red), do tega, kam so pešci obrnjeni - razpoznava obraza, hoje,... (ti jih sistem tudi obarva na ekranu drugače; rdeč - stopa proti cesti (je ovira), rumen - hodi obrnjen od tebe stran (te ne vidi), zelen, hodi proti tebi (te vidi)) Sam sistem je tudi povezan z volanom in zavorami. Zna zavirat, zna volan obrnit, da se izogneš oviri,... https://www.subaru.com/engineering/eyes...
Gre pa subaru tudi v razvoj avtonomnega vozila. Nekje do 2025 bo razvito v popolnosti. Problem so pa stroški, ker je to najmanjši japonski proizvajalec vozil in ni toliko denarja na razpolago za razvoj, kot ga imajo ostali. Pa še ena zanimivost - subaru si trenutno lasti najvarnejši avto na japonskem - subaru XV je avto zaradi katerega bodo morali spreminjat sistem točkovanja na crash testih. https://www.torquenews.com/1084/why-new...
The all-new 2018 Subaru XV scored a 199.7 out of a possible 200 points in crash tests making it the safest car ever tested by the organization.
Prometni znaki so se najmanjsi problem za samovozeca vozila. Sicer so take raziskave pomembne, da se dela na robustnosti sistemov avtonomne voznje, vendar IMO v praksi predstavljajo podobno nevarnost za avtnomno vozilo kot za voznika. Zelo pomemben podatek je, da je prvi primer napada specificen za uporabljeno nevronsko mrezo (torej za tocen natreniran model, ce poznamo samo arhitekturo, ni dovolj), z drugim primerom pa lahko zmedes tudi cloveka. In ce se gremo ze menjavo znakov, kaj nam potem preprecuje, da nebi zamenjali v kriziscu stop znak z znakom za prednost, kjer bi potem oboji naredili 'napako'? Torej smo tudi mi ranljivi na tovrstni napad, pa se vseeno dnevno vozimo. Bi rekel, da v povprecju avtonomno vozilo med voznjo pravilno prepozna vec znakov kot povprecen voznik, saj lahko spremlja vec stvari hkrati, pogosto pa tudi sami nismo dovolj pozorni na prometne znake.
Ja, lahko bi, ampak da na olju drsi, vsi vemo, in je bilo že večkrat preizkušeno v praksi. Da par pack na pravih mestih prometnega znaka zmede računalniški vid avta, je pa novost, zanimivo in vredno omembe.
Kaj pa ko kaksen grm preraste znak? Ali pa drevo? Mogoce kdo obrne znak naokoli? Kako avto ve? Nekdo je ze omenil, da nekateri imajo vgrajeno "zemljevide" z znaki. Ce se le te dokaj redno posodablja, je to dosti bolje kot "vid" od avta. Vsi ti dodatni senzorji, zemljevidi, gps naj pomagajo pri samovozecih avtomobilih. Se vedno bi raje videl, da na koncu clovek prevzame krmilo, ce tako zeli ali pa opazi kaj nevsakdanjiga. Za vecino stvari se da predvideti in dati navodila, kako se tezavam izogniti. Vsi se zmotimo, in racunalniki niso nic kaj boljsi, glede na to da so ustvarjeni izpod nasih rok in inteligence. :)
Ja, lahko bi, ampak da na olju drsi, vsi vemo, in je bilo že večkrat preizkušeno v praksi. Da par pack na pravih mestih prometnega znaka zmede računalniški vid avta, je pa novost, zanimivo in vredno omembe.
Mogoče za splošno javnost. Drugače se pa to že kar dolgo ve.
Itak je precej retardno da za avtonomno vožnjo forsirajo človeška čutila. Bo potrebno dodati na/v/ob ceste senzorje, ne pa da lahko kakšen sneg na prometnem znaku že zmede vozilo
No, zase vem da še dolgo ne bom spustil rok z volana na magistralki
Za samovozeča vozila je dovolj, če jim onemogočiš zavore. Že danes lahko preko OBD delaš podobne zadeve (še posebej, če je zadfeva wi-fi ali BT), z več elektronike bo pa vse še lažje.
Ljudem ne moreš onemogočit zavor? Omenajte nevarnosti, ki jih samovozeča vozila prinašajo, a te nevarnosti že danes lahko zlorabljaš in nagajaš sosedu. To niso nevarnosti specifične za samovozeče avtomobile.
Za samovozeča vozila je dovolj, če jim onemogočiš zavore. Že danes lahko preko OBD delaš podobne zadeve (še posebej, če je zadfeva wi-fi ali BT), z več elektronike bo pa vse še lažje.
Ljudem ne moreš onemogočit zavor? Omenajte nevarnosti, ki jih samovozeča vozila prinašajo, a te nevarnosti že danes lahko zlorabljaš in nagajaš sosedu. To niso nevarnosti specifične za samovozeče avtomobile.
Niso specifične za samovozeče, je pa vprašanje, kaj bo algoritem v tem primeru naredil?
Itak je precej retardno da za avtonomno vožnjo forsirajo človeška čutila. Bo potrebno dodati na/v/ob ceste senzorje, ne pa da lahko kakšen sneg na prometnem znaku že zmede vozilo
No, zase vem da še dolgo ne bom spustil rok z volana na magistralki
znaki bojo imeli v prihodnost kako vezje notri ali oddajnik kakrkoli ko bo zaznal kaksna je omejitev brez prepoznave slik . Če bo to slučajno problem . Alternativ je toliko da brezveze, sploh pomislili o tem,da avtonomija ni mogoča.
biti zmožen pravilno oceniti podobnost dveh stvari je jedro inteligence.
Brati zmazke ni nobena inteligenca, zmazkov sploh ne rabimo. Vseh zmazkov, ki smo jih do danes sproducirali, bi se lahko znebili in se jih tudi bomo, ker nima nobenega smisla samemu sebi delati zmedo.
Zmedo bomo še nekaj časa delali eden drugemu (pomeni sebi), ampak nazadnje bo odpadla.
Itak je precej retardno da za avtonomno vožnjo forsirajo človeška čutila. Bo potrebno dodati na/v/ob ceste senzorje, ne pa da lahko kakšen sneg na prometnem znaku že zmede vozilo
No, zase vem da še dolgo ne bom spustil rok z volana na magistralki
Fiksne zadeve ob/v/na cestah (senzorji) imajo pomanjkljivost v izrednih dogodkih, ko mora avto narediti obvoz izven ceste (kakšna nesreča, plaz, ...). Tako da pomagajo, a avto mora biti sposoben tudi lastnega zaznavanja (vid + lidar).
