Uspešno "vrivanje" prometnega znaka v avtomobilski asistenčni sistem

Raziskovalci z izraelske Univerze Negev so uspešno prikazali način, kako prevarati napredne avtomobilske asistenčne sisteme ADAS oz. Advanced driver assistance systems. V precep so vzeli eksterni ADAS sistem Mobileye, ki ga najdemo integriranega v vozilih številnih proizvajalcev, med njimi so Volvo, GM, BMW, Ford, Hyundai, Renault in drugi. Sistem s pomočjo kamere, lidarja in radarja voznika opozarja na potencialne nevarnosti, zaznava zapuščanje voznega pasu in prepoznava prometne znake. Prav slednje je bilo v središču pozornosti raziskovalcev. Ti so Renault Captur opremljen z Mobileyem napadli s pomočjo fiktivnega prometnega znaka, projiciranega s projektorjem na belo projekcijsko platno ob vozišču. Da bi dosegli čimbolj realne pogoje, so poskusili tudi s projektorjem, ki ga je nosil dron, prometni znak pa so projicirali na obcestni betonski steber.

Rezultat? Eksperiment je pokazal, da je Mobileye mogoče zlahka prevarati. Tudi s prometnim znakom, ki ga je projiciral dron. Poskus so ponovili še z nekaj delno spremenjenimi okoliščinami in ugotovili, da da na delovanje Mobileya vpliva velikost projiciranega znaka (manjšega od 16 cm sploh ni zaznal), njegova oblika (poskusili so z nekaj drugimi oblikami, denimo zvezdasto, a se sistem ni dal premotiti) ter količina ambientalne svetlobe. Jasno, ker je šlo za projektor, je ukana najbolje delovala zvečer in ponoči, a je po drugi strani brez težav delovala tudi v najsvetlejših delih dneva. Da je sistem zaznal ponarejeni znak je bilo potrebnih največ 100 ms projiciranja, kar pomeni, da bi napadalec v resničnem svetu tak napad zlahka izpeljal neopažen. Po drugi strani pa na zaznavanje Mobileya ni imela nikakršnega vpliva barva znaka.

V okviru eksperimenta so preizkusili tudi nekaj možnih protiukrepov, za najbolj uspešnega se je izkazala uporaba QR kode, ki prihajajočemu vozilu prenese sporočilo, v katerem je z digitalnim podpisom zakodiran tip znaka, njegove koordinate in druge podrobnosti. Svoje ugotovitve bodo raziskovalci v okviru t. i. odgovornega razkritja posredovali tudi podjetjema Mobileye in Tesla.