Kako ukaniti Teslinega avtopilota in se zaleteti

Raziskovalci so pokazali, kako je mogoče preprosto pretentati avtopilota v Teslinih vozilih, da avtomobil zapelje na nasprotni vozni pas. Sistem Enhanced Autopilot, ki ga ima Model S 75, je mogoče prevarati brez vdora v računalniški sistem na avtomobilu. Zadostuje že manipulacija označb na cestišču, ki je s prostim očesom praktično ne zaznamo.

Gre za modul, ki v avtopilotu skrbi za prepoznavanje označb pasov. Avtopilot sicer uporablja kombinacijo kamer, ultrazvočnih sonarjev in radarja, a pasu se drži zgolj na podlagi informacij iz kamer. Pri tem uporablja kopico testov, ki poskrbijo za preprečevanje napačnih odločitev, denimo odstavne pasove, zgodovino vožnje po tej cesti, velikost in razdalja do različnih predmetov itd.

Zadostuje že, če na cesto nalepimo tri manjše označbe. Teh človek gotovo ne bi upošteval, avtopilot pa uporablja nevronske mreže za tolmačenje slike, ki se v tem primeru zmedejo in označbe vzamejo resno.

Poleg omenjene ranljivosti so v Tesli odkrili še nekaj drugih lukenj, ki pa so manj nevarne. Možno je vključiti brisalce, čeprav ne dežuje. Brisalci se vključijo, ko nevronska mreža prepozna, da kamere snemajo dež. Za zdaj so raziskovalci uspeli le tako, da so popačeno sliko neposredno vodili v sistem, a ocenjujejo, da je bi šlo tudi tako, da bi pred avtomobilom prikazali ustrezno prilagojeno sliko. Še tretji podvig jim je uspel, ko so teslo krmilili z game padom. Šlo je za ranljivost v računalniku avtopilota, ki je omogočala administratorski (root) dostop.

Tesla pravi, da je slednjo ranljivost zakrpala že leta 2017 in še dodatno zaščitila lani. Tesla tudi nagrajuje odkrite in prijavljene ranljivosti (bug bounty), a je v tem primeru ranljivost sama zakrpala, še preden so jo opozorili nanjo. Ostala scenarija, torej prevarati avtopilota in vključiti brisalce, pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično, predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.