» »

Kako ukaniti Teslinega avtopilota in se zaleteti

Kako ukaniti Teslinega avtopilota in se zaleteti

Slo-Tech - Raziskovalci so pokazali, kako je mogoče preprosto pretentati avtopilota v Teslinih vozilih, da avtomobil zapelje na nasprotni vozni pas. Sistem Enhanced Autopilot, ki ga ima Model S 75, je mogoče prevarati brez vdora v računalniški sistem na avtomobilu. Zadostuje že manipulacija označb na cestišču, ki je s prostim očesom praktično ne zaznamo.

Gre za modul, ki v avtopilotu skrbi za prepoznavanje označb pasov. Avtopilot sicer uporablja kombinacijo kamer, ultrazvočnih sonarjev in radarja, a pasu se drži zgolj na podlagi informacij iz kamer. Pri tem uporablja kopico testov, ki poskrbijo za preprečevanje napačnih odločitev, denimo odstavne pasove, zgodovino vožnje po tej cesti, velikost in razdalja do različnih predmetov itd.

Zadostuje že, če na cesto nalepimo tri manjše označbe. Teh človek gotovo ne bi upošteval, avtopilot pa uporablja nevronske mreže za tolmačenje slike, ki se v tem primeru zmedejo in označbe vzamejo resno.

Poleg omenjene ranljivosti so v Tesli odkrili še nekaj drugih lukenj, ki pa so manj nevarne. Možno je vključiti brisalce, čeprav ne dežuje. Brisalci se vključijo, ko nevronska mreža prepozna, da kamere snemajo dež. Za zdaj so raziskovalci uspeli le tako, da so popačeno sliko neposredno vodili v sistem, a ocenjujejo, da je bi šlo tudi tako, da bi pred avtomobilom prikazali ustrezno prilagojeno sliko. Še tretji podvig jim je uspel, ko so teslo krmilili z game padom. Šlo je za ranljivost v računalniku avtopilota, ki je omogočala administratorski (root) dostop.

Tesla pravi, da je slednjo ranljivost zakrpala že leta 2017 in še dodatno zaščitila lani. Tesla tudi nagrajuje odkrite in prijavljene ranljivosti (bug bounty), a je v tem primeru ranljivost sama zakrpala, še preden so jo opozorili nanjo. Ostala scenarija, torej prevarati avtopilota in vključiti brisalce, pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično, predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.

13 komentarjev

trenerkar ::

Overfitting na podatke iz učenja pač.

N4g4c3N ::

XKCD je to tematiko že nekaj časa nazaj "obdelal" https://xkcd.com/1958/

AštiriL ::

torej na Tesli nimaš root dostopa do krmilnika avta? Pa saj ni iPhone!

/s
-- http://OvCa.ml

Vazelin ::

predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.

:D problem solved
Vazelin Investments Ltd.
WE BAKE : YOU MAKE

Markoff ::

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(
Prve besede v Novoreku idiokracije:
posebaj, skropucalo, inžinir, intiligenca, apsolutno, anEks.
Žal ne govorim idiokratsko ali z idiokrati.

Zgodovina sprememb…

  • spremenilo: Markoff ()

mahoni ::

Markoff je izjavil:

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(

Potem ne rabis neke klinceve Tesle za ta podvig. To lahko ze zdaj delas na skoraj vseh malo bolj opremljenih vozilih. Avtomatik, tempomat, ostali varnostni sistemi...in tvoje je, samo da pritiskas na gas, pa se to lahko z rokami pocnes in vrtis volan.

njyngs ::

pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično,

:))

Bom kar na električni VAG rajši počakal :))

Vazelin ::

Vse skupaj je 20 let oddaljeno od true avtopilota
Vazelin Investments Ltd.
WE BAKE : YOU MAKE

Zgodovina sprememb…

  • spremenilo: Vazelin ()

badabim ::

S tremi lističi wc papirja na cesišču lahko torej povzročiš prometno nesrečo...

Lakotnik29 ::

badabim je izjavil:

S tremi lističi wc papirja na cesišču lahko torej povzročiš prometno nesrečo...


V bistvu ne, ker tudi tesla ne bo menjala pasu, če ji nasproti prihaja vozilo. Po drugi strani pa človeškega voznika zmedeš še z manj kot tem.

Dr_M ::

Tole sploh ni vredno novice.
Je pa fajn za rajo futrat in njihovo divjo domislijo.
The reason why most of society hates conservatives and
loves liberals is because conservatives hurt you with
the truth and liberals comfort you with lies.

Zgodovina sprememb…

  • spremenil: Dr_M ()

Machete ::

Jaz imam že sedaj popolnoma avtonomno vožnjo. Edino kar rabim je držati volan in dodajati plin in zavirati.
Asrock-Z87Pro4|i5-4670K@4,3|4x4GB|GTX-1080|850EVO-250GB|WD2TB|W10Pro
Galaxy S10

Markoff ::

mahoni je izjavil:

Markoff je izjavil:

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(

Potem ne rabis neke klinceve Tesle za ta podvig. To lahko ze zdaj delas na skoraj vseh malo bolj opremljenih vozilih. Avtomatik, tempomat, ostali varnostni sistemi...in tvoje je, samo da pritiskas na gas, pa se to lahko z rokami pocnes in vrtis volan.

Mislim, da sploh nisi razumel bistva mojega komentarja.
Prve besede v Novoreku idiokracije:
posebaj, skropucalo, inžinir, intiligenca, apsolutno, anEks.
Žal ne govorim idiokratsko ali z idiokrati.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Lanska prva smrtna žrtev asistenčnega sistema v Tesli odgovorna sama (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
8611236 (7105) codeMonkey
»

Uber zaradi nesreče prekinil preizkuse avtonomnih vozil (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
21221693 (16402) Unknown_001
»

Prva smrtna žrtev samovozečih avtomobilov, ki to niso (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
20530106 (22850) Mare2
»

Musk obljublja samovozeče Tesle do konca leta 2017

Oddelek: Novice / Znanost in tehnologija
326063 (4192) fpbs

Več podobnih tem