Prijavi se z GoogleID

» »

Kako ukaniti Teslinega avtopilota in se zaleteti

Kako ukaniti Teslinega avtopilota in se zaleteti

Slo-Tech - Raziskovalci so pokazali, kako je mogoče preprosto pretentati avtopilota v Teslinih vozilih, da avtomobil zapelje na nasprotni vozni pas. Sistem Enhanced Autopilot, ki ga ima Model S 75, je mogoče prevarati brez vdora v računalniški sistem na avtomobilu. Zadostuje že manipulacija označb na cestišču, ki je s prostim očesom praktično ne zaznamo.

Gre za modul, ki v avtopilotu skrbi za prepoznavanje označb pasov. Avtopilot sicer uporablja kombinacijo kamer, ultrazvočnih sonarjev in radarja, a pasu se drži zgolj na podlagi informacij iz kamer. Pri tem uporablja kopico testov, ki poskrbijo za preprečevanje napačnih odločitev, denimo odstavne pasove, zgodovino vožnje po tej cesti, velikost in razdalja do različnih predmetov itd.

Zadostuje že, če na cesto nalepimo tri manjše označbe. Teh človek gotovo ne bi upošteval, avtopilot pa uporablja nevronske mreže za tolmačenje slike, ki se v tem primeru zmedejo in označbe vzamejo resno.

Poleg omenjene ranljivosti so v Tesli odkrili še nekaj drugih lukenj, ki pa so manj nevarne. Možno je vključiti brisalce, čeprav ne dežuje. Brisalci se vključijo, ko nevronska mreža prepozna, da kamere snemajo dež. Za zdaj so raziskovalci uspeli le tako, da so popačeno sliko neposredno vodili v sistem, a ocenjujejo, da je bi šlo tudi tako, da bi pred avtomobilom prikazali ustrezno prilagojeno sliko. Še tretji podvig jim je uspel, ko so teslo krmilili z game padom. Šlo je za ranljivost v računalniku avtopilota, ki je omogočala administratorski (root) dostop.

Tesla pravi, da je slednjo ranljivost zakrpala že leta 2017 in še dodatno zaščitila lani. Tesla tudi nagrajuje odkrite in prijavljene ranljivosti (bug bounty), a je v tem primeru ranljivost sama zakrpala, še preden so jo opozorili nanjo. Ostala scenarija, torej prevarati avtopilota in vključiti brisalce, pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično, predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.

13 komentarjev

trenerkar ::

Overfitting na podatke iz učenja pač.

N4g4c3N ::

XKCD je to tematiko že nekaj časa nazaj "obdelal" https://xkcd.com/1958/

AštiriL ::

torej na Tesli nimaš root dostopa do krmilnika avta? Pa saj ni iPhone!

/s
-- na ST se uporabnike med seboj tika.
https://a4l.space/

Vazelin ::

predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.

:D problem solved
I got 99 problems but 2.0usd tezus ain't one.

Markoff ::

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(
Novorek idiokracije:
posebaj, skropucalo, inžinir, intiligenca/intelegenca, apsolutno, anEks.

Zgodovina sprememb…

  • spremenilo: Markoff ()

mahoni ::

Markoff je izjavil:

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(

Potem ne rabis neke klinceve Tesle za ta podvig. To lahko ze zdaj delas na skoraj vseh malo bolj opremljenih vozilih. Avtomatik, tempomat, ostali varnostni sistemi...in tvoje je, samo da pritiskas na gas, pa se to lahko z rokami pocnes in vrtis volan.

njyngs ::

pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično,

:))

Bom kar na električni VAG rajši počakal :))

Vazelin ::

Vse skupaj je 20 let oddaljeno od true avtopilota
I got 99 problems but 2.0usd tezus ain't one.

Zgodovina sprememb…

  • spremenilo: Vazelin ()

badabim ::

S tremi lističi wc papirja na cesišču lahko torej povzročiš prometno nesrečo...

Lakotnik29 ::

badabim je izjavil:

S tremi lističi wc papirja na cesišču lahko torej povzročiš prometno nesrečo...


V bistvu ne, ker tudi tesla ne bo menjala pasu, če ji nasproti prihaja vozilo. Po drugi strani pa človeškega voznika zmedeš še z manj kot tem.

Dr_M ::

Tole sploh ni vredno novice.
Je pa fajn za rajo futrat in njihovo divjo domislijo.
The reason why most of society hates conservatives and
loves liberals is because conservatives hurt you with
the truth and liberals comfort you with lies.

Zgodovina sprememb…

  • spremenil: Dr_M ()

Machete ::

Jaz imam že sedaj popolnoma avtonomno vožnjo. Edino kar rabim je držati volan in dodajati plin in zavirati.
Asrock-Z87Pro4|i5-4670K@4,3|4x4GB|GTX-1080|850EVO-250GB|WD2TB|W10Pro
Galaxy S10

Markoff ::

mahoni je izjavil:

Markoff je izjavil:

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(

Potem ne rabis neke klinceve Tesle za ta podvig. To lahko ze zdaj delas na skoraj vseh malo bolj opremljenih vozilih. Avtomatik, tempomat, ostali varnostni sistemi...in tvoje je, samo da pritiskas na gas, pa se to lahko z rokami pocnes in vrtis volan.

Mislim, da sploh nisi razumel bistva mojega komentarja.
Novorek idiokracije:
posebaj, skropucalo, inžinir, intiligenca/intelegenca, apsolutno, anEks.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Lanska prva smrtna žrtev asistenčnega sistema v Tesli odgovorna sama (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
8612210 (8079) codeMonkey
»

Uber zaradi nesreče prekinil preizkuse avtonomnih vozil (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
21223658 (18367) Unknown_001
»

Prva smrtna žrtev samovozečih avtomobilov, ki to niso (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
20532192 (24936) Mare2
»

Musk obljublja samovozeče Tesle do konca leta 2017

Oddelek: Novice / Znanost in tehnologija
326352 (4481) fpbs

Več podobnih tem