» »

Kako ukaniti Teslinega avtopilota in se zaleteti

Kako ukaniti Teslinega avtopilota in se zaleteti

Slo-Tech - Raziskovalci so pokazali, kako je mogoče preprosto pretentati avtopilota v Teslinih vozilih, da avtomobil zapelje na nasprotni vozni pas. Sistem Enhanced Autopilot, ki ga ima Model S 75, je mogoče prevarati brez vdora v računalniški sistem na avtomobilu. Zadostuje že manipulacija označb na cestišču, ki je s prostim očesom praktično ne zaznamo.

Gre za modul, ki v avtopilotu skrbi za prepoznavanje označb pasov. Avtopilot sicer uporablja kombinacijo kamer, ultrazvočnih sonarjev in radarja, a pasu se drži zgolj na podlagi informacij iz kamer. Pri tem uporablja kopico testov, ki poskrbijo za preprečevanje napačnih odločitev, denimo odstavne pasove, zgodovino vožnje po tej cesti, velikost in razdalja do različnih predmetov itd.

Zadostuje že, če na cesto nalepimo tri manjše označbe. Teh človek gotovo ne bi upošteval, avtopilot pa uporablja nevronske mreže za tolmačenje slike, ki se v tem primeru zmedejo in označbe vzamejo resno.

Poleg omenjene ranljivosti so v Tesli odkrili še nekaj drugih lukenj, ki pa so manj nevarne. Možno je vključiti brisalce, čeprav ne dežuje. Brisalci se vključijo, ko nevronska mreža prepozna, da kamere snemajo dež. Za zdaj so raziskovalci uspeli le tako, da so popačeno sliko neposredno vodili v sistem, a ocenjujejo, da je bi šlo tudi tako, da bi pred avtomobilom prikazali ustrezno prilagojeno sliko. Še tretji podvig jim je uspel, ko so teslo krmilili z game padom. Šlo je za ranljivost v računalniku avtopilota, ki je omogočala administratorski (root) dostop.

Tesla pravi, da je slednjo ranljivost zakrpala že leta 2017 in še dodatno zaščitila lani. Tesla tudi nagrajuje odkrite in prijavljene ranljivosti (bug bounty), a je v tem primeru ranljivost sama zakrpala, še preden so jo opozorili nanjo. Ostala scenarija, torej prevarati avtopilota in vključiti brisalce, pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično, predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.

13 komentarjev

trenerkar ::

Overfitting na podatke iz učenja pač.

N4g4c3N ::

XKCD je to tematiko že nekaj časa nazaj "obdelal" https://xkcd.com/1958/

AštiriL ::

torej na Tesli nimaš root dostopa do krmilnika avta? Pa saj ni iPhone!

/s
Ostani 127.0.0.1, ko si 0.0.0.0, nosi 255.255.255.255.

Vazelin ::

predvsem pa lahko voznik kadarkoli prevzame nadzor nad vozilom.

:D problem solved
I got 99 problems but 4 usd XTZ ain't one...

Markoff ::

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

Zgodovina sprememb…

  • spremenilo: Markoff ()

mahoni ::

Markoff je izjavil:

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(

Potem ne rabis neke klinceve Tesle za ta podvig. To lahko ze zdaj delas na skoraj vseh malo bolj opremljenih vozilih. Avtomatik, tempomat, ostali varnostni sistemi...in tvoje je, samo da pritiskas na gas, pa se to lahko z rokami pocnes in vrtis volan.

njyngs ::

pa sta po mnenju Tesle povezana z manipulacijo zunanjega okolja vozila, kar ni realistično,

:))

Bom kar na električni VAG rajši počakal :))

Vazelin ::

Vse skupaj je 20 let oddaljeno od true avtopilota
I got 99 problems but 4 usd XTZ ain't one...

Zgodovina sprememb…

  • spremenilo: Vazelin ()

badabim ::

S tremi lističi wc papirja na cesišču lahko torej povzročiš prometno nesrečo...

St235 ::

badabim je izjavil:

S tremi lističi wc papirja na cesišču lahko torej povzročiš prometno nesrečo...


V bistvu ne, ker tudi tesla ne bo menjala pasu, če ji nasproti prihaja vozilo. Po drugi strani pa človeškega voznika zmedeš še z manj kot tem.

Dr_M ::

Tole sploh ni vredno novice.
Je pa fajn za rajo futrat in njihovo divjo domislijo.
The reason why most of society hates conservatives and
loves liberals is because conservatives hurt you with
the truth and liberals comfort you with lies.

Zgodovina sprememb…

  • spremenil: Dr_M ()

Machete ::

Jaz imam že sedaj popolnoma avtonomno vožnjo. Edino kar rabim je držati volan in dodajati plin in zavirati.
LC1000|Asrock-H470PG|i7-10700K|2x16GB|RTX-3080 EAGLE|W10Pro
new Nintendo 2DS & 3DS XL|Galaxy S24+

Markoff ::

mahoni je izjavil:

Markoff je izjavil:

Ker prihodnost avtonomne vožnje je zagotovo v tem, da voznik neprestano nadzira dogajanje v okolici vozila in drži roke na volanu v pričakovanju najhujšega in ne spi, ne igra iger, bere novic, dela, ... :(

Potem ne rabis neke klinceve Tesle za ta podvig. To lahko ze zdaj delas na skoraj vseh malo bolj opremljenih vozilih. Avtomatik, tempomat, ostali varnostni sistemi...in tvoje je, samo da pritiskas na gas, pa se to lahko z rokami pocnes in vrtis volan.

Mislim, da sploh nisi razumel bistva mojega komentarja.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Lanska prva smrtna žrtev asistenčnega sistema v Tesli odgovorna sama (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
8623547 (19416) codeMonkey
»

Uber zaradi nesreče prekinil preizkuse avtonomnih vozil (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
21258093 (52802) Unknown_001
»

Prva smrtna žrtev samovozečih avtomobilov, ki to niso (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
20566362 (59106) Mare2
»

Musk obljublja samovozeče Tesle do konca leta 2017

Oddelek: Novice / Znanost in tehnologija
3210905 (9034) fpbs

Več podobnih tem