Zakaj so avtonomna vozila prava stvar

Kaj pa če kupiš na osnovi Muskove izjave, da bo do konca leta tvoj avto lahko začel služit denar s samostojnimi prevozi potnikov?

@J.McLane: Zelo lepo napisano, samo malenkost prevec idealisticno. Zal.

Varnost je definitivno pomemben vidik in ne mislit, da ga Tesla ne upošteva. Stock Tesla pride z lane assist in ACC, dodajo še kakšen bombonček zraven ampak v osnovi je to to. Tudi teženje da drži volan je bil od nekdaj tu, tako kot pri konkurenci. Edina razlike ki je tu je to da Tesla vedno pristane na naslovnici ko pride do bizarne nesreče, ostali pa ne. Zakaj? Zato ker se dela okoli Tesle tak hype da je nekaj več in kako da vozi sama, kar absolutno ne drži. Pa tudi v Tesli se da izklopit AEB v menuju, tako da se mirno zapika v stoječo oviro na AC.

Upostevajo, ampak kako ignoriranje NTSB pase v to sliko? Odgovor bo verjetno spet v stilu "ni jim treba" in "to je neka organizacija, ki nima pojma". Glede opozoril je zgodba daljsa. Potrebno je lociti tudi med enostavnim Level 2 sitemom in obogatenim Level 2+ sistemom ter razliko v autopilotu v EU in v ZDA. Pri enostavnih asistencnih sistemih je ze praksa pokazala, da je cisto dovolj zaznavati roke na volanu, kljucna zadeva pa je interval, ko zacne opozarjati in kako se to stopnjuje. Tudi kaj vozilo naredi, ce se to se naprej ignorira (tukaj je bila znanstvena fantastika za nekatere, ko sem razlagal, da se enostaven lane-keeping sistem zaradi varnosti mora v primeru neupostevanja postopoma izklopiti). Pri Tesli so to resno vzeli sele po (drugi?) nesreci s smrtnim izidom in se takrat ne dovolj, kar je bil tudi npr. zacetek konca sodelovanja z Mobileeye. Skratka, varnostni mehanizmi Teslinega sistema niso direktno posledica dosledno opravljenega dela na podrocju funkcionalne varnosti, ampak pritiskov po tem, ko so se dogajale prve nesrece.

Pa tudi drugi proizvajalci imajo velike težave pri lane assist, berem od Kone, avto se ob zagonu ne zapomni zadnje nastavitve, na zaviti slabo označeni cesti te lahko zapelje čelno v nasproti vozeč avto, to si nisem jaz zmislil to poročajo uporabniki.

Vem. Tudi v primeru rumenih prelepljenih crt na AC te pelje direktno v steno. In takih primerov je se ogromno. Ampak, point mnogih proizvajalcev za lane assist ni popolno delovanje, je le pripomocek. Kljucno pri tej zadevi je kako jo uporabnik razume, torej interakcija z voznikom. Bolj kot je tak sistem zmozen (pokriva vecji nabor nalog - DDT po SAE), vecja je verjetnost, da mu uporabnik zaupa prevec. Tako zaupanje se po omenjenih standardih mora obravnavati kot razumno oz. pricakovano, in od tu morajo nato izhajati varnostni mehanizmi, ki so implementirani. Generalnih navodil o tem, kako hitro se mora opozorilo pojaviti, in kaksni senzorji so za nadzor voznika potrebni, ni. Je pac stvar analize vsakega sistema posebej. Pri tem seveda navodila v user manualu niso varnostni mehanizmi.

Full self driving Beta pa ni bil kar dan random srečnežem, ampak so bili to skrbno izbrani izbranci samo v US. Sem prepričan da so to naredili z vsem sodelovanjem regulatorjev, saj konec koncev tudi druge firme svoje sisteme testirajo v živo, pa vemo kakšne ljudi vse lahko izberejo za test (Uber in gledanje filmov vmes). Tu ni dileme človek je v nadzoru in razen res primera kjer bi avto overridov voznika ni dileme, voznik je vedno kriv.

Zagovarjanje slabe prakse s se slabso (Uber) ni ravno dober argument. Tesla nima izbire tukaj, NHTSA jih spremlja pa ce hocejo ali nocejo. In to zadnje enostavno ne drzi. Kljucno je to, ali je v primeru nesrece izraba sistema s strani voznika "reasonably forseeable", ali ni. Ce karikiram, razni aftermarket pripomocki, ki ti omogocajo spanje na AC niso "reasonable forseeable", medtem ko je kratek fokus na drugo stvar med voznjo ze "reasonably forseeable misuse". Nikakor ni krivda v avtomaticno v celoti na strani voznika. Od placanega nadzornika/testerja sistema, so pricakovanja spet drugacna seveda.

Dejansko konkurenci gre Tesla močno v nos in tudi nič ne morejo storiti glede tega. Lahko lobirajo pri regulatorjih, da je njihov sistem nevaren, ampak kaj dosti ne moreš doseči, če ti Tesla izpolni vse zahteve preko OTA. Jasno da mora biti konkurenca veliko bolj previdna kaj daje v avte, saj če pride do napake ali kakšne tožbe morajo vpoklicati vse vozile s tem sistemom na servis.

Ja in ne. Vsekakor ne tako, kot skusas priakzati. Za razliko od Tesle, drugi proizvajalci ne nadgrajujejo svojih Level 2 in 2+ sistemov do te mere, ker jih s stalisca uporabnosti ter varnosti niti nima smisla prevec razirjevati (npr. za voznjo po mestu). Vsaj nemski proizvajalci so se ze pred leti z razvojem osredotocili na Level 3 in imajo ze precej dobro razvite sisteme, ki pa so jih morali pospraviti v predal ravno zaradi regulatorjev. Kot omenjeno, se zdaj to koncno premika: https://newmobility.news/2020/06/26/un-...
To bo velik korak naprej, saj bomo koncno lahko (najprej vsaj v gneci) varno in legalno gledali tudi v telefon, in nima nobene veze z omejevanjem Tesle. Se pa bodo morali pri Tesli prilagoditi.

Pa ko si že omenjal Toyoto da so se opekli, kaj točno si mislil? Tisti problem z nenadzorovanim pospeševanjem? Kakšen je pa bil sploh epilog tistega, ali niso pri Nasi potrdili da ni mogoče reproducirati take napake?

To sem mislil ja, v mislu da so dolgo vztrajali pri valitvi krivde na voznike (zamenjava stopalk in tepihi). Detajle Nasinega porocila sem pozabil, je bilo precej grdih stvari ugotovljenih. Zaradi omejenih sredstev niso prisli do konkretnega razloga, lahko pa bi bil marsikateri izmed njih - npr. niso sledili niti minimalnim standardom pri razvoju softverja (torej takim, ki veljajo ze nekriticne funkcije), imeli so single point of error pri detekciji pozicije stopalke in nobenega watchdoga za task, kjer se je izvajalo preracunavanje stopalke (pisem po spominu).

Kar sem hotel povedati je to, da je bilo veliko primerov, ko se je izkazalo, da dolocene naprave ali sistemi presegajo druzbeno sprejemljivo mero tveganja, kdaj je to postalo ocitno, pa je bilo pri teh zadevah le vprasanje casa. NTSB je mnenja, da so pri Tesli ze zdaj nekako tam, z novimi funkcijami pa bo zadeva le se bolj kriticna. Bodimo posteni, ni potrebno delati nekih naprednih analiz, da bi razumel, da enostavno clovek ni zmozen ustrezno nadzorovati level 2+ asistencnega sistema, ki se ustavlja pred strop znaki (ce jih zazna) na semaforjih (ce jih zazna) in konec koncev izvaja tudi ozje zavoje (kjer se volan posteno suce). Takega sistema v EU ne bo (ne zaradi drugih proizvajalcev), ce bo v ZDA, pa je vprasanje casa kdaj ga bodo omejili (ne zaradi drugih proizvajalcev).

Povprečen bralec novic je nepoučen in ima pozornost omejeno na 10 sekund in zato morajo biti rezultati predstavljeni še toliko bolj JASNO. Kar pa v tem primeru niso bili, zato jih je večina bralcev razumela NAROBE...dalo bi se kaj povedati o novinarski etiki na tem mestu..

Mislim, da je bilo sporočilo v novici iz vidika varnosti dovolj jasno za povprečnega potrošnika.

Ni bilo, definitivno ne. Če večina bralcev sporočilo napačno razume, sporočilo PO DEFINICIJI ni bilo pravilno in jasno posredovano. Pika. Močno predenjuješ pamet in bralno razumevanje povprečnega potrošnika.

Zarad mene lahko rečeš: Teslin avtopilot bolje vozi in je mnogo bolj zmogljiv, GM-ov pa je bolj varen, ker ti ne pusti da ga vklopiš znotraj mest in ima kamero in ti piska če pogledaš stran. Hkrati je dejanska razlika v varnosti zelo majhna, ker moraš pri obeh spremljati vožnjo in noben izmed sistemov zaenkrat še ni sposoben popolnoma avtonomne vožnje brez nadzora. Naj bodo rezultati jasno napisani. Kar pa v tem primeru niso bili.

PS: večina bralcev originalnega testa sploh ne bo šlo iskat, ampak bo prebralo samo novinarski povzetek. Pa že originalen test je sporen kar se tiče jasnosti imformacij za povprečnega bralca.

J.McLane je 4. nov 2020 ob 14:30 izjavil:

codeMonkey je 4. nov 2020 ob 11:28 izjavil:

Zagovarjanje slabe prakse s se slabso (Uber) ni ravno dober argument. Tesla nima izbire tukaj, NHTSA jih spremlja pa ce hocejo ali nocejo. In to zadnje enostavno ne drzi. Kljucno je to, ali je v primeru nesrece izraba sistema s strani voznika "reasonably forseeable", ali ni. Ce karikiram, razni aftermarket pripomocki, ki ti omogocajo spanje na AC niso "reasonable forseeable", medtem ko je kratek fokus na drugo stvar med voznjo ze "reasonably forseeable misuse". Nikakor ni krivda v avtomaticno v celoti na strani voznika. Od placanega nadzornika/testerja sistema, so pricakovanja spet drugacna seveda.

Testni voznik Uberja je spal (oz. gledal film) na svojem "delovnem mestu", tu ni nobenega opravičila potrebnega iz strani Uberja. Ti temu rečeš slaba praksa, drugi temu rečejo agilni razvoj, na katerem temeljijo vse visoko leteče družbe. Kako je pa uspelo Space X? Verjetno ne tako, da so do pike naredili vse točno in naredili že prvo izstrelitev uspešno. Ne, rastrelili so nekaj raket potem je bilo pa že bolje, ker so se učili na praktičnih primerih in niso zapravljali časa s teoritiziranjem. Saj v softwareu je podobno, nihče več v nulo ne načrtuje in stestira čisto vsega, bolje je imeti sistem za hiter update in hiter odziv razvijalca, na koncu je stranka še bolj zadovoljna ker je presenečana nad odzivnostjo.

Dokler se govori o testiranju v realnem prometu, se pričakuje od voznika da je 100% pri stvari, pa naj bo to plačan testni voznik Uberja ali nek fanboy Tesle, ki je dobil na test FSD beta.

Druga stvar je kaj omogoča produkcijski FSD, tam se strinjam je treba voznika buzerirat da ne spi, najbolj elegantna rešitev je s kamero, ki te gleda v oči. Tako rešitev se gredo tudi tisti "hackerji" od Comma.ai in Cadillac v Super Cruise, ne vem zakaj se jo Tesla otepa, po mojem čakajo da jih nekdo prisili, ker kamero, ki snema voznika imajo že v avtu. In ko bodo birokratski mlini to premleli in zapovedali Tesli da mora s kamero spremljat, bodo oni elegantno spustili OTA in kar naenkrat bodo lahko dodajali dodatne funkcije svojemu sistemu. Konkurenca pa spet v jok in na drevo.

Malenkost se poenostavljas stvari. Softver pri kriticnih funkcijah ni obicajen softver. Je v resnici en majhen del "system engineeringa", ki zajema cel zivljenski cikel od zacetka razvoja produkta do konca njegovega obratovanja. Pri tem zajema razlicne aspekte, ki so precej vezani tudi na hardver, naravo cloveka ipd. Ce kaksno svar od vseh teh zadev zanemaris, so tezave le vprasanje casa. Odvisno seveda koliko je zadeva razsirjena. Comma.ai je recimo lep primer takih "hekerjev", ki so se obesili le na eno zadevo (softver) in se jim niti ne sanja kaj vse so pri tem zanemarili. Tudi glede kamere stvar ni tako enostavna. Ko bodo birokratski mlini to premleli, bo sprememba hujsa od same kamere - omejili bodo rabo takega sistema le na zelo omejene pogoje.

Le d si potrošniki aka žrtve želimo, da ne bi

Uf, tole zgleda super na to temo:

Pol si pa zadel, lejga.

Dobil sem en zelo zanimiv kanal na YT, kjer je na preprost način razloženo kaj dela Tesla s svojim FSD, pač glede na to kar je javno znanega.

Malo pa je bil prestrog do Tesle oz. Muska. En uzaljen se je ze nasel med komentatorji :)

Kje si videl/slisal da je legalno za v promet?

Če bodo uspeli preko OTA vgraditi lidar, svaka jim čast.

V čem se ta MB razlikuje od Cadilac Super cruise?
- Je geo-fenced, na določene odseke nemških AC
- Ima kamero, ki nadzira voznika, če ta spi

Zmogljivost je morda boljša ampak v osnovi je to ista stvar, daleč od avtonomne vožnje.

Pa glede redundanc, ali ima ta MB morda dva "draga" Lidar senzorja v nosu? Redundance se pri neki ceni končajo, zanimivo, a ni?

J.McLane je 6. nov 2020 ob 16:20 izjavil:

V čem se ta MB razlikuje od Cadilac Super cruise?
- Je geo-fenced, na določene odseke nemških AC
- Ima kamero, ki nadzira voznika, če ta spi

Zmogljivost je morda boljša ampak v osnovi je to ista stvar, daleč od avtonomne vožnje.

Pa glede redundanc, ali ima ta MB morda dva "draga" Lidar senzorja v nosu? Redundance se pri neki ceni končajo, zanimivo, a ni?

MB ima pravi level 3 sistem, medtem ko je super cruize level 2+ z nekaterimi funkcijami level 3, kot Tesla. Kar na koncu se vedno zahteva stalni nadzor s strani voznika, in ne sposobnost prevzema znotraj intervala prevzema. "Hands free" ni enako Level 3.

Pri level 3 mora bit sistem razvit tako, da v avtonomnem nacinu deluje dovolj varno vse do konca intervala, znotraj katerega mora voznik prevzeti volan. Zaradi te zahteve ima MB precej vec stvari kot dveh, ki si ju nastel.

Ni ista stvar. In ce smo striktni, je to avtomatizirana voznja (na AC). Avtonomna je bila prikazana v garazi.

Glede redundanc: video ze ni tako dolg, ce te zanima.

Se strinjam, prej ali slej bodo vsi zadeli ob problem prepoznave in klasifikacije objektov, ko imaš ta problem rešen je Lidar samo mrtva teža in strošek, ker si z njim pri tem problemu nimaš kaj pomagat. Torej govorimo o tem da ob cesti prepoznaš ali ob robu stoji otrok ali kanta za smeti, glede na to mora sistem reagirati bistveno drugače. Potem imaš še gibanje drugih objektov in njihov trajectory ni vseeno kateri objekt zaznaš, da se ti giblje pred nos.

Ne, samo premislil nisi dobro. Meni je ocitno, da, ce bi vsi vozniki vozili pozorno, spociti, po pravilih itd, je moznost nesrece smesno majhna. Ne rabis nobene izredne sposobnosti voznje ali extra senzorike. V bistvu, ce bi robot vozil pozorno, spocitno itd. kot slabi vozniki, bi do nesrece prislo zelo tezko.

ZELO zanimivo je gledati videoposnetke FSD testerjev, ker sele takrat dojames koliko nenavadnih stvari se dogaja na ulici. Vsa poanta je v treniranju nevronske mreze, da razpoznava in RAZLOCUJE kontekste. Kako lep ovinek dela, je v resnici nepomembno problem. To lahko glancas na koncu. Ce je cilj res avtonomna voznja seveda - ne verjamem, da imajo ostali avto proizvajalci res ta cilj.

codeMonkey je 7. nov 2020 ob 19:33 izjavil:

Itak, v idealnem svetu, kjer lahko kar brez zadrzkov enacis sposobnost razumevanja in zaznavanja cloveka s strojem. Cudezne nevronske mreze bodo resile vse, kajne.

Pomesal si vrstni red. Ja, nevronske mreze niso cudezne -> mozgani niso cudezni.

codeMonkey je 7. nov 2020 ob 19:33 izjavil:

V realem svetu nihce v resnici nihce ne ve ali je ta problem v doglednem casu sploh resljiv. In tudi ce je resljiv, kaksen harver je potreben za procesiranje ter zagotavljanje potrebne varnosti. Ravno zaradi tega vsak, ki ze danes trdi, da ima HW za to apiklacijo, bodisi laze, ali pa ne ve o cem govori. Cudezno pa so cudni vsi ostali, ki zelijo ta problem resevati postopoma, da se sproti razvijejo ustrezni procesi, zakonodaja, hardver in softver, na nacin, da je varnost ves cas obvladljiva.

Ce je problem resljiv v "doglednem" casu ne vemo - sploh, ker nisi definiral kaj je dogledno. Vemo, pa da je resljiv - razen ce verjames v dualnost in za cloveske mozgane ne veljajo isti fizikalni zakoni, kot za stroj. Vemo tudi koliko wattov kurijo mozgani. HW ima dovolj moci, vprasanje je le, ce je dovolj ucinkovit. Poleg tega HW pac upgrades na 2-3 leti.

Vsi, ki zelijo razvijati pocasi in preudarno, nimajo nikakrsnih moznosti. Tako ne deluje inzeniring. Zmaga tisti, ki se hitro/ucinkovito in loti problemov - ne tisti, ki isce konsenz, rise hiearhije po papirjih, ustanavlja komiteje, prodaja desetletne plane ipd.

Preveliko spostovanja do mozganov je na tem forumu. Popolnoma iracionalno!

Nekaj je marketing, drugo je realnost. Mislim, da novi HW pride ze naslednje leto. Morda 2022, ne spomnim se tocno.

Tako lahko obrneš zgodbo za vsakega udeleženca v prometu; mene pa recimo čudi, koliko kolesarjev ne spoštuje prometnih predpisov sploh, vozi čez polno rdečo ipd. in če ne bi bil kot voznik posebej pozoren na njih (ker pač moraš biti, ker si le v večjem in težjem vozilu), koliko trkov z njimi bi bilo po cestah. Tako da prav vsak udeleženec v prometu mora biti pozoren tudi na ostale udeležence, le da morajo biti tisti, ki upravljajo z večjim, hitrejšim itd. vozilom še toliko bolj; ker eno je če trčita dva pešca drug v drugega, drugo pa, če ti z avtom trčiš v pešca, ne glede na to, kdo je bil bolj kriv za povzročeno nesrečo.

kow je 8. nov 2020 ob 10:56 izjavil:

Ce je problem resljiv v "doglednem" casu ne vemo - sploh, ker nisi definiral kaj je dogledno. Vemo, pa da je resljiv - razen ce verjames v dualnost in za cloveske mozgane ne veljajo isti fizikalni zakoni, kot za stroj. Vemo tudi koliko wattov kurijo mozgani. HW ima dovolj moci, vprasanje je le, ce je dovolj ucinkovit. Poleg tega HW pac upgrades na 2-3 leti.

Kako lahko hkrati trdis da ima HW moci dovolj, ni pa jasno ce je dovolj ucinkovit? Bom poskusil z analogijo: cloveski mozgani so EV, medtem ko je AI vozilo z ICE. Nobeno vozilo ne krsi nobenega fizikalnega zakona. Lahko nekoliko vecamo ucinkovitost, tj. se igramo z odpiranjem in zapiranjem ventilov, turbinami ipd. Vseeno je ocitno, da z izkoristkom nismo niti blizu. Pri tej aplikaciji seveda. Kje je meja, je za analogijo iz termodinamike jasno, za AI takega modela zal nimamo.

kow je 8. nov 2020 ob 10:56 izjavil:

Tako ne deluje inzeniring.

Tocno tako deluje. Je pa bilo to vedno tezko razumeti kaksnemu teoreticnemu fiziku, matematiku, programerju enostavnih spletnih strani ipd. Pa ne, da bi jih zaniceval, samo malo izmed njih je inzenirjev, ker pac opravljajo drugacno vrsto dela.

kow je 8. nov 2020 ob 10:56 izjavil:

Preveliko spostovanja do mozganov je na tem forumu. Popolnoma iracionalno!

Itak. Precej bolj racionalno je pri kriticnih zadevah brez pomislekov zaupati abstrakciji mozganov za katero je precej dobro znano na katerih podrocjih ni niti blizu cloveskim. Pa se to preden znamo dobro definirati kako naj bi postavili kriterije za to abstrakcijo, jo validirali, in konec koncev prisli do konsenza kaksne napake so druzbeno sprejemljive. Ker se pac enemu kapitalistu mudi.

To je tako vseeno, ker pri Tesli še leta ne bodo imeli pravega HW za L5. Tudi vprašanje za koliko časa ti zagotavljajo to posodobitev in pod kakšnimi pogoji.

Tako kot EV še danes niso prava stvar, pa je tema odprta že 13 let (ali nekaj takega), tudi tole čez 13 let še ne bo zrelo za tako trditev. To da zna zamenjati pas na AC, niti pod razno ni avtonomna vožnja.
Pod avtonomno vožnjo si jaz predstavljam avto, ki pride kamor želiš, brez šoferja. Ga bipneš, pride in te odpelje, kamor želiš. Tega pa niti v ZF filmih ne prikazujejo. Še tam gredo vedno po nekih "tirnicah".

Ne vem na osnovi cesa predpostavljas, da nihce drug ne poskusa priti do L4 in L5 avtonomnosti. Drugi prav tako delajo na tem, le manj se o tem govori. Kljucna razlika pa je v pristopu. Pri Tesli bi radi vse naenkrat (neomejen "operational design domain"), medtem ko ostali zagotavljajo dobro definirane pogoje, ki bi se postopoma sirili. Torej do FSD preko level 3 in level 4 sistemov. Zakaj tako? Ker na drug nacin ni mogoce na obvladljiv nacin primerjati performans takega sistema s clovekom. Niti definirati zahtev. Cisto statisticno gledano.

Glede napacne analogije in ostalih replik, bi bilo za neko debato fino, da bi se potrudil argumentirati ali pa navesti kaksen link na resno referenco.

Andrew Ng je recimo eden glavnih na tem podrocju in trdi tole:

Machine learning is good at getting your performance from 90% accuracy to maybe 99.9%, but it’s never been good at getting us from 99.9% to 99.9999%. I think it is more promising to start with a different goal: A shuttle/bus that can only drive one bus route or just in a small region. If we can make sure that route’s road surface and lane markings are well maintained, that there’s no construction, etc. then we’re within striking distance of making that truly safe. This then lets us slowly add routes and gradually grow the regions in which we can drive safety. This is the approach we’re taking at Baidu; I hope other groups will also adopt this approach.

Temu lahko reces overengineering, ampak stroka v veliki vecini tega ne vidi tako.

In ja, lidar seveda ne bo resil avtonomne voznje, nihce tega ne trdi, ampak vse kaze, da bo eden kljucnih kosckov v mozaiku (iz cisto konkretnih tehnicnih razlogov). Protiargument je na drugi strani le filozofski trenutno (analogija s clovekom, ki pa je, za razliko od moje zgoraj, prava).

Na noben nacin ne prides na 100%, lahko pa se potrudis prilagoditi stvari tako, da je to, kar imas trenutno na voljo, dovolj. In pa da si zmozen oceniti ali je res dovolj. Samo za to gre.