Zakaj so avtonomna vozila prava stvar

Itak, simpl ko pasulj.

Govoris o overengineeringu in to v kontekstu specializiranih senzorjev pri varnostno kriticni napravi. Me prav zanima na kaksni osnovi to predpostavljas, ker meni to zgleda normalna stvar.

Nek enostaven piezoelektricni senzor, ki ima zraven se mocnostno elekroniko, AD pretvornik ter procesorcek, ki po precej enostavni obdelavi signala po CAN vodilu podatek poslje naprej, je torej overengineering. Ni pa slikovni senzor, katerega signal gre v precej kompleksen HPC, na obdelavo z algoritmom, ki ga v osnovi nihce ne pozna, in za namecek potrebuje za nekaj razredov vec preracunavanja in strojne opreme, kjer lahko pride do napak. Za enako stvar. V obeh primerih verjetno lahko dobis nek rezultat, ampak kaj pa failure rate?

Zdaj, ali meni tukaj nekaj ni jasno, v tem primeru sem radoveden, ali pa ti zanemarjas en kup stvari, ko trdis kako je namenski senzor overengineering.

Nemci so svojim overengineeringom prakticno level 3 ready, pa ceprav za precej omejene pogoje, ki so zdaj legalni. Imajo vgrajeno crno skrinjico in prevzemajo krivdo, ce bo slo kaj narobe. Kje so pri Tesli s svojim sistemom? Je kaj govora v to smer? Ali ostajajo pri filozofiranju kako se mora take sisteme delati, pri tem pa ostajajo na level 2, da je za vse kriv voznik?

Ta senzor je narejen za potrebe danega sistema. Za kaj bolj naprednega bo potrebno vec, vsekakor pa precej tezko manj. Oz. bo potrebno pokazati, da je to manj res bolje, ampak bolje ne v ekonomskem smislu, ampak tudi v tehnicnem. Zelo verjetno bo na koncu to reseno z dekoponzicijo, kjer bo strojni vid zaznaval stvari, ampak ta sistem ne bo obravnavan kot kriticen, ker je prevec kompleksen, zato bo imel enostavnejse senzorje, ki pa bodo kriticni, in ga bodo "preverjali".

Tekoci promet sicer ni na meji zdrsa, imas pa vseeno primere, ko je nekdo lahko ultra previden v nekem ovinku, pa konca v jarku. Pa ceprav je vozil 15 km/h, bo na koncu to neprilagojena hitrost in si bo kriv sam. V primeru avtonomnih sistemov bo pac proizvajalec. Precej bolj zanesljivo bo ODD level 3 in level 4 sistema omejiti tako, da so stvari z danim stanjem tehnike obvladljive. In te omejitve itak ne bodo prisle s strani proizvajalcev.

*z dekompozicijo

Ponavadi se zatakne pri ceni, investicije v infrastrukturo so vedno problem.

kow je 23. sep 2021 ob 14:55 izjavil:

Failure rate je lahko "ogromen", pa bo se vedno bolje kot povprecen voznik. Predlagam ti, da beres crno kroniko. Da bos dobil obcutek zakaj ljudje umirajo

OK, leva stran na Dunning-Kruger krivulji torej.

Zakaj bi bil pa jaz "butelj"? Mene samo zanima kako bo bistveno vec racunanja na platformah z vedno manjso tehnologijo izdelave lahko konkuriralo enostavnim resitvam, ce pa je ze zdaj vcasih precej tezko zagotoviti potrebno varnost pri kompleksnih sistemih. To zanima precej ljudi danes. Najlazje se je enostavno zapiciti v eno precej abstraktno idejo, jo neprestano ponavljati, in trditi, da je to to, vse ostalo pa zgreseno. Kje so argumenti? Kje so kaksne ideje kako bo zadeva boljsa? Kako bo odpornost na nakljucne napake takega sistema dovolj dobra? Kako na sistematicne?

V drugi temi je lep primer izjave predstavnika Intela, ki podobno trdi, da so avtomobilski proizvajalci dinozavri, ker so na 40 nm tehnologiji. Hkrati pa nimajo nic konkurencnega, kar bi clovek recimo zelel vgraditi v en ABS modul ter s tem od njih dobil vse kar spada zraven - safety manual z vsemi failure mode-i in rate-i, dual lockstep zasnovo, itd. Pa da vidimo kako so konkurecni.

MCAS je spravljal letala na tla zaradi senzorja, ne napacnega racunanja. Racunal je prav, samo vhodni podatki so bili zanic. Zato, se enkrat, avtonomno vozilo je specifika in spada pod problem "systems engineeringa" in ne izkljucno computinga. To ni sah, kjer imas nek AI, pa gledas kako je dober v primerjavi s clovekom. To je milijon sahov naenkrat, in ce se kje kaj zakalkulira, kje kaksen bit preskoci, se zelo verjetno lahko nekdo poskoduje, ali pa umre.

Da bit preskoči, se da ugotovit. Da senzor ne dela pravilno je težje. Kot je tudi MACS dokazal.

MCAS ni nicesar v tehnicnem smislu dokazal, tu so bile stvari jasne. Dokazal je le to, da ekonomski vidik ne sme pri takih produktih posegati v tehnicnega. Vsakemu razvojniku na podrocju varnostno kriticnih naprav je jasno kaj se okoli senzorja lahko zgodi, kako to vpliva na celoten sistem, in tudi kako resiti problem s senzorjem. Je pa tu odvisno od kulture v organizaciji, ali bo glas takega razvojnika uslisan. Torej, ali je npr. LIDAR ali piezoelektricni senzor za dez pri nekem avtomobilu potreben, mora biti posledica teh postopkov, glede na to kaj se trenutno da narediti, in sele nato stvar filozofije sefa in ekonomske racunice. Ce ne gre skozi, nimas produkta.

Zato dalec od tega, da je pri razvoju varnostno kriticnih sistemov ekonomski vidik kljucen. Kljucno je zdravo razmerje med ekonomskim in varnostnim, kjer razvoj ni prevec omejen na eni strani, in produkt ne predstavlja nesprejemljivega tveganja za ljudi na drugi. Predlagana resitev, da nekaj obesis na voznika, zato ker noces imeti dodatnega senzorja, je lep primer nesprejemljive logike. Ce je zadeva kriticna, bodo na koncu posledice itak drazje od senzorja.

Vec racunanja je itak normalna stvar, in je vsem jasno da gre v to smer. Ni pa to cela zgodba.

Ce je zadeva kriticna, bodo na koncu posledice itak drazje od senzorja.

Ja, ampak cena senzorja je na firmi in se dobiček privatizira, 'cena' človeka je pa na družbi in se socializira. Tako nekako gre mantra.

Problem senzorjev je v tem, da jih rabiš en kup, pa še zmeraj ne veš, če jih imaš dovolj. Koliko senzorjev ima pa človek? Preklemano malo. Ima pa veliko računsko moč.
Ko je enkrat vid dovolj dober, da nadomesti nek senzor, je dodaten senzor za to samo dodajanje zmede.

Clovek ima v bistvu en kup senzorjev. Ucenje in treniranje CPUja pa se zacne ze pri rojstvu. Izkusnje, ki jih pridobivas skozi celo zivljenje ti omogocajo, da na koncu dneva lahko kolikor toliko varno pripeljes na cilj. Tukaj je en kup predvidevanja in sklepanja, ki ga vecina od nas niti popisat ne zna, kaj sele, da bi ga sprogramirali. In ne glede na vse, se trenutni ML algoritmi se nekaj casa ne bodo ucili tako kot se uci clovek.

Res pa je, da je CPU pri receh, ki jih prepozna, vseeno bistveno hitrejsi in boljsi od cloveka.

kow je 24. sep 2021 ob 08:26 izjavil:

Se bolje je, da se z dezjem in slabim cestiscem kaj veliko sploh ne ukvarjas (razen, ce se izogibas kaksnemu fundamentalnemu problemu, ki ga moras razresiti - pa mislim, da se ne..). Pa napises v manual, da je voznik odgovoren, da spremlja razmere.

Ti lahko definiras svoj sistem le za "soncne dni" in "dobre ceste". In takih pogojev je nekaj 100 ali 1000 v osnovi. Ampak kaj to pomeni v praksi? Kako je to definirano? Mislis, da res lahko voznik ugotavlja kdaj in pri kaksnih pogojih je nek sistem, katerega on le uporablja, na meji uporabnosti in nesprejemljivega tveganja?

Ne more. Zato pa so izumili koncept "operational design domaina", ki je stvar level 3 in level 4 sistema. Ko je "operational design domain" dobro definiran, je stvar sistema, da te meje skrbno spremlja in ustrezno reagira, ko se pogoji blizajo mejam. Nujno sistem, ne voznik. Torej, tudi ce se ti odlocis da je tvoj sistem le za "soncne dni", mora sistem imeti sposobnost ugotavljanja, da je trenutno res "soncen dan". Ce se je sistem zmotil in je vozil v "malo manj soncnem" ali "oblacnem dnevu", in se je stvar slabo koncala, je s tem kriv proizvajalec.

Na koncu rabis "senzor", pa ceprav sistem ni za dez.

Aja? Človek če vozi nek basic avto iz 80ih, bo vseeno prišel dokaj varno na cilj, če ne bo divjal. Pa ne bo vedel niti on niti avto kolk je temperatura zunaj, znotraj, asfalta, koliko gume zdrsavajo, ali so pravilno napolnjene itd. To kar človek začuti na volanu ali zavori, komot začuti tudi CPU z nekaj senzorji. Potem pa človeku ostane samo še vid.

Od oka je v zahodnem svetu clovek vreden razreda milijon evrov. Tega ti ne bodo na TV-ju rekli na glas, samo to je racunica.

BigWhale je 24. sep 2021 ob 09:10 izjavil:

Razlika med kamero + CPUjem in namenskim senzorjem je predvsem v tem, da za senzor lahko dosti bolj natancno ves, da ne deluje prav. Namesto enega uporabis dva ali pa tri. In te algoritme imamo ze razvite v veliki meri.

Kamero in CPU pa je treba se nauciti te stvari in pokriti vse edge case-e za katere se niti ne vemo, da obstajajo.

Pri senzorju z veliko gotovostjo veš, kakšen signal lahko pričakuješ in v primeru prevelikega odstopanja nastaviš opozorilo, pri kameri+cpu pa rečitve niso več enostavne, obstaja zelo široka možnost/obseg podatkov iz katerih moraš izluščiti uporabne in prave.

Npr. v nekem "kontroliranem" okolju, kjer kamera+SW spremlja talne označbe, prometne znake, primerne vremenske razmere. . , skratka predvidljive stvari, verjamem, da so sedanja samovozeča vozila sposobna vozit samodejno.

Vidijo ze. Samo klasificirati jih je tezko. Zaradi lebdece vrecke ali razpihanega listja pac ne smes pobremzati.

BigWhale je 25. sep 2021 ob 11:06 izjavil:

kow je 24. sep 2021 ob 09:33 izjavil:

Pa nekaj cutov (vid, sluh, tip..) oz. inputov. Je "kompleksno"? Ja, ker zaenkrat se ne razumemo dovolj. Ko bomo pogruntali, bomo ugotivili, da sploh ni "kompleksno".

Na zalost je voznja vec kot samo to. Ni zgolj to kar vidis in je direktno vpleteno v promet. Je tudi to kar vidis in je promet samo posredno. Imamo prakticno neskoncno situacij, ki jih clovek lahko predvideva vnaprej. Trije mulci, ki se prerivajo ob zogi v blizini ceste? Clovek bo upocasnil in jih spremljal. Romunski tovornjak s katerega bo vsak cas padlo nekaj tovora? Trojna varnostna razdalja.

Tesla je imela tezave, ce je imel avto zadaj na kljuki prtljaznik za kolo in kolesa na njem. Taksnih primerov je se nebroj. To je problem, ki ni resljiv tako enostavno.

Nikjer nisem trdil, da bodo firme kmalu snele volan. Itak, mi je neumno, da je toliko fokusa na 100p avtonomno voznjo. Tehnologija bo koristna mnogo prej.
Kar se tice tvojih 3 scenarijev, niso nic posebnega oz. se zdijo relativno enostavno resljivi. Ni se pa smiselno fokusirati na njih, dokler ne resis pomembnejsih reci. Jih tudi ni potrebno resiti takoj v popolnosti.

Najbolj logicno je v praksi videti, kjer so problemi - kot se je izkazalo pri Tesli, ko se je folk zaletel v resevalna vozila/policaje (ponoci) ob cesti. Bodo popravili, pa se gre dalje do naslednjega problema. Vse ostalo je recept za pocasen napredek. Bo zanimivo videti kako se bodo lotili regulacije v razlicnih jurisdikcijah.

Pa, da ne bos moj post razumel kot da zagovarjam, da jutri pustimo neukim mnozicam, da dobijo v roke "samovozece" avtomobile.

Ti ne razumes, da niso neodvisni, ampak imajo skupne znacilnosti (ce po cesti skace pes ali otrok, kaksne velike razlike ni). Drugace jih nasi mozgani ne bi znali handleati. Romunski tovornjak je najenostavnejsi. V bistvu je ze resen, ker lahko vedno overrideas avtomatski sistem.

Problem je, da ne vemo koliko dela je zadaj, kolikokrat posreduje operater itd. Drugace pa ja, zadeva je varna. Se najvecji problem je, da je precej pocasna in pa draga.

Govorim v splosnem. Kolikokrat voznik posreduje pri Tesli je precej transparentno. Samo sposodis si avto z FSD Beta in se posnames. Waymo pa nam pac ne posreduje feeda iz svojega centra.

Stevilo prevzemov oz. posredovanja se verjetno zelo razlikuje od lokacije, builda softwarja, casa voznje oz. prometa itd. V vsakem primeru je ocitno, da Waymo nima L4 (vsaj v San Fransciscu), drugace bi ze narocil 100k avtomobilov.

"tam kjer ga pac ima". Si me nasmejal.

Nikjer nisem napisal, da ima primerjava nek resen smisel, v smislu objektivne primerjave, ne vem od kod ti ideja. Je pa zanimiva in iz nje lahko nekaj potegnes. Waymo je se vedno precej pocasen, pa so ze dolgo v mestu. Enostavno vozi premalo agresivno. S tem izgubis ogromno potencialnih uporabnikov.

Kako ni agresivnost problem, ce pa je cas najbolj zazeljena dobrina poleg denarja. Taksisti naceloma vozijo zelo varno in tudi hitro. Kar pomeni, da bos moral ponuditi za pocasnejso avtonomno voznjo precej nizjo ceno. Menda ne mislis, da je avtonomni taksi sam sebi namen?