Tesla povečala proizvodnjo in prodajo vozil

Pa je za tehniko v službi človeka sprejemljiv nivo kot ga poznamo dandanes?
Na področju letalstva, jedrske varnosti se manda nekaj spreminja.
Tu se odpira čisto nov segment "avtomatike", ki zagotovo ne bo dopuščal navezave na privzeto.
Sam spomni se kako je bilo, ko je tisti Uber al čigav je že bil sesul kolesarko. ...

deco16 je 3. okt 2024 ob 10:44 izjavil:

1280x720 kamera pač ni oko, in nikol nebo. Tudi prilagaja se ne tako dobro kot človeško ok.

Radar je sposoben zaznat stvari ki jih mi ne vidimo, v megli, in drugih slabih vidljivostih.

Kamera počepne. Človek ma predvidlivost kje naj bi ble črte itd.

Nismo še tam, in še dolgo nebomo. Žal ;)

Čeprav vem da bi me radi prepričali kontra...

oko ima 576 megapixlov, vsaka kamera jih ima danes več, tako da imaš prav, kamera nikoli ne bo več tako slaba kot oko

Sparrow je 4. okt 2024 ob 00:54 izjavil:

Tesla načrtno jemlje radarje ven iz obstoječih vozečih avtomobilov in se zanaša samo na kamere. Z pomočjo AI-ja se je 3D zaznavanje okolice znatno izboljšalo pri Teslinih avtomobilih.

Drzi da nacrtno, ampak oni gredo predvsem v to, da se jim ni treba ukvarjati z dodatnim pipelineom, fuzijo senzorike. To je ze Karpathy razlagal. Torej da so hitrejsi, ne pa da zadostijo potrebam za sisteme nad level 2. Dokler oni niso na vsaj level 3 sistemu, kjer se ne zanasajo na odpoved kjerkoli in kadarkoli in da bo to reseval voznik, ne mores tega jemati, kot ustrezno resitev. Vse super, dokler delas samo fail safe sistem.

codeMonkey je 4. okt 2024 ob 10:09 izjavil:

Karamelo je 4. okt 2024 ob 09:24 izjavil:

deco16 je 3. okt 2024 ob 10:44 izjavil:

1280x720 kamera pač ni oko, in nikol nebo. Tudi prilagaja se ne tako dobro kot človeško ok.

Radar je sposoben zaznat stvari ki jih mi ne vidimo, v megli, in drugih slabih vidljivostih.

Kamera počepne. Človek ma predvidlivost kje naj bi ble črte itd.

Nismo še tam, in še dolgo nebomo. Žal ;)

Čeprav vem da bi me radi prepričali kontra...

oko ima 576 megapixlov, vsaka kamera jih ima danes več, tako da imaš prav, kamera nikoli ne bo več tako slaba kot oko

To je dalec od vseh parametrov. Kamera serializira vse piksle in potem se vse zaporedno poslje do CPU-ja/GPU-ja kjer se procesira, niti priblizno tako paralelno, kot v mozganih. En single point fault na tej poti pomeni izgubo celotne slike. Pri ocesu pa je vsak tak "pixel" direktno povezan z nevronom. Kje so potem stvari kot je merjenje globine s fokusiranjem, ter stereo vidom, kar je precej komplicirano narediti mehansko, kaj sele procesirati. Pa stvari kot so "dynamic range", vid pri slabi svetlobi, ipd. Bi rekel, da oko ni tako svoh, ko ga primerjas z neko tako poceni avtomobilsko kamero.

ampak to je procesiranje, poleg tega pa redko katero oko je 100%, z leti ta procent konkretno pade in to lahko v prometu pomeni že pravo loterijo

kow je 4. okt 2024 ob 10:23 izjavil:

Ko govoris o odpovedi, o cem tocno govoris? Racunalniku? Avto ni avion, kjer odpoved krmiljenja pomeni 100+ mrtvih. Tudi voznik lahko med voznjo dozivi napad ipd., pa ne zahtevamo da sta v avtu vedno 2 voznika.
Zadeva niti priblizno ne rabi toliko redundance kot avionika.

Avto je avto in imamo standarde za to. Sistematicna napaka na avtu lahko pomeni tudi 100 mrtvih, ce se ne reagira dovolj hitro, ker je pac prisotna v vsakem vozilu na cesti. Tudi nakljucne odpovedi, ce ne dosezes dovolj dobrih metrik sistema, se lahko dogajajo prepogosto, in je spet vec mrtvih, kot je druzbeno sprejemljivo. Zato pa je tu standard prilagojen za vozila. Je pa v avtomobilski industriji do zdaj bilo relativno enostavno se, ker je bila vecina sistemov fail safe (imas varno stanje pri odpovedi), medtem ko se zdaj pojavljajo prvi fail safe sistemi (prvi so x-by-wire, pa nato level 3 sistemi itd.), kjer se tezavnost bistveno poveca, ko zadeva mora delati, kljub napakam. Teslin sistem, ki se zanasa na voznika, ni tam, in si zaradi tega privoscijo mariskaj.

codeMonkey je 4. okt 2024 ob 10:35 izjavil:

kow je 4. okt 2024 ob 10:23 izjavil:

Ko govoris o odpovedi, o cem tocno govoris? Racunalniku? Avto ni avion, kjer odpoved krmiljenja pomeni 100+ mrtvih. Tudi voznik lahko med voznjo dozivi napad ipd., pa ne zahtevamo da sta v avtu vedno 2 voznika.
Zadeva niti priblizno ne rabi toliko redundance kot avionika.

Avto je avto in imamo standarde za to. Sistematicna napaka na avtu lahko pomeni tudi 100 mrtvih, ce se ne reagira dovolj hitro, ker je pac prisotna v vsakem vozilu na cesti. Tudi nakljucne odpovedi, ce ne dosezes dovolj dobrih metrik sistema, se lahko dogajajo prepogosto, in je spet vec mrtvih, kot je druzbeno sprejemljivo. Zato pa je tu standard prilagojen za vozila. Je pa v avtomobilski industriji do zdaj bilo relativno enostavno se, ker je bila vecina sistemov fail safe (imas varno stanje pri odpovedi), medtem ko se zdaj pojavljajo prvi fail safe sistemi (prvi so x-by-wire, pa nato level 3 sistemi itd.), kjer se tezavnost bistveno poveca, ko zadeva mora delati, kljub napakam. Teslin sistem, ki se zanasa na voznika, ni tam, in si zaradi tega privoscijo mariskaj.

To je birokratsko filozofiranje in je neumnost. Pameten pristop je pac opazovati kaj se v praksi dogaja, nato pa prilagajati zakonodajo. Ce je teoreticno mozno, da avto pobije 100 ljudi, pa se to zgodi globalno enkrat na 10 let. Je to premalo smrtnih zrtev, da bi se splacalo s tem ukvarjati. Vsaj dokler mocno ne zmanjsamo stevilo "obicajnih" nesrec.

Saj imamo tudi danes kaksen procent nesrec, ki jih povzroci "mehanska" napaka, pa neke strasne panike ne delamo. Veliko vecji problem je neprilagojena hitrost, alkohol ipd.
Ampak ja razumem kaj hoces povedati. Napisali so standarde (prehitro), zdaj pa je potrebno temu prilagajati inzeniring -> ogromni stroski.

Sparrow je 4. okt 2024 ob 10:42 izjavil:

Imaš harware redundanco kar je relativno enostavno rešljivo. Pri Teslah ima vsak avto 2 inferrence računalnika če bi slučajno primarni odpovedal.

Kar se tiče prevzem situacije ko AI v avtu ne zna rešiti situacije je pa drug problem. Tudi mene zanima kako bodo tukaj reševali robne primere. GM-ov Cruise je recimo dovoljeval operaterjem da so se na daljavo povezali z avtom in prevzeli kontrolo. Seveda ima tak pristop očitne probleme, da avtonomne vožne spet ne moreš scale-at hitro in da avtomobili niso več avtonomni če zgubijo podatkovno povezavo.

Zanimivo je to, da so pri visokih hitrostih avtonomni sistemi že danes sila zanesljivi (avtoceste, hitre ceste). Tam je tudi največ nevarnosti za smrtne žrtve.

Največ težav imajo pri robnih primerih kot je recimo delo na cesti z enim zaprtim pasom in nejasno signalizacijo.

Redundanca je lahko taka, da ti resuje odpovedi zaradi nakljucnih napak in taka, da ti resuje odpovedi zaradi sistematicnih. Primer za prvo bi bil, ko imas dve kameri, pa ti ena crkne, in imas se vedno drugo. Lahko se pa zgodi, da imas nek robni pogoj, ko odpovejo vse kamere (sonce, slaba vidljivost za vgrajen senzor, ...), v tem primeru imas problem na obeh kamerah. In ce nimas alternativne resitve, ki deluje na drugem principu, imas problem.

To, da je take sisteme lazje realizirati na AC niti ni presenetljivo. Nasprotni pas je locen z ograjo, ljudi ni, ovinki so blazji in naceloma ni tako tezko ustrezno prilagajati hitrost, ... Naceloma bi lahko kmalu prisli do nekih uporabnih level 3 sistemov tu, ampak kot si omenil, potrebna je ustrezna infrastruktura za robne primere, ki jih vseeno tudi za ta scenarij ni malo.

Pa naceloma redundanca z dvema sistemoma ni nujno zadostna za fail operational sistem, ker ne ves katera od dveh je problematicna. Zato imas v letalih po tri. Je pa zadosti za fail safe sistem, ker na ta nacin zves, da imas napako in sistem pac spravis v varno stanje. Torej spet je to resistev bolj za level 2.

Nisi razumel na kaksen nacin odpovejo

kow je 3. okt 2024 ob 08:16 izjavil:

Percepcija okolja ni glavni problem samodejne voznje. Pojdi cez vse prometne nesrece v slovenski kroniki in mi pokazi eno, ki se je zgodila, ker nekdo ni dobro videl. Prakticno vse nesrece so zaradi nepozornosti, neumnosti, drog ipd.

Tesla ob malenkost mocnejsem dezju izklopi enhanced avtopilota in samodejno prehitevanje. Zaenkrat predvsem zaradi tega, ker ne vidi. Ljudje se vedno vozijo in prehitevajo brez tezav.

Tudi starim in na pol zbrisanim crtam, ki se koncajo v ograji zna vcasih slediti. :D

Sparrow je 4. okt 2024 ob 23:32 izjavil:

Mislim da razumemo besede različno. Če te prav razumem codeMonkey uporabljaš "odpovejo" za robne primere kjer bo hardware sam po sebi še vedno deloval, vendar kamera ne zajame dovolj kvalitetne slike v okoliščinah v katerih se znajde npr. gosta megla, direktno sonce, intenziven dež?

Se mi zdi da imajo kamere podobne kapacitete za zajem slike kot naša očesa. S tem da je mogoče s post processingom videa povečati/pomanjšati kontraste in narediti težko vidne stvari še bolj vidne. Bi si mislil da vsaj v okoliščinah kjer človeški vid deluje bi morale kamere isto.

Karpathy ( ki je nekaj časa nazaj zapustil Teslo) je razlagal da zajemanje okoliša z večih različnih senzorjev predstavlja več šuma kot koristne informacije. In je lažje in učinkovitejše uporabljati zgolj video posnetke, kot pa tem dodajati radar/lidar.

Poglej si kaj so sistematicne in kaj nakljucne napake (systematic and random faults). Ne gre nujno samo za hardver, ampak za vse skupaj, ko v doloceni situaciji zadeva ni ustrezno zaznana ter sprocesirana, in posledicno ta napaka pripelje do kriticnega scenarija. Nekako tako, kot da nek posameznik nima najboljsega perifernega vida, in ga to spravi v nevarno situacijo. Ampak smo na sreco ljduje razlicni, medtem ko bi tak sistem tako ravnal cez celoto floto vozil, kar je bistveno bolj kriticno. Zato tudi omjetive (prej omenjen ODD) s strani regulative, da se sistem ustrezno lahko statisticno v normalnem casu dokaze (na obvladljivo stevilo prevozenih kilometrov), ter tudi omeji posledice, ce se ne dokaze. Pa seveda tudi, da se problem poenostavi, in take resitve prej pridejo do uporabnikov.

Kamere so pa ocesa tako kot so robotske noge enake cloveskim. V necem boljse, v mnogih drugih stvareh slabse - kot npr. zgoraj omenjen paralelen zajem ter procesiranje; oko ni omejeno na linearno obcutljivost pri detekciji, ima poleg "rgb" fotoreceptorjev tud take, ki so obcutljivi na intenziteto; sirok dinamicen razpon; idr. Ko omenjas postprocesiranje, ti to pac cudezno ne more dati podatkov, ki jih senzor ni zajel - ce bi slo, bi lahko s postprocesiranjem slike dobil detajle, nekako tako kot v filmih, ko cudezno povecujejo slike. Z nevronskimi mrezami sicer hitro prides do detajlov, kjer lahko na nek neznan nacin uganejo pravilno, ali pa se pojavijo halucinacije in ne dejansko stanje. Bistvena stvar, ko govorimo o kamerah pa je ta, da je enostavno pri tem princupu zadaj taka fizika, da ta zahteva ogromno procesiranja, da bi dobil informacijo o oblikah, prostoru ipd. To pa je v praksi lahko nenatancno, nevarno, pocasno in tudi drago - in ti filozofiranje, da tako deluje clovek cisto nic ne pomaga.

Fino je na nek hiter nacin preveriti vse skupaj z enostavnimi fizikalnimi principi, in ne da bi pr item dodajal se vec intenzivnega preracunavanja z black box pristopom. LIDAR je pri tej aplikaciji ena izmed teh resitev, saj je vhodni podatek ze prakticno "sprocesiran", ker je v ozadju enostaven fizakalen nacin, ki ti daje oblak tock, pri tem pa za to ne zahteva niti piblizno takega procesiranja, kot kamere - v mnogih pogledih je LIDAR kot kolo napram cloveski nogi, ce je kamera kot robotska noga :D. V tem primeru odstopanja (napake ali halucinacije, ki so posledica zajemanja in intenzivnega preracunavanja) na relativno lahek nacin odkrijes. Zaradi podobnega razloga so tu tudi mapiranja, kot dotaten input (nekaj je bilo ze napisanega, da samo dva sistema nista dovolj v mnogih primerih, ker se vedno ne ves kateri se je zmotil - tudi LIDAR ima svoje nacine odpovedi). Sicer mapiranje resuje tudi druge stvari (odpovedi pri navigaciji, komunikaciji in GPSu). Potem dodata svoje prednosti tudi radar in ultrazvok.

Z umetnimi nevronskimi mrezami ti je na koncu podobno kot zograj, pri nogah, ker so pac abstrakcija nekih naravnih sistemov. Te v nekaterih zadevah totalno odpovedujejo, ali pac ne dajejo ustreznih rezultatov v potrebnem casu. V nekaterih tudi bistveno boljse. Dodatni senzorji tako nadomestijo dolocene pomankljivosti v teh pogledih. Pri tem ti mapiranje da ze bistveno prej informacijo o ovinkih, potrebnem pozicioniranju, ko se vozilo priblizuje kriziscem, itd., kar olajsa zahteve za procesiranje v realnem casu. Nekako upamo, da z vecimi senzorji nadoknadimo to, da je vozilo "tumpasto".

Recimo en primer. Ravno preden je Karpathy odsel (ce se ne motim, je bilo malo pred tem), so sele nekako vgradili v sistem neaksen kratek spomin, ko recimo drugo vozilo, ki pride mimo z leve kamere, se pricakuje nato tudi spredaj oz. zadaj (odvisno od smeri). Pred tem sistem ni imel nobene predstave v tem smislu - lahko je zginilo kadarkoli. Podobno je s spreminanjem karakterizacije objektov, ki jih vozilo zaznava. Ti ne ostanejo fiksni, ko so enkrat detektirani, recimo pri najboljsih pogojih, ampak se enostavno spremenijo, ce jih kaksna slabsa kamera pod slabsim kotom okarakterizira drugace. Ko jaz prehitevam tovornjak in ga vidim, ko se mu priblizujem, mi je jasno, da je to se vedno ta tovornjak, enkrat, ko je ta v perifernem vidu. Pa to je le primer, necesa samoumevnega za mozgane in ni niti mozno nasteti kaj vse mozgani delajo drugace seveda.

Za radarjem in sumom pa je pac tako, da pri Tesli zagotovo niso posvecali precej razvoja v tej smeri, pa tudi res je, da se pricakuje boljse in se na tem tudi dela. Ampak, spet, njihova odlocitev je bila zaradi stroskov in poenostavitev - "best part is no part" mentalitete Muska.