Zakaj so avtonomna vozila prava stvar

Waymo vs FSD primerjava:

Zato ker ne razumejo, kako te stvari dejansko delujejo v ozadju in se tega lotevajo bolj na "filozofski" ravni

Zakaj je voznik v Tesli? Grem stavit, da bos zgresil bistvo.

codeMonkey je 21. maj 2024 ob 10:42 izjavil:

Zakaj je voznik v Tesli? Grem stavit, da bos zgresil bistvo.

Ce pustimo certificiranje, legalnost, redundanco ipd. Ker sistem ni dovolj dober oz. zanesljiv, da ne bi bil potreben.

Mislim, da danes ze lahko Musku priznamo vizionarnost, ko je sel v "vision only" sistem. Na dolgi rok je software > hardware.

Taka nesreca je torej posledica sistematicne napake. Kamera vs. kamera + lidar, pa resuje nakljucne napake (odpovedi), kjer te tudi voznik resuje, in ko ga enkrat odstranis iz zanke, ni se nihce pokazal, da se da le s kamero (ker to je stvar sistemskega inzeniringa, ne softverja).

kow je 21. maj 2024 ob 15:19 izjavil:

Nosecnica s popadki vzame Waymo do bolnisnice. Ker waymo naleti na situacijo, ki je ne obvlada, se ustavi. Nosecnica izgubi otroka. Je waymo se vedno "pameten"?

Torej je bolje, da se z nosecnico v avtu kar zaleti in po moznosti poskoduje se koga drugega zraven? Kaj si pa zdaj hotel povedat? A resilci gredo tudi povsod na polno?

Brez takega sistema, s tako pomankljivostjo, bo ubil vec ljudi kot resil. To je jasno.

kow je 21. maj 2024 ob 15:19 izjavil:

Nosecnica s popadki vzame Waymo do bolnisnice. Ker waymo naleti na situacijo, ki je ne obvlada, se ustavi. Nosecnica izgubi otroka. Je waymo se vedno "pameten"? Naj uganem, v drobnem tisku bo pisalo, da Waymo ni odgovoren.

A bolj butastega primera si nisi mogel izmislit?

Waymo je, tam kjer operira, L4/L5 sistem. Teslin FSD je L2 se vedno. A bo kdaj L4/5 pa ne vemo. Morda bo, ampak do takrat pa tvoja hipoteticna nosecnica ne more s Teslo v porodnisnico.

Za nosecnico, ki mora v porodnisnico je dalec najbolje, da poklice resilca. Bodo porodili otroka tudi v prometnem kolapsu, ce bo treba. Waymo in Tesla tega ne bosta nikoli sposobna. :>

BigWhale je 21. maj 2024 ob 15:32 izjavil:

kow je 21. maj 2024 ob 15:19 izjavil:

Nosecnica s popadki vzame Waymo do bolnisnice. Ker waymo naleti na situacijo, ki je ne obvlada, se ustavi. Nosecnica izgubi otroka. Je waymo se vedno "pameten"? Naj uganem, v drobnem tisku bo pisalo, da Waymo ni odgovoren.

A bolj butastega primera si nisi mogel izmislit?

Mora biti butast, da ga razumes tudi ti.

codeMonkey je 21. maj 2024 ob 15:33 izjavil:

kow je 21. maj 2024 ob 15:28 izjavil:

Dokler bo voznik za volanom, tvoja trditev ne drzi. Ce bi bil striktno potnik, potem morda. Pa se to nisem preprican.

Zakaj ze? Veliko bolj preprosti "anti-collision" oz. "collision avoidance" sistemi resijo mnogo situacij, brez potrebe, da te zapeljejo v vlak, resevalno vozilo, prikolico itd.

Nehaj ze padati na "selection bias". Statistika bo na koncu pokazala kako varen je sistem, ne pa "tvoji obcutki" kaksen sistem je primeren za kaksno situacijo. Je pa potrebno nekaj vedeti, ce je sistem 2x varnejsi kot povprecen voznik, ga jaz definitivno ne bom uporabljal. Mora biti bolj 10x, ker je distribucija sposobnosti voznje precej velika. Najbolj varni vozniki so verjetno cirka 10x bolj varni kot je povprecen voznik.

Ti se ne vtikaj v debato, ce nimas kaj pametnega za povedati. Zacel si drkati brez osnove, pa sem ti vrnil. Zdaj si uzaljen.

BigWhale je 21. maj 2024 ob 15:32 izjavil:

Bodo porodili otroka tudi v prometnem kolapsu, ce bo treba. Waymo in Tesla tega ne bosta nikoli sposobna. :>

Si preprican? Tesla ima lahko svojega robota v frunku. Waymo pa nima ne frunka in ne robota

(shit, i-pace ima frunk, ane)

BigWhale je 21. maj 2024 ob 16:06 izjavil:

Brez osnove so izmisljeni in hipoteticni primeri. Primerjava L2 in L4 sistema je pa nesmiselna, ker gre za dva popolnoma razlicna sistema. Waymo je dostavil potnika od tocke A do tocke B sam, brez posredovanja, Tesla ga ni, ker ga ne more, in ga se nekaj casa ne bo.

Nisi razumel poante, nic hudega (da ne rabis biti pretirano pameten, da NE vozis). Kaksno je razmerje smiselnih/nesmiselnih ustavitev waymota, pa seveda ne vemo.

Pozabil si omeniti strosek voznje in cas voznje. Le zakaj? Ti bom pomagal - ker si zaslepljen hejter.

kow je 21. maj 2024 ob 16:25 izjavil:

Pozabil si omeniti strosek voznje in cas voznje. Le zakaj? Ti bom pomagal - ker si zaslepljen hejter.

Hejter s teslo Mogoce pa kot programer razume, da debatiranje o nefunkcionalnih zahtevah nima smisla, ce funkcionalne niso izpolnjene.

Koliko drugih L2 ali L3 sistemov zna samostojno zavijati levo/desno v križiščih? Ker popravite me, vse drugo, kar sem do sedaj videl, da zna L2 samostojno je prehitevanje na AC, pa še tam moraš dati smerokaz, da sploh začne ta manever.

a_borlak je 22. maj 2024 ob 08:09 izjavil:

Koliko drugih L2 ali L3 sistemov zna samostojno zavijati levo/desno v križiščih? Ker popravite me, vse drugo, kar sem do sedaj videl, da zna L2 samostojno je prehitevanje na AC, pa še tam moraš dati smerokaz, da sploh začne ta manever.

L2 sistemi v osnovi niso namenjeni za te stvari. Prakticno nihce se tega niti ni lotil.

kow je 22. maj 2024 ob 08:13 izjavil:

Mimogrede, da je Waymo dostavil potnike brez posredovanja z gotovostjo ne mores trditi. Ker ne vemo, ali je remote operater posredoval. Zelo verjetno ni, ne moremo pa vedeti 100%.

Vemo pa da v tem testu niso izbrali namenoma poti, kjer FSD ni 10x odpovedal?

kow je 22. maj 2024 ob 08:13 izjavil:

Ce Teslin L2 postane dovolj zanesljiv, se bo uporabljal kot avtonomno vozilo. Pa magari spremenijo zakonodajo. Na koncu odloca tehnologija, ne birokrati z risanjem grafov.

Ne se ne bo kar tako. Ker ti ne razumes da fail-safe sistem ne more postati fail-operational kar tako. In birokrati nimajo nicesar s tem. Je osnovna zahteva.

codeMonkey je 22. maj 2024 ob 08:27 izjavil:

Vemo pa da v tem testu niso izbrali namenoma poti, kjer FSD ni 10x odpovedal?

Ne vemo. Jasno, da to ni nek "znanstven" test.

codeMonkey je 22. maj 2024 ob 08:27 izjavil:

Ne se ne bo kar tako. Ker ti ne razumes da fail-safe sistem ne more postati fail-operational kar tako. In birokrati nimajo nicesar s tem. Je osnovna zahteva.

Ne rabi biti fail-safe in fail-operational To je velika traparija. Saj ne gre za jedrski reaktor.

J.McLane je 22. maj 2024 ob 08:54 izjavil:

No, tale zajeb bi voznik z lahkoto rešil, če bi spremljal vožnjo, ker je bilo več kot očitno, da avto leti proti zapornicam s preveliko hitrostjo. FSD pa kolikor mi je znano mora voznik spremljati vedno 100%

Bolj so problematični primeri, kjer bi avto nenadoma zavil v nasproti vozeče vozilo, tu ti tudi dirkaški refleksi nebi pomagali.

Niso. Vsi ti problemi so problematicni. Spremljati voznjo, ko nekaj vozi precej dobro, in redko odpove, je tezko. Zato tudi nikoli ni bilo misljeno, da bi bili L2 sistemi tako zmogljivi. In ko recem redko, je to v smislu enega voznika, kako to dozivlja. Ko pa imas nekaj sto tisoc takih sistemov na cesti in vsak od njih "redko" odpove, je jasno tveganje v sirsem smislu za nesreco vecje. Ni ravno tezko razumeti teh konceptov.

kow je 22. maj 2024 ob 08:59 izjavil:

Ne rabi biti fail-safe in fail-operational To je velika traparija. Saj ne gre za jedrski reaktor.

Dejansko rabi. Druzba od proizvajalcev to zahteva. Ze en x-by-wire je fail operational, kot eden prvih takih sistemov v avtomobilih (prej je bilo vse se fail-safe), kaj sele tak sistem.

kow je 22. maj 2024 ob 09:19 izjavil:

codeMonkey je 22. maj 2024 ob 09:14 izjavil:

Dejansko rabi. Druzba od proizvajalcev to zahteva.

Ce bo tehnologija dovolj dobra, si bo druzba hitro premislila.

Se strinjam. Dobra pa bo, ce bo moje drzalo, drugace ne more biti dobra.

To je jasno. BTW, se vedno mislim, da imajo pri Tesli dobro osnovo. Samo se malo pristop postimajo in mu namenijo nekaj casa ter sredstev, pa zna biti top.

Te stevlike so mi vedno hecne. FSD mora biti varnejsi od skupine ljudi, ne od povprecnega voznika. Tesla mora pokazati druzbi, da je flota njihovih vozil varnejsa od primerljive skupine ljudi.

a_borlak je 22. maj 2024 ob 08:09 izjavil:

Koliko drugih L2 ali L3 sistemov zna samostojno zavijati levo/desno v križiščih? Ker popravite me, vse drugo, kar sem do sedaj videl, da zna L2 samostojno je prehitevanje na AC, pa še tam moraš dati smerokaz, da sploh začne ta manever.

Stvar je v tem, da L2 takih stvari sploh ne sme početi. Saj to je glavna stvar, ki jo mnogi očitajo Tesli. Ne da slabo dela, ampak da dela stvari, ki jih ne bi smela, ker še niso dovolj varne in zanesljive.

Ni dovolj, da avto sam tisočkrat varno zavije v križišču ali sam prehiteva, to mora storiti milijonkrat zapored. Oziroma še veliko več. Na cesti je trenutno vsaj 2 milijona tesel. Če bi vse same vozile, in bi naredile napako pri zavijanju ali prehitevanju enkrat na milijon, bi imel vsak dan sto nesreč (če rečemo, da vsak avto na dan naredi 50 zavijanj, prehitevanj in podobnih manevrov, pri katerih lahko avtomatika naredi napako).

Zato takšne primerjave, ko tesla samostojno uspešno odpelje neko (relativno kratko) pot, o kakovosti avtomatike povedo veliko manj kot tistih nekaj primerov, ko je avtomatila povzročila nesrečo.

Mimogrede, zakaj Musk še ni poslal tesle na samostojno pot od obale do obale? Že leta 2016 se je hvalil, da bo to mogoče čez okoli 2 leti. Čez 2 leti (2018) je Musk izjavil, da bi sicer že lahko poslali avto iz Los Angelesa v New York, ampak bi morali posebej sprogramirati celo pot (se pravi bi dosegli pogoje za L4 na tej relaciji), to pa naj ne bi bilo smotrno, ker bi bilo to uporabno samo za to eno točno določeno pot. In da bodo raje počakali, da bo avtopilot tako dober, da mu ne bo treba posebej sprogramirati posamezne poti, ampak bo znal vozit kjerkoli (L5).

No, na to pa če čakamo, in ni videti, da bi se kaj kmalu zgodilo. Pa celo, če bi se morda kdo opogumil in šel z avtopilotom od obale do obale, in bi uspešno prišel, to ne bi v bistvu nič kaj dosti pomenilo, ker kot rečeno - en uspešen poskus ne pomeni skoraj nič (v smislu dokazovanja varnosti takšnega početja).

codeMonkey je 22. maj 2024 ob 09:14 izjavil:

Niso. Vsi ti problemi so problematicni. Spremljati voznjo, ko nekaj vozi precej dobro, in redko odpove, je tezko. Zato tudi nikoli ni bilo misljeno, da bi bili L2 sistemi tako zmogljivi.

Verjetno so vsaj nekateri od teh sistemov v bistvu enako, ali vsaj zelo podobno zmogljivi kot pri teslah, ampak so določene stvari, ki jih računalnik načeloma zna izvajati samostojno, načrtno onemogočene, ker pač še niso dovolj varne.

kow je 22. maj 2024 ob 10:02 izjavil:

Koliko avtomobilov imamo v Sloveniji in koliko nesrec je vsak dan?

Približno 1,5 milijona registriranih avtov in približno 50 prometnih nesreč vsak dan (takih, ki jih policija registrira - 18.700 leta 2022).

Recimo, da je vsak dan na cesti milijon avtov (da bo lažje računati), in če vsak naredi 50 manevrov (tole je zelo od oka ocena), pri katerem lahko pride do nesreče, smo pri eni napaki na milijon manevrov.

Se pravi, v povprečju bi smela avtomatika narediti eno napako na milijon manevrov, da bi lahko rekli, da vozi enako dobro kot ljudje. Ampak je veliko vprašanje, če bi se pri robotu zadovoljili z enako zanesljivostjo. Sem precej prepričan, da bi od robota zahtevali za velikostni razred (10x) večjo varnost, da bi mu zakonodajalec dovolil, da brez nadzora in posebnih omejitev prevaža ljudi.

Če pri tem zanemarimo kazensko odgovornost. Pri ljudeh smo glede varnosti bolj popustljivi, ker je načeloma človek kazensko odgovoren za svoje napake (in to razumemo kot varovalko pred povzročanjem nesreč). Če pijan nekoga povoziš, greš lahko v zapor. Kdo bo šel v zapor, če robot do smrti povozi človeka?

Se že kažejo obrisi Cybercaba, bomo videli, kaj bo iz tega ...

Slabo se vidi (kaj tocno je sprozilo taksen odziv vozila, mogoce vozilo za njim, na desnem pasu?) To je drugace FSD, ne Autopilot (kot pise v naslovu). To je tisti Marsovec, ce se ne motim? Pol je verjetno zadnja verzija?