Slo-Tech - Samovozeči avtomobili, s katerimi je Waymo prevozil že več kot milijonov kilometrov, so imeli prvo nesrečo, v kateri ni nastala le gmotna škoda. V rednem poročilu so zapisali, da je eno izmed vozil minuli mesec v San Franciscu povozilo psa, ki nesreče ni preživel. Waymo pravi, da je bila nezgoda neizogibna, čeprav je bil v vozilu rezervni voznik.
Avtomobil Jaguar I-Pace je vozil po ulici Toland v bližini Waymove garaže, ko je pes pritekel na cesto. Takrat je vozilo uporabljalo avtonomni način delovanja, četudi je na voznikovem sedežu sedel človek. Pes je pritekel tako nenadno izza ob cesti parkiranega vozila, da trka ni bilo možno preprečiti, so zapisali. Sistem je psa zaznal še pred trkom, a vozila ni mogel ustaviti. Človek v vozilu psa ni videl. Dodajajo, da je pes tekel "po nenavadni trajektoriji in hitro", zato vozilo ni zaviralo.
NHTSA (National Highway Traffic Association) zahteva, da proizvajalci in operaterji avtonomnih vozil poročajo o vseh nezgodah, ki se končajo s poškodbami ali škodo. V tem primeru je NHTSA prejela poročilo, podrobne preiskave pa niso začeli. V San Franciscu je odnos prebivalstva do avtonomnih vozil napet, zato lahko vsaka nesreča, četudi neizogibna, premakne občutljivo ravnotežje. Vseeno pa bo ključno vprašanje v tej nesreči, zakaj vozilo ni niti začelo zavirati - torej zakaj je ocenilo, da pes ne bo pritekel pred avtomobil, in kako hitro pred trkom je ugotovilo, da se bo to zgodilo.
Torej lahko v kratkem pričakujemo "Oh no, not the poor heckin doggo! Poor pupperino! bill", kjer bodo prepovedali samovozeče avte in ob enem v drobnem tisku podarili nekaj milijard vojski in državam v vojni.
Sicer pa upam, da ni bilo preveč škode in je avto lahko nadaljeval (testno) vožnjo.
" Sicer pa upam, da ni bilo preveč škode in je avto lahko nadaljeval (testno) vožnjo. " upam, da je tole bil sarkazem, ker v nasprotnem... smo mi ŽE v Idiocracy svetu!
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.
Sej tukaj je problem med varnostjo in uporabnostjo. V urbanem okolju imaš nešteto možnosti, da bi ti kdo lahko skočil pred avto. Ali naj zdaj AI upočasni za vsako potencialno nevarnost? Tukaj je šele zajčja luknja, da mora AI znat ocenit zmožnost vsakega premikajočega telesa. Torej prepoznat vse zelo dobro za osnovo.
Sej tukaj je problem med varnostjo in uporabnostjo. V urbanem okolju imaš nešteto možnosti, da bi ti kdo lahko skočil pred avto. Ali naj zdaj AI upočasni za vsako potencialno nevarnost? Tukaj je šele zajčja luknja, da mora AI znat ocenit zmožnost vsakega premikajočega telesa. Torej prepoznat vse zelo dobro za osnovo.
Na koncu bo pa tko, da bodo ljudi postavili za ograje in se kaj takega ne bo vec dogajalo, ker bomo se bolj nadresirani kot roboti.
Žal ni realno, marsikje še pločnik ni primeren. Kolesarske še manj. Po naseljih dostikrat sploh ni pločnika,... Prej bodo kar avte prepovedal, vsaj v tej smeri se trenutno nekaj glupo trza.
Jaz sem še vedno prepričan, da če bi imeli vsi samovozeča vozila, bi bilo nesreč veliko manj. Nikoli pa enako 0.
Veš, kako je s tem - ljudje hočejo vse ali nič, četudi imajo bolj malo. Takšen neracionalen pristop lahko vidimo na vseh področjih, samovozeča vozila niso nič posebnega.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Ok če govorimo o morebitnih človeških žrtvah, potem je "vse ali nič" za nekaj stopenj bolj pomembno vprašanje.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Ok če govorimo o morebitnih človeških žrtvah, potem je "vse ali nič" za nekaj stopenj bolj pomembno vprašanje.
Ne, ni. Zmanjšanje števila žrtev v prometnih nesrečah je koristno za družbo. Dejstvo pa je, da bo namesto 100 žrtev nekje drugih 10 žrtev. Smo žrtvovali 10 ljudi, da rešimo drugih 100? Ne, samo preprečili smo 90 nepotrebnih žrtev.
To je en tak primer, ko ljudem ni dovolj 90 žrtev manj zaradi tega, ker jih je še vedno 10, pripravljeni pa so žrtvovati vseh 100 ljudi, dokler ne pridemo na 0. Neracionalno.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
To je en tak primer, ko ljudem ni dovolj 90 žrtev manj zaradi tega, ker jih je še vedno 10, pripravljeni pa so žrtvovati vseh 100 ljudi, dokler ne pridemo na 0. Neracionalno.
Ker želimo grešnega kozla. Če ti zbiješ otroka, ki bo priletel na cesto po "nenavadni trajektoriji" in ga zbil, pri tem pa šel 51km/h, te bodo pribili na križ. Če to naredi samovozeče vozilo in neka korporacija plača, ali pa tudi ne, nek osnovni znesek odškodnine....to pa ne bo šlo čez. Pa čeprav bi bilo sicer mrtvih 100 otrok namesto 10. Nekdo mora biti kriv, nekdo mora odgovarjati in to z imenom in priimkom, ne oznako z borze.
Na splošno je dokaj v redu, da veš kdo je odgovoren za kaj. Tudi za izplačilo morebitne odškodnine.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
In kdo je odgovoren pri samovozečem avtomobilu? Oznaka z borze. To ljudje sovražijo. Še posebej, če avtomobil sploh ne bi bil kriv, potem je še lažje vpiti proti zlobni korporaciji.
Mislim da bo na koncu kar lepo neka rešitev podobna tej:
Morda bi bilo potrebno uvesti, kakšno splošno obvezno zavarovanje za finančno zaščito pred fizičnimi ter ostalimi poškodbami, ki so nastale na podlagi motnje v delovanju algoritma.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
In kdo je odgovoren pri samovozečem avtomobilu? Oznaka z borze. To ljudje sovražijo. Še posebej, če avtomobil sploh ne bi bil kriv, potem je še lažje vpiti proti zlobni korporaciji.
Tisti, ki sedi za (zaenkrat še obveznim) volanom. S tem avtomatsko tudi zanj povečaš verjetnost, da bo povečal svojo pozornost in bo bolj pripravljen ukrepati, namesto spati. Enako se v primeru ostalih prekrškov kaznuje tistega, ki sedi za volanom.
V članku je omenjeno, da oseba, ki je sedela za volanom, psa sploh ni videla. Ali ga ni videla, ker je brala cajtung, ali zato, ker je pes pritekel tako blizu avta, da ga fizično ni mogla videti, pa ne vemo.
Jah, če ti nekdo skoči pred avto s pločnika v zadnjem trenutku, se takšne nesreče nikoli ne bo dalo preprečit, ne glede na neverjetne reflekse. Pa naj bo pes, otrok ali odrasli, ki je pijan ali želi narediti samomor.
no, glede na napisano in podane informacije, potem ni videti, da bi bilo tukaj karkoli vrednega nadaljnjega prelivanja crnila ali debat; pac naj pristojni ugotovijo, ce je bilo kaj prekrseno ali ne.
ce ti pod avto nekaj skoci, nekaj dosti ukrepati ne mores. zanimivo bi bilo vedeti samo, s kaksnim reakcijskim casom je stvar reagirala, kakorkoli ze pac je reagirala (tudi ce je to samo bremzanje po sami nezgodi).
seveda je pomembno tudi razcistiti, ali je mogoce, da je ena izmed kamer zaznala psa prej, recimo 10 sekund prej, ko se je morda podil nekje v blizini, in bi v teoriji pameten agent lahko nekaj sklepal glede na to, kot bi moral clovek sklepati, ce vidi da se v okolici podijo otroci.
ker glede na to, kar trenutno vemo o teh agentih, ti (se) nimajo moznosti takih visokonivojskih zakljuckov, dokler te situacije niso dobro zajete v samem treningu (ki jih vseh ne more zajeti).
vsaj dokler stvar ne bo imela tudi nekaj takega kot je LLM za hitro presojanje visokonivojskega opisa trenutne situacije.
recimo GPT-4 bi v teoriji bil sposoben dat pravilne zakljucke nadaljnjega ravnanja, ce mu opises scenarij. ampak je se prepocasen in integrirat to stvar skupaj je se nekaj let stran.
Ne wem kako ima Waymo, ampak tesla zna upoštevati tudi objekte, ki so zakriti, če jih je prej dovolj časa videla, da je pogruntala vektor gibanja tega telesa (hitrost, smer)
Problem samovozečih avtov je, da namesto da bi bili bolj predvidljivi in robotski, se jih dela da so bolj podobni ljudem. Nepredvidljivi, kršijo zakone, itd.
Ne, ni. Zmanjšanje števila žrtev v prometnih nesrečah je koristno za družbo. Dejstvo pa je, da bo namesto 100 žrtev nekje drugih 10 žrtev. Smo žrtvovali 10 ljudi, da rešimo drugih 100? Ne, samo preprečili smo 90 nepotrebnih žrtev.
To je en tak primer, ko ljudem ni dovolj 90 žrtev manj zaradi tega, ker jih je še vedno 10, pripravljeni pa so žrtvovati vseh 100 ljudi, dokler ne pridemo na 0. Neracionalno.
Kdo pa pravi, da moramo priti na 0? Od kod ti ta informacija? Bistven problem je tu ravno oceniti, ali je res razmerje tako, kot ga navajas zgoraj, ali dejansko obratno (100 nesrec povzroci, 10 jih resi). Ko se malo spustis v to, ugotovis, da je te stvari precej tezko oceniti in spremljati, ker je potrebno "ogromno" kilometrov, da tako stvar primerno ocenis. Potem pa prides do problema kako narediti "ogromno" kilometrov s potencialno nevarnim sistemom. Teorijo imas v tem clanku, ki je na tem podrocju referenca: https://www.rand.org/pubs/research_repo...
Edini smiseln nacin je, da se tak sistem omeji na manjsa podrocja, z manj nevarnimi scenariji, in dosledno spremlja kaj se s sistemom na cesti zares dogaja (s standardizirano snemalno napravo). Nato pa scasoma te omejitve manjsa. Vsekakor pa ne moremo dovoliti, da si neka koorporacija dovoli spravljati potencialno (pre)nevarne sisteme masovno na ceste in pri tem celo netransparetno lasti podatke o dejanskem stanju, zraven pa trdi "za zivljenja gre".
Problem samovozečih avtov je, da namesto da bi bili bolj predvidljivi in robotski, se jih dela da so bolj podobni ljudem. Nepredvidljivi, kršijo zakone, itd.
Kot si lahko misliš, ne moremo zamenjat komplet voznega parka naenkrat. Torej mora tudi "avtopilot" vozit primerno ostalim udeležencem, drugače bo sploh kaos. Če avtopilutu račeš, da fura 100% po pravilih, se bo ob vsaki konici takoj ustavil in se ne bo več premaknil.
Ze varnostno razdaljo precej pogosto. Ker vsi vemo, da ce imas v konici preveliko, ti takoj letijo vsi vmes. Zdaj si pa predstavljaj, da imas teh vozil precej, in da so res robotsko predvidljivi. Samo vprasanje casa je, kdaj bi preostali to izkoriscali. Ali pa ti nekdo na silo zapelje v krizisce, ti ustavi vozilo, potem pa cela kolona iz stranske ulice siba za njim, na glavni cesti pa vse stoji. Pac avto bo moral v neki tocki zapeljati naprej in sprejeti moznost, da nek kreten s stranske ulice ne bo popustil.
Ko bojo vsi avti samovozeči, pa ni nujno, da level 5, tudi 3 bi bil dovolj, da komunicirajo med seboj, da ostali okoli vejo kaj bo kdo naredil, bi bilo veliko tega rešenega.
