» »

Prva žrtev Waymovih samovozečih avtomobilov je pes

Prva žrtev Waymovih samovozečih avtomobilov je pes

Slo-Tech - Samovozeči avtomobili, s katerimi je Waymo prevozil že več kot milijonov kilometrov, so imeli prvo nesrečo, v kateri ni nastala le gmotna škoda. V rednem poročilu so zapisali, da je eno izmed vozil minuli mesec v San Franciscu povozilo psa, ki nesreče ni preživel. Waymo pravi, da je bila nezgoda neizogibna, čeprav je bil v vozilu rezervni voznik.

Avtomobil Jaguar I-Pace je vozil po ulici Toland v bližini Waymove garaže, ko je pes pritekel na cesto. Takrat je vozilo uporabljalo avtonomni način delovanja, četudi je na voznikovem sedežu sedel človek. Pes je pritekel tako nenadno izza ob cesti parkiranega vozila, da trka ni bilo možno preprečiti, so zapisali. Sistem je psa zaznal še pred trkom, a vozila ni mogel ustaviti. Človek v vozilu psa ni videl. Dodajajo, da je pes tekel "po nenavadni trajektoriji in hitro", zato vozilo ni zaviralo.

NHTSA (National Highway Traffic Association) zahteva, da proizvajalci in operaterji avtonomnih vozil poročajo o vseh nezgodah, ki se končajo s poškodbami ali škodo. V tem primeru je NHTSA prejela poročilo, podrobne preiskave pa niso začeli. V San Franciscu je odnos prebivalstva do avtonomnih vozil napet, zato lahko vsaka nesreča, četudi neizogibna, premakne občutljivo ravnotežje. Vseeno pa bo ključno vprašanje v tej nesreči, zakaj vozilo ni niti začelo zavirati - torej zakaj je ocenilo, da pes ne bo pritekel pred avtomobil, in kako hitro pred trkom je ugotovilo, da se bo to zgodilo.

33 komentarjev

Mr.G. ::

Dodajajo, da je pes tekel "po nenavadni trajektoriji in hitro", zato vozilo ni zaviralo.

Evo, pes ne zna tečt.

_Denny_ ::

Torej lahko v kratkem pričakujemo "Oh no, not the poor heckin doggo! Poor pupperino! bill", kjer bodo prepovedali samovozeče avte in ob enem v drobnem tisku podarili nekaj milijard vojski in državam v vojni.

Sicer pa upam, da ni bilo preveč škode in je avto lahko nadaljeval (testno) vožnjo.
Asrock X670E Taichi, Ryzen 9 7950X3D + NH-D14, 96GB Corsair DDR5-6400 CL32
RTX 2070S 8GB, 2TB Kingston KC3000, 2TB ADATA SX8200 Pro, 4TB Micron 5200
Seasonic Focus Plus 850W, Corsair Air 540, Logitech Z-2300, Samsung UE65H6400

dexterboy ::

" Sicer pa upam, da ni bilo preveč škode in je avto lahko nadaljeval (testno) vožnjo. "
:) :D :))
upam, da je tole bil sarkazem, ker v nasprotnem... smo mi ŽE v Idiocracy svetu!
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.

MIHAc27 ::

Jaz sem še vedno prepričan, da če bi imeli vsi samovozeča vozila, bi bilo nesreč veliko manj. Nikoli pa enako 0.

fikus_ ::

Koliko je "po nenavadni trajektoriji in hitro" res, se bi videlo na posnetku kamere v avtu, ki jo zelo verjetno imajo.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

kixs ::

Procesor ima prepocasen in je izracunal, ko je bilo ze mimo :lol:

Magic1 ::

Sej tukaj je problem med varnostjo in uporabnostjo. V urbanem okolju imaš nešteto možnosti, da bi ti kdo lahko skočil pred avto. Ali naj zdaj AI upočasni za vsako potencialno nevarnost? Tukaj je šele zajčja luknja, da mora AI znat ocenit zmožnost vsakega premikajočega telesa. Torej prepoznat vse zelo dobro za osnovo.
Magic

m0LN4r ::

Dodajajo, da je pes tekel "po nenavadni trajektoriji in hitro", zato vozilo ni zaviralo.
se dobro, da znajo to samo psi, recimo otroci pa ne :|

Magic1 je izjavil:

Sej tukaj je problem med varnostjo in uporabnostjo. V urbanem okolju imaš nešteto možnosti, da bi ti kdo lahko skočil pred avto. Ali naj zdaj AI upočasni za vsako potencialno nevarnost? Tukaj je šele zajčja luknja, da mora AI znat ocenit zmožnost vsakega premikajočega telesa. Torej prepoznat vse zelo dobro za osnovo.

Na koncu bo pa tko, da bodo ljudi postavili za ograje in se kaj takega ne bo vec dogajalo, ker bomo se bolj nadresirani kot roboti.
https://www.youtube.com/user/m0LN4r

Zgodovina sprememb…

  • spremenil: m0LN4r ()

Magic1 ::

Žal ni realno, marsikje še pločnik ni primeren. Kolesarske še manj. Po naseljih dostikrat sploh ni pločnika,... Prej bodo kar avte prepovedal, vsaj v tej smeri se trenutno nekaj glupo trza.
Magic

Markoff ::

MIHAc27 je izjavil:

Jaz sem še vedno prepričan, da če bi imeli vsi samovozeča vozila, bi bilo nesreč veliko manj. Nikoli pa enako 0.

Veš, kako je s tem - ljudje hočejo vse ali nič, četudi imajo bolj malo. Takšen neracionalen pristop lahko vidimo na vseh področjih, samovozeča vozila niso nič posebnega.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

Gregor P ::

Ok če govorimo o morebitnih človeških žrtvah, potem je "vse ali nič" za nekaj stopenj bolj pomembno vprašanje.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

JanBrezov ::

"Nenavadna trajektorija" je sicer značilna tudi za pijance.

Markoff ::

Gregor P je izjavil:

Ok če govorimo o morebitnih človeških žrtvah, potem je "vse ali nič" za nekaj stopenj bolj pomembno vprašanje.

Ne, ni. Zmanjšanje števila žrtev v prometnih nesrečah je koristno za družbo. Dejstvo pa je, da bo namesto 100 žrtev nekje drugih 10 žrtev. Smo žrtvovali 10 ljudi, da rešimo drugih 100? Ne, samo preprečili smo 90 nepotrebnih žrtev.

To je en tak primer, ko ljudem ni dovolj 90 žrtev manj zaradi tega, ker jih je še vedno 10, pripravljeni pa so žrtvovati vseh 100 ljudi, dokler ne pridemo na 0. Neracionalno.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

matobeli ::

Ja lej, če smo že premagani s strani nekega butastega mikserja, mormo bit vsaj za en razred premagani.

Na papirju.
V realnosti vsi komaj čakamo da preiskusimo nov asistenčni način, radarski tempomat, samodejno zaviranje, lane assist...

Nej že dajo nekaj uporabnega za na AC, tistih nekaj ulic bomo že na roko zmogli.

mtosev ::

Izgleda, da tukaj ni bilo mogoče preprečiti to nesrečo.
Core i9 10900X, ASUS Prime X299 Edition 30, 32GB 4x8 3600Mhz G.skill, CM H500M,
ASUS ROG Strix RTX 2080 Super, Samsung 970 PRO, UltraSharp UP3017, Win 11 Pro
moj oče darko 1960-2016, moj labradorec max 2002-2013

nekikr ::

To je en tak primer, ko ljudem ni dovolj 90 žrtev manj zaradi tega, ker jih je še vedno 10, pripravljeni pa so žrtvovati vseh 100 ljudi, dokler ne pridemo na 0. Neracionalno.

Ker želimo grešnega kozla. Če ti zbiješ otroka, ki bo priletel na cesto po "nenavadni trajektoriji" in ga zbil, pri tem pa šel 51km/h, te bodo pribili na križ. Če to naredi samovozeče vozilo in neka korporacija plača, ali pa tudi ne, nek osnovni znesek odškodnine....to pa ne bo šlo čez. Pa čeprav bi bilo sicer mrtvih 100 otrok namesto 10. Nekdo mora biti kriv, nekdo mora odgovarjati in to z imenom in priimkom, ne oznako z borze.

Gregor P ::

Na splošno je dokaj v redu, da veš kdo je odgovoren za kaj. Tudi za izplačilo morebitne odškodnine.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

nekikr ::

In kdo je odgovoren pri samovozečem avtomobilu? Oznaka z borze. To ljudje sovražijo. Še posebej, če avtomobil sploh ne bi bil kriv, potem je še lažje vpiti proti zlobni korporaciji.

Gregor P ::

Mislim da bo na koncu kar lepo neka rešitev podobna tej:
Morda bi bilo potrebno uvesti, kakšno splošno obvezno zavarovanje za finančno zaščito pred fizičnimi ter ostalimi poškodbami, ki so nastale na podlagi motnje v delovanju algoritma.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Zgodovina sprememb…

  • spremenil: Gregor P ()

GupeM ::

nekikr je izjavil:

In kdo je odgovoren pri samovozečem avtomobilu? Oznaka z borze. To ljudje sovražijo. Še posebej, če avtomobil sploh ne bi bil kriv, potem je še lažje vpiti proti zlobni korporaciji.

Tisti, ki sedi za (zaenkrat še obveznim) volanom. S tem avtomatsko tudi zanj povečaš verjetnost, da bo povečal svojo pozornost in bo bolj pripravljen ukrepati, namesto spati. Enako se v primeru ostalih prekrškov kaznuje tistega, ki sedi za volanom.

V članku je omenjeno, da oseba, ki je sedela za volanom, psa sploh ni videla. Ali ga ni videla, ker je brala cajtung, ali zato, ker je pes pritekel tako blizu avta, da ga fizično ni mogla videti, pa ne vemo.

nodrim ::

Jah, če ti nekdo skoči pred avto s pločnika v zadnjem trenutku, se takšne nesreče nikoli ne bo dalo preprečit, ne glede na neverjetne reflekse. Pa naj bo pes, otrok ali odrasli, ki je pijan ali želi narediti samomor.

GupeM ::

Zato imam dash cam.

asdf1223 ::

no, glede na napisano in podane informacije, potem ni videti, da bi bilo tukaj karkoli vrednega nadaljnjega prelivanja crnila ali debat; pac naj pristojni ugotovijo, ce je bilo kaj prekrseno ali ne.

ce ti pod avto nekaj skoci, nekaj dosti ukrepati ne mores. zanimivo bi bilo vedeti samo, s kaksnim reakcijskim casom je stvar reagirala, kakorkoli ze pac je reagirala (tudi ce je to samo bremzanje po sami nezgodi).

seveda je pomembno tudi razcistiti, ali je mogoce, da je ena izmed kamer zaznala psa prej, recimo 10 sekund prej, ko se je morda podil nekje v blizini, in bi v teoriji pameten agent lahko nekaj sklepal glede na to, kot bi moral clovek sklepati, ce vidi da se v okolici podijo otroci.

ker glede na to, kar trenutno vemo o teh agentih, ti (se) nimajo moznosti takih visokonivojskih zakljuckov, dokler te situacije niso dobro zajete v samem treningu (ki jih vseh ne more zajeti).

vsaj dokler stvar ne bo imela tudi nekaj takega kot je LLM za hitro presojanje visokonivojskega opisa trenutne situacije.


recimo GPT-4 bi v teoriji bil sposoben dat pravilne zakljucke nadaljnjega ravnanja, ce mu opises scenarij. ampak je se prepocasen in integrirat to stvar skupaj je se nekaj let stran.

DamijanD ::

Ne wem kako ima Waymo, ampak tesla zna upoštevati tudi objekte, ki so zakriti, če jih je prej dovolj časa videla, da je pogruntala vektor gibanja tega telesa (hitrost, smer)

LeQuack ::

Problem samovozečih avtov je, da namesto da bi bili bolj predvidljivi in robotski, se jih dela da so bolj podobni ljudem. Nepredvidljivi, kršijo zakone, itd.
Quack !

kow ::

Pavsalna izjava.

Waymo naj da ven posnetek, pa bomo lahko sodili...

Zgodovina sprememb…

  • spremenil: kow ()

codeMonkey ::

Markoff je izjavil:


Ne, ni. Zmanjšanje števila žrtev v prometnih nesrečah je koristno za družbo. Dejstvo pa je, da bo namesto 100 žrtev nekje drugih 10 žrtev. Smo žrtvovali 10 ljudi, da rešimo drugih 100? Ne, samo preprečili smo 90 nepotrebnih žrtev.

To je en tak primer, ko ljudem ni dovolj 90 žrtev manj zaradi tega, ker jih je še vedno 10, pripravljeni pa so žrtvovati vseh 100 ljudi, dokler ne pridemo na 0. Neracionalno.


Kdo pa pravi, da moramo priti na 0? Od kod ti ta informacija? Bistven problem je tu ravno oceniti, ali je res razmerje tako, kot ga navajas zgoraj, ali dejansko obratno (100 nesrec povzroci, 10 jih resi). Ko se malo spustis v to, ugotovis, da je te stvari precej tezko oceniti in spremljati, ker je potrebno "ogromno" kilometrov, da tako stvar primerno ocenis. Potem pa prides do problema kako narediti "ogromno" kilometrov s potencialno nevarnim sistemom. Teorijo imas v tem clanku, ki je na tem podrocju referenca: https://www.rand.org/pubs/research_repo...

Edini smiseln nacin je, da se tak sistem omeji na manjsa podrocja, z manj nevarnimi scenariji, in dosledno spremlja kaj se s sistemom na cesti zares dogaja (s standardizirano snemalno napravo). Nato pa scasoma te omejitve manjsa. Vsekakor pa ne moremo dovoliti, da si neka koorporacija dovoli spravljati potencialno (pre)nevarne sisteme masovno na ceste in pri tem celo netransparetno lasti podatke o dejanskem stanju, zraven pa trdi "za zivljenja gre".

Zgodovina sprememb…

nodrim ::

Kot smo že omenili, zmanjšanje števila nesreč na 0 ni mogoče, ker lahko nekdo vedno v zadnjem trenutku skoči pred avto, kar je nemogoče preprečit.

Magic1 ::

LeQuack je izjavil:

Problem samovozečih avtov je, da namesto da bi bili bolj predvidljivi in robotski, se jih dela da so bolj podobni ljudem. Nepredvidljivi, kršijo zakone, itd.

Kot si lahko misliš, ne moremo zamenjat komplet voznega parka naenkrat. Torej mora tudi "avtopilot" vozit primerno ostalim udeležencem, drugače bo sploh kaos. Če avtopilutu račeš, da fura 100% po pravilih, se bo ob vsaki konici takoj ustavil in se ne bo več premaknil.
Magic

Zgodovina sprememb…

  • spremenil: Magic1 ()

GupeM ::

Zakaj misliš, da se bo ustavil in se ne bo več premaknil? Kaj konice dela tako posebne oz. kaj jaz v konicah kršim, ker se premikam?

codeMonkey ::

Ze varnostno razdaljo precej pogosto. Ker vsi vemo, da ce imas v konici preveliko, ti takoj letijo vsi vmes. Zdaj si pa predstavljaj, da imas teh vozil precej, in da so res robotsko predvidljivi. Samo vprasanje casa je, kdaj bi preostali to izkoriscali. Ali pa ti nekdo na silo zapelje v krizisce, ti ustavi vozilo, potem pa cela kolona iz stranske ulice siba za njim, na glavni cesti pa vse stoji. Pac avto bo moral v neki tocki zapeljati naprej in sprejeti moznost, da nek kreten s stranske ulice ne bo popustil.

Zgodovina sprememb…

GupeM ::

Za nič od tega ni treba kršiti nobenih predpisov. Samo še policaje daš, da kaznujejo urivače, pa si zmagal.

Utk ::

Ko bojo vsi avti samovozeči, pa ni nujno, da level 5, tudi 3 bi bil dovolj, da komunicirajo med seboj, da ostali okoli vejo kaj bo kdo naredil, bi bilo veliko tega rešenega.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Poročilo NTSB: Uberjevo vozilo peško povozilo brez zaviranja (strani: 1 2 )

Oddelek: Novice / Ostale najave
8218653 (15698) BigWhale
»

Prva nesreča Applovega avtonomnega vozila povzročila zgolj nekaj prask

Oddelek: Novice / Znanost in tehnologija
54128 (2737) Swen F@tt
»

Prva smrtna žrtev v nesreči samovozečega avtomobila (strani: 1 2 3 48 9 10 11 )

Oddelek: Novice / Znanost in tehnologija
529176100 (159595) AndrejO
»

Arizona prepovedala Uberjeva avtonomna vozila

Oddelek: Novice / Znanost in tehnologija
359169 (7245) joze67

Več podobnih tem