Prva smrtna žrtev v nesreči samovozečega avtomobila

xmetallic je 30. mar 2018 ob 22:29 izjavil:

nekikr je 29. mar 2018 ob 17:37 izjavil:

Uber settles with family of woman killed by self-driving car, avoids lawsuit
Zanimivo, ne? Nič niso krivi, kar iz teme je skočila pred avto, pa so vseeno ponudili zelo velikodušno številko, da so takole ekspresno zaprli primer.

Pričakovano. Uber želi čim prej incident pomesti pod preprogo da lahko nazaj na cesto pošlje vozila.

Edino prav. Saj smo vsi vedeli da bodo mrtvi, se veliko jih bo imo. Seveda pa to ni razlog da se ustavi razvoj. Na dolgi rok bo Uber reseval zivljenja na cesti.

Ja, potem pa bodo sedeli v krogu okoli tabornega ognja in peli kumbaja. Denar ki so ga zapravili za razvoj pa jim bo padel z neba.

poweroff je 31. mar 2018 ob 07:55 izjavil:

hammock je 30. mar 2018 ob 22:38 izjavil:

Na dolgi rok bo Uber reseval zivljenja na cesti.

Uber pa reševanje življenj, družbena odgovornost in podobni pojmi ne gredo skupaj.

Let me rephrase: Uber hoce vec dobicka, zato bi se rad znebil dragih voznikov. Ker je (bo?) racunalnik v drzanju vozila med crtama in upostevanju prometnih znakov boljsi od vsakega cloveka, kaj sele povprecnega, bo stranski ucinek tega izboljsanje varnosti za vse.

Uber (GM, Tesla, Waymo...) bo reseval zivljenja, ker smo ljudje slabi vozniki.

Samo vseeno bi morali nekak predstavit kaj pri hudiču je šlo narobe, ker Uber že tako ali tako ima slab sloves, zaradi slabega dela z vozniki, spolno nadlegovanje, zdaj pa še to. Nekak ne govori dosti o varnosti, če pri vseh senzorjih niti ne bremzaš potem pa pometeš vse pod preprogo. Ironija je da bi volvov senzor za pešce bremzal, če bi bil vklopljen, pa ni neko čudo tehnike z vlko AI zadaj. Pa zanimivo da je človek, ki je delal pri Waymu in želel "Move fast and break things" pa pri Googlu niso bli za to, potem šel k Uberju in tam so bli hitro za.

A to tisti, ki dobijo manj od mminimalne plače ali tisti, ki spijo v avtomobilih?

Okapi je 31. mar 2018 ob 13:17 izjavil:

Oboji. Brez Uberja bi dobili še manj, in spali bi v parku. Če je kdo kaj kriv, je kriva družba v celoti, in "socialna" država, ki te ljudi sili, da delajo za Uber. Ker namreč Uber ne sili prav nikogar.

Tole bi načeloma sicer držalo, problem je, da Uber krši zakonodajo, ki zagotavlja minimalne pravice. Na račun visokih dobičkov seveda.

Če bi Uber posloval v skladu z zakonom, bi imel lahko enako število zaposlenih, le nekoliko manjše dobičke.

Po tvoji logiki lahko delavske pravice kar ukinemo, delavci, ki bodo delali za kosilo in streho nad glavo pa bodo lahko podjetju hvaležni, da sploh lahko delajo?

In kako si potem dodelil krivdo drzavi in delavcem?

antonija je 31. mar 2018 ob 14:20 izjavil:

In kako si potem dodelil krivdo drzavi in delavcem?

Ker nisem govoril o krivdi kršenja zakonov.

Ne vem, zakaj se delaš neumnega? Eno je krivda, če nekoga obtožiš kršenja zakonov, nekaj drugega pa krivda, če nekoga obtožiš recimo neotesanega ali neumnega vedenja.

Vsakega bomo sodili glede na to, česa ga obtožujemo.

poweroff je 31. mar 2018 ob 09:49 izjavil:

Uber bo reševal življenja samo, če bo tako zahtevala zakonodaja.

Če bi bilo po Uberjevo, bi samovozeče avtomobile že sedaj spustili na cesto - in se ne menili za posledice.

To očitno ne drži povsem. A ni Uber sam ustavil testiranja, še preden so mu ga prepovedali? V ameriškem sodnem sistemu si ne more privoščiti prav veliko smrti, odškodnine gredo hitro lahko v desetine ali stotine milijonov USD.
Pri nas bi si pa seveda veliko lažje privoščil zejebancijo.

Nasprotniki tehnologije, ste že vzeli dnevno dozo tablet? BTC želi postati testni poligon za samovozeča vozila

"Fino", ker je cel kup pešcev, ki brezglavo letajo z nakupovalnimi vrečkami naokrog...

BigWhale je 3. apr 2018 ob 22:56 izjavil:

Koga mislis, ko pravis 'nasprotniki tehnologije'?

Tistega, ki težko prenese da si sosed lahko kupi avto višjega ranga, iPhone. "Poznavalec", ki nima pojma o računalništvu ampak "obvlada" strojno učenje, ker je prebral dva članka v cosmopolitanu.

Ne vem če je slamnat je pa sodeč po njegovih komentarjih povsem možno, da mu v glavi možgane nadomešča slama.

Direktno iz poročila del, na katerega se sklicuješ:

At 1.3 seconds before impact, the self-driving system determined that an emergency braking maneuver was needed to mitigate a collision (see figure 2). According to Uber, emergency braking maneuvers are not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle behavior. The vehicle operator is relied on to intervene and take action. The system is not designed to alert the operator.

A se samo meni poraja v glavi v prašanje, kako za božjo voljo je to sploh možno? Tole mora biti kriminalna malomarnost. Vsakemu razumnemu osebku mora biti jasno, da je tako neumno dizajniran sistem nevaren in neprimeren za testiranje na javnih cestah.

edit: Uber je včeraj tudi sporočil, da so povsem ukinili program samovozečih vozil v Arizoni in odpustili približno 300 s tem povezanih zaposlenih.

Pri Uberju niso spakirali ravno nazaj v laboratorij, očitno nameravajo še naprej testirati tudi na javnih cestah in sicer v Pittsburghu ter San Franciscu, ampak v precej bolj omejenem obsegu. Čeprav očitno župan Pittsburgha ni vedel nič o tem in ni ravno navdušen nad idejo.

Se pravi je Uberjev 'AI' se vedno tako zanic, da niti pesca, ki precka cesto ne zazna oziroma raje ne zavira, ker utegne biti false positive? :/

BigWhale je 24. maj 2018 ob 20:00 izjavil:

Se pravi je Uberjev 'AI' se vedno tako zanic, da niti pesca, ki precka cesto ne zazna oziroma raje ne zavira, ker utegne biti false positive? :/

Te to preseneča?

Jaz bi razumel, ce bi zaviranje v sili izklopili zato, ker namesto tega zavira njihov AI. Torej, sistem, ki ga je vgradil Volvo izklopijo, ker je nadzor nad avtomobilom prevzel njihov sistem. To bi bilo povsem smiselno in v bistvu tudi logicno, ce hoces stestirati svoj AI ne smes imeti zraven motilnih elementov.

Sam zdej pa zgleda, kot da so samo vse izklopili in bi moral operater paziti na vse.

nekikr je 24. maj 2018 ob 22:32 izjavil:

In za to plačali nekaj "podkupnine" družini žrtve in vse gre lepo naprej. Tole je navaden umor iz malomarnosti.

Kaj pa bi rad, da se ukine razvoj avtonomnih vozil? Jebiga, nesrece se dogajajo. Je uboj, morda celo iz malomarnosti, umor pa nikakor.

Se dosti ljudi bo umrlo v podobnih okoliscinah, ampak dolgorocno bodo mnoga zivljenja resena.

frudi je 24. maj 2018 ob 20:19 izjavil:

@AndrejO: AEB sistem je, po definiciji, namenjen situacijam, v katerih človeški voznik že ne more sam pravočasno zavirati (lahko zaradi lastne nepozornosti, lahko zaradi kakih drugih, opravičljivih okoliščin). In kaj je Uber naredil - ne samo, da je ta sistem izklopil in odgovornost prevalil na človeškega voznika, kljub temu da je sistem namenjen ravno situacijam, kjer človeški voznik odpove.

Odgovornost je vedno, vedno in vedno na strani voznika in dokler se lahko po cestah legalno prevažajo ljudje z vozili, ki nimajo niti servo volana, kaj šele kakšne pomožne elektronike, mora za vse veljati enak pravni standard.

frudi je 24. maj 2018 ob 20:19 izjavil:

Hkrati so še onemogočili, da bi avto sploh opozoril voznika na nevarnost in potrebo po posredovanju!

1,3s. Koliko je že tipičen reakcijski čas?

frudi je 24. maj 2018 ob 20:19 izjavil:

Absolutno neumen dizajn.

Samo, če privzameš nekaj stvar, ki pa v javnem prometu ne vzdržijo, ker se ga udeležujejo takšne kante, ki nimajo nič od nič, pa so še vedno legalne.

frudi je 24. maj 2018 ob 20:19 izjavil:

Vprašanje tudi, če so Uberjevi vozniki sploh vedeli, da je AEB sistem v avtonomnem režimu izklopljen in da morajo zato biti v bistvu še bolj pozorni in previdni, kot če bi sami vozili.

Ne glede na to kaj so vedeli ali niso vedeli, sistemi tudi odpovedo. Naloga ljudi v teh vozilih je, da izrecno pričakujejo "fail". Uber-jeva največja napaka je bila, da je dopustil, da v okolju, ki je maksimalno dolgočasno, za varnost skrbi ena sama in osamljena oseba, ki ne dela nič, ne ve kaj točno bo vozilo storilo čez 1s, hkrati pa mora biti na vse pozorna.

frudi je 24. maj 2018 ob 20:19 izjavil:

Mislim, že leta poslušamo od pametnjakovičev, kako varnejša so avtonomna vozila in kako lahko avtonomni varnostni sistemi reagirajo hitreje od človeka.

Pametnjakoviči so pač pametnjakoviči. Sem nekaj mesecev, ko se je ta zgodba začela, poskusil pojasniti kako so stvari res sestavljene, zakaj so tako sestavljene, zakaj niso tako "proste ko pasulj", kot si predstavljajo in tudi zakaj ni vse v reakcijskem času. Pa so še vedno ostali najpametnejši.

Dejansko pa so te stvari dostopne vsem tudi brez kakšnega "insiderskega znanja". Veliko raziskovalnih papirjev je na voljo, tudi podjetja, ki na teh stvareh delajo, dajo občasno ven tudi zanimive tehnične informacije, NVidia, ki se uveljavlja na področju opreme za ML ima na voljo primere uporabe in produktno linijo na podlagi katere lahko tudi največji outsider sklepa kako se te stvari dejansko dela. Ampak na koncu se izkaže, da je tukaj le malo ljudi, ki jih to področje zanima do te mere, da ga na ta način sledijo. Pa če bi te stvari samo minimalno spremljali, bi bila debata bistveno drugačna.

frudi je 24. maj 2018 ob 20:19 izjavil:

Samodejno zaviranje v sili je učbeniški primer, če bodo kje avtonomna vozila najprej prikazala svojo superiornost, jo bodo tukaj. Ampak za to je treba avtonomne varnostne sisteme pustit vklopljene, ne pa da se jih izklaplja ravno takrat, ko se jih najbolj potrebuje

Avtonomni varnostni sistemi se po domeni delovanja prekrivajo z AI nadzornim sistemom, zato se jih praviloma onemogoči, da se lahko nemoteno zajema podatke. To ni nekaj od včeraj ali nekaj, kar bi počel samo Uber.

BigWhale je 24. maj 2018 ob 22:26 izjavil:

Jaz bi razumel, ce bi zaviranje v sili izklopili zato, ker namesto tega zavira njihov AI. Torej, sistem, ki ga je vgradil Volvo izklopijo, ker je nadzor nad avtomobilom prevzel njihov sistem. To bi bilo povsem smiselno in v bistvu tudi logicno, ce hoces stestirati svoj AI ne smes imeti zraven motilnih elementov.

Sam zdej pa zgleda, kot da so samo vse izklopili in bi moral operater paziti na vse.

Saj. Izklopili so vse razen elementarnih stvari, ki skrbijo za fiziko gibanja (ABS, EBS), ker razvijajo AI, ne pa se prevažajo naokoli. In ja, voznik je tam notri natančno zato, da pazi na okolico, ker je to testni sistem.

Največja napaka, ki jo je Uber delal (in je več ne bo mogel dolgo delati, če sploh), je preprosto to, da so preveč stvari testirali "v živo" namesto v simulacijah.

frudi je 25. maj 2018 ob 00:20 izjavil:

1.3 sekunde pred trkom je AI ugotovila, da je potrebno zaviranje v sili, da bi se preprečilo/omililo trčenje. AI je torej vedela, da je potrebno pohoditi zavoro (ali to stori AI direktno ali pa prepusti neodvisnemu AEB sistemu niti ni pomembno). Ampak je ni. Ker se je Uber očitno odločil, da naj raje AI ne zavira preveč močno. To je kriminalno in nedopustno, kak samovozeč AI je to, ki se mu ne pusti zavirati v prometu???

Takšen, ki v svoji trenutni razvojni fazi spoštuje tudi arizonski ekvivalent 3. odst. 45. čl. ZPrCP: "(3) Prepovedano je sunkovito speljevanje, zaviranje ali ustavljanje, razen v nevarnosti. ..."

Če sistem pogosto pride do "false pozitive" zaključka, potem ga moraš v času zbiranja podatkov pač nadzirati z neodvisnim sistemom, ki se mu reče človek.

frudi je 25. maj 2018 ob 00:20 izjavil:

Niti nima veze, če je varnostna voznica prisotna v vozilu, tudi če je le-ta ves čas polno pozorna, se še vedno komot pripetijo situacije, kjer človek ne more reagirati pravočasno, AI pa (bi) lahko.

Hkrati pa se pripetijo tudi situacije, kjer AI zavira, ko niti pod razno ne bi rabil ali smel. Kaj je za voznika bolj naravno oziroma naravno do te mere, da je refleksno? Da ob zaznani nevarnosti pred seboj "nagazi na bremzo" ali, da ob zaznani odsotnosti nevarnosti pred seboj in nevarnosti za seboj (ker ima oči tudi na tilniku) "nagazi na plin"?

frudi je 25. maj 2018 ob 00:20 izjavil:

Se absolutno strinjam s teboj, da je Uber kolosalno zajebal, ko so preveč odgovornosti prevalili na eno samo voznico v za človeškega nadzornika predolgočasnem okolju. Minimalno, kar bi bilo potrebno, bi bila uporaba dvojca voznik/sovoznik, da bi poleg avta in prometa nadzorovala še eden drugega. Ampak v resnici je šel Uber še dlje in v bistvu sam aktivno še dodatno otežil delo voznikom.

frudi je 25. maj 2018 ob 00:20 izjavil:

Oziroma jaz bi rekel celo ne samo otežil, ampak jim naložil nemogočo količino nalog in odgovornosti, hkrati pa jih še hendikepiral, tako da je bila kakšna takšna tragična nesreče neizogibna in samo vprašanje časa. Avto namreč tudi v situacijah, ko je očitno vedel, da je potrebna intervencija voznika (ker je potreben manever, ki ga sam ne obvlada ali ne sme izvesti, recimo močno zaviranje), le-tega ni skomuniciral preko kakšnih alarmov ali opozoril.

Morda, morda pa ne. O tem se bodo morda pogovarjali tudi še na sodiščih. Kar se pa tiče tvojega predloga (komuniciranje preko alarmov ali opozoril), pa razmisli o tem, kaj se zgodi s človekovo pozornostjo in upoštevanjem kakršnih koli alarmov ali opozoril, če so ti prevečkrat zgolj "šum" in ne odražajo dejanske nevarnosti? Ja, začnemo jih ignorirati. To ni opravičilo, da jih ni bilo, je pa opozorilo, da tudi, če bi bili, dam roko v ogenj, da ne bi niti najmanj pomagali.

frudi je 25. maj 2018 ob 00:20 izjavil:

- Uber dizajnira samovozečo AI tako, da ne sme samodejno premočno zavirati

Pri razvoju, še zlasti na začetnih stopnjah treniranja modela, je pogosta težava z napačnimi zaznavami nevarnosti, ki ne obstajajo, ki so ravno tako nevarne za okolico. Ker je za človeka v vozilu zaviranje naravnejša reakcija od pospeševanje, od voznika pa se tako ali tako pričakuje, da spremlja okolico, je to običajna odločitev, ki ne zadeva samo Uber-ja.

frudi je 25. maj 2018 ob 00:20 izjavil:

- ker je prav tako onemogočen tudi vgrajen Volvotov AEB sistem, odgovornost za zaviranje v izrednih situacijah s tem prenese na voznike, za katere niti ne vemo, ali in v kolikšni meri so seznanjeni s to omejitvijo AI

Ne glede na "seznanjenost" mora voznik vedno ravnati tako, da ima nadzor nad vozilom. Vsi avtonomni sistemi lahko kadarkoli odpovedo brez kakršnegakoli opozorila. V najbolj banalnem primeru to pomeni, da noben "navaden voznik" ne sme voziti tako, da se zanaša na delovanje ABS (kaj šele kakšnega city-stop sistema, YT je poln posnetkov, kjer ti sistemi zatajijo). Bodoča avtonomna vozila so podložna istim pravilom. Napaka zato ni v "seznanjenosti", temveč v tem, da se ni upoštevalo dejavnikov, ki so vplivali na sposobnost voznika, da svojo nalogo primerno opravlja.

frudi je 25. maj 2018 ob 00:20 izjavil:

- AI je poleg tega dizajnirana tako, da kljub temu, da ve, kdaj je zaviranje v sili potrebno, tega ne skomunicira vozniku preko alarmov ali opozoril

To je napaka za katero pa menim, da na izid tudi v splošnem ne more vplivati. Za to mnenje imam dva razloga:
- Reakcijski čas je za človeka tipično prekratek.
- Zaradi prevelikega števila napačnih alarmov (zaradi česar je bilo ustavljenje tudi omejeno), bi se ljudje hitro "natrenirali", da bi alarme preprosto ignorirali.

frudi je 25. maj 2018 ob 00:20 izjavil:

- Uber nadzorni vmesnik za pregled delovanja samovozečega sistema postavi tako, da mora voznik za njegovo uporabo pogled in pozornost pogosto usmerjati stran od ceste in prometa

O tem se bi verjetno dalo veliko povedati in mislim, da imaš tukaj popolnoma prav. Tudi zaradi tega je bolje, da se v obdobju testiranja v vozilu nahajata dve osebi, ki si lahko to delo učinkovito razdelita.

frudi je 25. maj 2018 ob 00:20 izjavil:

Zdolgočasen in/ali zamoten voznik, izklopljen AEB in AI, ki ne sme močno zavirati in ne zna opozoriti voznika... kaj neki bi lahko šlo narobe? Po mojem ne more biti izgovorov za takšen absurd.

Nekatere stvari so obektivne okoliščine, ki se jim ne moreš izogniti. Uber pri tem ni osamljen in tudi drugi razvijalci to počno ali pa so to na podobni razvojni stopnji počeli.To, da pa je bila v vozilu samo ena oseba, pa je IMO privedlo do tega, da funkcija učinkovitega nadzora testnega vozila ni bila izpolnjena in o tem pričakujem, da se bo še marsikaj napisalo in ugotavljalo.

Okapi je 24. maj 2018 ob 22:55 izjavil:

Me prav zanima, če bi take bedarije kvasil tudi, če bi tvojega otroka ali mamo tako avto povozil? Eni res nimate e od empatije.

Najbrž bi hammock rekel: "jebiga, razvoj gre naprej, otroka lahko vedno še enega naredim"? Ane hammock?