Prijavi se z GoogleID

» »

Prva smrtna žrtev v nesreči samovozečega avtomobila

strani: 1 ... 8 9 10 11

hammock ::

xmetallic je izjavil:

nekikr je izjavil:

Uber settles with family of woman killed by self-driving car, avoids lawsuit
Zanimivo, ne? Nič niso krivi, kar iz teme je skočila pred avto, pa so vseeno ponudili zelo velikodušno številko, da so takole ekspresno zaprli primer.

Pričakovano. Uber želi čim prej incident pomesti pod preprogo da lahko nazaj na cesto pošlje vozila.

Edino prav. Saj smo vsi vedeli da bodo mrtvi, se veliko jih bo imo. Seveda pa to ni razlog da se ustavi razvoj. Na dolgi rok bo Uber reseval zivljenja na cesti.

LeQuack ::

hammock je izjavil:

xmetallic je izjavil:

nekikr je izjavil:

Uber settles with family of woman killed by self-driving car, avoids lawsuit
Zanimivo, ne? Nič niso krivi, kar iz teme je skočila pred avto, pa so vseeno ponudili zelo velikodušno številko, da so takole ekspresno zaprli primer.

Pričakovano. Uber želi čim prej incident pomesti pod preprogo da lahko nazaj na cesto pošlje vozila.

Edino prav. Saj smo vsi vedeli da bodo mrtvi, se veliko jih bo imo. Seveda pa to ni razlog da se ustavi razvoj. Na dolgi rok bo Uber reseval zivljenja na cesti.


Če bi se šlo podjetjem za varnost potem bi vsi skupaj open sourcali svoje algoritme in si prizadevali, da bi vsi samovozeči avtomobili imeli najboljšo možno inteligenco.
Quack !

hammock ::

Ja, potem pa bodo sedeli v krogu okoli tabornega ognja in peli kumbaja. Denar ki so ga zapravili za razvoj pa jim bo padel z neba.

Matthai ::

hammock je izjavil:

Na dolgi rok bo Uber reseval zivljenja na cesti.

Uber pa reševanje življenj, družbena odgovornost in podobni pojmi ne gredo skupaj.
All those moments will be lost in time, like tears in rain...
Time to die.

hammock ::

Matthai je izjavil:

hammock je izjavil:

Na dolgi rok bo Uber reseval zivljenja na cesti.

Uber pa reševanje življenj, družbena odgovornost in podobni pojmi ne gredo skupaj.

Let me rephrase: Uber hoce vec dobicka, zato bi se rad znebil dragih voznikov. Ker je (bo?) racunalnik v drzanju vozila med crtama in upostevanju prometnih znakov boljsi od vsakega cloveka, kaj sele povprecnega, bo stranski ucinek tega izboljsanje varnosti za vse.

Uber (GM, Tesla, Waymo...) bo reseval zivljenja, ker smo ljudje slabi vozniki.

Matthai ::

Uber bo reševal življenja samo, če bo tako zahtevala zakonodaja.

Če bi bilo po Uberjevo, bi samovozeče avtomobile že sedaj spustili na cesto - in se ne menili za posledice.
All those moments will be lost in time, like tears in rain...
Time to die.

M.B. ::

Samo vseeno bi morali nekak predstavit kaj pri hudiču je šlo narobe, ker Uber že tako ali tako ima slab sloves, zaradi slabega dela z vozniki, spolno nadlegovanje, zdaj pa še to. Nekak ne govori dosti o varnosti, če pri vseh senzorjih niti ne bremzaš potem pa pometeš vse pod preprogo. Ironija je da bi volvov senzor za pešce bremzal, če bi bil vklopljen, pa ni neko čudo tehnike z vlko AI zadaj. Pa zanimivo da je človek, ki je delal pri Waymu in želel "Move fast and break things" pa pri Googlu niso bli za to, potem šel k Uberju in tam so bli hitro za.
Everyone started out as a newbie.
Sadly only a handful ever progress past that point.

Okapi ::

Matthai je izjavil:

hammock je izjavil:

Na dolgi rok bo Uber reseval zivljenja na cesti.

Uber pa reševanje življenj, družbena odgovornost in podobni pojmi ne gredo skupaj.

A tega se zavedaš, da Uber tisočim pomaga do malo bolj spodobnega življenja? Vsi, ki vozijo za Uber, bi bili brez njega na slabšem, kot so z njim.

nekikr ::

A to tisti, ki dobijo manj od mminimalne plače ali tisti, ki spijo v avtomobilih?

Okapi ::

Oboji. Brez Uberja bi dobili še manj, in spali bi v parku. Če je kdo kaj kriv, je kriva družba v celoti, in "socialna" država, ki te ljudi sili, da delajo za Uber. Ker namreč Uber ne sili prav nikogar.

To je nekako tako, kot če ti plačaš klošarju kosilo, jaz te pa popljuvam, kakšen prasec si, ker mu ne plačaš najemnine za stanovanje, in mora zato revež spati v zavetišču.

Zgodovina sprememb…

  • spremenil: Okapi ()

Matthai ::

Okapi je izjavil:

Oboji. Brez Uberja bi dobili še manj, in spali bi v parku. Če je kdo kaj kriv, je kriva družba v celoti, in "socialna" država, ki te ljudi sili, da delajo za Uber. Ker namreč Uber ne sili prav nikogar.

Tole bi načeloma sicer držalo, problem je, da Uber krši zakonodajo, ki zagotavlja minimalne pravice. Na račun visokih dobičkov seveda.

Če bi Uber posloval v skladu z zakonom, bi imel lahko enako število zaposlenih, le nekoliko manjše dobičke.

Po tvoji logiki lahko delavske pravice kar ukinemo, delavci, ki bodo delali za kosilo in streho nad glavo pa bodo lahko podjetju hvaležni, da sploh lahko delajo?
All those moments will be lost in time, like tears in rain...
Time to die.

Okapi ::

Sem že večkrat napisal, da delavci bolj potrebujejo kapitaliste kot kapitalisti delavce.

Če Uber krši kakšne zakone, je kriva država, da mu to dovoli početi nekaznovano. V demokracijah so krivi delavci sami, ker volijo takšne politike, ki ne poskrbijo, da bi Uber ne kršil zakonov.

In v resnici ni Uber tisti, ki izkorišča voznike - potniki, ki uporabljajo Uber, so tisti, ki jih izkoriščajo. In potniki v glavnem niso kapitalisti, ampak delavci. Tako da naj se delavci med sabo zmenijo, kdo koga izkorišča.>:D

Zgodovina sprememb…

  • spremenil: Okapi ()

antonija ::

Aha, Uber ni nicesar kriv, krivi so delavci in drzvae, ki mu pustijo da dela vsem drugim krivico?
Statistically 3 out of 4 involved usually enjoy gang-bang experience.

Okapi ::

Dokler nisi pravnomočno obsojen, si nedolžen. Velja tudi za podjetja.

antonija ::

In kako si potem dodelil krivdo drzavi in delavcem?
Statistically 3 out of 4 involved usually enjoy gang-bang experience.

Unilseptij ::

Pa saj država ukrepa in prepoveduje njegovo delovanje... Kje je tu problem? Zato bo pač propadel in njegov poslovni model, če dejansko drži vodo brez kršenja temeljnih pravic, bo slej ko prej prevzel nekdo drug. Če pa model ne zdrži, potem je bolje, da takih storitev pač ni... tako kot ni službe za polni delovni čas za 20 EUR na mesec, ker je to pač nezakonito.

Zgodovina sprememb…

Okapi ::

antonija je izjavil:

In kako si potem dodelil krivdo drzavi in delavcem?

Ker nisem govoril o krivdi kršenja zakonov.

antonija ::

aha, ena merila za Uber in druga za vse ostale? Sounds legit...
Statistically 3 out of 4 involved usually enjoy gang-bang experience.

Okapi ::

Ne vem, zakaj se delaš neumnega? Eno je krivda, če nekoga obtožiš kršenja zakonov, nekaj drugega pa krivda, če nekoga obtožiš recimo neotesanega ali neumnega vedenja.

antonija ::

Povsem razumem: Uberju bomo dodelili krivdo glede na krsenje zakonov, vse ostale bomo pa sodili po... arbitrarnih pravilih Okapija mimo zakonov.
Statistically 3 out of 4 involved usually enjoy gang-bang experience.

Okapi ::

Vsakega bomo sodili glede na to, česa ga obtožujemo.

MrStein ::

Matthai je izjavil:

Uber bo reševal življenja samo, če bo tako zahtevala zakonodaja.

Če bi bilo po Uberjevo, bi samovozeče avtomobile že sedaj spustili na cesto - in se ne menili za posledice.

To je tako kot če bi rekel "pes reševalec je zverina, ki bi najraje vse pobila, a ne naredi tega ker ga "pravila" silijo v drugačno obnašanje".
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

nurmaln ::

Matthai je izjavil:

Uber bo reševal življenja samo, če bo tako zahtevala zakonodaja.

Če bi bilo po Uberjevo, bi samovozeče avtomobile že sedaj spustili na cesto - in se ne menili za posledice.


To očitno ne drži povsem. A ni Uber sam ustavil testiranja, še preden so mu ga prepovedali? V ameriškem sodnem sistemu si ne more privoščiti prav veliko smrti, odškodnine gredo hitro lahko v desetine ali stotine milijonov USD.
Pri nas bi si pa seveda veliko lažje privoščil zejebancijo.
"I will be quoted in someone's signature,
even if I have to do it myself!" - nurmaln

thramos ::

antonija je izjavil:

Aha, Uber ni nicesar kriv, krivi so delavci in drzvae, ki mu pustijo da dela vsem drugim krivico?


Nekako tako, kot del krivde oz. odgovornosti pripišemo sistemu, ko moža ubije žena, ki je bila že večkrat obravnavana zaradi nasilja v družini, recimo.

xmetallic ::

Nasprotniki tehnologije, ste že vzeli dnevno dozo tablet? BTC želi postati testni poligon za samovozeča vozila

BigWhale ::

xmetallic je izjavil:

Nasprotniki tehnologije, ste že vzeli dnevno dozo tablet? BTC želi postati testni poligon za samovozeča vozila

Koga mislis, ko pravis 'nasprotniki tehnologije'?

Vemo ze to. In tak poligon je precej bolj uporaben kot neke na pol zapuscene ceste v Arizoni. ;>

Matthai ::

"Fino", ker je cel kup pešcev, ki brezglavo letajo z nakupovalnimi vrečkami naokrog...
All those moments will be lost in time, like tears in rain...
Time to die.

Looooooka ::

Po podatkih, ki jih objavlja slovenska policija na svoji uradni spletni strani, so kolesarji v prometnih nesrečah v več kot polovici primerov povzročitelji nesreče. Največkrat se to zgodi zaradi nepoznavanja kolesarskih cestno prometnih predpisov, ki se jih naučimo v petem razredu osnovne šole! Kolesarji najpogosteje povzročijo prometne nesreče zaradi nepravilne strani in smeri vožnje, ker vozijo preblizu robu vozišča ali celo po nasprotni polovici, kar je pogosto povezano tudi z vožnjo pod vplivom alkohola. Neupoštevanje pravil o prednosti, največkrat na križiščih, saj pozabljajo, da tamkajšnji znak stop ali znak za križišče s prednostno cesto velja tudi zanje, ne le za voznike motornih vozil. Pogosto pa kolesarji ne prilagodijo hitrosti stanju in lastnostim ceste, še posebej na posameznih odsekih cest z večjim naklonom.


Ce audi in ostali 'pametni' avtomobili prezivijo real life test slovenskih kolesarjev brez ene praske so pomojem ze premagali najtezji izziv desetletja. Realno me pa bolj zanima koliko denarja majo pripravljenega za odskodnine. BTC eden izmed redkih krajev, kjer so pesci se hujsi od kolesarjev(ce je to sploh mozno)...zgleda bomo hitro spet v New York Timesu...tokrat brez pomoci druzine Strojan.

Zgodovina sprememb…

xmetallic ::

BigWhale je izjavil:

Koga mislis, ko pravis 'nasprotniki tehnologije'?

Tistega, ki težko prenese da si sosed lahko kupi avto višjega ranga, iPhone. "Poznavalec", ki nima pojma o računalništvu ampak "obvlada" strojno učenje, ker je prebral dva članka v cosmopolitanu.

Zgodovina sprememb…

BigWhale ::

Aja, slamnate moze, ki jih pretepas, si mislil. Ok. :)

xmetallic ::

Ne vem če je slamnat je pa sodeč po njegovih komentarjih povsem možno, da mu v glavi možgane nadomešča slama.

BigWhale ::

News from the front:

https://www.reuters.com/article/us-uber...

Avto je nekaj videl 6 sekund pred trkom in je to nekaj najprej klasificiral kot pesca, potem neznan objekt in na koncu kot kolesar, 1.3 sekunde pred trkom je ugotovil, da je treba nujno zavirati ampak sistemi za zaviranje v sili niso bili vklopljeni. Uber pravi, da bi situacijo moral resevati operater. Nihce se niti ni spomnil, da bi vklopil kakrsnokoli opozorilo za voznika/operaterja.

Fun! :)

PS: Se link do porocila. https://www.ntsb.gov/investigations/Acc...

Zgodovina sprememb…

  • spremenil: BigWhale ()

frudi ::

Direktno iz poročila del, na katerega se sklicuješ:
At 1.3 seconds before impact, the self-driving system determined that an emergency braking maneuver was needed to mitigate a collision (see figure 2). According to Uber, emergency braking maneuvers are not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle behavior. The vehicle operator is relied on to intervene and take action. The system is not designed to alert the operator.

A se samo meni poraja v glavi v prašanje, kako za božjo voljo je to sploh možno? Tole mora biti kriminalna malomarnost. Vsakemu razumnemu osebku mora biti jasno, da je tako neumno dizajniran sistem nevaren in neprimeren za testiranje na javnih cestah.

edit: Uber je včeraj tudi sporočil, da so povsem ukinili program samovozečih vozil v Arizoni in odpustili približno 300 s tem povezanih zaposlenih.
1ACDoHVj3wn7N4EMpGVU4YGLR9HTfkNhTd... in case I've written something useful :)

Zgodovina sprememb…

  • spremenilo: frudi ()

Okapi ::

Po mojem je tako, da je s sistemom zaviranja v sili avto neuporaben, ker prepogosto zavira, brez njega pa je tudi neuporaben, ker koga povozi (če voznik ne gleda na cesto). Pri Uberju so spoznali, da je samovoznost rahlo zahtevnejši problem, kot so mislili, in so se s cest raje vrnili v laboratorij.

https://www.nytimes.com/2018/05/23/tech...

Medtem se zdi, da tudi pri Applu obupujejo. Namesto samovoznega avta za javnost zdaj delajo na nekih kombijih za interno rabo.

Zgodovina sprememb…

  • spremenil: Okapi ()

frudi ::

Pri Uberju niso spakirali ravno nazaj v laboratorij, očitno nameravajo še naprej testirati tudi na javnih cestah in sicer v Pittsburghu ter San Franciscu, ampak v precej bolj omejenem obsegu. Čeprav očitno župan Pittsburgha ni vedel nič o tem in ni ravno navdušen nad idejo.
1ACDoHVj3wn7N4EMpGVU4YGLR9HTfkNhTd... in case I've written something useful :)

AndrejO ::

frudi je izjavil:

Direktno iz poročila del, na katerega se sklicuješ:
At 1.3 seconds before impact, the self-driving system determined that an emergency braking maneuver was needed to mitigate a collision (see figure 2). According to Uber, emergency braking maneuvers are not enabled while the vehicle is under computer control, to reduce the potential for erratic vehicle behavior. The vehicle operator is relied on to intervene and take action. The system is not designed to alert the operator.

A se samo meni poraja v glavi v prašanje, kako za božjo voljo je to sploh možno?

Nekje v spominu imam, da so ljudje tudi na tem portalu razlagali kako se odklopi ABS. Izklop sistema za zaviranje v sili verjetno ni nič bolj tehnično zahtevna stvar.

frudi je izjavil:

Tole mora biti kriminalna malomarnost.

Tako, kot je kriminalna malomarnosti tudi onemogočanje ABS, EBS, lane-assist in drugih sistemov za pomoč pri vožnji?

frudi je izjavil:

Vsakemu razumnemu osebku mora biti jasno, da je tako neumno dizajniran sistem nevaren in neprimeren za testiranje na javnih cestah.

Morda. V praksi je bila šibka točka sistema to, da se je zaupalo odzivu samo enega človeka, ki bi moral v okolju, kjer nima ničesar za početi, kot samo in izključno gledati okoli sebe.

BigWhale ::

Se pravi je Uberjev 'AI' se vedno tako zanic, da niti pesca, ki precka cesto ne zazna oziroma raje ne zavira, ker utegne biti false positive? :/

Okapi ::

To, da raje ne zavira, ni krivda AI, ampak HI (human intelligence), ki je sistem zaviranja izklopila. HI je sistem izklopila, ker AI preveč rada zavira, pri tem pa je HI pozabila, da mora sedaj ona gledati na cesto in zavirati.

Zgodovina sprememb…

  • spremenil: Okapi ()

AndrejO ::

BigWhale je izjavil:

Se pravi je Uberjev 'AI' se vedno tako zanic, da niti pesca, ki precka cesto ne zazna oziroma raje ne zavira, ker utegne biti false positive? :/

Te to preseneča?

frudi ::

@AndrejO: AEB sistem je, po definiciji, namenjen situacijam, v katerih človeški voznik že ne more sam pravočasno zavirati (lahko zaradi lastne nepozornosti, lahko zaradi kakih drugih, opravičljivih okoliščin). In kaj je Uber naredil - ne samo, da je ta sistem izklopil in odgovornost prevalil na človeškega voznika, kljub temu da je sistem namenjen ravno situacijam, kjer človeški voznik odpove. Hkrati so še onemogočili, da bi avto sploh opozoril voznika na nevarnost in potrebo po posredovanju! Absolutno neumen dizajn.

Vprašanje tudi, če so Uberjevi vozniki sploh vedeli, da je AEB sistem v avtonomnem režimu izklopljen in da morajo zato biti v bistvu še bolj pozorni in previdni, kot če bi sami vozili.

Mislim, že leta poslušamo od pametnjakovičev, kako varnejša so avtonomna vozila in kako lahko avtonomni varnostni sistemi reagirajo hitreje od človeka. Samodejno zaviranje v sili je učbeniški primer, če bodo kje avtonomna vozila najprej prikazala svojo superiornost, jo bodo tukaj. Ampak za to je treba avtonomne varnostne sisteme pustit vklopljene, ne pa da se jih izklaplja ravno takrat, ko se jih najbolj potrebuje 8-O
1ACDoHVj3wn7N4EMpGVU4YGLR9HTfkNhTd... in case I've written something useful :)

BigWhale ::

Jaz bi razumel, ce bi zaviranje v sili izklopili zato, ker namesto tega zavira njihov AI. Torej, sistem, ki ga je vgradil Volvo izklopijo, ker je nadzor nad avtomobilom prevzel njihov sistem. To bi bilo povsem smiselno in v bistvu tudi logicno, ce hoces stestirati svoj AI ne smes imeti zraven motilnih elementov.

Sam zdej pa zgleda, kot da so samo vse izklopili in bi moral operater paziti na vse.

nekikr ::

In za to plačali nekaj "podkupnine" družini žrtve in vse gre lepo naprej. Tole je navaden umor iz malomarnosti.

hammock ::

nekikr je izjavil:

In za to plačali nekaj "podkupnine" družini žrtve in vse gre lepo naprej. Tole je navaden umor iz malomarnosti.

Kaj pa bi rad, da se ukine razvoj avtonomnih vozil? Jebiga, nesrece se dogajajo. Je uboj, morda celo iz malomarnosti, umor pa nikakor.

Se dosti ljudi bo umrlo v podobnih okoliscinah, ampak dolgorocno bodo mnoga zivljenja resena.

Okapi ::

Me prav zanima, če bi take bedarije kvasil tudi, če bi tvojega otroka ali mamo tako avto povozil? Eni res nimate e od empatije.;((

AndrejO ::

frudi je izjavil:

@AndrejO: AEB sistem je, po definiciji, namenjen situacijam, v katerih človeški voznik že ne more sam pravočasno zavirati (lahko zaradi lastne nepozornosti, lahko zaradi kakih drugih, opravičljivih okoliščin). In kaj je Uber naredil - ne samo, da je ta sistem izklopil in odgovornost prevalil na človeškega voznika, kljub temu da je sistem namenjen ravno situacijam, kjer človeški voznik odpove.

Odgovornost je vedno, vedno in vedno na strani voznika in dokler se lahko po cestah legalno prevažajo ljudje z vozili, ki nimajo niti servo volana, kaj šele kakšne pomožne elektronike, mora za vse veljati enak pravni standard.

frudi je izjavil:

Hkrati so še onemogočili, da bi avto sploh opozoril voznika na nevarnost in potrebo po posredovanju!

1,3s. Koliko je že tipičen reakcijski čas?

frudi je izjavil:

Absolutno neumen dizajn.

Samo, če privzameš nekaj stvar, ki pa v javnem prometu ne vzdržijo, ker se ga udeležujejo takšne kante, ki nimajo nič od nič, pa so še vedno legalne.

frudi je izjavil:

Vprašanje tudi, če so Uberjevi vozniki sploh vedeli, da je AEB sistem v avtonomnem režimu izklopljen in da morajo zato biti v bistvu še bolj pozorni in previdni, kot če bi sami vozili.

Ne glede na to kaj so vedeli ali niso vedeli, sistemi tudi odpovedo. Naloga ljudi v teh vozilih je, da izrecno pričakujejo "fail". Uber-jeva največja napaka je bila, da je dopustil, da v okolju, ki je maksimalno dolgočasno, za varnost skrbi ena sama in osamljena oseba, ki ne dela nič, ne ve kaj točno bo vozilo storilo čez 1s, hkrati pa mora biti na vse pozorna.

frudi je izjavil:

Mislim, že leta poslušamo od pametnjakovičev, kako varnejša so avtonomna vozila in kako lahko avtonomni varnostni sistemi reagirajo hitreje od človeka.

Pametnjakoviči so pač pametnjakoviči. Sem nekaj mesecev, ko se je ta zgodba začela, poskusil pojasniti kako so stvari res sestavljene, zakaj so tako sestavljene, zakaj niso tako "proste ko pasulj", kot si predstavljajo in tudi zakaj ni vse v reakcijskem času. Pa so še vedno ostali najpametnejši.

Dejansko pa so te stvari dostopne vsem tudi brez kakšnega "insiderskega znanja". Veliko raziskovalnih papirjev je na voljo, tudi podjetja, ki na teh stvareh delajo, dajo občasno ven tudi zanimive tehnične informacije, NVidia, ki se uveljavlja na področju opreme za ML ima na voljo primere uporabe in produktno linijo na podlagi katere lahko tudi največji outsider sklepa kako se te stvari dejansko dela. Ampak na koncu se izkaže, da je tukaj le malo ljudi, ki jih to področje zanima do te mere, da ga na ta način sledijo. Pa če bi te stvari samo minimalno spremljali, bi bila debata bistveno drugačna.

frudi je izjavil:

Samodejno zaviranje v sili je učbeniški primer, če bodo kje avtonomna vozila najprej prikazala svojo superiornost, jo bodo tukaj. Ampak za to je treba avtonomne varnostne sisteme pustit vklopljene, ne pa da se jih izklaplja ravno takrat, ko se jih najbolj potrebuje 8-O

Avtonomni varnostni sistemi se po domeni delovanja prekrivajo z AI nadzornim sistemom, zato se jih praviloma onemogoči, da se lahko nemoteno zajema podatke. To ni nekaj od včeraj ali nekaj, kar bi počel samo Uber.

BigWhale je izjavil:

Jaz bi razumel, ce bi zaviranje v sili izklopili zato, ker namesto tega zavira njihov AI. Torej, sistem, ki ga je vgradil Volvo izklopijo, ker je nadzor nad avtomobilom prevzel njihov sistem. To bi bilo povsem smiselno in v bistvu tudi logicno, ce hoces stestirati svoj AI ne smes imeti zraven motilnih elementov.

Sam zdej pa zgleda, kot da so samo vse izklopili in bi moral operater paziti na vse.

Saj. Izklopili so vse razen elementarnih stvari, ki skrbijo za fiziko gibanja (ABS, EBS), ker razvijajo AI, ne pa se prevažajo naokoli. In ja, voznik je tam notri natančno zato, da pazi na okolico, ker je to testni sistem.

Največja napaka, ki jo je Uber delal (in je več ne bo mogel dolgo delati, če sploh), je preprosto to, da so preveč stvari testirali "v živo" namesto v simulacijah.

Zgodovina sprememb…

  • spremenil: AndrejO ()

frudi ::

1.3 sekunde pred trkom je AI ugotovila, da je potrebno zaviranje v sili, da bi se preprečilo/omililo trčenje. AI je torej vedela, da je potrebno pohoditi zavoro (ali to stori AI direktno ali pa prepusti neodvisnemu AEB sistemu niti ni pomembno). Ampak je ni. Ker se je Uber očitno odločil, da naj raje AI ne zavira preveč močno. To je kriminalno in nedopustno, kak samovozeč AI je to, ki se mu ne pusti zavirati v prometu??? Niti nima veze, če je varnostna voznica prisotna v vozilu, tudi če je le-ta ves čas polno pozorna, se še vedno komot pripetijo situacije, kjer človek ne more reagirati pravočasno, AI pa (bi) lahko. Ampak tukaj AI sploh ni dovoljeno ustrezno reagirati, če ne sme (preveč močno) zavirati.

Se absolutno strinjam s teboj, da je Uber kolosalno zajebal, ko so preveč odgovornosti prevalili na eno samo voznico v za človeškega nadzornika predolgočasnem okolju. Minimalno, kar bi bilo potrebno, bi bila uporaba dvojca voznik/sovoznik, da bi poleg avta in prometa nadzorovala še eden drugega. Ampak v resnici je šel Uber še dlje in v bistvu sam aktivno še dodatno otežil delo voznikom. Oziroma jaz bi rekel celo ne samo otežil, ampak jim naložil nemogočo količino nalog in odgovornosti, hkrati pa jih še hendikepiral, tako da je bila kakšna takšna tragična nesreče neizogibna in samo vprašanje časa. Avto namreč tudi v situacijah, ko je očitno vedel, da je potrebna intervencija voznika (ker je potreben manever, ki ga sam ne obvlada ali ne sme izvesti, recimo močno zaviranje), le-tega ni skomuniciral preko kakšnih alarmov ali opozoril.

Poleg vsega tega pa so očitno vozniki delovanje avtomobila in samovozeče AI nadzorovali preko zaslona na sredinski konzoli. To naj bi tudi počela voznica tik pred nesrečo, zato je bila na internem posnetku v sekundah pred trkom obrnjena ne proti cesti, ampak proti sredinski konzoli. No, vsaj tako pravi ona:

In a postcrash interview with NTSB investigators, the vehicle operator stated that she had been monitoring the self-driving system interface. The operator further stated that although her personal and business phones were in the vehicle, neither was in use until after the crash, when she called 911.

Torej, če povzamemo:
- Uber dizajnira samovozečo AI tako, da ne sme samodejno premočno zavirati
- ker je prav tako onemogočen tudi vgrajen Volvotov AEB sistem, odgovornost za zaviranje v izrednih situacijah s tem prenese na voznike, za katere niti ne vemo, ali in v kolikšni meri so seznanjeni s to omejitvijo AI
- AI je poleg tega dizajnirana tako, da kljub temu, da ve, kdaj je zaviranje v sili potrebno, tega ne skomunicira vozniku preko alarmov ali opozoril
- Uber nadzorni vmesnik za pregled delovanja samovozečega sistema postavi tako, da mora voznik za njegovo uporabo pogled in pozornost pogosto usmerjati stran od ceste in prometa

Zdolgočasen in/ali zamoten voznik, izklopljen AEB in AI, ki ne sme močno zavirati in ne zna opozoriti voznika... kaj neki bi lahko šlo narobe? Po mojem ne more biti izgovorov za takšen absurd.
1ACDoHVj3wn7N4EMpGVU4YGLR9HTfkNhTd... in case I've written something useful :)

AndrejO ::

frudi je izjavil:

1.3 sekunde pred trkom je AI ugotovila, da je potrebno zaviranje v sili, da bi se preprečilo/omililo trčenje. AI je torej vedela, da je potrebno pohoditi zavoro (ali to stori AI direktno ali pa prepusti neodvisnemu AEB sistemu niti ni pomembno). Ampak je ni. Ker se je Uber očitno odločil, da naj raje AI ne zavira preveč močno. To je kriminalno in nedopustno, kak samovozeč AI je to, ki se mu ne pusti zavirati v prometu???

Takšen, ki v svoji trenutni razvojni fazi spoštuje tudi arizonski ekvivalent 3. odst. 45. čl. ZPrCP: "(3) Prepovedano je sunkovito speljevanje, zaviranje ali ustavljanje, razen v nevarnosti. ..."

Če sistem pogosto pride do "false pozitive" zaključka, potem ga moraš v času zbiranja podatkov pač nadzirati z neodvisnim sistemom, ki se mu reče človek.

frudi je izjavil:

Niti nima veze, če je varnostna voznica prisotna v vozilu, tudi če je le-ta ves čas polno pozorna, se še vedno komot pripetijo situacije, kjer človek ne more reagirati pravočasno, AI pa (bi) lahko.

Hkrati pa se pripetijo tudi situacije, kjer AI zavira, ko niti pod razno ne bi rabil ali smel. Kaj je za voznika bolj naravno oziroma naravno do te mere, da je refleksno? Da ob zaznani nevarnosti pred seboj "nagazi na bremzo" ali, da ob zaznani odsotnosti nevarnosti pred seboj in nevarnosti za seboj (ker ima oči tudi na tilniku) "nagazi na plin"?

frudi je izjavil:

Se absolutno strinjam s teboj, da je Uber kolosalno zajebal, ko so preveč odgovornosti prevalili na eno samo voznico v za človeškega nadzornika predolgočasnem okolju. Minimalno, kar bi bilo potrebno, bi bila uporaba dvojca voznik/sovoznik, da bi poleg avta in prometa nadzorovala še eden drugega. Ampak v resnici je šel Uber še dlje in v bistvu sam aktivno še dodatno otežil delo voznikom.


frudi je izjavil:

Oziroma jaz bi rekel celo ne samo otežil, ampak jim naložil nemogočo količino nalog in odgovornosti, hkrati pa jih še hendikepiral, tako da je bila kakšna takšna tragična nesreče neizogibna in samo vprašanje časa. Avto namreč tudi v situacijah, ko je očitno vedel, da je potrebna intervencija voznika (ker je potreben manever, ki ga sam ne obvlada ali ne sme izvesti, recimo močno zaviranje), le-tega ni skomuniciral preko kakšnih alarmov ali opozoril.

Morda, morda pa ne. O tem se bodo morda pogovarjali tudi še na sodiščih. Kar se pa tiče tvojega predloga (komuniciranje preko alarmov ali opozoril), pa razmisli o tem, kaj se zgodi s človekovo pozornostjo in upoštevanjem kakršnih koli alarmov ali opozoril, če so ti prevečkrat zgolj "šum" in ne odražajo dejanske nevarnosti? Ja, začnemo jih ignorirati. To ni opravičilo, da jih ni bilo, je pa opozorilo, da tudi, če bi bili, dam roko v ogenj, da ne bi niti najmanj pomagali.

frudi je izjavil:

- Uber dizajnira samovozečo AI tako, da ne sme samodejno premočno zavirati

Pri razvoju, še zlasti na začetnih stopnjah treniranja modela, je pogosta težava z napačnimi zaznavami nevarnosti, ki ne obstajajo, ki so ravno tako nevarne za okolico. Ker je za človeka v vozilu zaviranje naravnejša reakcija od pospeševanje, od voznika pa se tako ali tako pričakuje, da spremlja okolico, je to običajna odločitev, ki ne zadeva samo Uber-ja.

frudi je izjavil:

- ker je prav tako onemogočen tudi vgrajen Volvotov AEB sistem, odgovornost za zaviranje v izrednih situacijah s tem prenese na voznike, za katere niti ne vemo, ali in v kolikšni meri so seznanjeni s to omejitvijo AI

Ne glede na "seznanjenost" mora voznik vedno ravnati tako, da ima nadzor nad vozilom. Vsi avtonomni sistemi lahko kadarkoli odpovedo brez kakršnegakoli opozorila. V najbolj banalnem primeru to pomeni, da noben "navaden voznik" ne sme voziti tako, da se zanaša na delovanje ABS (kaj šele kakšnega city-stop sistema, YT je poln posnetkov, kjer ti sistemi zatajijo). Bodoča avtonomna vozila so podložna istim pravilom. Napaka zato ni v "seznanjenosti", temveč v tem, da se ni upoštevalo dejavnikov, ki so vplivali na sposobnost voznika, da svojo nalogo primerno opravlja.

frudi je izjavil:

- AI je poleg tega dizajnirana tako, da kljub temu, da ve, kdaj je zaviranje v sili potrebno, tega ne skomunicira vozniku preko alarmov ali opozoril

To je napaka za katero pa menim, da na izid tudi v splošnem ne more vplivati. Za to mnenje imam dva razloga:
- Reakcijski čas je za človeka tipično prekratek.
- Zaradi prevelikega števila napačnih alarmov (zaradi česar je bilo ustavljenje tudi omejeno), bi se ljudje hitro "natrenirali", da bi alarme preprosto ignorirali.

frudi je izjavil:

- Uber nadzorni vmesnik za pregled delovanja samovozečega sistema postavi tako, da mora voznik za njegovo uporabo pogled in pozornost pogosto usmerjati stran od ceste in prometa

O tem se bi verjetno dalo veliko povedati in mislim, da imaš tukaj popolnoma prav. Tudi zaradi tega je bolje, da se v obdobju testiranja v vozilu nahajata dve osebi, ki si lahko to delo učinkovito razdelita.

frudi je izjavil:

Zdolgočasen in/ali zamoten voznik, izklopljen AEB in AI, ki ne sme močno zavirati in ne zna opozoriti voznika... kaj neki bi lahko šlo narobe? Po mojem ne more biti izgovorov za takšen absurd.

Nekatere stvari so obektivne okoliščine, ki se jim ne moreš izogniti. Uber pri tem ni osamljen in tudi drugi razvijalci to počno ali pa so to na podobni razvojni stopnji počeli.To, da pa je bila v vozilu samo ena oseba, pa je IMO privedlo do tega, da funkcija učinkovitega nadzora testnega vozila ni bila izpolnjena in o tem pričakujem, da se bo še marsikaj napisalo in ugotavljalo.

Matthai ::

Pozabljate na pomemben psihološki element. Izkazo se je, da če so vozniški nadzorniki pasivni (ne vozijo), in jih sistem nenadoma pozove naj prevzamejo nadzor, pride do zmede in ljudie reagirajo zmedeno in nevarno. Sevesa bi voznik moral to in ono. Ampak če ustvariš okoliščine kjer začne delovati neka druga psihologija, krivda voznikov ni tako enoznačna.
All those moments will be lost in time, like tears in rain...
Time to die.

nekikr ::

Okapi je izjavil:

Me prav zanima, če bi take bedarije kvasil tudi, če bi tvojega otroka ali mamo tako avto povozil? Eni res nimate e od empatije.;((

Najbrž bi hammock rekel: "jebiga, razvoj gre naprej, otroka lahko vedno še enega naredim"? Ane hammock?

VaeVictis ::

hammock je izjavil:

nekikr je izjavil:

In za to plačali nekaj "podkupnine" družini žrtve in vse gre lepo naprej. Tole je navaden umor iz malomarnosti.

Kaj pa bi rad, da se ukine razvoj avtonomnih vozil? Jebiga, nesrece se dogajajo. Je uboj, morda celo iz malomarnosti, umor pa nikakor.

Se dosti ljudi bo umrlo v podobnih okoliscinah, ampak dolgorocno bodo mnoga zivljenja resena.


V primeru, da je uboj (morda celo iz malomarnosti), kdo po tvojem mnenju odgovarja za to?
strani: 1 ... 8 9 10 11


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Arizona prepovedala Uberjeva avtonomna vozila

Oddelek: Novice / Znanost in tehnologija
354415 (2491) joze67
»

Uber zaradi nesreče prekinil preizkuse avtonomnih vozil (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
21223233 (17942) Unknown_001
»

Prva smrtna žrtev samovozečih avtomobilov, ki to niso (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
20531725 (24469) Mare2
»

V Evropskem Parlamentu razglabljali o prihodnosti samovozečih avtomobilov (strani: 1 2 )

Oddelek: Novice / NWO
528577 (6322) Markoff

Več podobnih tem