Najhujša nesreča avtonomnega vozila doslej, krivec človek

Ne rabiš. Vemo, da se človek odloča "racionalno", stroj pa racionalno.

Truga je 26. sep 2016 ob 18:17 izjavil:

Zdej, ce primerjamo s tem kaj bo ko zadevo prevzame software, je zadeva seveda drugacna. Ko bo mrtvih drobiz na miljardo, se bo to kar je zdej zdelo grozljivka.

Takrat bo vsaka nesreča z mrtvimi (nekje dvakrat na leto na celem planetu) novica dneva. In kričači bodo prodajali svojo meglo:
- zakaj nihče nič ne naredi
- samovozeča vozila bi bilo treba prepovedati
- itd...

Kar se avtonomnih vozil tice imamo premalo podatkov, da bi v resnici vedeli kako uspesni so. 3.2mio kilometrov ni nic, ker ne vemo kolikokrat je moral vmes posredovati clovek, ki nadzoruje avto.

Ko bomo pa tako dalec, se bo pa avto odlocal samo a na polno zabremzat in zategnit varnostne pasove, al zavit kam. Slednje bo verjetno manjkrat uporabljena moznost.

IMHO je pa prvo in glavno vprašanje pri vseh teh vozilih, kdo bo odgovarjal, ko se bo zgodila nesreča?

Odgovarjal za kaj? Škodo že zdaj krije zavarovalnica, sama kazenska odgovornost kot taka pa bistveno zgubi na smislu. Avtonomno vozilo kot takšno ne bo delalo prekrškov.

Zakaj avtonomno vozilo ne bi delalo prekrškov? Prav tako bo lahko spregledalo kakšen prometni znak, ali vožnje ne bo prilagodilo razmeram na cesti.

Recimo da proizvajalec izboljša program, ali vgradi boljšo kamero? Zakaj bi robotski avto lahko kršil prometne predpise?

energetik je 26. sep 2016 ob 09:11 izjavil:

Phantomeye je 25. sep 2016 ob 22:59 izjavil:

Že, če pogledaš situacijo, kjer pred avto skoči srna. Šofer jo lahko povozi ali pa ostro zavije in ob tem ubije sebe ali pa potnike v nasprotno vozečem vozilu. Trije negativni izidi. Povozit srno je najmanj hud. Perspektiva se pa lahko hitro spremeni, če srno zamenjaš s peščem.

Skratka, ne glede na to, kako močno verjameš, da je nemogoče, da ima neka nesreča same negativne izide, je treba dotični 'IF' vprogramirat.

Ni nič drugače, če je srna ali nepreviden pešec. Če obstaja varen način za obvoz, se jasno obvozi. Ker je pa to večinoma zelo redko, ti CPP narekuje, da v tem primeru bremzaš na polno in greš naravnost. Srno (ali neprevidnega človeka) pač doleti Darwin. Ni tvoja naloga, da spravljaš v dodatno tveganje sebe, sopotnike in še ostale udeležence na nasprotnih pasovih.
Računalnik take dileme ne bo imel in bo lahko v delčku sekunde presodil, ali je varno narediti manever izogibanja ali pač ne. Človek je za take zadeve precej prepočasen.

To mi je jasno, samo jasno bodo tudi polemike, kaj daje računalniku pravico, da presoja kakšen bo izid v situaciji brez pozitivnih izidov.

VaeVictis je 26. sep 2016 ob 20:03 izjavil:

Avto ubije človeka zaradi napake v programski opremi...

Kdo je kriv?

Avto ubije cloveka, ker bremze niso delale. Tovarniska napaka. Kdo je kriv?

St235 je 26. sep 2016 ob 20:18 izjavil:

Okapi je 26. sep 2016 ob 20:11 izjavil:

Recimo da proizvajalec izboljša program, ali vgradi boljšo kamero? Zakaj bi robotski avto lahko kršil prometne predpise?

Kaj je namen prekrškov? Kako se to aplicira na avtonomno vozilo? V čem je dodana vrednost napisat prekršek robotu?

Preberi bolj počasi še enkrat, kar sem prej napisal, mogoče boš celo razumel.
Hint - ne pišeš prekrška robotu, ampak njegovemu izdelovalcu, oziroma tistemu, ki je odgovoren za njegovo početje.

Okapi je 26. sep 2016 ob 20:06 izjavil:

Zakaj avtonomno vozilo ne bi delalo prekrškov? Prav tako bo lahko spregledalo kakšen prometni znak, ali vožnje ne bo prilagodilo razmeram na cesti.

Samo tukaj bo vprašanje ali bo vozilo "krivo" prekrška. Namreč - znaka ne bo spregledalo namenoma.

Naslednje vprašanje je pa, zakaj moram prekršek plačati jaz, ki znaka ravno tako ne spregledam namenoma?

Okapi je 26. sep 2016 ob 21:51 izjavil:

Kdor misli, da bodo robotski avti lahko nekaznovano vozili v rdečo luč, se bridko moti.

Bisveno bolj se moti, kdor misli, da bo obstajala potreba po kaznovanju prometnih prekrškov pri avtonomnih vozilih. Avtonomno vozilo, ne bo rdeče luči prevozilo zaradi objestnosti, občutka supreriornosti ali nepozornosti. Do tega bo prišlo ali zaradi napake v signalizaciji ali v programski opremi vozila in dogovornost je na proizvajalcu enega ali drugega. Samo to nima nikakršne veze s konceptom prometnih prekrškov, kot ga imamo danes.

signalizacije pri avtomackem prometu ne rabis, ker se promet sam zmeni, kdo bo su kam.

moj modem od ciscota se tud ne zna pogovarjat z routerjem od tp-linka! Dej malo pomisli no. Internet deluje v *vseh* drzavah po svetu, z vsemi napravami, ti pa razlagas kako se 10 preostalih velikih proizvajalcev vozil ne bo moglo zment za protokol za komunikacijo.

prav tako ne rabis znakov, google maps ze danes ve, kok so omejitve pri posameznih odsekih, kera cesta je glavna, kje je spolzko ob dezju, itd.

edini problem ostanejo cloveski vozniki, katere bo pac treba prepovedat. jebiga, ampak tko pac je. edine posledice tega bojo bistveno hitrejsi in varnejsi promet.

kaj če bi pripeljali googlove avtomobile v slovenijo in jih testirali na srne in luknje na cesti ( a bi vjugali med njimi :-))

Googlov avto bi verjetno kar lepo stal na mestu, ker nima ustreznih podatkov.

BT52> Signalizacija bo še vedno potrebna. Kaj pa pešči, kolesarji, delovni stroji...

Psh.

"Oh moj bog! Letalo je padlo! Nič, jaz grem z avtom. Ker je bolj varno!"

*Slika Carlina o IQ ljudi.*

Zakaj neki obstaja semafor?

Zato, ker ljudje ne znajo takole vozit.

o+ nevone

@nevone: to zgleda lepo in zelo verjetno za križišče samo avtov. Ampak kam boš pa dal, kolesa pa pešce pa delovne stroje, mopede, pa ostalo?

To teoretično gre. Praktično pa potrebuješ več prostora in vprašanje koliko ljudi bi to potem uporabljajo da nebi kr bezljali čez cesto, da jim ni treba hodit po podhodih/nadhodih.

M.B. je 28. sep 2016 ob 12:44 izjavil:

@nevone: to zgleda lepo in zelo verjetno za križišče samo avtov. Ampak kam boš pa dal, kolesa pa pešce pa delovne stroje, mopede, pa ostalo?

Podhod/nadhod. To se po svetu ze dolgo uporablja pri prometnih cestah. Kdo bo pa cakal se semafor za pesce, dej no. Se v ljubljani mamo par podhodov (pol pa se semaforje zraven trolololo)

Nardiš celo cesto podvoz/nadvoz.

NocnaShada je 27. sep 2016 ob 19:29 izjavil:

Kdo bo odgovarjal? To je od vsega najmanj pomembno. Senkrat ponavljam, za tiste, ki ste pocasnejsi on the uptake:
Kdo pobije vec ljudi? => Kaksna je verjetnost, da bom kot udelezenec prometa umrl, na poti od A do B?

Ce bodo autoavti pobili manj ljudi, imam veliko raje, da te zapelje z druzino v prepad, kot pa da pustimo se naprej voznjo meatbagom.

Sori, jaz pa na to ne pristanem. Pa tudi primerjave z letali in podobnim niso na mestu. Letalo pade dol zaradi napake v sistemu, tako kot avto lahko zleti s ceste, ce mu odpovejo zavore. To ni sporno in je pac tveganje, ki je vedno prisotno in ga naceloma sprejemamo. Jaz govorim o tem, da je avto programiran tako, da me v dolocenih okoliscinah namenoma odpelje v prepad, ker mu pac to kot najboljso opcijo izracuna njegov algoritem. In kakrsenkoli izracun je ze zadaj, jaz take odlocitve o svojem zivljenju ne mislim prepustiti stroju... se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov. In veliko jih bo mislilo podobno... In siliti (recimo s prepovedjo cloveskih voznikov) ljudi, da odlocitev o svojem zivljenju prepustijo stroju na tak nacin, je nemogoce.

Unilseptij je 29. sep 2016 ob 08:54 izjavil:

NocnaShada je 27. sep 2016 ob 19:29 izjavil:

Kdo bo odgovarjal? To je od vsega najmanj pomembno. Senkrat ponavljam, za tiste, ki ste pocasnejsi on the uptake:
Kdo pobije vec ljudi? => Kaksna je verjetnost, da bom kot udelezenec prometa umrl, na poti od A do B?

Ce bodo autoavti pobili manj ljudi, imam veliko raje, da te zapelje z druzino v prepad, kot pa da pustimo se naprej voznjo meatbagom.

Sori, jaz pa na to ne pristanem. Pa tudi primerjave z letali in podobnim niso na mestu. Letalo pade dol zaradi napake v sistemu, tako kot avto lahko zleti s ceste, ce mu odpovejo zavore. To ni sporno in je pac tveganje, ki je vedno prisotno in ga naceloma sprejemamo. Jaz govorim o tem, da je avto programiran tako, da me v dolocenih okoliscinah namenoma odpelje v prepad, ker mu pac to kot najboljso opcijo izracuna njegov algoritem. In kakrsenkoli izracun je ze zadaj, jaz take odlocitve o svojem zivljenju ne mislim prepustiti stroju... se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov. In veliko jih bo mislilo podobno... In siliti (recimo s prepovedjo cloveskih voznikov) ljudi, da odlocitev o svojem zivljenju prepustijo stroju na tak nacin, je nemogoce.

Zakaj bi bil tako sprogramiran?? Verjetno bo vsak sistem poskušal zaščiti kar najbolj svoje potnike, zato jih ne bo zapeljal v prepad. Če bo pred seboj zagledal žival/človeka, ki skoči na cesto, bo pač zaviral v sili, nikakor pa ne zavil v prepad ali v nasproti vozeč šlepar. Taka žival/človek pa bosta pač dobila Darwinovo nagrado. Na označenih mestih za prehod pa se to itak ne bo moglo zgoditi, ker avtopilot ne bo nikoli kršil predpisov.

se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov.

Odpovejo ti zavore pri 150km/h. Situacija je taka, da lahko zbiješ 7 nosečnic in 10 malčkov, ali pa zgrmiš v prepad. Po svojem načelnem prepričanju boš naredil kaj? Algoritem bo za tako odločitev porabil nekaj nanosekund, odločitev seveda tebi ne bo všeč. Kaj bi naredil pa ti?

Če slučajno kdo ve, kako tole najde parking. :)