Koga naj ubije samovozeč avtomobil?

Je samo en "droben" problem v vsem tem.

Vi še vedno gledate na vse to iz perspektive samooklicanega "polbožanstva" - človeka, ki si je ta status dal na osnovi možganske mase in evolutivnega ter šele v zadnjem času tehničnega razvoja.

V saki situaciji je človek bil v poziciji subjekta, ki so ga "kao" mučile le misli tipa ali ima dušo itd.

A zdaj tehnika prihaja na nivo procesiranja, ki ga večina ne bo sfolgala.

Ergo, avto bo pogosto več vreden kot vse meso v njem in okoli njega.

V začetku ja.

Dokler tržni pritiski ne bodo sproducirali primerkov z vse manj blokadami.

BTW, kar se zgodnjih stadijev tiče, Grem stavit, da bo ena prvih, zgodnjih odmevnih aplikacij avtobomba.

Tole bi morala bit opcija tako kot je opcija, da ugasneš sopotnikov airbag.
Če se odločiš za lastno varnost, klkub škodi pač nosiš pravne posledice. Dilema rešena.

Brane22 je 18. okt 2016 ob 01:14 izjavil:

V začetku ja.
Dokler tržni pritiski ne bodo sproducirali primerkov z vse manj blokadami.

Bedarija! Avto brez blokad vozimo danes. Zakaj torej težimo k samovozečim avtomobilom, če bi potem set rinili nazaj?

To so še najmanjše, prve posledice.

Bistvena, osnovna posledica bo totalno razvrednotenje človeškega življenja.

Politik bo imel ene toliko vrednost kot vodilna krava v tropu na poti v klavnico.

          je 17. okt 2016 ob 14:19 izjavil:

Še nečesa se moramo zavedati pri samovozečih avtomobilih: če bodo v avte vgrajevali windowse, bo "blue screen of death" dobil zelo dobeseden pomen.

Kakšen pomen pa bo dobil "free update to Windows 10 for Cars"?

leiito je 17. okt 2016 ob 15:11 izjavil:

Zakaj bi moral tvoj avto paziti nate? Kaj če si ti, hipotetično valjda, 72-letni debel luzer z rakom, imaš še par mesecev življenja, in softver ima alternativo rešiti tebe, ali pa skupino petih ljudi, med katerimi so Dalaj Lama, nosečnica in Nobelovec. Moralni imperativ je, da so prioriteta oni, že samo zato, ker jih je več, brez ostalih faktorjev.

V tem je poanta dileme Would you kill the fat man?, ali je, če je, pomembna skupna vsota pozitivnih učinkov za družbo kot celoto. Zato pa je to filozofsko in etično vprašanje, ki nima nujno enoznačnega odgovora.

A je med njimi Nobelov nagrajenec za mir iz 2008? Rešitev je enostavna.

GAZI, MIŠKO!

Pa bomo imeli izpolnjen moralni imperativ vsote pozitivnih učinkov za cel planet.

Brane22 je 17. okt 2016 ob 17:24 izjavil:

Odvisno od aplikacije in lastnika.

V enih aplikacijah je zaželjeno čimvečje število žrtev.

Windows for Autonomous Cars v6.66 CIA&KGB&Mossad&ISIS Black Edition?

FireSnake je 18. okt 2016 ob 07:45 izjavil:

Tole ni povsem na mestu komentar, ker:
- govorimo o scenariju, kjer je 100% smrtni primer,
- tudi samovozeča vozila bodo vedno delala napake (zato tudi debata).

Si ti pripravljena svojo napako, kot šoferka, plačati z življenjem? V končni fazi lahko pešca tudi s kolesom povoziš do smrti.

Ne gre se za to, ali sem jaz pripravljena svojo napako plačat z življenjem.
Lahko zavedno (za hec) ali nezavedno jem strupene gobe in tega nisem pripravljena plačat z življenjem, pa me kljub temu stane življenja. Zakaj bi nekdo drug umrl v tem primeru namesto mene? Nima smisla.

Seveda lahko pešca povozim s kolesom do smrti. Vendar, če je bilo to neizbežno in nisem imela nobenega vpliva na to (razen da sem tisti trenutek slučajno obstajala, na mestu, ko je nekdo skočil v moj zadnji del kolesa), to ni moja krivda, in svojo neumnost bo negdo žal drago plačal.

Manipulacije (v mislih imam dogodek, ko so ljudje plačevali za potrdilo za tehnični pregled za svoje neispravne avte) so možne že danes. Seveda bodo večji problem računalniški vdori in virusi.

Če bo samovozeči avtomobil naredil napako, odgovarja proizvajalec, ki mora to napako v obstoječih avtomobilih odpraviti (reklamacija). Izplen nesreče pa mora biti optimalen, torej, reši se tistega, ki ima večjo možnost preživetja.
Podobno velja za ekstremne vremenske razmere-gladka, zasnežena cesta, ipd.

Blop je 18. okt 2016 ob 11:27 izjavil:

FireSnake je 18. okt 2016 ob 07:45 izjavil:

Tole ni povsem na mestu komentar, ker:
- govorimo o scenariju, kjer je 100% smrtni primer,
- tudi samovozeča vozila bodo vedno delala napake (zato tudi debata).

Si ti pripravljena svojo napako, kot šoferka, plačati z življenjem? V končni fazi lahko pešca tudi s kolesom povoziš do smrti.

Ne gre se za to, ali sem jaz pripravljena svojo napako plačat z življenjem.
Lahko zavedno (za hec) ali nezavedno jem strupene gobe in tega nisem pripravljena plačat z življenjem, pa me kljub temu stane življenja. Zakaj bi nekdo drug umrl v tem primeru namesto mene? Nima smisla.

Seveda lahko pešca povozim s kolesom do smrti. Vendar, če je bilo to neizbežno in nisem imela nobenega vpliva na to (razen da sem tisti trenutek slučajno obstajala, na mestu, ko je nekdo skočil v moj zadnji del kolesa), to ni moja krivda, in svojo neumnost bo negdo žal drago plačal.

Manipulacije (v mislih imam dogodek, ko so ljudje plačevali za potrdilo za tehnični pregled za svoje neispravne avte) so možne že danes. Seveda bodo večji problem računalniški vdori in virusi.

Če bo samovozeči avtomobil naredil napako, odgovarja proizvajalec, ki mora to napako v obstoječih avtomobilih odpraviti (reklamacija). Izplen nesreče pa mora biti optimalen, torej, reši se tistega, ki ima večjo možnost preživetja.
Podobno velja za ekstremne vremenske razmere-gladka, zasnežena cesta, ipd.

Potem pa dajmo raketomete na semaforje in senzorje, ki bodo spremljali promet.

V trenutku, ko nekdo naredi akcijo, ki bi "ubila" več potnikov, kot jih je v avtomobilu ... BUM.

Pa smo vse rešili.

Ali pač ne? :)

FireSnake je 18. okt 2016 ob 13:14 izjavil:

Potem pa dajmo raketomete na semaforje in senzorje, ki bodo spremljali promet.

V trenutku, ko nekdo naredi akcijo, ki bi "ubila" več potnikov, kot jih je v avtomobilu ... BUM.

Pa smo vse rešili.

Ali pač ne? :)

Recimo da res vgradijo senzorje na vsak semafor.
Če je negdo naredil hud prekršek in ga je senzor zaznal, bo podatek poslal nasprotiprihajajočim samovozečim avtomobilom, ki bodo že imeli "načrt" kako najbolj optimalno rešiti svoje lastnike, če je nesreča neizbežna. Kaki raketomet, ka to zdej nekaj bluziš :D

Če ti avto razstreliš je možnost preživetja enaka 0. Če avta ne razstreliš in samovozeči avto sebično ravna, da je lastnik čimmanj poškodovan, možnost preživetja v nasprotnem avtu ni nujno enaka 0.

Ali pa, ubijno nedolžne, rešimo tiste ki so naredili napako in upajmo, da so se iz tega kaj naučili, an?

Glede na to kako sedaj vozijo ljudje tudi solidno napisan algoritem ne more biti slabši.
Ko bo vse avtomatizirano bo tudi problemov manj, kot pa sedaj, ko vsak voznik malo prikroji predpise in je nevaren do okolice.

Kolikor mi je znano je železnica že čisto avtomatizirana, strojevodja je tam bolj zaradi nekega občutka da lahko kaj naredi v primeru izpada sistema.

https://www.ted.com/talks/sam_harris_ca...

nevone> Kar potrebujemo je to, da čim več takšnih situacij preprečimo.

Če se bo v praksi sploh pojavila kakšna.

mtosev je 18. okt 2016 ob 19:03 izjavil:

logično je, da avto prvo poskrbi za voznika, pol pa da pazi na druge.

Kako je pa to logično?

naj dajo da je nastavljivo in si potem lahko sam nastavis glede na svoj pogled na svet

jaz vem da ker je zame moja smrt enaka smrti vseh da bi nastavil tako da v vsakem primerov najbolj proba resit mene

Blop je 18. okt 2016 ob 11:27 izjavil:

Če bo samovozeči avtomobil naredil napako, odgovarja proizvajalec, ki mora to napako v obstoječih avtomobilih odpraviti (reklamacija). Izplen nesreče pa mora biti optimalen, torej, reši se tistega, ki ima večjo možnost preživetja.
Podobno velja za ekstremne vremenske razmere-gladka, zasnežena cesta, ipd.

Če avto pelje izven naselja 90km/h, na nasprotnem pasu se ravno tako vozi avto. In zdej ti iz koruze skoči človek. Algoritem se mora odločit ali bo povozil pešca al pa bo zapeljal na nasprotni pas in čelno trčil v drug avto. A naj mene avto ubije zato ker je neko tele skočilo iz koruze? Če situacije ni možno varno rešiti naj avto reši situacijo tako da bo najugodnejša (izogib smrtnemu stradanju) za voznika. Če to pomeni zapeljati v peščca, jebi ga. Sam je skočil na cesto. Če bi trk dveh avtov povzročil le materialno škodo pa naj prizanese peščcu in se zaleti v avto.

Aston_11 je 18. okt 2016 ob 21:25 izjavil:

Rabimo IR senzor, ki bo zaznaval živali in ljudi, ki bi se morebiti skrivali v koruzi, ki rase ob robu asfalta. Drugače pa bi bilo fajn, da bi algoritem bil pametnješi od današnjih voznikov, ki bi pičili 90 po cesti, ki ima koruzo do roba ceste.

Naravna selekcija. Zato obstajajo predpisi. In v predpisih če se ne motim celo piše, da ima voznik pravico predvidevati da bodo vsi udeleženi v prometu upoštevali predpise. Torej, če je omejitev 90 lahko vozim 90. Ne rabim predvidevat, da bo nekdo skočil iz koruze in zato peljat 60.

Načela cestnega prometa

2. člen

(2) Udeleženec cestnega prometa sme pričakovati, da bodo vsi udeleženci cestnega prometa in tisti, ki so dolžni skrbeti za ceste in prometno ureditev na cestah, ravnali v skladu s predpisi o varnosti cestnega prometa in predpisi o javnih cestah.

jype je 18. okt 2016 ob 19:58 izjavil:

LeQuack> Kako je pa to logično?

Voznik ga neguje, hrani in vzdržuje!

Pravilno je seveda tako, da robot med izogibanjem prometni nesreči (v takem vrstnem redu):
- poskuša preprečiti poškodbe ljudi,
- poskuša preprečiti poškodbe živali,
- poskuša preprečiti poškodbe predmetov.

Narobe. Pravilno je, da varuje lasten Hull Integrity a priori. Namreč s tem je zagotovljeno vse to kar si naštel. Rezultat algoritma pa je minimization of impact energy. Optimum je 0 Joule, zadovoljivo pa vse, kar je nižje od začetne energije in se bliža proti 0 Joule.

xmetallic< Reši se tistega, ki ima večjo možnost preživetja v primeru okvare/napake enega od dveh samovozečih avtomobilov ali v ekstremnih vremenskih pogojih kjer je nesreča neizbežna.

jype je 18. okt 2016 ob 21:51 izjavil:

Grey> Pravilno je, da varuje lasten Hull Integrity a priori.

Ne.

Grey> Namreč s tem je zagotovljeno vse to kar si naštel.

Ne, ni, ker niso vsi ljudje vedno v avtomobilu.

To ni važno. Hull Integrity in Minimization of Impact Energy vključuje vse in ne diskriminira med ovirami na cesti (količki, srne, ljudje, psi, kolesarji itd.). Nikakor ne sme avtopilot izbrati, da se zaleti v nasproti vozeče vozilo (niti ni možno po tem algoritmu, ker bi bil impact energy ogromen), ker bo s tem Hull Integrity zaradi neznižanja energije trka bolj poškodovan in nevaren ne samo za potnike temveč za potnike v nasproti vozečem vozilu in posledično tudi za tistega pešca, ki se mu je poskušal izogniti, če jih zaradi trka odbije nazaj. Kaj, če je nasproti vozeč motorist? Motorista ubiješ, rešiš pešca. Nikakor ne sme izračunati, da se mu splača zaradi izogiba pešcu zaleteti v kogarkoli ali karkoli drugega. Vse kar lahko naredi je, znižanje hitrosti v sili (se pravi zaviranje na maksimum) ter, če in samo če je možnost, zmanevrirati stran. To je edino logično pravilno.

jype je 18. okt 2016 ob 21:51 izjavil:

xmetallic> Če avto pelje izven naselja 90km/h, na nasprotnem pasu se ravno tako vozi avto. In zdej ti iz koruze skoči človek. Algoritem se mora odločit ali bo povozil pešca al pa bo zapeljal na nasprotni pas in čelno trčil v drug avto. A naj mene avto ubije zato ker je neko tele skočilo iz koruze? Če situacije ni možno varno rešiti naj avto reši situacijo tako da bo najugodnejša (izogib smrtnemu stradanju) za voznika. Če to pomeni zapeljati v peščca, jebi ga. Sam je skočil na cesto. Če bi trk dveh avtov povzročil le materialno škodo pa naj prizanese peščcu in se zaleti v avto.

Če pešec skoči iz koruze, bo robotsko vozilo varno ustavilo (in ob tik koruzi že zaradi divjadi ne bo vozilo 60km/h), za razliko od vozila, ki ga upravlja voznik.

Grey> Pravilno je, da varuje lasten Hull Integrity a priori.

Ne.

Grey> Namreč s tem je zagotovljeno vse to kar si naštel.

Ne, ni, ker niso vsi ljudje vedno v avtomobilu.

Srna lahko skoči na cesto tako, da avto ne bo mogel pravočasno ustaviti. To, da avto reagira praktično v trenutko, še vedno ne pomeni, da se lahko tudi ustavi v trenutku. Glavni del zavorne poti tudi pri človeku predstavlja dejansko ustavljanje vozila, ne razdalja, ki jo prevozi v reakcijskem času. In to se ne bo spremenilo. In eden od ciljev vsega skupaj verjetno je, da bo promet v splošnem potekal hitreje in ne počasneje... če bo samovozeči avto vedno vozil pol manj od omejitve, ker bo blizu koruza, pločnik, gozd, itd. potem je to še en razlog, da ga ne bom kupil .

Hull Integrity je dober koncept, ker debato premakne iz etično/moralne sfere v tehnično. Samo kljub vsemu to ne reši problema, da bo v določenih primerih algoritem dal neobičajne rezultate, ki bodo povzročili smrt nedolžnih.

Potem imaš še čisto praktične probleme... Recimo, da se dve nasproti vozeči avtonomni vozili srečata na ozki cesti, kjer se lahko umakneš samo na eno stran. Obema enak algoritem izračuna, da sta na collision kurzu in da se bo treba umakniti. Ker se lahko umakneta samo na eno stran, se oba premakneta enako in sta spet nasproti. In tako se zaciklata do končnega trka.... ali pa ustavitve, kar je skoraj enako nesmiselno.

Pero_SLO je 17. okt 2016 ob 09:06 izjavil:

Malo bolj se bo potrebno oddaljiti od problema in pogledati iz širšega zornega kota.

Ogromno se dela na avtonomnih vozilih. Koliko se dela na varnosti peščev in drugih udeležencev v prometu? To je večji problem.

LP

In kako naj delaš na varnosti pešcev? Saj ima vsak svojo glavo, samo uporabi naj jo ...

Jure14 je 17. okt 2016 ob 09:07 izjavil:

Edina prioriteta temu avtonomnemu avtu mora biti "vsebina" avta.
Brez tega se ljudje ne bodo hoteli voziti s takšnimi avti in vsako nadaljnje filozofiranje je odveč, ker enostavno ne bo takšnih avtov v uporabi.

Tole vsekakor je zmagoviti komentar. Nobenih dilem, ni prostora za moralnega mačka, samo da gre posel naprej. #CETA #TIPP

Unilseptij> če bo samovozeči avto vedno vozil pol manj od omejitve, ker bo blizu koruza, pločnik, gozd, itd. potem je to še en razlog, da ga ne bom kupil :D.

To je tvoj problem in problem še parih norcev, ki se jim zdi nevarna vožnja sprejemljiva.

SkipEU> Če greš na to, da se nekaj LAHKO zgodi, potem ne bomo nikoli zares vozili s takšnimi vozili.

Seveda se boste. Tudi z avtobusi se vozite (no, po Sloveniji najbrž ne pretirano pogosto), pa ti ne vozijo s hitrostjo 130 km/h po avtocesti.

SkipEU> To, da ti divjad skoči iz koruze, pa je itak beden primer, ki se še nam, ki živimo sredi divjine na podeželju, zgodi na 1 od nekaj 1000 voženj (in v 20 letih vožnje sem zadel 1 srno v 90 km/h). Verjetno pa v mestu živite v neki čudni iluziji ...

Ne, ni "beden primer". Avtonomna vozila bodo pač vozila tako, da bodo vedno pričakovala, da se kaj takšnega lahko zgodi. Verjamem, da psihotični vozniki ne zdržijo, da ne bi tik ob koruzi vozili 120km/h, ker je verjetnost za to da iz koruze pogleda srna, kombajn, jedrska podmornica ali pa otrok po njihovi oceni itak približno enaka, roboti, ki bodo upravljali na tisoče strojev, si pa takih zablod k sreči ne bodo mogli privoščit.

Ljudje ste pač statistično nepismeni in si niti predstavljati ne morete, kaj bi vaš stil vožnje pomenil, če bi bili voznik za več milijonov vozil hkrati, vsak dan, vse leto.

kamikaze5> Aja, koruza itak ne sme rasti bliže od štirih metrov od roba regionalne ceste.

Torej bo avtomatsko vozilo, če bo ob regionalni cesti zaznalo koruzo, ki raste bliže kot štiri metre od cestišča, ustavilo ob robu cestišča in obvestilo policijsko enoto s kombajni?