Slo-Tech - Razcepu se približuje vlak, ki se ne more ustaviti. Na enem tiru je zvezanih pet ljudi in tja bo vlak tudi zapeljal, če ga s kretnico ne bomo preusmerili na drugi tir, kjer bo treščil le v enega človeka. To je zelo znan problem v etiki in filozofiji, ki nima enostavnega odgovora. V glavnem teoretičen problem utegne postati zelo realen, ko bodo samovozeči avtomobili postali vsakdanjost, le da se bomo spraševali, ali naj avtomobil reši voznika ali gručo ljudi. Mercedes-Benz pravi, da bo v prvi vrsti ščitil voznike.
Situacija ni tako neverjetna, kot bi se zdelo na prvi pogled. Glavni cilj vsakega algoritma za vožnjo avtomobila bo seveda pot opraviti brez žrtev in škode, a kaj če zaradi takšnega ali drugačnega razloga to ne bo mogoče. Živalsko verzijo tega problema pozna marsikdo. Iz gozda nam na cesto, najraje ponoči, neposredno pred avtomobil skoči srna. Zaviramo in peljemo z zmanjšano hitrostjo naravnost v njo ali odvijemo v bližnji graben? Refleksni odziv je pogosto slednji, pri čemer so posledice za voznika in avtomobil običajno precej hujše, kot če bi trčil v nesrečno srno. Algoritem samovozečega avtomobila bi v tem primeru, to si upamo trditi, preračunal, v katerem primeru bi bila verjetno za poškodbe voznika manjša, in hladnokrvno žrtvoval srno.
Situacija pa se zaplete, ko namesto srne v enačbo stopijo ljudje. Pri več milijardah prevoženih kilometrov se lahko primeri, da bo moral algoritem odločati, ali bo žrtvoval voznika ali pešca (oziroma več pešcev). To pa ni tako enostavna dilema. V Mercedes-Benzu so dejali, da se bodo njihova avtonomna vozila v takih skrajnih primerih osredotočila na zaščito potnikov v vozilu iz enostavnega razloga. Nad njimi imajo več nadzora, medtem ko je usoda ostalih udeležencev, četudi se jim vozilo izogne, bolj negotova, ker je odvisna od več spremenljivk, nad katerimi avtomobil nima nadzora.
Mercedesov pristop je razumljiv, verjetno pa odločitev ne bo tako enostavna, ker bodo svoje zagotovo dodali tudi zakonodajalec in zavarovalnice. Ti sicer pri vozniškem izpitu od kandidata ne zahtevajo odgovora na zgornji problem z vlakom, ker so ljudje pač nezanesljivi in ker se včasih mirno zlažemo. Ironično je, da tu vlada precejšnja demokracija, bogati in revni so v stresnih situacijah približno enako zmedeni in v šoku, zato sprejemajo enako pametne ali neumne odločitve. A pri programiranju algoritma je stvar bistveno bolj jasna, od tod tudi zahteva po nadzoru. Od samovozečih avtomobilov sicer pričakujemo, da bodo število prometnih nesreč in žrtev konkretno zmanjšali, a popolnoma jih izkoreniniti gotovo ne bodo mogli, zato vprašanje ni le teoretično.
S tem problemom so se ukvarjali tudi znanstveniki. Raziskava, objavljena v reviji Science, je obravnavala identično situacijo. Rezultati niso presenetljivi - ljudje so naklonjeni k temu, da avtonomna vozila stremijo k čim manjšemu skupnemu številu žrtev, četudi to pomeni žrtvovati voznika. Dokler v vozilu niso sami ali njihovi družinski člani, ko nenadoma niso več tako racionalni. Na situacijo tudi ne smemo gledati preveč obremenjeni z današnjim časom, ko je avtomobil statusni simbol in skorajda družinski član, zato bi poškodbe, ki bi nam jih povzročil zaradi preračunane odločitve za manjše število žrtev, dojemali domala kot izdajo. Če bodo v prihodnosti ceste zasedli samovozeči avtomobili, bo potreb po lastnih vozilih manj, in situacija bo veliko bolj podobna temu, da je vlak pač iztiril. In - ali bomo sploh želeli vedeti, kakšen algoritem je v avtonomnem vozilu? Kakorkoli se bomo že odločili, nekdo bo ta algoritem moral napisati in nekdo odobriti, s tem pa tudi prevzeti odgovornost.
Trenutno si polavtonomna vozila, če jim smemo tako reči, v takih primerih umijejo roke. Nekje v drobnem tisku imajo zapisano, da mora biti voznik kadarkoli pripravljen prevzeti nadzor nad vozilom, kar se zgodi v kritičnih situacijah. Tedaj mora še vedno odreagirati voznik. To nam daje lažen občutek, da so vozila avtonomna, ko v resnici še niso. Današnja vozila so nekje na drugi stopnji, medtem ko bo treba do popolnoma samovozečih počakati do četrte ali pete stopnje. Zato je Nemčija od Tesle že zahtevala, da svoja vozila preneha oglaševati z avtopilotom, ker da to daje ljudem napačen občutek, da lahko med vožnjo z asistenco počno druge stvari. Kako zelo res je to, smo videli julija, ko je avtopilot v tesli zaradi napake ubil voznika.
Žrtvoval bi tistega, ki je storil "prometni prekršek". Bom sebično priznal, da nisem pripravljen žrtvovati sebe, da rešim drugega, ki je storil napako. Sklepamo lahko (čez čas), da avtonomna vozila ne bodo več delala življenjsko kritičnih napak, kar ne moremo trditi za ljudi, tako da bi odločitev kdo je v "prekršku" morala biti za avtonomna vozila dokaj enostavna :)
Kot v filmu IRobot? Kjer je robot preračunal ali iz vode reši otroka ali glavnega junaka? Kdo ima več možnosti za preživetje... Voznik mora biti pripravljen prevzeti kontrolo.... že če on od samega začetka vozi, pa mora reagirati, je nek reakcijski čas, kaj bo šele, ko bodo imeli ta "lažen" občutek varnosti, še kasneje se bo reagiralo. Je pa res da pleh naredimo nov, glave pa ne. Pa kolikor mi je znano, vožnja temelji na predvidevanjih itd. Že v štartu naj ne bodo prevelike hitrosti, večji radiji skeniranja okolice,... Pa mislim da tramvaj ni ravno dobra primerjava avtomobilom, prikazano je samo dve opciji, če bi pa imel avto, bi pa zaviral in vsaj poizkušal zadeti vmesni prostor kjer ni ljudi, tega pri tramvaju ni mogoče. V večini so pa tudi ceste "odprte" tako da nič zato če se zapelje v koruzo (če ravno ni kakšen ozek vkop, ali pa prepadi,...). Se pa avto poštima, pa kmetu plača odškodnino... Se pa tudi zgodi ko ni druge, kot da se je avto obrnil,... Kaj pa vdori v sisteme? Vse bolj so popularni v IoT. In če veliko drugih faktorjev bo treba preveriti.
Žrtvovati tistega ki je storil prekršek je kar huda, glede na zakone ki jih imamo ni človeka ki dela točno po pravilih.
Hja, tudi meni se je pojavila dilema z vdori in raznimi virusi. Denimo, da se mi je sosed spetljal z ženo. Preprosto se vsedem za računalnik, napišem primeren programček in čudežno se golobčka zaletita drug v drugega, ko se naslednjič srečata na cesti. Seveda oba s smrtnim izidom. Kdo je kriv? Jaz sigurno ne. Se pač zgodi. Glede na to kako zelo "dobro" so spisani programčki za vozila, me to niti ne bi čudilo.
Tukaj sploh ne vidim dileme. Pač treba je vzeti v zakup (vsaj naj bi tako bilo), da avtomobil vozi 1000% po pravilih, tako da če se najde en pešec, ali skupina pred avtomobilom, je potem to njihov problem. Sicer pa če je možno, naj avtomobil v vsakem primeru poskuša narediti tisto kjer bo najmanj žrtev (za pleh je vseeno). Obvezno pa naj nikoli ne žrtvuje voznika in potnike...
Edina prioriteta temu avtonomnemu avtu mora biti "vsebina" avta. Brez tega se ljudje ne bodo hoteli voziti s takšnimi avti in vsako nadaljnje filozofiranje je odveč, ker enostavno ne bo takšnih avtov v uporabi.
Kaj pa naj se naredi za varnost pešcev in drugih udeležencev v prometu? Če upoštevaš to da avtonomno vozilo vozi po pravilih, je pešec tisti ki je naredil neumnost. In če bo možno bo avto tudi tega nesrečneža rešil, vendar ne po ceni voznika. Isto je za kolesarja, tekača, sprehajalca psa ipd.
Oziroma ali si imel kaj konkretnega v mislih?
::
Če bi sam kupoval avto, bi kupil takega, ki bo najbolje skrbel za mojo varnost. Se mi pa zdi, da bo v to področje posegla tudi zakonodaja. Če ne prej pa takrat, ko bo nek samovozeči avto zgazil skupino otrok.
Kaj pa naj se naredi za varnost pešcev in drugih udeležencev v prometu? Če upoštevaš to da avtonomno vozilo vozi po pravilih, je pešec tisti ki je naredil neumnost. In če bo možno bo avto tudi tega nesrečneža rešil, vendar ne po ceni voznika. Isto je za kolesarja, tekača, sprehajalca psa ipd.
Oziroma ali si imel kaj konkretnega v mislih?
Nisem strokovnjak na tem področju. Povedu sem samo koliko se dela na avtonomnih vozilih in koliko na varnosti drugih udeležencev v prometu. Praviš, da vozi po pravilih. Vse lepo in prav dokler ne pride do okvare na vozilu.
Rezultati niso presenetljivi - ljudje so naklonjeni k temu, da avtonomna vozila stremijo k čim manjšemu skupnemu številu žrtev, četudi to pomeni žrtvovati voznika.
A perfect crime; nekdo zrezira taksen scenarij, kjer bo samovozec avto moral zrtvovati voznika.
Tukaj sploh ne vidim dileme. Pač treba je vzeti v zakup (vsaj naj bi tako bilo), da avtomobil vozi 1000% po pravilih, tako da če se najde en pešec, ali skupina pred avtomobilom, je potem to njihov problem. Sicer pa če je možno, naj avtomobil v vsakem primeru poskuša narediti tisto kjer bo najmanj žrtev (za pleh je vseeno). Obvezno pa naj nikoli ne žrtvuje voznika in potnike...
Tebi manjka malo domislije. Pred tabo zapelje tovornjak in lahko se mu izognes samo, ce zapeljes na plocnik in povozis skupino nicesar krivih ucencev. Kar se ucencev tice je edino prav, da se mirno zabijes v tovornjak, konec koncev je tvoj problem, da ti hoja ne zadosca.
Edina prioriteta temu avtonomnemu avtu mora biti "vsebina" avta. Brez tega se ljudje ne bodo hoteli voziti s takšnimi avti in vsako nadaljnje filozofiranje je odveč, ker enostavno ne bo takšnih avtov v uporabi.
Nesmisel. Ce bodo avtonomna vozila bolj varna, potem se lahko samostojno voznjo enostavno prepove. Ostaneta ti dve moznosti, ali se vozis ali pa ne. Vecina se bo.
Tukaj sploh ne vidim dileme. Pač treba je vzeti v zakup (vsaj naj bi tako bilo), da avtomobil vozi 1000% po pravilih, tako da če se najde en pešec, ali skupina pred avtomobilom, je potem to njihov problem. Sicer pa če je možno, naj avtomobil v vsakem primeru poskuša narediti tisto kjer bo najmanj žrtev (za pleh je vseeno). Obvezno pa naj nikoli ne žrtvuje voznika in potnike...
Tebi manjka malo domislije. Pred tabo zapelje tovornjak in lahko se mu izognes samo, ce zapeljes na plocnik in povozis skupino nicesar krivih ucencev. Kar se ucencev tice je edino prav, da se mirno zabijes v tovornjak, konec koncev je tvoj problem, da ti hoja ne zadosca.
Ja v temu primeru si pač najebu.. Čeprav avtonomna vozila bi lahko bila daljša (večja zmečkljiva cona?), mogoče tudi nižja, da magari zapelješ pod prikolico? Sicer pa, dokler imaš 3 avtonomna vozila in 2 milijardi ne-avtotomnih je to itak neumnost. Kamijon mora tudi bit avtonomen, drugače ne rešiš nič...
Edina prioriteta temu avtonomnemu avtu mora biti "vsebina" avta. Brez tega se ljudje ne bodo hoteli voziti s takšnimi avti in vsako nadaljnje filozofiranje je odveč, ker enostavno ne bo takšnih avtov v uporabi.
Nesmisel. Ce bodo avtonomna vozila bolj varna, potem se lahko samostojno voznjo enostavno prepove. Ostaneta ti dve moznosti, ali se vozis ali pa ne. Vecina se bo.
Ja, ampak da pride do te prepovedi, bo moralo v tistem trenutku na cesti biti vsaj 85% avtonomnih vozil. (ker v nekaj mesecih fizično ne moreš zamenjati "starih" avtov z avtonomnimi). Do tega % pa ne bo prišlo, če ljudje ne bodo zaupali avtom, da jih bodo varovali prioritetno.
Torej bogati (v Mercedesih) bodo ubijali revne pešce.
A zdaj je pa kaj drugače? Kamion bo poskušal rešiti sebe in namesto v steber zapeljati v avto. Avto bo poskušal rešiti sebe in namesto v kamion zapeljati v kolesarja. Kolesar bo probal rešiti sebe in namesto v avto zapeljati v pešča. Potem pa pride vlak, ne naredi popolnoma nič iz zgazi kamion, avto, kolesarja in pešča
Žrtvoval bi tistega, ki je storil "prometni prekršek". Bom sebično priznal, da nisem pripravljen žrtvovati sebe, da rešim drugega, ki je storil napako. Sklepamo lahko (čez čas), da avtonomna vozila ne bodo več delala življenjsko kritičnih napak, kar ne moremo trditi za ljudi, tako da bi odločitev kdo je v "prekršku" morala biti za avtonomna vozila dokaj enostavna :)
Nekaj takega ja... če pešec skoči pred avto. Seveda vprašanje kaj če skoči pred avto otrok?
Žrtvovati tistega ki je storil prekršek je kar huda, glede na zakone ki jih imamo ni človeka ki dela točno po pravilih.
V navedenem hipotetičnem primeru ni prekrškarja. Voznik sploh ne vozi avta (torej ne more biti kriv/odgovoren za vožnjo vozila), ljudi pa je na tračnice privezal psihopat. Algoritem bo v tem primeru zašel v nerešljivo zanko in morda pobil kar vse.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Ja, ampak da pride do te prepovedi, bo moralo v tistem trenutku na cesti biti vsaj 85% avtonomnih vozil. (ker v nekaj mesecih fizično ne moreš zamenjati "starih" avtov z avtonomnimi). Do tega % pa ne bo prišlo, če ljudje ne bodo zaupali avtom, da jih bodo varovali prioritetno.
Vozila se bodo morala prodajati s sistemi za samodejno vožnjo, četudi jih boš lahko sam vozil. Ko jih bo določen %, se bo opredelil datum in ura, ko bodo vsa vozila prešla na fully autonomous mode. Kot Švedska v 1960., ko so šaltali vožnjo iz leve strani na desno.
Sicer pa članku manjka ključno vprašanje - ali je med potencialnimi žrtvami Američan? Ti imajo prednost pred vsemi. Potem pride na vrsto beli moški, dokler ga ne bodo BlackLivesMatter s protesti razveljavili in spremenili v črni moški. Nato znorijo feministke, pa LGBTQŽNJ, pa animal rights aktivisti pa...
Ja, ja, do revolucij jutri bo prišlo iz popolnoma drugih razlogov, kot danes.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
A perfect crime; nekdo zrezira taksen scenarij, kjer bo samovozec avto moral zrtvovati voznika.
Ja, na cesti, kjer je na eni strani prepad, pred avto porineš kartonast model družine s 5 froci. Prič itak ne bo (več) ...
jah dobro ma jaz sebe še vedno ne bi ubil.
tule tip ki nadzira tračnice "enostavno" ne sme storiti NIČ. Ker če se dotakne tračnic in pot vlaka spremeni, da bo ubil "samo" enega človeka namesto več, bo pač morilec, ki se je odločil nekoga umoriti. če ne stori nič pa gre za nesrečo kjer on ni imel nobenega vpliva. Lahko pa na to gleda iz stališča da je žrtvoval nekoga da jih je preživelo več ja.
Potem pride na vrsto beli moški, dokler ga ne bodo BlackLivesMatter s protesti razveljavili in spremenili v črni moški. Nato znorijo feministke, pa LGBTQŽNJ, pa animal rights aktivisti pa....
Navsezadnje se bodo našli zagotovo tudi ljudje in roboti, ki bodo protestirali za pravice robotov (torej tudi avtomobilov). Zakaj pa bi moral avto nastradat :D
V glavnem rešitev mora vedno vključevati zaščito voznika. Če bi recimo bila moja žena v avtu, katerega proizvajalec se jo je odločil žrtvovati, da bi rešil sosedovo mačko, bi potem storil vse da ta firma propade.
A perfect crime; nekdo zrezira taksen scenarij, kjer bo samovozec avto moral zrtvovati voznika.
Ja, na cesti, kjer je na eni strani prepad, pred avto porineš kartonast model družine s 5 froci. Prič itak ne bo (več) ...
jah dobro ma jaz sebe še vedno ne bi ubil.
tule tip ki nadzira tračnice "enostavno" ne sme storiti NIČ. Ker če se dotakne tračnic in pot vlaka spremeni, da bo ubil "samo" enega človeka namesto več, bo pač morilec, ki se je odločil nekoga umoriti. če ne stori nič pa gre za nesrečo kjer on ni imel nobenega vpliva. Lahko pa na to gleda iz stališča da je žrtvoval nekoga da jih je preživelo več ja.
Besedilo v članku za tole sliko je nekoliko nerodno napisano. V tem primeru bi se vsak normalen človek odločil premakniti ročico in s tem ubiti samo enega človeka namesto 5. Povdarjeno bi moralo biti, da je na drugem tiru, tam kjer je samo en človek, ta človek tvoj otrok/partner ali nekaj podobnega. Če so zate vsi neznanci, bi se sigurno odločil za rešitev petih ljudi.
Dejstvo je, da samovozeči avto ne bo povzročal teh situacij. Zanje je vedno kriv človek, kot npr. pešec, ki naenkrat skoči na cesto. Potem pa mora avto ukrepati, kakor se da.
Sporna pa je ta slika. Samovozeči avto NI tramvaj na tirnicah; ima veliko večjo svobodo gibanja.
Večji problem bo z algoritmi, ki bodo ugotavljali okoliščine oziroma situacijo, ki jih ljudje z nekoliko pazljivosti zlahka vidimo.
Na primer, ali je nekdo videti pijan, zatopljen v pogovor, tipka po telefonu, gleda drugam, je otrok. V tem primeru človeški voznik lahko predvideva, da taka oseba lahko stori kaj nepričakovanega. Za računalnike so pa to zaenkrat še težko rešljivi problemi.
Če bo avto vozil tako, da bo ob vsakem pešcu dopuščal možnost, da mu lahko skoči pred avto in bo lahko ustavil, bo vožnja počasna. Sicer pa potencialno nevarna.
Hja, če malo pomislim je edina rešitev, da se naredi še avtopilote za pešce. Tako bodo eni komunicirali z drugimi in ne bo prihajalo do nesreč med avtomobili in pešci. Glede na to, da večina itak strmi v telefon ko hodi, integracija AP ne bi smel bit problem.
Hja, če malo pomislim je edina rešitev, da se naredi še avtopilote za pešce. Tako bodo eni komunicirali z drugimi in ne bo prihajalo do nesreč med avtomobili in pešci. Glede na to, da večina itak strmi v telefon ko hodi, integracija AP ne bi smel bit problem.
Če jih bo nekaj vozilo, niso več pešci. Npr. tista hecna novodobna naprava za 300-600 EUR na dveh kolesih, ki gre nekje do 25 km/h.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Potrebno je upoštevati, da bodo samovozeči avti povezani v mrežo, tako med seboj, kot z raznimi senzorji ob cestah. Taki bodo morebitni pešci zaznani že veliko prej, preden bodo skočili na cesto
Opisana dilema je še toliko težja, če je situacija taka, da žrtvuješ nekoga, ki sicer ni v nevarnosti za to, da rešiš več takih, ki so. Na primer, če povoziš pešca, ki hodi pravilno po pločniku, zato da rešiš dva, ki neprevidno prečkata cesto.
Število žrtev tu ne igra vloge, ker sicer bi bilo lahko dovoljeno ubiti zdravega človeka, zato da bi enemu dal njegovo srce, drugemu pa en drug organ in bi tako rešil dva, ubil pa enega.
Tukaj sploh ne vidim dileme. Pač treba je vzeti v zakup (vsaj naj bi tako bilo), da avtomobil vozi 1000% po pravilih, tako da če se najde en pešec, ali skupina pred avtomobilom, je potem to njihov problem. Sicer pa če je možno, naj avtomobil v vsakem primeru poskuša narediti tisto kjer bo najmanj žrtev (za pleh je vseeno). Obvezno pa naj nikoli ne žrtvuje voznika in potnike...
Bi se strinjal. Kdo bi pa kupil abto, ki te lahko ubije, ker so na prehodu trije pešci in je situacija brezizhodna.
Žal, a preveč gledamo nase in tega ni moč spremeniti.
Torej imamo vrstni red: 1. najpomembnejša je "vsebina" avta. 2. potem so pomembni vsi ostali, ki se držijo rpedpisov 3. med tistimi, ki kršijo predpise, za odstrel izberem najmanjšo skupino.
kdo pa pravi, da bi v vsaki situaciji izogiba poboju peščev moral voznik umreti in obratno, lahko zbije pešča in voznik nato umre, prave študije so to, a?
Hehe, ful mi je smešno, ker bi eni radi, da voznik avtomobila dobi nadzor nad vozilom v takšni situaciji (nesreči), kot, da je povprečen človek bolj sposoben (pravilno) reagirat kot pa njegov avto.
Tak avto je sposoben preračunat na 100 spremenljivk, na podlagi lastnih senzorjev in podatkov ki bi jih dobil iz "mreže" in na podlagi tega čimbolj efektivno odločit, kako zmanjšati negativni outcome.
Hehe, ful mi je smešno, ker bi eni radi, da voznik avtomobila dobi nadzor nad vozilom v takšni situaciji (nesreči), kot, da je povprečen človek bolj sposoben (pravilno) pravilno reagirat kot pa njegov avto.
Trenutek pred nesrečno situacijo AP prepusti kontrolo vozniku tako, da je voznik kriv karkoli se zgodi in AP bodo lahko veselo naprej vgrajevali v avtomobile, saj če bi se AP narobe odločil bi reskirali zakonsko prepoved le teh in posledično izgubo dobička.
Je pa treba vnesti čim več različnih situacij, tudi manj verjetne. Kot na primer zasilno pristajanje letala na avtocesti. Gleda avto naprej, nič posebnega, gleda nazaj, nič posebnega, levo desno, primerna razdalja... kar naekrat pa se na radarju 3m pred avtom pojavi letalo.
