Koga naj ubije samovozeč avtomobil?

Razcepu se približuje vlak, ki se ne more ustaviti. Na enem tiru je zvezanih pet ljudi in tja bo vlak tudi zapeljal, če ga s kretnico ne bomo preusmerili na drugi tir, kjer bo treščil le v enega človeka. To je zelo znan problem v etiki in filozofiji, ki nima enostavnega odgovora. V glavnem teoretičen problem utegne postati zelo realen, ko bodo samovozeči avtomobili postali vsakdanjost, le da se bomo spraševali, ali naj avtomobil reši voznika ali gručo ljudi. Mercedes-Benz pravi, da bo v prvi vrsti ščitil voznike.

Situacija ni tako neverjetna, kot bi se zdelo na prvi pogled. Glavni cilj vsakega algoritma za vožnjo avtomobila bo seveda pot opraviti brez žrtev in škode, a kaj če zaradi takšnega ali drugačnega razloga to ne bo mogoče. Živalsko verzijo tega problema pozna marsikdo. Iz gozda nam na cesto, najraje ponoči, neposredno pred avtomobil skoči srna. Zaviramo in peljemo z zmanjšano hitrostjo naravnost v njo ali odvijemo v bližnji graben? Refleksni odziv je pogosto slednji, pri čemer so posledice za voznika in avtomobil običajno precej hujše, kot če bi trčil v nesrečno srno. Algoritem samovozečega avtomobila bi v tem primeru, to si upamo trditi, preračunal, v katerem primeru bi bila verjetno za poškodbe voznika manjša, in hladnokrvno žrtvoval srno.

Situacija pa se zaplete, ko namesto srne v enačbo stopijo ljudje. Pri več milijardah prevoženih kilometrov se lahko primeri, da bo moral algoritem odločati, ali bo žrtvoval voznika ali pešca (oziroma več pešcev). To pa ni tako enostavna dilema. V Mercedes-Benzu so dejali, da se bodo njihova avtonomna vozila v takih skrajnih primerih osredotočila na zaščito potnikov v vozilu iz enostavnega razloga. Nad njimi imajo več nadzora, medtem ko je usoda ostalih udeležencev, četudi se jim vozilo izogne, bolj negotova, ker je odvisna od več spremenljivk, nad katerimi avtomobil nima nadzora.

Mercedesov pristop je razumljiv, verjetno pa odločitev ne bo tako enostavna, ker bodo svoje zagotovo dodali tudi zakonodajalec in zavarovalnice. Ti sicer pri vozniškem izpitu od kandidata ne zahtevajo odgovora na zgornji problem z vlakom, ker so ljudje pač nezanesljivi in ker se včasih mirno zlažemo. Ironično je, da tu vlada precejšnja demokracija, bogati in revni so v stresnih situacijah približno enako zmedeni in v šoku, zato sprejemajo enako pametne ali neumne odločitve. A pri programiranju algoritma je stvar bistveno bolj jasna, od tod tudi zahteva po nadzoru. Od samovozečih avtomobilov sicer pričakujemo, da bodo število prometnih nesreč in žrtev konkretno zmanjšali, a popolnoma jih izkoreniniti gotovo ne bodo mogli, zato vprašanje ni le teoretično.

S tem problemom so se ukvarjali tudi znanstveniki. Raziskava, objavljena v reviji Science, je obravnavala identično situacijo. Rezultati niso presenetljivi - ljudje so naklonjeni k temu, da avtonomna vozila stremijo k čim manjšemu skupnemu številu žrtev, četudi to pomeni žrtvovati voznika. Dokler v vozilu niso sami ali njihovi družinski člani, ko nenadoma niso več tako racionalni. Na situacijo tudi ne smemo gledati preveč obremenjeni z današnjim časom, ko je avtomobil statusni simbol in skorajda družinski član, zato bi poškodbe, ki bi nam jih povzročil zaradi preračunane odločitve za manjše število žrtev, dojemali domala kot izdajo. Če bodo v prihodnosti ceste zasedli samovozeči avtomobili, bo potreb po lastnih vozilih manj, in situacija bo veliko bolj podobna temu, da je vlak pač iztiril. In - ali bomo sploh želeli vedeti, kakšen algoritem je v avtonomnem vozilu? Kakorkoli se bomo že odločili, nekdo bo ta algoritem moral napisati in nekdo odobriti, s tem pa tudi prevzeti odgovornost.

Trenutno si polavtonomna vozila, če jim smemo tako reči, v takih primerih umijejo roke. Nekje v drobnem tisku imajo zapisano, da mora biti voznik kadarkoli pripravljen prevzeti nadzor nad vozilom, kar se zgodi v kritičnih situacijah. Tedaj mora še vedno odreagirati voznik. To nam daje lažen občutek, da so vozila avtonomna, ko v resnici še niso. Današnja vozila so nekje na drugi stopnji, medtem ko bo treba do popolnoma samovozečih počakati do četrte ali pete stopnje. Zato je Nemčija od Tesle že zahtevala, da svoja vozila preneha oglaševati z avtopilotom, ker da to daje ljudem napačen občutek, da lahko med vožnjo z asistenco počno druge stvari. Kako zelo res je to, smo videli julija, ko je avtopilot v tesli zaradi napake ubil voznika.

Koga pa bi vi žrtvovali, voznika ali pešca? Kaj pa če bi bil v vozilu vaš partner? Svet ni več preprost, če je kdajkoli sploh bil.