Kdo naj ostane ... in kdo naj gre?

Prihajajo časi, ko bo umetna inteligenca v nekaterih kritičnih življenjskih situacijah postavljena v vlogo razsodnika o tem, koga naj s svojim ukrepanjem zaščiti in koga žrtvuje. Saj si predstavljate dilemo: mlada družina v vozilu, ki drvi proti priletnemu pešcu?

Raziskovalci medijskega laboratorija na MIT so na to temo analizirali približno 40 milijonov odgovorov na anketo z naslovom Moralni stroj, ki je tekla vse od leta 2014, prispevali pa so jih anketiranci iz 233 držav. Ti so bili postavljeni pred različne scenarije, denimo ali naj samovozeči avto žrtvuje svoje potnike ali pa jih reši tako, da zavije s poti in trči v uspešnega poslovneža, znanega kriminalca, skupino starih ljudi, čredo krav ali pa v pešca, ki prečka cestišče pri rdeči luči.

Štiri leta po začetku eksperimenta je analiza odgovorov pokazala naslednje: anketiranci bi raje rešili človeška življenja, kot pa živalska. Obenem bi raje rešili več življenj, namesto enega samega in raje mlajše osebe nasproti starejšim. Tehtnica se je pri tem malenkost nagnila v prid ženskam na račun moških in osebam z višjim družbenim statusom, nasproti tistim z družbenega roba. Del anketirancev je rešil tudi ločen vprašalnik, kjer so razkrili podatke o svoji starosti, spolu in religioznosti, a se je na koncu izkazalo, da te okoliščine na odgovore niso imele odločujočega vpliva.

Raziskovalci so na koncu še poudarili, da doslej človeštvo še ni dovolilo, da bi presojo o tem, koga zaščititi in koga žrtvovati, prepustili stroju. Toda, ta trenutek se neizbežno bliža. Zato bo potrebno najti globalni konsenz, ki ga bodo morala podjetja, ki bodo oblikovala tovrstne algoritme upoštevati, svoje pa bodo morali opraviti tudi zakonodajalci in regulatorji, ki bodo morali poskrbeti za ustrezen nadzor.