Uberjev samovozeč avtomobil peško videl, a ignoriral

Čeprav uradna preiskava še ni končana, počasi na dan prihajajo informacije, kaj se je zgodilo usodnega marčevskega večera, ko je Uberjev samovozeči avtomobil zbil peško, ki je neprevidno prečkala cesto. Posnetki, ki jih je policija razkrila kmalu po nesreči, so pokazali, da vozilo ni niti poizkušali zavreti, čeprav bi morali morali senzorji peško zaznati vsaj nekaj sekund pred trkom. Kot kaže sedaj, so jo zaznali, a se je logika v vozilu odločila, da jo bo prezrla. Vozilo je torej videlo, a ni razumelo. S tem je odpadla možnost, da je bilo kaj narobe s senzorji.

Z drugimi besedami, Uberjevi algoritmi so informacije senzorjev označili kot šum oziroma lažni pozitivni izid, zaradi česar niso zavirali. Gre za enega najpomembnejših problemov pri razvoju samovozečih avtomobilov, saj morajo ti nenehno ugotavljati, ali so posamezni vhodi s senzorjev dejansko predmeti oziroma ljudje, ki predstavljajo potencialno grožnjo za trk, ali pa gre za lažne pozitivne izide, denimo plapolajoče grmovje v bližini ali vrečko, ki jo nosi veter. Če so algoritmi prestrogi, je vožnja neprijetna in neenakomerna zaradi nenehnega zaviranja. Če algoritmi ignorirajo resnično nevarnost, se zgodi, kar se je zgodilo marca.

Na primer, sistem Cruise, ki ga razvija General Motors, so letos kritizirali prav zaradi netekoče vožnje. Cruise je prevečkrat zavrl in se ustrašil neškodljivih predmetov v okolici. Uber je očitno svoje algoritme postavil na drugo stran spektra.

Sedaj je torej jasneje, kaj se je dogajalo. Senzorji niso odpovedali, le algoritmi niso znali interpretirati, kaj vidijo. To je tudi del samovozečega avtomobila, ki je najmanj jasen. Izdelava senzorjev in njihovo delovanje je enostaven in dobro rešen problem. Strojno učenje in razvoj algoritmov za analizo kopice vseh vhodnih podatkov pa sta precej bolj meglena. Uber problema še ni zadovoljivo rešil, na kar so nekateri zaposleni opozarjali že pred nesrečo.