Amazon je moral ukiniti pristranski AI za pomoč pri zaposlovanju

Amazon je bil v začetku lanskega leta primoran zapreti svoj oddelek, v katerem so razvijali umetno inteligenco za ocenjevanje kandidatov za zaposlitev, saj niso uspeli razviti algoritma, ki bi ne bil brezupno pristranski.

Strojna inteligenca zadnje čase leta visoko, zato je za prizemljitev koristno omeniti prigode, ki opozarjajo tudi na njene pomanjkljivosti. Eno takšnih so izbrskali pri Reutersu, kjer so odkrili, da je imel Amazon širokopotezne načrte z uporabo algoritmov pri zaposlovanju, ki pa so se večjidel sesuli v prah. V podjetju so od leta 2014 pospešeno razvijali AI, ki bi znala hitro sortirati med prijavami za zaposlitev, oziroma življenjepisi. Toda že v 2015 so pogruntali, da vrača hudo pristranske rezultate, saj je vse prijave, ki so vsebovale besedo "ženski", metala na dno lestvice. Ni se ustavila pri spolni diskriminaciji, temveč je obenem specifičnim slogom pisanja v prijavah dajala prednost pred navedenimi kompetencami ter izobrazbo, s tem pa proizvajala neuporabne predloge. Ker razvijalci kljub umetnim prilagoditvam algoritmov niso uspeli izboljšati njihove zanesljivosti, so oddelek v začetku leta 2017 naposled zaprli. V Amazonu so se na Reutersovo najdbo odzvali s trditvijo, da te AI "nikdar niso resno uporabljali pri odločitvah o zaposlovanju". Interni viri pravijo, da naj bi bila glavna zapuščina tega podviga softver, ki danes iz baz podatkov izloča podvojene življenjepise; obstajajo pa tudi namigi, da naj bi razvojno skupino zopet zaštartali.

Gre za tipičen primer pristranskosti AI, kar mnogi strokovnjaki označujejo za enega največjih današnjih problemov te tehnologije in zelo resno oviro na poti do vsesplošne uporabnosti. Težava namreč izvira iz temeljne narave strojne inteligence - dejstva, da se nevronske mreže učijo na stvarnih podatkih, ki so mnogokrat obremenjeni s predsodki, oziroma nesorazmerji družbe, iz katere izhajajo. Amazonov algoritem je bil pač rezultat pretekle prakse, kjer je bila večina zaposlenih v določenih segmentih podjetja moških, zato se jih je računalnik samodejno naučil postavljati višje na lestvici, ne glede na dejanske sposobnosti kandidatov. Če se takšne pristranskosti ne bomo lotili osredotočeno, bo vplivala na zaposlitvene priložnosti žensk, ker je pretekla zgodovina v znanosti in tehnologiji izrazito favorizirala moške. Nedavna raziskava je nakazala, da je bila to predvsem posledica družbenih pritiskov, ne pa študijskih uspehov.