Amazonov Rekognition pogrnil na praktičnem preizkusu

Strojno prepoznavanje obrazov je zadnje tedne vroča tema razprav. Tako laičnih, kot politično-strokovnih. Kljub temu je tehnologija v nekaterih državah že prodrla v praktično rabo. Kitajska, ZDA, Velika Britanija, Rusija - povsod so organi pregona hlastno pograbili rešitve, ki pa so se praktično povsod pokazale kot precej nezanesljive. Zlasti, ko ne gre za belce.

Na American Civil Liberties Union (ACLU) so se odločili preizkusiti Amazonov Rekognition, ki ga lahko uporabi kdorkoli, gre namreč za storitev v oblaku, ki jo lahko za mesec dni najamete za piškavih 12,33 ameriškega dolarja. Raziskovalci so nato sestavili bazo 25.000 javno objavljenih fotografij, ki jih ob aretaciji napravi policija. Ljudsko poimenovane mugshots. Te so nato primerjali s fotografijami članov ameriškega senata in kongresa.

Rezultati so bili presenetljivi.

Rekognition je našel in povezal 28 fotografij, čeprav na mugshotih v resnici ni bilo nikogar od predstavnikov ameriškega ljudstva. Približno 40 % od teh napačnih zadetkov je bilo povezanih s temnopoltimi poslanci, čeprav njihov delež v obeh domovih znaša komaj kakih 20 %. Kar pomeni, da prepoznava pri pripadnikih nebelih ras v resnici deluje slabše in, da so temnopolti kongresniki, združeni v skupini Black Caucus, imeli še kako prav, ko so pred časom prav v zvezi s tem problemom pisali šefu Amazona Jeffu Bezosu.

Novinarjem portala The Verge pa je uspelo dobiti še odziv predstavnikov Amazona. Ti so šlamastiko svoje oblačne storitve zagovarjali z dejstvom, da je bila med preizkusom natančnost delovanja Rekognitiona nastavljena na 80 %. Tako, kot je v resnici nastavljena privzeto. A kot pravijo na Amazonu, jo je za resno delo in zanesljivejšo prepoznavo, potrebno dvigniti na 95 %.

Ali to v resnici napravijo tudi organi pregona, ko začno uporabljati Rekonition, pa žal ne ve nihče. Jasno pa je, da so lahko posledice take napačne prepoznave v morebitnem kazenskem postopku precej uničujoče za posameznika, ki se posledično zlahka znajde v mlinih preiskave zaradi zadeve, s katero v resnici nima nič.