Amazon, Microsoft in IBM ustavljajo sodelovanje s policijo pri prepoznavanju obrazov

Microsoft se je odločil, da policiji in ostalim represivnim organom ne bo prodajal lastne tehnologije za prepoznavanje obrazov. Microsoftov predsednik in glavni pravnik Brad Smith je povedal, da so tako odločitev sprejeli, ker področje na zvezni ravni v ZDA ni urejeno. Zavzemajo se za ureditev tega področja, zato so na primer podprli zakonodajo v Kaliforniji, ki bo z omejitvami to tehnologijo dovolila. A dokler ne bo zakonskih omejitev, ki bodo spoštovale človekove pravice, tehnologije ne bodo prodajali.

Pri tem Microsoft ni osamljen, saj sta podobne poteze napovedala tudi IBM in Amazon. IBM je dejal, da trenutno sploh ne bo razvijal in prodajal tehnologije za prepoznavanje obrazov, ker je lahko zlorabljena za množični nadzor in rasno profiliranje. V ZDA trenutno divjajo protesti zaradi smrti Georga Floyda, ki jo je med aretacijo s klečanjem na uklenjenem Floydu povzročil policist. Na protestih se uporablja tudi tehnologija za prepoznavanje obrazov. IBM je bil še nedavno eno vodilnih podjetij pri razvoju tehnologije za prepoznavanje obrazov, sedaj pa izvršni direktor Arvind Krishna poudarja, da sploh niso prepričani, ali bi policija to tehnologijo smela imeti. IBM je v preteklosti že preizkušal to tehnologijo v sodelovanju z newyorško policijo.

Amazon pa je razvil svoj sistem Rekognition, ki je bil tarča največ zgražanj. Tehnologija ima namreč pestro zgodovino. Preizkus pred dvema letoma, ki ga je izvedel ACLU, je pokazal, da tehnologija ni dovolj natančna. Ko so naložili 25.000 posnetkov aretiranih ljudi, so ob primerjavi s člani Kongresa dobili 28 zadetkov. Lažno pozitivnih, kakopak. Druga težava vseh podobnih algoritmov je različna uspešnost pri ljudeh različne polti. Temnopolte namreč pogosteje lažno prepozna, kar predstavlja diskriminacijo, če tak sistem uporabljajo represivni organi. Zaradi tega so se odločili, da ne bodo več sodelovali s policijo in ji tudi ne bodo več ponujali svoje tehnologije. Amazon je napovedal enoletni moratorij (eno leto se hitro obrne!) na sodelovanje s policijo. Še vedno pa bodo sodelovali z drugimi organizacijami, denimo s področja iskanja pogrešanih otrok. Prav tako pozivajo vlado, da pripravi strožja pravila glede uporabe te tehnologije.

A v resnici kakšnih večjih sprememb ni pričakovati. Amazon, IBM in Microsoft so sicer izrazili svoje prepričanje, nekateri morda tako tudi elegantno zaprli oddelke, ki niso prinašali dovolj dobička. Dejstvo je namreč, da policija v čedalje večjem obsegu za tehnologijo prepoznavanje obrazov uporablja izdelke manjših in manj znanih podjetij, mnogokrat tudi tujih.