» »

Amazonov Rekognition pogrnil na praktičnem preizkusu

Amazonov Rekognition pogrnil na praktičnem preizkusu

vir: Wikipedia
The Verge - Strojno prepoznavanje obrazov je zadnje tedne vroča tema razprav. Tako laičnih, kot politično-strokovnih. Kljub temu je tehnologija v nekaterih državah že prodrla v praktično rabo. Kitajska, ZDA, Velika Britanija, Rusija - povsod so organi pregona hlastno pograbili rešitve, ki pa so se praktično povsod pokazale kot precej nezanesljive. Zlasti, ko ne gre za belce.

Na American Civil Liberties Union (ACLU) so se odločili preizkusiti Amazonov Rekognition, ki ga lahko uporabi kdorkoli, gre namreč za storitev v oblaku, ki jo lahko za mesec dni najamete za piškavih 12,33 ameriškega dolarja. Raziskovalci so nato sestavili bazo 25.000 javno objavljenih fotografij, ki jih ob aretaciji napravi policija. Ljudsko poimenovane mugshots. Te so nato primerjali s fotografijami članov ameriškega senata in kongresa.

Rezultati so bili presenetljivi.

Rekognition je našel in povezal 28 fotografij, čeprav na mugshotih v resnici ni bilo nikogar od predstavnikov ameriškega ljudstva. Približno 40 % od teh napačnih zadetkov je bilo povezanih s temnopoltimi poslanci, čeprav njihov delež v obeh domovih znaša komaj kakih 20 %. Kar pomeni, da prepoznava pri pripadnikih nebelih ras v resnici deluje slabše in, da so temnopolti kongresniki, združeni v skupini Black Caucus, imeli še kako prav, ko so pred časom prav v zvezi s tem problemom pisali šefu Amazona Jeffu Bezosu.

Novinarjem portala The Verge pa je uspelo dobiti še odziv predstavnikov Amazona. Ti so šlamastiko svoje oblačne storitve zagovarjali z dejstvom, da je bila med preizkusom natančnost delovanja Rekognitiona nastavljena na 80 %. Tako, kot je v resnici nastavljena privzeto. A kot pravijo na Amazonu, jo je za resno delo in zanesljivejšo prepoznavo, potrebno dvigniti na 95 %.

Ali to v resnici napravijo tudi organi pregona, ko začno uporabljati Rekonition, pa žal ne ve nihče. Jasno pa je, da so lahko posledice take napačne prepoznave v morebitnem kazenskem postopku precej uničujoče za posameznika, ki se posledično zlahka znajde v mlinih preiskave zaradi zadeve, s katero v resnici nima nič.

15 komentarjev

no comment ::

Zlasti, ko ne gre za belce.


Not a bug, a feature!

(vsi so isti, vsi so isti, vsi so... teroristi(tm))

Nikec3 ::

Iz obrazov temnopoltih ljudi se odbija manj svetlobe, zato je težje prepoznat finese.
@WarpedOne o Elonu Musku:
"ST inteligenca serijskemu izdelovalcu "čudežev" očita pomanjkanje inteligence"

Majk ::

Ni samo zaradi svetlobe, dejansko imajo manj fines.

7982884e ::

nic posebnega, pac Sensitivity and specificity @ Wikipedia, ce ob to dodas se nizji nastavljen prag zaznave, pac najdes 28 napacno klasificiranih primerkov.

Matthai ::

Te so nato primerjali s fotografijami članov ameriškega senata in kongresa.

Criminal is a criminal? :))

Sicer pa, če imaš milijon slik, pa ti iz njih algoritem izbere 100, ki jih potem ročno pregleda človek... je zadeva po moje OK. Če se pa teh 100 takoj znajde v kazenskem postopku, pa seveda ni OK.
All those moments will be lost in time, like tears in rain...
Time to die.

sirotka ::

Black Caucus (CBC) is a racial political organization made up of the African-American members

A se je belim kongresnikom tud dovoljeno združit v whites only organizacijo?

Aljaž P ::

@Matthai To se tudi jaz strinjam, zelo neumno bi bilo, da bi potem osebe kar avtomatsko uvrstili v kazenski postopek, zagotov obstaja potem še človeško preverjanje. Lažje pač človek pregleda 100 fotografij, ki jih izlušči sistem, kot pa 100 000. Ne vem pa res, a so zahodna podjetja tako zadaj s prepoznavanjem obraza, ali nočejo razkriti vseh kart, ker glede na to kaj beremo o Kitajski in njihovih zmogljivostih bi lahko rekli, da so iz drugega planeta :P

Matthai ::

Ne, po moje Kitajci malo nakladajo. Možno je pa tudi, da če imaš razmeroma homogeno populacijo, je potem ta problem manjši.

Drugače pa recimo ko policija zaseže strežnik z ogromno fotografijami, sumi pa se, da je nekaj fotografij z otroško pornografijo... Čez se požene software, ki na podlagi hashov identificira možne kandidate, le-te pa potem pregleda človek in potrdi katere so sporne in katere ne.
All those moments will be lost in time, like tears in rain...
Time to die.

tikitoki ::

Majk je izjavil:

Ni samo zaradi svetlobe, dejansko imajo manj fines.


Rasist?

Crnska populacija predstavlji diproporcionalno velik del zapornikov v ZDA. Lahko domneva, ,da je bilo tudi med slikami mugshotov velik del crncev in je to tudi en izmed razlogov za cudne rezultate.

Zgodovina sprememb…

  • spremenilo: tikitoki ()

kuall ::

to mi je logično, da računalniki še slabo prepoznajo podobnost obrazov.

ko bodo enkrat to znali delat tako natančno kot ljudje bo to precej impresivno.

prvič zato, ker imamo ljudje to sposobnost neverjetno dobro razvito. nekoga vidiš za 1 sekundo pa veš za koga se gre. zadnjič npr sem videl mrzlega bratranca, ki ga nisem še nikoli videl v bistvu razen 20 let nazaj ko je bil še otrok od daleč mogoče in sem ga prepoznal, on pa mene. ne vem kako točno.

drugič pa zato, ker ko bodo enkra tako dobro v prepoznavi podobnosti bo to pomenilo, da so hudičevo blizu splošni inteligenci, ker je podobnost tako pogosto uporabljena v inteligenci, ne samo podobnost slik ampak vzorcev, analogij, tudi osnova človeškega jezika je.

Matthai ::

kuall je izjavil:

zadnjič npr sem videl mrzlega bratranca, ki ga nisem še nikoli videl v bistvu razen 20 let nazaj ko je bil še otrok od daleč mogoče in sem ga prepoznal, on pa mene. ne vem kako točno.

Verjetno iz konteksta.

Če vidiš na rodbinskem srečanju nekoga, ki je podoben tvojemu stricu/... boš lažje ugotovil, da je tvoj bratranec/... kot če to isto osebo srečaš v množici na ulici na drugem koncu sveta.
All those moments will be lost in time, like tears in rain...
Time to die.

Markoff ::

sirotka je izjavil:

Black Caucus (CBC) is a racial political organization made up of the African-American members

A se je belim kongresnikom tud dovoljeno združit v whites only organizacijo?

Seveda ne, to bi bilo...rasistično. Remember: only Black Lives Matter! Verjetno zato, ker so tudi Azijci znani sužnjelastniki, kolonizatorji, megakapitalisti etc.

Tole uvažanje problemov beli vs. črni iz (z)mešanih držav v države vzhodne Evrope, ki so rasno, nacionalno, versko ipd. dokaj homogene, je precej deplasirano. Mi imamo dovolj drugih lastnih težav, da bi se morali ukvarjati z njihovimi.

Matthai je izjavil:

Drugače pa recimo ko policija zaseže strežnik z ogromno fotografijami, sumi pa se, da je nekaj fotografij z otroško pornografijo... Čez se požene software, ki na podlagi hashov identificira možne kandidate, le-te pa potem pregleda človek in potrdi katere so sporne in katere ne.

Se pravi kriminalisti lahko gledajo kiddie porn, saj je to pač njihova služba? Le zakaj pedofili niso tega pogruntali že pred desetletji, povsem legalno bi lahko gledali prepovedani material?

No, saj morda pa so pogruntali...? Jaz bi zelo prečesal kadrovsko zasedbo kriminalistov in tožilcev, specializiranih za to področje...
Prve besede v Novoreku idiokracije:
posebaj, skropucalo, inžinir, intiligenca, apsolutno, anEks.
Žal ne govorim idiokratsko ali z idiokrati.

Zgodovina sprememb…

  • spremenilo: Markoff ()

Furbo ::

Medtem ko to na kitajskem lepo deluje..
Lp,f

Matthai ::

Markoff je izjavil:

Se pravi kriminalisti lahko gledajo kiddie porn, saj je to pač njihova služba?

Hja, če smo se odločili, da bomo to preganjali, pač nekdo mora pogledati, ne? V končni fazi tudi sodnik.

Markoff je izjavil:

No, saj morda pa so pogruntali...? Jaz bi zelo prečesal kadrovsko zasedbo kriminalistov in tožilcev, specializiranih za to področje...

S tem se pa strinjam. Mednarodna nevladna organizacija IN-HOPE ima za svoje pregledovalce zelo jasna pravila. Vključujejo tudi redno psihoterapijo in psihoevaluacijo.

Za policiste in tožilce tega do nedavnega ni bilo, ne vem če so zdaj kaj uvedli. Vsaj rotacija bi morala biti.
All those moments will be lost in time, like tears in rain...
Time to die.

krneki0001 ::

Matthai je izjavil:

Markoff je izjavil:

Se pravi kriminalisti lahko gledajo kiddie porn, saj je to pač njihova služba?

Hja, če smo se odločili, da bomo to preganjali, pač nekdo mora pogledati, ne? V končni fazi tudi sodnik.


Sodnik ga itak vidi dvakrat. Enkrat, ko mu ga je lokalni distributer prinesel, drugič pa ko so ga policaji prinesli. :))
Asrock X99 Extreme 4 | Intel E5-2683V4 ES | 64GB DDR4 2400MHz ECC |
Samsung 250GB M.2 | Asus 1070 TI | 850W Antec | LC Tank Buster

Zgodovina sprememb…



Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Tudi Amazonovi zaposleni trkajo na vest uprave (strani: 1 2 )

Oddelek: Novice / NWO
544266 (2143) xmetallic
»

Facebook proti izsiljevanju z golimi fotografijami: naložite jih sami (strani: 1 2 )

Oddelek: Novice / Zasebnost
659423 (5091) Markoff
»

Kako Uber zbira in obdeluje osebne podatke za izmikanje organom pregona (strani: 1 2 )

Oddelek: Novice / Zasebnost
5410902 (7339) Unknown_001
»

FBI sme odslej vdirati vsepoprek

Oddelek: Novice / NWO
315674 (3139) Markoff

Več podobnih tem