» »

Amazonov Rekognition pogrnil na praktičnem preizkusu

Amazonov Rekognition pogrnil na praktičnem preizkusu

The Verge - Strojno prepoznavanje obrazov je zadnje tedne vroča tema razprav. Tako laičnih, kot politično-strokovnih. Kljub temu je tehnologija v nekaterih državah že prodrla v praktično rabo. Kitajska, ZDA, Velika Britanija, Rusija - povsod so organi pregona hlastno pograbili rešitve, ki pa so se praktično povsod pokazale kot precej nezanesljive. Zlasti, ko ne gre za belce.

Na American Civil Liberties Union (ACLU) so se odločili preizkusiti Amazonov Rekognition, ki ga lahko uporabi kdorkoli, gre namreč za storitev v oblaku, ki jo lahko za mesec dni najamete za piškavih 12,33 ameriškega dolarja. Raziskovalci so nato sestavili bazo 25.000 javno objavljenih fotografij, ki jih ob aretaciji napravi policija. Ljudsko poimenovane mugshots. Te so nato primerjali s fotografijami članov ameriškega senata in kongresa.

Rezultati so bili presenetljivi.

Rekognition je našel in povezal 28 fotografij, čeprav na mugshotih v resnici ni bilo nikogar od predstavnikov ameriškega ljudstva. Približno 40 % od teh napačnih zadetkov je bilo povezanih s temnopoltimi poslanci, čeprav njihov delež v obeh domovih znaša komaj kakih 20 %. Kar pomeni, da prepoznava pri pripadnikih nebelih ras v resnici deluje slabše in, da so temnopolti kongresniki, združeni v skupini Black Caucus, imeli še kako prav, ko so pred časom prav v zvezi s tem problemom pisali šefu Amazona Jeffu Bezosu.

Novinarjem portala The Verge pa je uspelo dobiti še odziv predstavnikov Amazona. Ti so šlamastiko svoje oblačne storitve zagovarjali z dejstvom, da je bila med preizkusom natančnost delovanja Rekognitiona nastavljena na 80 %. Tako, kot je v resnici nastavljena privzeto. A kot pravijo na Amazonu, jo je za resno delo in zanesljivejšo prepoznavo, potrebno dvigniti na 95 %.

Ali to v resnici napravijo tudi organi pregona, ko začno uporabljati Rekonition, pa žal ne ve nihče. Jasno pa je, da so lahko posledice take napačne prepoznave v morebitnem kazenskem postopku precej uničujoče za posameznika, ki se posledično zlahka znajde v mlinih preiskave zaradi zadeve, s katero v resnici nima nič.

15 komentarjev

no comment ::

Zlasti, ko ne gre za belce.


Not a bug, a feature!

(vsi so isti, vsi so isti, vsi so... teroristi(tm))

Nikec3 ::

Iz obrazov temnopoltih ljudi se odbija manj svetlobe, zato je težje prepoznat finese.
@WarpedOne o Elonu Musku:
"ST inteligenca serijskemu izdelovalcu "čudežev" očita pomanjkanje inteligence"

Reycis ::

Ni samo zaradi svetlobe, dejansko imajo manj fines.

7982884e ::

nic posebnega, pac Sensitivity and specificity @ Wikipedia, ce ob to dodas se nizji nastavljen prag zaznave, pac najdes 28 napacno klasificiranih primerkov.

poweroff ::

Te so nato primerjali s fotografijami članov ameriškega senata in kongresa.

Criminal is a criminal? :))

Sicer pa, če imaš milijon slik, pa ti iz njih algoritem izbere 100, ki jih potem ročno pregleda človek... je zadeva po moje OK. Če se pa teh 100 takoj znajde v kazenskem postopku, pa seveda ni OK.
sudo poweroff

sirotka ::

Black Caucus (CBC) is a racial political organization made up of the African-American members

A se je belim kongresnikom tud dovoljeno združit v whites only organizacijo?

zez ::

@Matthai To se tudi jaz strinjam, zelo neumno bi bilo, da bi potem osebe kar avtomatsko uvrstili v kazenski postopek, zagotov obstaja potem še človeško preverjanje. Lažje pač človek pregleda 100 fotografij, ki jih izlušči sistem, kot pa 100 000. Ne vem pa res, a so zahodna podjetja tako zadaj s prepoznavanjem obraza, ali nočejo razkriti vseh kart, ker glede na to kaj beremo o Kitajski in njihovih zmogljivostih bi lahko rekli, da so iz drugega planeta :P

poweroff ::

Ne, po moje Kitajci malo nakladajo. Možno je pa tudi, da če imaš razmeroma homogeno populacijo, je potem ta problem manjši.

Drugače pa recimo ko policija zaseže strežnik z ogromno fotografijami, sumi pa se, da je nekaj fotografij z otroško pornografijo... Čez se požene software, ki na podlagi hashov identificira možne kandidate, le-te pa potem pregleda človek in potrdi katere so sporne in katere ne.
sudo poweroff

tikitoki ::

Reycis je izjavil:

Ni samo zaradi svetlobe, dejansko imajo manj fines.


Rasist?

Crnska populacija predstavlji diproporcionalno velik del zapornikov v ZDA. Lahko domneva, ,da je bilo tudi med slikami mugshotov velik del crncev in je to tudi en izmed razlogov za cudne rezultate.

Zgodovina sprememb…

  • spremenilo: tikitoki ()

kuall ::

to mi je logično, da računalniki še slabo prepoznajo podobnost obrazov.

ko bodo enkrat to znali delat tako natančno kot ljudje bo to precej impresivno.

prvič zato, ker imamo ljudje to sposobnost neverjetno dobro razvito. nekoga vidiš za 1 sekundo pa veš za koga se gre. zadnjič npr sem videl mrzlega bratranca, ki ga nisem še nikoli videl v bistvu razen 20 let nazaj ko je bil še otrok od daleč mogoče in sem ga prepoznal, on pa mene. ne vem kako točno.

drugič pa zato, ker ko bodo enkra tako dobro v prepoznavi podobnosti bo to pomenilo, da so hudičevo blizu splošni inteligenci, ker je podobnost tako pogosto uporabljena v inteligenci, ne samo podobnost slik ampak vzorcev, analogij, tudi osnova človeškega jezika je.

poweroff ::

kuall je izjavil:

zadnjič npr sem videl mrzlega bratranca, ki ga nisem še nikoli videl v bistvu razen 20 let nazaj ko je bil še otrok od daleč mogoče in sem ga prepoznal, on pa mene. ne vem kako točno.

Verjetno iz konteksta.

Če vidiš na rodbinskem srečanju nekoga, ki je podoben tvojemu stricu/... boš lažje ugotovil, da je tvoj bratranec/... kot če to isto osebo srečaš v množici na ulici na drugem koncu sveta.
sudo poweroff

Markoff ::

sirotka je izjavil:

Black Caucus (CBC) is a racial political organization made up of the African-American members

A se je belim kongresnikom tud dovoljeno združit v whites only organizacijo?

Seveda ne, to bi bilo...rasistično. Remember: only Black Lives Matter! Verjetno zato, ker so tudi Azijci znani sužnjelastniki, kolonizatorji, megakapitalisti etc.

Tole uvažanje problemov beli vs. črni iz (z)mešanih držav v države vzhodne Evrope, ki so rasno, nacionalno, versko ipd. dokaj homogene, je precej deplasirano. Mi imamo dovolj drugih lastnih težav, da bi se morali ukvarjati z njihovimi.

poweroff je izjavil:

Drugače pa recimo ko policija zaseže strežnik z ogromno fotografijami, sumi pa se, da je nekaj fotografij z otroško pornografijo... Čez se požene software, ki na podlagi hashov identificira možne kandidate, le-te pa potem pregleda človek in potrdi katere so sporne in katere ne.

Se pravi kriminalisti lahko gledajo kiddie porn, saj je to pač njihova služba? Le zakaj pedofili niso tega pogruntali že pred desetletji, povsem legalno bi lahko gledali prepovedani material?

No, saj morda pa so pogruntali...? Jaz bi zelo prečesal kadrovsko zasedbo kriminalistov in tožilcev, specializiranih za to področje...
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

Zgodovina sprememb…

  • spremenilo: Markoff ()

Furbo ::

Medtem ko to na kitajskem lepo deluje..
i5-13600K, STRIX Z790-F, 32GB DDR5, 2TB Samsung 990PRO, Toughpower GF3 1000W
RTX3070, ALIENWARE AW3821DW, DELL U3014

poweroff ::

Markoff je izjavil:

Se pravi kriminalisti lahko gledajo kiddie porn, saj je to pač njihova služba?

Hja, če smo se odločili, da bomo to preganjali, pač nekdo mora pogledati, ne? V končni fazi tudi sodnik.

Markoff je izjavil:

No, saj morda pa so pogruntali...? Jaz bi zelo prečesal kadrovsko zasedbo kriminalistov in tožilcev, specializiranih za to področje...

S tem se pa strinjam. Mednarodna nevladna organizacija IN-HOPE ima za svoje pregledovalce zelo jasna pravila. Vključujejo tudi redno psihoterapijo in psihoevaluacijo.

Za policiste in tožilce tega do nedavnega ni bilo, ne vem če so zdaj kaj uvedli. Vsaj rotacija bi morala biti.
sudo poweroff

krneki0001 ::

poweroff je izjavil:

Markoff je izjavil:

Se pravi kriminalisti lahko gledajo kiddie porn, saj je to pač njihova služba?

Hja, če smo se odločili, da bomo to preganjali, pač nekdo mora pogledati, ne? V končni fazi tudi sodnik.


Sodnik ga itak vidi dvakrat. Enkrat, ko mu ga je lokalni distributer prinesel, drugič pa ko so ga policaji prinesli. :))
Asrock X99 Extreme 4 | Intel E5-2683V4 ES | 64GB DDR4 2400MHz ECC |
Samsung 250GB M.2 | Asus 1070 TI | 850W Antec | LC Tank Buster

Zgodovina sprememb…



Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Ustavno sodišče nad samodejno prepoznavo tablic (strani: 1 2 )

Oddelek: Novice / Zasebnost
6116887 (14064) vesolc
»

Amazonov Rekognition pogrnil na praktičnem preizkusu

Oddelek: Novice / Zasebnost
156775 (4698) krneki0001
»

Tudi Amazonovi zaposleni trkajo na vest uprave (strani: 1 2 )

Oddelek: Novice / NWO
5414417 (12294) xmetallic
»

Kako Uber zbira in obdeluje osebne podatke za izmikanje organom pregona (strani: 1 2 )

Oddelek: Novice / Zasebnost
5425804 (22241) Unknown_001
»

FBI sme odslej vdirati vsepoprek

Oddelek: Novice / NWO
319786 (7251) Markoff

Več podobnih tem