Slo-Tech - Nizozemsko sodišče v Haagu je odločilo, da je uporaba algoritma na podlagi strojnega učenja, ki ga je nizozemska država uporabljala za lovljenje izkoriščevalcev socialnih prejemkov, nezakonita. Program Systeem Risico Indicatie (SysRI) je orodje iz strojnega učenja, ki je pregledalo kršitelje zakonodaje s področja socialnega varstva v preteklosti in na podlagi zbranih korelacij preverilo trenutne prejemnike in ocenilo, kdo je najverjetnejši kršitelj. Te so potem inšpektorji tarčno preverjali.
Glavni problem je bilo zbiranje podatkov iz različnih baz, do katerih je imel SysRI potem celovit dostop. Program je bil usmerjen pretežno na prebivalce iz revnih sosesk in manjšine, je dejal poročevalec za revščino in človekove pravice v Združenih narodih Philip Alston. Avtomatizirani sistem je nedolžne ljudi označil kot osumljence na podlagi algoritmov, ki niso bili poznani (black box), zaradi česar je bil sistem tarča številnih kritik.
Humans Right Watch je odločitev označila kot pomembno zmago za pravice revnih. Sistem SysRI je sicer deloval od leta 2014, uporabljal pa je podatke iz 17 različnih baz, med drugim davčnih napovedi, katastra, zemljiške knjige, evidence premičnin itd. Nizozemska vlada je trdila, da je uporaba sistema nujna za boj proti zlorabam sistema socialne pomoči. Toda civilna družba je bila zaskrbljena in sindikat FNV je leta 2018 tožil zaradi takšnega algoritemskega nadzora. Združeni narodi so podprli tožbo.
Sodišče je sedaj razsodilo, da so sicer mehanizmi za boj proti zlorabam socialnih pomoči legitimni, a da je sistem SysRI preveč invaziven in da ni sorazmeren s koristmi. Prav tako je v nasprotju z GDPR, zato je odredilo takojšnjo ustavitev delovanja sistema. Ministrstvo bo to tudi storilo, ni pa še jasno, ali se bo na sodbo pritožilo.
Pomoje dober sistem samo če je določen odstotek nelegitimen je problematično ker bi sistem lahko prešel tudi v druge sfere kjer bi policija prišla na vrata na podlagi logaritma in ne dobrih dokazov...
In kakšen je bil izplen sistema SysRI v številkah ? HRW, OZN in podobni jokerji tu nimajo kaj iskati. Civilna družba ? Ne me hecat, za to frazo se skrivajo levi kvazi antifašisti, ko nimajo nič konkretnega povedati.
jype meša pomaranče in jeklenke. Dnk dokaze se da podtakniti in 5 eyes vohunska alianca (plus države "podizvajalke" nižje v hierarhiji) seveda še veselo deluje naprej.
Ko je dal Snowden črno na belem ve, kaj dela 5eyes oz ZDA, kje je takrat bila civilna družba, Hrw, OZN in kaj se je spremenilo ? Ali ko je Assange/Manning leakal svinjarije ZDA vojske...
Čisto nič.
Vsaj iz Eu bi jih morali nabrcati (Zda vojsko) in jim nabiti sankcije, če bi bilo kaj od Eu še kredibilnega.
Ok, če so ti postopki preveč invazivni, kako pa naj pravično razdeljujejo? Kar vsem povprek? Potem še jaz takoj pustim službo, zakaj bi delal, če mi ni treba.
Jype, ko se jeziš nad velikimi firmami, si me spomnil na tole risanko.
Saj vem, ni resnična in skrivaj perejo možgane, spomnil si me pa le.
Ne, ker je v nacionalni zavesti bolj pomembno loviti reveže za par sto evrov, kot bogataše za nekaj deset milijonov.
Rdeči baron, kaj ko bi razdelil svoje bitkojn bogastvo, ki si ga nisi prislužil s trdim delom, pravim revežem, ki jih, kot praviš sam, politično zastopaš?
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Rdeči baron, kaj ko bi razdelil svoje bitkojn bogastvo, ki si ga nisi prislužil s trdim delom, pravim revežem, ki jih, kot praviš sam, politično zastopaš?
Klasika levičarske družbe; tako kot ljudje se tudi algoritmi morajo delati da so zabiti, da ne vidijo kdo je potreben pomoči in kdo ne, kaj je prav in kaj ne. Vse to pa zapakirajo v skrb za revne. Podn od ljudi ki si želijo zrušiti civilizacijo in dopustiti nedopustno!
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Čudno, da ravno desničarji vedno najbolj pomagajo tistim, ki pomoči ne potrebujejo, praviloma najbogatejšemu odstotku prebivalcev planeta, ostali naj se pa pobijajo za drobtinice.
Čudno, da ravno desničarji vedno najbolj pomagajo tistim, ki pomoči ne potrebujejo, praviloma najbogatejšemu odstotku prebivalcev planeta, ostali naj se pa pobijajo za drobtinice.
Zato ker razumemo družbo in vplive na blaginjo le-te. Levičarjem vam je glavna skrb za reveže tako dobesedno, da jih je pod vašim vodstvom vedno več. Desničarjem pa je glavna skrb svoboda in tako v takšni družbi nastane vedno več bogatašev in zato se levičarjem zdi da je to glavna skrb desničarjev. No, saj tudi je, ker veliko število bogatašev pomeni posledično blaginjo celotne družbe! Ampak kaj ko levičarji te popolnoma preproste zakonitosti ne dojamete!
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Goljufanje države je torej okej. Uporaba algoritmov, ki pomagajo pri iskanju goljufov je pa nezakonita. Nekatere države resno izzivajo davkoplačevalce. Potem pa levičarjem ni jasno zakaj se ljudje pritožujejo nad davki. Davke se vsiljuje in povečuje, hkrati pa država ne naredi nič (oz. še omejuje), da bi ustavila nezakonito porabo javnih sredstev.
Goljufanje države je torej okej. Uporaba algoritmov, ki pomagajo pri iskanju goljufov je pa nezakonita.
Očitno ne razumeš problema. Algoritem ni iskal goljufov ampak je na podlagi statistike določil, kdo bi lahko bili potencialni goljufi. Se pravi, da je bil za potencialnega goljufa označen nekdo, ki je bil v nekaterih lastnostih podoben odkritim goljufom. Brez kakršnega koli dokaza, da je dejansko storil karkoli narobe. Vse skupaj je nevarno blizu temu, da boš avtomatično kriv, ker na volitvah ne boš podprl prave stranke. Nekaj podobnega smo včasih že imeli na našem teritoriju.
Ja in? Jst tudi na podlagi 'algoritma' določim za koga bo več možnosti da bo smrdel in kradel: rom.
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Očitno ne razumeš problema. Algoritem ni iskal goljufov ampak je na podlagi statistike določil, kdo bi lahko bili potencialni goljufi. Se pravi, da je bil za potencialnega goljufa označen nekdo, ki je bil v nekaterih lastnostih podoben odkritim goljufom. Brez kakršnega koli dokaza, da je dejansko storil karkoli narobe. Vse skupaj je nevarno blizu temu, da boš avtomatično kriv, ker na volitvah ne boš podprl prave stranke. Nekaj podobnega smo včasih že imeli na našem teritoriju.
Saj ni bil ničesar de facto obtožen na podlagi rezultatov algoritma. Algoritem je izpostavil osebo, katere vedenje je imelo karakteristike goljufij. Ali gre dejansko za goljufijo pa so nato ročno preverile službe, ki se s tem ukvarjajo. S popolnoma enakimi "filtri" goljufe iščejo ljudje, ki tam delajo. S temi algoritmi so iskanje zgolj pospešili.
Vseeno so nekatere korelacije šibke in so zatorej socialno ogroženi ljudje po nepotrebnem izpostavljeni. Recimo, da je posedovanje nesorazmerno dragega prevoznega sredstva močna korelacija. Problem vidim tudi v tem, da je bila na delu aktivna ekipa zaposlenih, ki je delovala po principu kvot. Programska oprema je poskrbela, da jim dela ni zmanjkalo, kajti če obstajajo prejemniki pomoči, se jih da razvrščati po stopnji sumljivosti.
Saj ni bil ničesar de facto obtožen na podlagi rezultatov algoritma. Algoritem je izpostavil osebo, katere vedenje je imelo karakteristike goljufij. Ali gre dejansko za goljufijo pa so nato ročno preverile službe, ki se s tem ukvarjajo. S popolnoma enakimi "filtri" goljufe iščejo ljudje, ki tam delajo. S temi algoritmi so iskanje zgolj pospešili.
Sliši se kot super način, kako bi lahko anarhistično navdahnjen programer AI algoritma poskrbel, da vsem desničarjem ves čas po naključju razkopavajo kufre po vseh letališčih.
