Ars Technica - Houstonska policija je izrekla javno zahvalo Googlu, ker je z zavzetim preverjanjem preko Gmaila preposlanih fotografij uspel najti tudi take, na katerih so bile podobe spolne zlorabe otrok (otroška pornografija), ter potem o tem obvestil ameriški Zvezni urad za pogrešane in zlorabljene otroke. Urad je fotografije posredoval policiji, ki je na njihovi podlagi pridobila sodno odredbo za preiskavo spornega @gmail.com poštnega nabiralnika, potrdila očitano, ter nato še identificirala storilca. 41-letni Houstončan (na sliki), trenutno sedi v priporu. Dodajajo, da je bil v preteklosti (pred dolgimi 20 leti, sicer) tudi že kaznovan zavoljo spolnega napada na mladoletnika.
Opisani izplen je del siceršnje Googlove inicitive za boj proti otroški pornografiji, h kateri se je podjetje javno zavezalo lansko leto. Eric Schmidt je takrat napovedal zaposlitev več kot 200 ljudi, ki bi skrbeli za algoritme za zaznavanje tovrstnih vsebin na vseh Googlovih storitvah. S pomočjo teh algoritmov so do danes zaznali in očistili več sto tisoč spornih rezultatov iskanja. Še pomembneje, za vse tako najdene fotografije in videoposnetke zgenerirajo poseben podpis (fingerprint), tako da lahko isto datoteko potem enostavno in hitro najdejo še kasneje, pri svojih ostalih storitvah. Opisani primer je prav te kategorije.
Vendar pa niso prav vsi navdušeni. Google že od same predstavitve Gmaila pred malo več kot 10 leti hodi po precej tankem ledu zavoljo konstantnega skeniranja vsebine e-poštnih sporočil. Pri otroški pornografiji sicer ni hudih dvomov, ker le ta v ameriški ustavnosodni praksi ni zajeta v pravici do svobode govora, bi pa bili zanimivo vprašanje, kaj bi Google smel (oz. moral) narediti, če bi npr. dobil ukaz (ali odredbo sodišča FISC), da navede vse poštne predale, ki so se pogovarjali denimo o protestih ali kaki drugi ne nujno zakoniti, a še legitimni temi. Na to vprašanje ni lahkega odgovora, bo pa vsekakor počasi potrebno premisliti, ali Evropa res hoče vse svoje podatke zaupati nekomu, ki deluje v bistveno bolj blagem režimu varovanja zasebnosti.
Moralno me tole ne moti, podpiram, toda kaj ko namesto "algoritmov za otroško pornografijo" pridejo algoritmi za protestnike, uživalce prepovedanih substanc, prekrškarje, prešuštnike, Janeze, mene, nas?
Spet se postavlja lov na kriminalce pred pravico do zasebnosti. Kako recimo loči ta "algoritem" med otroško pornografijo in pošiljanjem navadne slikce otroka iz plaže, kjer je po naključju brez kopalk? Ali hočejo povedat, da algoritem zadevo označi kot sumljivo in nato eden od zaposlenih pri googlu ročno določi ali je sporna zadeva ali ne?
In general, high velocity doesn't produce harmful injuries.
But what is dangerous is the high acceleration
or deceleration given at a certain time interval.
Spet se postavlja lov na kriminalce pred pravico do zasebnosti. Kako recimo loči ta "algoritem" med otroško pornografijo in pošiljanjem navadne slikce otroka iz plaže, kjer je po naključju brez kopalk? Ali hočejo povedat, da algoritem zadevo označi kot sumljivo in nato eden od zaposlenih pri googlu ročno določi ali je sporna zadeva ali ne?
Jao... točno vemo kako natačni so tej algoritmi... Dekleta... Ne delat selfijev in podobnih slik pomankljivo oblečene in to shranjevat(mogoče celo nezavestno prek Androida) na GDrive/Gmail, ker lahko postanete prave porno zvezde pri Googlu...
Saj je Edward lepo povedal, kako je to pri NSAju(in povsod kjer se take slike pojavljajo), nekomu se zdi neka slika cool pa jo pošlje sodelavcu ta pa drugemu sodelavcu.......
Dejansko imajo oddelek ki s pomočjo algoritma išče te zadeve nato pa filtrira. Tako da ne bi smelo bit problemov.
problema ne vidim v tem da te obtožijo otroške pornografije, problem vidim v brskanju tretje osebe po zasebnih slikah. Dokler dela slednje algoritem naj nekako še bo.
In general, high velocity doesn't produce harmful injuries.
But what is dangerous is the high acceleration
or deceleration given at a certain time interval.
Kako recimo loči ta "algoritem" med otroško pornografijo in pošiljanjem navadne slikce otroka iz plaže, kjer je po naključju brez kopalk?
Vprasanje se postavlja kaksne naj bi bile slike otroske pornografije, da se jih lahko oznaci s tem tagom.
Dvomim, da lasten otrok slikan nag na plazi gre pod ta pojem. Ker ce ja, potem so vsi starsi pedofilcki, saj kopajo svoje otroke nage.
IMO so slike otroske pornografije bolj "hard". Si pa nocem tega niti predstavljati, kako zgleda.
Sam cudni so mi ti algoritmi. Ker ce pedofilcki to vedo, potem lahko spemajo na tisoce uporabnikov s temi slikami in potem smo posledicno lahko vsi osumljeni.
Jp. Ker to deluje tako, da takoj, ko dobiš eno nedolžno sliko od kolega (ki je slikal otroka, ki je sladoled, oblečen), pride SWAT enota, Googlov predstavnik in Al Jazeera.
Malo potegnite glave iz svojih paranoičnih riti. Če bi bilo vse tako enostavno kot tule nekateri govorite, potem bi bili že čisto vsi za zapahi. Danes to, jutri to, pojutrišnjem tisto....seveda. Tako kot pri drogi, kajne? Danes piješ vodo, jutri sok, pojutrišnjem enega prižgeš....čez 8 dni umreš od heroina. Vsaj vaša logika gre točno tako, pa se je v preteklosti pokazalo, da ne gre ravno tako. Seveda nisem za to, da damo privat korporacijam proste roke in naj delajo kar hočejo, če bo kaj dobrega vmes pa toliko bolje. Ampak še bolj kot proti njim, sem pa proti paranoičnim bedakom.
Ne, ne sme ti brskat po poštnem predalu, ne človek, ne algoritem.
Otroška pornografija je ratala dimna zavesa za katero lahko [vstavi organizacijo] dela marsikaj in nenadzorovano krši človekovo zasebnost. To je enakovredno temu, da ti policija uleti in ti naredi hišno preiskavo brez naloga, pač jim tvoja faca ni všeč. Ampak takoj ko slišimo besedno zvezo otroška pornografija, smo se prižge moralni semafor, ki daje zeleno luč za kakršnokoli akcijo. Osnova človekovih pravic je to, da smo vsi enaki pred zakonom in iz tega sledi, da imamo vsi pravico do zasebnosti. Če nekoga sumijo, naj si priskrbijo nalog in mu pregledajo poštni predal. S tem ukrepom pa [vsaj US] stopa(mo) korak naprej proti policijski državi.
Dr_M: Seveda se ne. In dvomim, da si sorodnik od Ježovite, da veš, kaj se bo zgodilo čez 200 let. V Mariboru so ovce vrgle župana, ker so jim tako naročili in jih pravilno organizirali, potem so šli naprej še pred parlament in tam postavili svoje. Pa se ni šlo za nič drugega kot za privilegije posameznikov. Če bi se šlo za kaj večjega, dejansko pomembnega in ne samo za (absolutno) pravilnost nekih radarjev, bi vstal cel narod in takrat bi se stanje izravnalo. Še v tretjem svetu, kjer diktatorji lahko počnejo z rajo kar hočejo, je ulici uspelo, pa da ne bi nam, ki o pasjem dreku na cesti lahko naredimo dva tedna dolgo politično kampanjo.
sej se niso šli policaja. Šli so se špeckahlo. Pač poštar, ki prenaša okrog dopisnice, je videl, da so eni pripete fotke golih otrok in je zadevo prijavil na policijo.
"Figures don't lie, but liars figure."
Samuel Clemens aka Mark Twain
Jp. Ker to deluje tako, da takoj, ko dobiš eno nedolžno sliko od kolega (ki je slikal otroka, ki je sladoled, oblečen), pride SWAT enota, Googlov predstavnik in Al Jazeera.
This is just ridiculous. Apparently a SWAT team raided the home of an innocent guy, accusing him of downloading child porn:
Lying on his family room floor with assault weapons trained on him, shouts of "pedophile!" and "pornographer!" stinging like his fresh cuts and bruises, the Buffalo homeowner didn�t need long to figure out the reason for the early morning wake-up call from a swarm of federal agents.
That new wireless router. He'd gotten fed up trying to set a password. Someone must have used his Internet connection, he thought.
"We know who you are! You downloaded thousands of images at 11:30 last night," the man's lawyer, Barry Covert, recounted the agents saying. They referred to a screen name, "Doldrum."
"No, I didn't," he insisted. "Somebody else could have but I didn't do anything like that."
Police SWAT teams are now deployed tens of thousands of times each year, increasingly for routine jobs. Masked, heavily armed police officers in Louisiana raided a nightclub in 2006 as part of a liquor inspection. In Florida in 2010, officers in SWAT gear and with guns drawn carried out raids on barbershops that mostly led only to charges of “barbering without a license.”
Malo potegnite glave iz svojih paranoičnih riti. Če bi bilo vse tako enostavno kot tule nekateri govorite, potem bi bili že čisto vsi za zapahi. Danes to, jutri to, pojutrišnjem tisto....seveda. Tako kot pri drogi, kajne?
Ne, danes pes zavoha ganđo - seveda ker rit stiskaš si takoj sumljiv - pa ti gredo narest rektalni pregled, dat odvajala, nardijo klistir, rentgen, za dobro mero pa še kolonoskopijo. Najdejo, kdo bi si mislil!, seveda nič.
Danes piješ vodo, jutri sok, pojutrišnjem enega prižgeš....čez 8 dni umreš od heroina. Vsaj vaša logika gre točno tako, pa se je v preteklosti pokazalo, da ne gre ravno tako.
Oja, natanko tako gre. Sicer ne za ganđar => kokainar => heroinar => smrt, temveč policija => SWAT => vojska => vojno območje. Ampak hukers, važno da v resnic "ne gre ravno tako".
Seveda nisem za to, da damo privat korporacijam proste roke in naj delajo kar hočejo, če bo kaj dobrega vmes pa toliko bolje. Ampak še bolj kot proti njim, sem pa proti paranoičnim bedakom.
To ni "korporacijam dat proste roke" ampak "privatizirat policijo". Megarazlika.
sej se niso šli policaja. Šli so se špeckahlo. Pač poštar, ki prenaša okrog dopisnice, je videl, da so eni pripete fotke golih otrok in je zadevo prijavil na policijo.
Ni res. Namerno so šli odpirat pošto pa jo poslat čez skener; če je skener pokazu rdečo lučko, so poslal policiji.
In dvomim, da si sorodnik od Ježovite, da veš, kaj se bo zgodilo čez 200 let.
Ne, ne vem, vem pa, kaj se je zgodilo v zadnjih 30 letih. Pocasi in vztrajno je vedno vec nadzora, prihaja tako pocasi, da vse skupaj, sicer z nekaj slabe volje, vse pozremo. In ce ne bo zaradi tega neke hude vojne in na stotine miljonov mrtvih, smo v vsakem primeru gotofi.
Samo jaz tega ne razumem. Človek se zaveda, da je to visoko eksploziven material, ki mu lahko priskrbi 20 let aresta, ve da ta material aktivno iščejo na vsakem koraku, ve da se praktično vsa človeška komunikacija nadzira in snema, pa zadevo vseeno hrani (in sprejema) nezaščiteno, praktično javno, v storitvi, katere edini namen in smisel je skeniranje in indeksiranje vsake besede, vsake slike (za potrebe plasiranja reklam). Pa saj hoče v zapor.
Meni se zdi takšen poseg v zasebnost malce hud in da ne govirmo, da tukaj posegajo v zasebnost miljonov ljudi in v celem letu so to opravičili z enim samim uspehom?
Tisti, ki misli, da so zadeve na teh vele storitvah res zasebne...ne vem, ni mi jasno kako lahko tako razmišljate.
Sicer super, da so spravli pedfila za zapahe, ampak implikacije dejanja, kot so že povedali ostali...so skrajno neprijetne. Drugače pa ja, nekdo ti pošlje par takih slik in si že lepo na special watch list.
Algoritmi bullshit. Ne rabim Snowdena, da mi pove kako se dela na takih "varnostnih agencijah". Zdolgočasenim operaterjem je to hobi in thrill...nedovoljeno zasebno zbiranje nalovljenih podatkov. Predvidevam, da amateur porn posnetki gredo po pisarni za med.
Zvedavi sosed vidi kakšno tujo zasebno stvar po naključju. Celo če je ornk prtegnjen in ga zanima vse o tebi, nima resursov, da te bo nadzoroval 24/7. Medtem ko Google to počne sistematično, 24/7 z jasno definiranim namenom.
Zato ne gre zvedavega soseda (ali firbčnega poštarja) meriti z enakimi vatli kot Google.
Če pogledamo čisto realno so morali to prijaviti policiji, ker drugače bi bili v prekršku...
Vprašanje, ki se postavlja je samo ali je pošta na Google-ovih strežnikih zasebna ali ne.
No, Google sam je tukaj lepo pokazal, da oni smatrajo, da ni!
Čeprav imajo vse to lepo napisano tudi v pogojih uporabe, tako da si je nesmiselno zatiskati oči in govoriti o zasebnosti na strežnikih privatnih podjetij, kot so Google ipd.
Google has a zero-tolerance policy against child sexual abuse imagery. If we become aware of such content, we will report it to the appropriate authorities and may take disciplinary action, including termination, against the Google Accounts of those involved.
Če pogledamo čisto realno so morali to prijaviti policiji, ker drugače bi bili v prekršku...
Ponudnik storitev je v prekršku samo če vohuni po podatkih uporabnikov - drugače veljajo pravila t.i. varnega pristana, kjer Google ni odgovoren za vsebino uporabnikov za katero ne ve.
Jaz vem, kaj je naslednji korak: fingerprinti prepovedanih datotek v antivirusih, antispyware, MS orodju za odstranjevanje zlonamernih programov itd. Ker ti "vidijo", kaj imate na računalu (marsikateri tudi sporočajo domov), pa vendor omogoča vaše prepovedane dejavnosti, če ne sporoči policiji. Potem tudi trojanerjev ne rabimo več. Da sem paranoik so mi rekli že pred leti, ko sem trdil, da gmail ni uporaben za nič drugega, kot brezvezne registracije ipd.
I used to be with it, but then they changed what it was.
Now what I'm with isn't it and what's it seems weird
and scary to me. It'll happen to you!
No potem se pa le prijavljate s prstnimi odsisi, ko boste pa enkje pustili svoj odtis se bosete pa čudili kako da vas imajo v bazah :) Mi šnofanje ni všeč ampak se mu je precej težko izognit, ker po mojem vsi ponudniki nekaj takega počnejo stric Google pač najbolj očitno in najlažje (veliko resursov, velika baza, dobra orodja...)
Če pogledamo čisto realno so morali to prijaviti policiji, ker drugače bi bili v prekršku...
V bistvu so krivi kaznivega dejanja posedovanja otroške pornografije. Zakaj? Pravijo, da so z algoritmi šli gledat slike če je gor CP. Kako so pa te algoritme treniral, da so našli CP in ne false positives? Menda ja ne na odnekježe pridobljenih CP slikah (še preden so šli algoritmi v produkcijo, torej ne na slikah od uporabnikov)? (V javnosti so dost megleni, kako to delajo, priznavajo pa, da je tech od ... Mirkosofta. Velik CPjarjev je na svet, zgleda...)
Gmail ni privat korespondenca? Google jo pregleduje z roboti, da pobrise spam, pa se kako reklamo v zvezi z vsebino nalozi. To je del googlovih uslug. Kreten je tisti, ki kako obcutljivo stvar poslje po gmailu. Pedota so pa dobili, ne po sliki, ampak po znani referenci s katero je bila podpisana datoteka slike. Google je pa to moral prijaviti, ker bi bil v nasprotnem primeru sokriv.
Pedota so pa dobili, ne po sliki, ampak po znani referenci s katero je bila podpisana datoteka slike. Google je pa to moral prijaviti, ker bi bil v nasprotnem primeru sokriv.
Datoteka ni bila nič "podpisana", imela je nek "fingerprint". Sedaj rabim samo še sliko pande, ki se baše z bambusom in ima enak "fingerprint" kot neka "ofenzivna" fotka in te lahko spravim v postopek. Tako kot ona mama zadnjič, ki je s traktorjem divjala po Ljubljani.
Tako kot ona mama zadnjič, ki je s traktorjem divjala po Ljubljani.