» »

Google v e-poštnem nabiralniku svojega uporabnika našel otroško pornografijo, kojci obvestil policijo

Google v e-poštnem nabiralniku svojega uporabnika našel otroško pornografijo, kojci obvestil policijo

41-letni osumljenec iz Houstona.

vir: Ars Technica
Ars Technica - Houstonska policija je izrekla javno zahvalo Googlu, ker je z zavzetim preverjanjem preko Gmaila preposlanih fotografij uspel najti tudi take, na katerih so bile podobe spolne zlorabe otrok (otroška pornografija), ter potem o tem obvestil ameriški Zvezni urad za pogrešane in zlorabljene otroke. Urad je fotografije posredoval policiji, ki je na njihovi podlagi pridobila sodno odredbo za preiskavo spornega @gmail.com poštnega nabiralnika, potrdila očitano, ter nato še identificirala storilca. 41-letni Houstončan (na sliki), trenutno sedi v priporu. Dodajajo, da je bil v preteklosti (pred dolgimi 20 leti, sicer) tudi že kaznovan zavoljo spolnega napada na mladoletnika.

Opisani izplen je del siceršnje Googlove inicitive za boj proti otroški pornografiji, h kateri se je podjetje javno zavezalo lansko leto. Eric Schmidt je takrat napovedal zaposlitev več kot 200 ljudi, ki bi skrbeli za algoritme za zaznavanje tovrstnih vsebin na vseh Googlovih storitvah. S pomočjo teh algoritmov so do danes zaznali in očistili več sto tisoč spornih rezultatov iskanja. Še pomembneje, za vse tako najdene fotografije in videoposnetke zgenerirajo poseben podpis (fingerprint), tako da lahko isto datoteko potem enostavno in hitro najdejo še kasneje, pri svojih ostalih storitvah. Opisani primer je prav te kategorije.

Vendar pa niso prav vsi navdušeni. Google že od same predstavitve Gmaila pred malo več kot 10 leti hodi po precej tankem ledu zavoljo konstantnega skeniranja vsebine e-poštnih sporočil. Pri otroški pornografiji sicer ni hudih dvomov, ker le ta v ameriški ustavnosodni praksi ni zajeta v pravici do svobode govora, bi pa bili zanimivo vprašanje, kaj bi Google smel (oz. moral) narediti, če bi npr. dobil ukaz (ali odredbo sodišča FISC), da navede vse poštne predale, ki so se pogovarjali denimo o protestih ali kaki drugi ne nujno zakoniti, a še legitimni temi. Na to vprašanje ni lahkega odgovora, bo pa vsekakor počasi potrebno premisliti, ali Evropa res hoče vse svoje podatke zaupati nekomu, ki deluje v bistveno bolj blagem režimu varovanja zasebnosti.

36 komentarjev

Matija82 ::

Moralno me tole ne moti, podpiram, toda kaj ko namesto "algoritmov za otroško pornografijo" pridejo algoritmi za protestnike, uživalce prepovedanih substanc, prekrškarje, prešuštnike, Janeze, mene, nas?

Furbo ::

Torej, če koga ne maram, moram samo nekje na netu stakniti tovrstne fotke in mu jih poslati?
Lp,f

Arctander ::

Sicer tvegam plaz moralnih obtožb in argumentov "think of the children!", ampak moje stališče je, da se Google nima kaj iti policaja.

Danes pedofili, jutri teroristi, pojutrišnjem ... ?

šernk ::

Spet se postavlja lov na kriminalce pred pravico do zasebnosti. Kako recimo loči ta "algoritem" med otroško pornografijo in pošiljanjem navadne slikce otroka iz plaže, kjer je po naključju brez kopalk? Ali hočejo povedat, da algoritem zadevo označi kot sumljivo in nato eden od zaposlenih pri googlu ročno določi ali je sporna zadeva ali ne?
In general, high velocity doesn't produce harmful injuries.
But what is dangerous is the high acceleration
or deceleration given at a certain time interval.

Unknown_001 ::

šernk je izjavil:

Spet se postavlja lov na kriminalce pred pravico do zasebnosti. Kako recimo loči ta "algoritem" med otroško pornografijo in pošiljanjem navadne slikce otroka iz plaže, kjer je po naključju brez kopalk? Ali hočejo povedat, da algoritem zadevo označi kot sumljivo in nato eden od zaposlenih pri googlu ročno določi ali je sporna zadeva ali ne?


Glej link: http://www.racunalniske-novice.com/novi...

Izvirnik: http://gizmodo.com/5936572/the-worst-jo...

Dejansko imajo oddelek ki s pomočjo algoritma išče te zadeve nato pa filtrira. Tako da ne bi smelo bit problemov.

Je pa tudi za moje pojme skrajno neprimerno take fotografije s plaže ki zakonsko niso "sporne" objavljat.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

David Karlas ::

Jao... točno vemo kako natačni so tej algoritmi... Dekleta... Ne delat selfijev in podobnih slik pomankljivo oblečene in to shranjevat(mogoče celo nezavestno prek Androida) na GDrive/Gmail, ker lahko postanete prave porno zvezde pri Googlu...

Saj je Edward lepo povedal, kako je to pri NSAju(in povsod kjer se take slike pojavljajo), nekomu se zdi neka slika cool pa jo pošlje sodelavcu ta pa drugemu sodelavcu.......

šernk ::

Dejansko imajo oddelek ki s pomočjo algoritma išče te zadeve nato pa filtrira. Tako da ne bi smelo bit problemov.


problema ne vidim v tem da te obtožijo otroške pornografije, problem vidim v brskanju tretje osebe po zasebnih slikah. Dokler dela slednje algoritem naj nekako še bo.
In general, high velocity doesn't produce harmful injuries.
But what is dangerous is the high acceleration
or deceleration given at a certain time interval.

StarMafijec ::

Torej zadeve na GMail, Google Drive in Picasa niti po črki zakona niso zasebne. Kaj v praksi lahko gledajo, pa niti ne vemo.

Dr_M ::

Arctander je izjavil:

Sicer tvegam plaz moralnih obtožb in argumentov "think of the children!", ampak moje stališče je, da se Google nima kaj iti policaja.

Danes pedofili, jutri teroristi, pojutrišnjem ... ?


Se popolnoma strinjam. Kar.ke prevec je prevec. Vedno pa bodo nasli pravi izgovor za nadzor.

harmony ::

šernk je izjavil:

Kako recimo loči ta "algoritem" med otroško pornografijo in pošiljanjem navadne slikce otroka iz plaže, kjer je po naključju brez kopalk?

Vprasanje se postavlja kaksne naj bi bile slike otroske pornografije, da se jih lahko oznaci s tem tagom.

Dvomim, da lasten otrok slikan nag na plazi gre pod ta pojem. Ker ce ja, potem so vsi starsi pedofilcki, saj kopajo svoje otroke nage.

IMO so slike otroske pornografije bolj "hard". Si pa nocem tega niti predstavljati, kako zgleda.

Sam cudni so mi ti algoritmi. Ker ce pedofilcki to vedo, potem lahko spemajo na tisoce uporabnikov s temi slikami in potem smo posledicno lahko vsi osumljeni.

nekikr ::

Jp. Ker to deluje tako, da takoj, ko dobiš eno nedolžno sliko od kolega (ki je slikal otroka, ki je sladoled, oblečen), pride SWAT enota, Googlov predstavnik in Al Jazeera.

Malo potegnite glave iz svojih paranoičnih riti. Če bi bilo vse tako enostavno kot tule nekateri govorite, potem bi bili že čisto vsi za zapahi. Danes to, jutri to, pojutrišnjem tisto....seveda. Tako kot pri drogi, kajne? Danes piješ vodo, jutri sok, pojutrišnjem enega prižgeš....čez 8 dni umreš od heroina. Vsaj vaša logika gre točno tako, pa se je v preteklosti pokazalo, da ne gre ravno tako.
Seveda nisem za to, da damo privat korporacijam proste roke in naj delajo kar hočejo, če bo kaj dobrega vmes pa toliko bolje. Ampak še bolj kot proti njim, sem pa proti paranoičnim bedakom.

Dr_M ::

Ja, ker se vse zgodi kar cez noc.
Ne se delat bedaka.

msjr ::

Ne, ne sme ti brskat po poštnem predalu, ne človek, ne algoritem.

Otroška pornografija je ratala dimna zavesa za katero lahko [vstavi organizacijo] dela marsikaj in nenadzorovano krši človekovo zasebnost. To je enakovredno temu, da ti policija uleti in ti naredi hišno preiskavo brez naloga, pač jim tvoja faca ni všeč. Ampak takoj ko slišimo besedno zvezo otroška pornografija, smo se prižge moralni semafor, ki daje zeleno luč za kakršnokoli akcijo. Osnova človekovih pravic je to, da smo vsi enaki pred zakonom in iz tega sledi, da imamo vsi pravico do zasebnosti. Če nekoga sumijo, naj si priskrbijo nalog in mu pregledajo poštni predal. S tem ukrepom pa [vsaj US] stopa(mo) korak naprej proti policijski državi.

nekikr ::

Dr_M:
Seveda se ne. In dvomim, da si sorodnik od Ježovite, da veš, kaj se bo zgodilo čez 200 let. V Mariboru so ovce vrgle župana, ker so jim tako naročili in jih pravilno organizirali, potem so šli naprej še pred parlament in tam postavili svoje. Pa se ni šlo za nič drugega kot za privilegije posameznikov. Če bi se šlo za kaj večjega, dejansko pomembnega in ne samo za (absolutno) pravilnost nekih radarjev, bi vstal cel narod in takrat bi se stanje izravnalo. Še v tretjem svetu, kjer diktatorji lahko počnejo z rajo kar hočejo, je ulici uspelo, pa da ne bi nam, ki o pasjem dreku na cesti lahko naredimo dva tedna dolgo politično kampanjo.

marvin42 ::

Kmalu bo vsak, ki bo oporekal temu, da mu preiskujejo poštni predal, obsojen širjenja otroške pornografije.
Mostly Harmless

Tear_DR0P ::

Arctander je izjavil:

se Google nima kaj iti policaja.


sej se niso šli policaja. Šli so se špeckahlo. Pač poštar, ki prenaša okrog dopisnice, je videl, da so eni pripete fotke golih otrok in je zadevo prijavil na policijo.
"Figures don't lie, but liars figure."
Samuel Clemens aka Mark Twain

PaX_MaN ::

nekikr je izjavil:

Jp. Ker to deluje tako, da takoj, ko dobiš eno nedolžno sliko od kolega (ki je slikal otroka, ki je sladoled, oblečen), pride SWAT enota, Googlov predstavnik in Al Jazeera.

Em, natanko to se dogaja:
This is just ridiculous. Apparently a SWAT team raided the home of an innocent guy, accusing him of downloading child porn:

Lying on his family room floor with assault weapons trained on him, shouts of "pedophile!" and "pornographer!" stinging like his fresh cuts and bruises, the Buffalo homeowner didn�t need long to figure out the reason for the early morning wake-up call from a swarm of federal agents.

That new wireless router. He'd gotten fed up trying to set a password. Someone must have used his Internet connection, he thought.

"We know who you are! You downloaded thousands of images at 11:30 last night," the man's lawyer, Barry Covert, recounted the agents saying. They referred to a screen name, "Doldrum."

"No, I didn't," he insisted. "Somebody else could have but I didn't do anything like that."

"You're a creep ... just admit it," they said.


Pa ne samo pri OP, tudi za čisto banalne stvari:
Police SWAT teams are now deployed tens of thousands of times each year, increasingly for routine jobs. Masked, heavily armed police officers in Louisiana raided a nightclub in 2006 as part of a liquor inspection. In Florida in 2010, officers in SWAT gear and with guns drawn carried out raids on barbershops that mostly led only to charges of “barbering without a license.”

Potem imaš debilane, kot je aretiranje mame ker je hčerko za par uric poslala v park; policijskih nakupov vojaške opreme se pa itak ni treba bati, ane?

nekikr je izjavil:

Malo potegnite glave iz svojih paranoičnih riti. Če bi bilo vse tako enostavno kot tule nekateri govorite, potem bi bili že čisto vsi za zapahi. Danes to, jutri to, pojutrišnjem tisto....seveda. Tako kot pri drogi, kajne?

Ne, danes pes zavoha ganđo - seveda ker rit stiskaš si takoj sumljiv - pa ti gredo narest rektalni pregled, dat odvajala, nardijo klistir, rentgen, za dobro mero pa še kolonoskopijo. Najdejo, kdo bi si mislil!, seveda nič.

nekikr je izjavil:

Danes piješ vodo, jutri sok, pojutrišnjem enega prižgeš....čez 8 dni umreš od heroina.
Vsaj vaša logika gre točno tako, pa se je v preteklosti pokazalo, da ne gre ravno tako.

Oja, natanko tako gre. Sicer ne za ganđar => kokainar => heroinar => smrt, temveč policija => SWAT => vojska => vojno območje. Ampak hukers, važno da v resnic "ne gre ravno tako".

nekikr je izjavil:

Seveda nisem za to, da damo privat korporacijam proste roke in naj delajo kar hočejo, če bo kaj dobrega vmes pa toliko bolje. Ampak še bolj kot proti njim, sem pa proti paranoičnim bedakom.

To ni "korporacijam dat proste roke" ampak "privatizirat policijo". Megarazlika.

Tear_DR0P je izjavil:

Arctander je izjavil:

se Google nima kaj iti policaja.


sej se niso šli policaja. Šli so se špeckahlo. Pač poštar, ki prenaša okrog dopisnice, je videl, da so eni pripete fotke golih otrok in je zadevo prijavil na policijo.

Ni res. Namerno so šli odpirat pošto pa jo poslat čez skener; če je skener pokazu rdečo lučko, so poslal policiji.

Zgodovina sprememb…

  • spremenilo: PaX_MaN ()

Dr_M ::

In dvomim, da si sorodnik od Ježovite, da veš, kaj se bo zgodilo čez 200 let.


Ne, ne vem, vem pa, kaj se je zgodilo v zadnjih 30 letih.
Pocasi in vztrajno je vedno vec nadzora, prihaja tako pocasi, da vse skupaj, sicer z nekaj slabe volje, vse pozremo.
In ce ne bo zaradi tega neke hude vojne in na stotine miljonov mrtvih, smo v vsakem primeru gotofi.

link_up ::

hmmm...thank you mister obvious! :)
In and Out

Oberyn ::

Samo jaz tega ne razumem. Človek se zaveda, da je to visoko eksploziven material, ki mu lahko priskrbi 20 let aresta, ve da ta material aktivno iščejo na vsakem koraku, ve da se praktično vsa človeška komunikacija nadzira in snema, pa zadevo vseeno hrani (in sprejema) nezaščiteno, praktično javno, v storitvi, katere edini namen in smisel je skeniranje in indeksiranje vsake besede, vsake slike (za potrebe plasiranja reklam). Pa saj hoče v zapor.

morbo ::

Prva stvar ki mi je padla na pamet ob sliki osumljenca...



Dr_M ::

link_up je izjavil:

hmmm...thank you mister obvious! :)


Za ljudi, ki ne vidijo dlje od svojega nosu, ni tako obvious.

tikitoki ::

Meni se zdi takšen poseg v zasebnost malce hud in da ne govirmo, da tukaj posegajo v zasebnost miljonov ljudi in v celem letu so to opravičili z enim samim uspehom?

vostok_1 ::

Tisti, ki misli, da so zadeve na teh vele storitvah res zasebne...ne vem, ni mi jasno kako lahko tako razmišljate.

Sicer super, da so spravli pedfila za zapahe, ampak implikacije dejanja, kot so že povedali ostali...so skrajno neprijetne.
Drugače pa ja, nekdo ti pošlje par takih slik in si že lepo na special watch list.

Algoritmi bullshit. Ne rabim Snowdena, da mi pove kako se dela na takih "varnostnih agencijah". Zdolgočasenim operaterjem je to hobi in thrill...nedovoljeno zasebno zbiranje nalovljenih podatkov. Predvidevam, da amateur porn posnetki gredo po pisarni za med.

Tear_DR0P ::

PaX_MaN je izjavil:

Ni res. Namerno so šli odpirat pošto pa jo poslat čez skener; če je skener pokazu rdečo lučko, so poslal policiji.

No še vedno - niso se šli policije. Šli so se zvedave sosede. Ne pravim da imam rad zvedave sosede, sploh če delajo na pošti ...
"Figures don't lie, but liars figure."
Samuel Clemens aka Mark Twain

Arctander ::

Zvedavi sosed vidi kakšno tujo zasebno stvar po naključju. Celo če je ornk prtegnjen in ga zanima vse o tebi, nima resursov, da te bo nadzoroval 24/7. Medtem ko Google to počne sistematično, 24/7 z jasno definiranim namenom.

Zato ne gre zvedavega soseda (ali firbčnega poštarja) meriti z enakimi vatli kot Google.

s6c-gEL ::

Tear_DR0P je izjavil:

PaX_MaN je izjavil:

Ni res. Namerno so šli odpirat pošto pa jo poslat čez skener; če je skener pokazu rdečo lučko, so poslal policiji.

No še vedno - niso se šli policije. Šli so se zvedave sosede. Ne pravim da imam rad zvedave sosede, sploh če delajo na pošti ...

In ti zvedavi sosedi so ga zacinkali organom pregona.

Čisto slučajno so ti zvedavi sosedi tudi lastniki storitve, ki jo je sosed uporabljal.

Mipe ::

Zvedavi sosed ali ne, tu je preveč možnosti za zlorabe... Dobro skrijte svoje e-maile, da vam kak šaljivec ne uniči življenja!

VaeVictis ::

Če pogledamo čisto realno so morali to prijaviti policiji, ker drugače bi bili v prekršku...

Vprašanje, ki se postavlja je samo ali je pošta na Google-ovih strežnikih zasebna ali ne.

No, Google sam je tukaj lepo pokazal, da oni smatrajo, da ni!

Čeprav imajo vse to lepo napisano tudi v pogojih uporabe, tako da si je nesmiselno zatiskati oči in govoriti o zasebnosti na strežnikih privatnih podjetij, kot so Google ipd.

Privacy Policy

We collect information in two ways:

- Information you give us.

- Information we get from your use of our services.

In tudi lepo imajo napisano, da bodo vsako podobno dejanje prijavili organom pregona.

Gmail Program Policies

Google has a zero-tolerance policy against child sexual abuse imagery. If we become aware of such content, we will report it to the appropriate authorities and may take disciplinary action, including termination, against the Google Accounts of those involved.

Mavrik ::

VaeVictis je izjavil:

Če pogledamo čisto realno so morali to prijaviti policiji, ker drugače bi bili v prekršku...


Ponudnik storitev je v prekršku samo če vohuni po podatkih uporabnikov - drugače veljajo pravila t.i. varnega pristana, kjer Google ni odgovoren za vsebino uporabnikov za katero ne ve.
The truth is rarely pure and never simple.

s6c-gEL ::

In slike uporabnikov niso podatki uporabnikov očitno....

Jupito ::

Jaz vem, kaj je naslednji korak: fingerprinti prepovedanih datotek v antivirusih, antispyware, MS orodju za odstranjevanje zlonamernih programov itd. Ker ti "vidijo", kaj imate na računalu (marsikateri tudi sporočajo domov), pa vendor omogoča vaše prepovedane dejavnosti, če ne sporoči policiji. Potem tudi trojanerjev ne rabimo več.:D
Da sem paranoik so mi rekli že pred leti, ko sem trdil, da gmail ni uporaben za nič drugega, kot brezvezne registracije ipd.
I used to be with it, but then they changed what it was.
Now what I'm with isn't it and what's it seems weird
and scary to me. It'll happen to you!

spirit ::

No potem se pa le prijavljate s prstnimi odsisi, ko boste pa enkje pustili svoj odtis se bosete pa čudili kako da vas imajo v bazah :)
Mi šnofanje ni všeč ampak se mu je precej težko izognit, ker po mojem vsi ponudniki nekaj takega počnejo stric Google pač najbolj očitno in najlažje (veliko resursov, velika baza, dobra orodja...)

PaX_MaN ::

VaeVictis je izjavil:

Če pogledamo čisto realno so morali to prijaviti policiji, ker drugače bi bili v prekršku...

V bistvu so krivi kaznivega dejanja posedovanja otroške pornografije.
Zakaj?
Pravijo, da so z algoritmi šli gledat slike če je gor CP.
Kako so pa te algoritme treniral, da so našli CP in ne false positives?
Menda ja ne na odnekježe pridobljenih CP slikah (še preden so šli algoritmi v produkcijo, torej ne na slikah od uporabnikov)?
(V javnosti so dost megleni, kako to delajo, priznavajo pa, da je tech od ... Mirkosofta. Velik CPjarjev je na svet, zgleda...)

Deneb ::

Gmail ni privat korespondenca? Google jo pregleduje z roboti, da pobrise spam, pa se kako reklamo v zvezi z vsebino nalozi. To je del googlovih uslug. Kreten je tisti, ki kako obcutljivo stvar poslje po gmailu.
Pedota so pa dobili, ne po sliki, ampak po znani referenci s katero je bila podpisana datoteka slike.
Google je pa to moral prijaviti, ker bi bil v nasprotnem primeru sokriv.

Senitel ::

Deneb je izjavil:

Pedota so pa dobili, ne po sliki, ampak po znani referenci s katero je bila podpisana datoteka slike.
Google je pa to moral prijaviti, ker bi bil v nasprotnem primeru sokriv.

Datoteka ni bila nič "podpisana", imela je nek "fingerprint". Sedaj rabim samo še sliko pande, ki se baše z bambusom in ima enak "fingerprint" kot neka "ofenzivna" fotka in te lahko spravim v postopek. :) Tako kot ona mama zadnjič, ki je s traktorjem divjala po Ljubljani.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Google v e-poštnem nabiralniku svojega uporabnika našel otroško pornografijo, kojci o

Oddelek: Novice / Varnost
368433 (5757) Senitel
»

Amerika vpeljuje obvezno hranjenje prometnih podatkov

Oddelek: Novice / Zasebnost
114483 (2694) Gregor P
»

Podtikanje otroške pornografije na računalnik

Oddelek: Novice / Zasebnost
438162 (4756) kuglvinkl
»

So bili nekateri britanski pedofili v resnici žrtve kraje kreditnih kartic? (strani: 1 2 )

Oddelek: Novice / Zasebnost
736978 (4635) Matthai
»

Osumljencem v ZDA ni potrebmo razkriti lastnih šifrirnih gesel

Oddelek: Novice / Zasebnost
444357 (4130) BigWhale

Več podobnih tem