Google Američana prijavil policiji zaradi fotografije sina, namenjene zdravniškemu pregledu

The New York Times je razkril zgodbo Američana (plačljiv vir, alternativa), kateremu je Google trajno izklopil račun z vsemi podatki po tem, ko je v oblak naložil fotografijo genitalij svojega sina, ki jo je od njega želel pediater zaradi zdravljenja infekcije.

Lansko poletje so za nekaj razburjenja poskrbeli pri Applu, ko so najavili protokol Child Safety, po katerem bi v iskanju spolnih zlorab mladoletnikov pregledovali fotografije kar na iphonih uporabnikov. Sistem bi iz podob napravil zgoščene zapise (hashe) in te primerjal s tistimi v bazah podatkov potrjenih primerov otroške pornografije. V Cupertinu so bili kmalu prisiljeni načrte dati na hladno zaradi množičnega nasprotovanja, saj so strokovnjaki za zasebnost ocenili, da bi bilo nevarnosti za zlorabo takšnega sistema preveč. Strojna inteligenca je danes še daleč od tega, da bi bila sposobna sama zanesljivo preudariti obravnavani material in ločiti dejanske zlorabe od napačno ujetih, zato bi ji morali na pomoč priskočiti človeški moderatorji - ki bi imeli na ta način široko odprta vrata v našo zasebnost. V Applovem primeru smo se nevarnosti takrat torej vsaj začasno izognili, toda sedaj prihaja na dan, da potencialne strašljive zgodbice iz naslova avtomatskega lovljenja fotografij z golimi mladoletniki niso fikcija.

Preiskava časopisa The New York Times je našla možakarja iz San Francisca, ki je februarja lani na sinovih modih opazil oteklino. Ker so bili obiski zdravnika zaradi pandemije covida-19 takrat omejeni, je medicinska sestra v pripravi za video pomenek s pediatrom očeta zaprosila, naj jim pošlje fotografijo sinovih genitalij. Pri tem pa se mu je očitno primerila nerodnost, saj je zaradi nastavitve v telefonu fotografija romala še v varnostno kopijo v Googlov oblak. Ta nepozornost je možakarja stala Googlovega računa z vsemi podatki - se pravi pošto, fotografijami in še telefonsko številko - saj je Googlov strojni algoritem podobo označil za potencialen prikaz spolne zlorabe otrok (CSAM - Child Sexual Abuse Material). Na njegova vrata so potrkali preiskovalci, ki so situacijo sicer zelo hitro razčistili in se mu opravičili za nadlegovanje - toda Googlovega računa vendarle ni več dobil nazaj, kljub pritožbi. Avtorji pri NYT so v toku preiskave našli še več podobnih primerov. V Mountain Viewju se branijo, da lahko do takšne situacije pride zgolj, če uporabniki tovrstne slike širijo naokrog - toda to očitno pomeni že naložena varnostna kopija v oblaku.

Najprej je treba poudariti, da strojno prečesavanje interneta v iskanju podob zlorab uporabljamo že več kot desetletje in tudi Google vsako leto zaradi tovrstnih kršitev izklopi več kot 100.000 računov. Toda tu je očitno prišlo do napake. Za pregledovanje Google uporablja lastno zbirko orodij, ki so jo lansirali pred štirimi leti in naj bi se ponašala z zmogljivostjo, da odkrije še nepoznane primere otroške pornografije. Z drugimi besedami: bolj ali manj uspešno skuša uganiti, ali neka fotografija prikazuje zlorabo, kar je drugače od starejših tehnologij na podlagi Microsoftove platforme PhotoDNA, ki je iskala ujemanje s poznanimi primeri otroške pornografije. Prigoda iz San Francisca nakazuje, da ne iščejo več zgolj po zanesljivih bazah predhodno potrjenih primerov zlorab, temveč skušajo ugibati, kdaj se morebiti nove dogajajo v realnem času. Toda za napake, do katerih pri takšnih poskusih pač prihaja, očitno ne želijo odgovarjati. Ne za Times ne za druge medije, kot je The Verge, namreč niso znali razložiti, zakaj si nesrečni oče zasluži poslovno škodo, ki mu je nastala z uničenjem njegovega Googlovega računa, čeprav je zgolj sledil navodilom zdravnika, s katerim sta v končni fazi pozdravila sinovo infekcijo. Opisani pripetljaj je obenem še dodatno opozorilo, da je treba paziti, kaj nalagamo v oblak, četudi se v nekem trenutku zdi povsem neškodljivo.