Slo-Tech - Apple bo še nekoliko počakal z uvedbo sistema za avtomatično pregledovanje sporočil na iphonih, ki ga je napovedal pred mesecem in je dvignil veliko prahu. Na nevronskih mrežah osnovan sistem NeuralHash bi za vsako prejeto fotografijo izračunal zgoščeno vrednost (hash) in jo primerjal z znanimi vrednostmi za znane posnetke otroške pornografije. Ujemanja bi nato preveril tudi človek in incident prijavil organom pregona, če bi bilo ujemanj dovolj (omenjalo se je število 30). Strokovnjaki so tedaj opozarjali, da je predlagani algoritem slab, ker ga je možno hitro pretentati, za kar naj bi - tako so ugotovili po vzvratnem inženiringu - zadostovalo že vrtenje ali izrezovanje fotografij. Prav tako so hitro pokazali, da je praktično izvedljivo ustvarjanje kolizij.

Zaradi vseh teh odkritij in pritiska javnosti je Apple sporočil, da si bo vzel dodaten čas za premislek in izvedbo. Electronic Frontier Foundation kot ena največjih organizacij za varovanje pravice do zasebnosti je zbrala tudi...

Slo-Tech - V začetku meseca se je razširila vest, da bo Apple na pametnih telefonih vzpostavil sistem za analizo fotografij, poimenovan NeuralHash, ki bo avtomatično preveril, ali kakšna vsebuje otroško pornografijo (CSAM, Child Sexual Abuse Material). Deloval naj bi z lokalnim (torej na telefonu) izračunavanjem zgoščenih vrednosti, ki bi se potem primerjale z bazo znanih fotografij pri NCMEC (US National Center for Missing and Exploited Children). Če bi bilo zadetkov več, omenjalo se je število 30, bi sistem uporabnika prijavil oblastem. Žal pa je izvedba sistema šarlatanska, so pokazali raziskovalci, ki so z vzvratnim inženiringom ugotovili, kako sistem dejansko deluje. Prav tako so že uspeli ustvariti prve kolizije.

Iz kode, ki jo je Asuhariet Ygvar objavil na Githubu in je najverjetneje pristna, je moč razbrati delovanje algoritma NeuralHasha. Kot prikrita koda je bila vstavljena že v iOS 14.3, saj pa bo očitno začela delovati. Problematično je, da je izvedba slaba, zaradi česar...

Technology Review - Pravilo 34, ki velja za internet, velja tudi za umetno inteligenco. Že lani smo poročali o aplikaciji DeepNude, ki je uporabnikom proti plačilu 50 dolarjev digitalno retuširala fotografije tako, da je ženskam na njih (na moške ni delovala) odstranila oblačila. Aplikacija je po zgražanju, ki ga je povzročila, kmalu izginila, ne pa tudi ideja. Sensity AI v poročilu ugotavlja, da je manj kot mesec dni pozneje na Telegramu vzniknila skupina, ki omogoča povsem enako. Gre za sedem skupin na Telegramu, kjer je glavna namenjena slačenju žensk na posnetkih, preostale pa služijo kot različne tehnične podpore in za deljenje posnetkov.

Sistem deluje enostavno. Uporabnik v skupino pošlje fotografijo, na kateri je ženska, algoritem oziroma bot pa mu odgovori s fotografijo, na kateri so odstranjena oblačila. Čim bolj je posnetek, tem boljši so rezultati. V skupini je 100.000 uporabnikov (nekateri se podvajajo, a vsaj 45.000 je unikatnih), ki so do julija slekli že vsaj 100.000 žensk na...

The Verge - Strojno prepoznavanje obrazov je zadnje tedne vroča tema razprav. Tako laičnih, kot politično-strokovnih. Kljub temu je tehnologija v nekaterih državah že prodrla v praktično rabo. Kitajska, ZDA, Velika Britanija, Rusija - povsod so organi pregona hlastno pograbili rešitve, ki pa so se praktično povsod pokazale kot precej nezanesljive. Zlasti, ko ne gre za belce.

Na American Civil Liberties Union (ACLU) so se odločili preizkusiti Amazonov Rekognition, ki ga lahko uporabi kdorkoli, gre namreč za storitev v oblaku, ki jo lahko za mesec dni najamete za...

Slo-Tech - V resnici je bilo le vprašanje časa in prav neverjetno je bilo, da je toliko časa trajalo. Toda pravilo 34 še vedno velja in niti nevronske mreže in strojno učenje niso izjeme. Svojo uporabo so dočakale tudi v pornografiji, posledice pa utegnejo biti - globoke.

Konec decembra so se razširili videoposnetki, ki se imenujejo deepfake. Konec je primitivnega in grotesknega lepljenja glav zvezdnic na telesa pornoigralk. Sedaj lahko poustvarjalci uporabijo fotografije z interneta, kjer jih v dobi modernih družabnih omrežij res mrgoli, in preproste odprtokodne algoritme za strojno učenje (deep learning), da obraz zvezdnic prilepijo kar v videoposnetke. Za zdaj je tovrstne posnetke še mogoče prepoznati, ker vendarle niso popolni in opazimo, da nekaj ni v najlepšem redu....

Slo-Tech - Facebook se bo proti objavljanju golih posnetkov iz maščevalnosti (revenge porn) boril tako, da bo potencialnim žrtvam omogočil, da spotakljive fotografije predhodno naložijo same. V ZDA, Kanadi, Veliki Britaniji in Avstraliji Facebook preizkuša nov način boja proti deljenju tovrstnih fotografij. Trenutno lahko namreč žrtve prijavijo že objavljene oziroma deljene fotografije, ki so neprimerne ali zlonamerne. V prihodnosti pa Facebook želi, da žrtve take fotografije zasebno naložile na Facebook že pred tem, da bi lahko Facebook kasneje ob poizkusu njihovega razpečevanja to preprečil. Ideja ni tako zelo neumna, kot se zdi na prvi pogled.

Nekaj podobnega namreč počnejo že organi pregona z otroško pornografijo. Ker bi bilo skrajno naporno (in tudi neprimerno), da bi morali...

The Globe and Mail - Nizozemska podružnica mednarodne nevladne dobrodelne organizacije za zaščito otrok Terre des hommes je objavila rezultate 10-tedenskega preizkusa, za katerega so ustvarili virtualno 10-letno filipinsko deklico, ki so ji dali ime Sweetie, in z njeno pomočjo razkrili tisoč posameznikov, ki so izkazovali pedofilske težnje.

Izdelana virtualna deklica je videti praktično resnična (mimogrede, to sploh ni tako enostavno - uncanny valley), zato niso imeli težav pri pridobivanju zainteresiranih uporabnikov. Z njeno podobo in imenom Sweetie so se prijavili v spletne klepetalnice, kjer se zadržujejo pedofili. Šlo je za klepetalnice z zelo jasnimi tematikami in ne erotične klepetalnice za odrasle. Imen javno niso razkrili. FBI recimo ocenjuje, da je na svetu...

ZDNet - Microsoft je leta 2009 razvil tehnologijo PhotoDNA, ki jo v svojih storitvah Bing, Windows Live SkyDrive in Windows Live Hotmail uporablja za iskanje ilegalnih posnetkov z otroško pornografijo. PhotoDNA izračuna zgoščeno vrednost (hash) iz znanih slik z otroško pornografijo, ki jo potem primerjajo z zgoščenimi vrednostmi vseh slik v oblaku in na strežnikih. Pri tem se PhotoDNA odlikuje z načinom izračuna zgoščene vrednosti, saj se ta ne spremeni, če sliko malo spremenimo,...

ITworld.com - Spletni servisi za elektronsko pošto uporabnikom ponujajo rešitev za primer, če ti pozabijo svoje geslo. Tako imenovana varnostna vprašanja si uporabnik nastavi ob odprtju elektronskega predala in tipično vprašujejo po osebnih podatkih, ki naj jih drugi ne bi vedeli - na primer o materinem dekliškem priimku ali kaj podobnega. V kombinaciji s Facebookom, MySpaceom ali drugimi družabnimi stranmi se varnostna vprašanja lahko izkažejo za pogubno stvaritev. To je izkoristil tudi 23-letni...

The New York Times - Na straneh, kjer lahko uporabniki objavljajo lastne fotografije (tak primer je Facebook), ste gotovo opazili gumb Prijavi neprimerno vsebino. Po kliku nanj neprimerna fotografija kmalu izgine in tu se zgodba za končnega uporabnika konča. Na The New York Times so si ogledali, kakšen je delovnik ljudi, ki patruljirajo po spletu in lovijo nespodobne in nelegalne posnetke.

Ricky Bess dela v centu v Orlandu na Floridi, kjer osem ur na dan sedi za računalnikom in gleda najbolj izprijeno, kar ima internet ponuditi. Umori tolp, zloraba živali, najbolj sprevržene oblike pornografije so le nekateri zvrsti fotografij, ki jih dnevno pregleduje. Pravi, da uporabniki poskusijo objaviti neverjetne količine spornega materiala, zato je njegov poklic med najbolj...

Slo-Tech - Pred dobrim letom dni, natančneje 17. decembra 2006 je Kanadčan Sebastien Boucher, ki sicer legalno prebiva v ZDA prestopil mejo med Kanado in ZDA.

Ameriški mejni kontrolni organi so se odločili za nekoliko bolj temeljit pregled v okviru katerega so mu zasegli prenosnik in ga pregledali.

Prenosnik je bil vključen (verjetno hiberniran) in mejni policist Chris Pike je lahko pogledal vsebino diska brez vnosa gesla.

Na računalniku je našel okrog 40.000 slik, med katerimi jih je bilo nekaj - glede na imena datotek - očitno pornografskih.

Na vprašanje ali kakšna slika vsebuje tudi otroško pornografijo je Boucher odgovoril da ne ve, saj včasih skupaj z legalnimi pornografskimi fotografijami, ki jih prenaša iz spleta prejme še kakšno sliko, ki vsebuje otroško pornografijo.

Policist Pike je zato na pomoč pri pregledu poklical še policista Marka Curtisa, specializiranega za prepoznavanje otroške pornografije. Curtis je pri nadaljnji preiskavi odkril datoteko z imenom "2yo getting raped...