Skupine na Telegramu uporabljajo UI za slačenje žensk na fotografijah

Pravilo 34, ki velja za internet, velja tudi za umetno inteligenco. Že lani smo poročali o aplikaciji DeepNude, ki je uporabnikom proti plačilu 50 dolarjev digitalno retuširala fotografije tako, da je ženskam na njih (na moške ni delovala) odstranila oblačila. Aplikacija je po zgražanju, ki ga je povzročila, kmalu izginila, ne pa tudi ideja. Sensity AI v poročilu ugotavlja, da je manj kot mesec dni pozneje na Telegramu vzniknila skupina, ki omogoča povsem enako. Gre za sedem skupin na Telegramu, kjer je glavna namenjena slačenju žensk na posnetkih, preostale pa služijo kot različne tehnične podpore in za deljenje posnetkov.

Sistem deluje enostavno. Uporabnik v skupino pošlje fotografijo, na kateri je ženska, algoritem oziroma bot pa mu odgovori s fotografijo, na kateri so odstranjena oblačila. Čim bolj je posnetek, tem boljši so rezultati. V skupini je 100.000 uporabnikov (nekateri se podvajajo, a vsaj 45.000 je unikatnih), ki so do julija slekli že vsaj 100.000 žensk na fotografijah. Te večidel sploh ne vedo, kaj se dogaja, kar prinaša dodatno dimenzijo k tej problematiki. Na fotografijah se jasno vidi, da gre za manipulacijo, saj je kakovost pomanjkljiva, a to ni glavni problem. Smo šele na začetku dobe umetne inteligence, pa že imamo orodja, ki so v ta namen solidna. Z nadaljnjim razvojem bo to postala še večja težava. V preteklosti so se podobni posnetki, resda bolje obdelani, že uporabljali za nadlegovanje in tudi zastraševanje žensk, med drugim tudi kritičnih novinark.

V Sensity AI dodajajo, da to še zdaleč ni edina tovrstna platforma. Odkrili so še 380 spletnih strani na ruski spletni platformi VK in forumov, ki so namenjeni ustvarjanju in deljenju tovrstnih fotografij. Tehnologija se že uporablja tudi v videoposnetkih, ki so za zdaj še zelo osnovni, a le vprašanje časa je, kdaj in kako hitro bo napredovala. Velikana Google in Facebook sta se lani zavedla problematike in sta začela razvijati orodja za prepoznavanje tovrstnih fotomontaž. Zakonodaja na tem področju še zaostaja.