Kitajci ponoreli za aplikacijo za deepfake Zao

V petek se je v Applovi spletni tržnici iOS znašla aplikacija Zao, za katero so kitajski uporabniki malodane ponoreli. Aplikacija omogoča vstavljanje fotografij uporabnikov v videoposnetke znanih oseb, denimo v filmske ali televizijske prizore. Ponovno pa se je v pogojih uporabe znašla dikcija, da lahko ustvarjalci aplikacij zbrane posnetke uporabnikov, ki jih le-ti naložijo, obdržijo za vedno.

Zao je trenutno na prvem mestu po priljubljenosti. V manj kot štirih dneh si jo je preneslo več milijonov uporabnikov. Aplikacija deluje sorazmerno preprosto. Uporabnik na strežnike ZAO naloži svoje fotografije, ki jih posnamejo kar s fotoaparatom na telefonu, hkrati pa se zabeleži tudi telefonska številka. Aplikacija ima celo čarovnika, ki nas vodi skozi postopek, kako posneti čim več in čim bolj uporabnih selfijev. Potem lahko v aplikaciji izberejo vrsto prednastavljenih izsekov iz filmov in serij, kamor lahko z algoritmom za deepfakes vstavijo svoj obraz. Rezultati so izjemno realistični.

Potem pa so ljudje dejansko začeli brati pogoje uporabe, kjer piše, da ima ZAO trajne in neomejene pravice do shrambe in rabe naloženih fotografij, tudi na primer v komercialne in oglaševalske namene. Zgodba torej zelo spominja na afero FakeApp, kjer je aplikacija tudi zbirala slike uporabnikov. Pisci ZAO so sicer zagotovili, da bodo popravili pogoje uporabe in pobrisali zbrane posnetke. ZAO razvija podjetje Momo, ki na Kitajskem upravlja portal za streaming in za zmenkarije.