Tehnologija lažnih posnetkov se izboljšuje

Pred dvema letoma je veliko pozornosti požel program Deepfakes, ki se je anonimno pojavil na internetu in je sleherniku omogočil izdelovanje lažnih videoposnetkov. Nevronske mreže so se namreč sposobne iz obilice posnetkov tarče naučiti, kako je videti njen obraz, in ga potem natančno "presaditi" na videposnetke drugih ljudi. Internet je seveda to najprej izkoristil za izdelavo pornografskih posnetkov, a kmalu je postalo jasno, da so lahko dobri lažni posnetki velik problem, ker brišejo mejo med resničnostjo in fotomontažo tudi pri videu. Raziskovalci iz Samsungovega centra za umetno inteligenco v Moskvi in Inštituta Solkovo za znanost in tehnologijo so sedaj tehnologijo prignali še korak dlje. Ne potrebujemo več niti mnogo fotografij žrtve, temveč v ekstremnih primerih zadostuje že - eden.

Po eni strani to pomeni, da se Mona Lisa lahko nasmeji ali obrne glavo. Podobno so storili tudi za Marilyn Monroe, Salvadora Dalija in druge. Rezultat so poimenovali "fotorealistične govoreče glave" ali "lutkarstvo (puppeteering). Bistveni napredek, ki so ga dosegli v Samsungu, je zmanjšanje števila potrebnih fotografij za trening nevronskih mrež. Ljudje smo si pač dovolj podobni, da lahko nevronske mreže treniramo tudi na milijonih fotografijah drugih ljudi, potem pa potrebujemo le drobec informacij o konkretni osebi, da jo lahko poustvarimo. Včasih je šlo zlahka na primer za Donalda Trumpa, o katerem kroži na internetu milijone posnetkov, saj je v medijih praktično vsak dan, sedaj pa grozi, da bo šlo tudi za Janeza iz sosednje ulice, čigar eno fotografijo smo našli na Facebooku.

K sreči tehnologija še ni dovolj daleč, da bi lahko ureditev sveta zamajal kar vsakdo. Tim Hwang, direktor Harvard-MIT Ethics and Governance of AI Initiative, je tehnologija še daleč od tega, da bi lahko s pritiskom na gumb kdorkoli lepil obraze na fotomontaže. Potrebni so veliki denarni vložki in veliko denarja, a v teoriji je to možno, kot kažejo najnovejši primeri.

To pa spet odpira stara vprašanja o zaupanju v posnetke. Kot je pokazala afera Ibiza, zaradi katere je padla celotna avstrijska vlada, je dovolj en videoposnetek, pa se zgodi pretres. Nobenega dvoma ni, da je omenjeni posnetek avtentičen (dasiravno je nastal že pred dvema letoma, razkrit pa je bil šele sedaj). Toda, včasih bi za dosego političnih ali drugih ciljev zadostoval že bistveno krajši posnetek. V resnici sploh ni potrebe, da je posnetek vrhunske kvalitete, saj ga vedno lahko predstavimo kot delo amaterja, ki je slučajno snemal z mobilnim telefonom. Še več, tudi če je posnetek sorazmerno enostavno moč razkrinkati kot lažen, je še vedno bistveno, da zaseje dvom, ne da ljudi prepriča. Posnetek Nancy Peloso, kjer naj bi bila ta pijana, je slab ponaredek, saj je v resnici le upočasnjen. A posnetek se širi in povzroča škodo, čeprav je vsem jasno, da je ponarejen.

V preteklosti smo že slišali - sicer nekoliko medijsko napihnjeno, pa vseeno - za algoritme, ki jih njihovi tvorci niso upali spustiti v javnost, ker da so prenevarni. Četudi razvijemo orodja za identifikacijo lažnih posnetkov, je pravi problem drugje. Ko se zaseje zrno dvoma, to klije.