Nov algoritem za še boljši deepfake

Raziskovalci z univerz Stanford in Princeton, z Inštituta Max Planck in iz podjetja Adobe Research so razvili nov algoritem, ki omogoča še lažjo manipulacijo videoposnetkov ljudi. Lani smo se prvikrat resno zavedli moči algoritmov za deepfake, s katerimi je možno obraz človeka (ali kar celega človeka) na posnetku zamenjati z nekom drugim. Umetna inteligenca in nevronske mreže pa brez predaha napredujejo, zato je sedaj možno še več. V novem algoritmu lahko enostavno kakor v urejevalniku besedil zamenjamo besede, ki jih človek na posnetku izgovarja.

Za trening algoritma potrebujemo posnetek, ki je dolg vsaj 40 minut, in prepis govorjenega besedila. Iz tega se algoritem nauči, kako se spreminja obrazna mimika človeka pri izgovoru posameznega fonema. Ko to imamo, lahko enostavno napišemo spremenjeni tekst, pa bo algoritem ustvaril prilegajoč videoposnetek. Tehnika se imenuje Neural Rendering. Gre za izris površine prek 3D modela, ki uporablja fotorealistične teksture. Rezultat je neverjetno dober.

Novi algoritem omogoča zgolj manipulacijo slikovnega materiala v videu, ne pa tudi glasu. Tega lahko bodisi posnamemo ločeno, zložimo iz posnetih fonemov ali uporabimo sintetizatorje govora. Raziskovalci pravijo, da je nova tehnologija uporaba za snemanje filmskih prizorov, kadar se igralci na primer zmotijo, da ni treba vsega posneti znova. Po drugi strani pa to odpira možnost za številne zlorabe, saj bo še teže ločiti avtentične posnetke od ponaredkov.