Prvi primer uporabe deepfaka v ukrajinski informacijski vojni

Po spletu je zaokrožil prvi algoritemsko obdelan manipulativni video posnetek - popularno imenovani deepfake - ki ima namen širjenja dezinformacij okoli aktualnega spopada v Ukrajini.

Z "deepfaki" nazivamo medijske vsebine, torej slike, video in zvočne posnetke, ki so bili obdelani s strojno učenimi algoritmi na način, da uporabnika zavajajo, oziroma prikazujejo izmišljeno vsebino. Vse od rojstva se daleč najbolj uporabljajo za umetne pornografske video posnetke, kar predstavlja problem predvsem za ženske, katerih obrazi se zlorabijo za njihov nastanek. Toda varnostni strokovnjaki in politični analitiki se bolj bojijo potenciala deepfakov v dezinformacijskih kampanjah, kjer bi na ta način denimo proizvedli posnetek vidne politične osebe z lažnim sporočilom. Vrsto takšnih študijskih projektov smo že videli, medtem ko se v praksi strahovi doslej še niso uresničili, saj bistvenih incidentov v tej smeri še ni bilo. Bržkone tudi zato, ker je takšne posnetke še razmeroma lahko prepoznati - a so lahko kljub temu nevarni, saj je za katastrofično širjenje dezinformacij pogosto dovolj že njihov velik volumen, tudi če kvalitativno šepajo.

Ob ruski invaziji na Ukrajino pred tremi tedni je bilo zato veliko strahov, da bo razvpita Putinova dezinformacijska mašinerija splet zasula s te vrste lažnimi informacijami, toda bistveni akterji, kot je Internet Research Agency, so se v prvih treh tednih vojne posluževali bolj klasičnih ponaredkov - ki pa so bili dostikrat zakamuflirani v fact-checke, kar je skrb vzbujajoč svež prijem. Šele po treh tednih smo dobili prvi pravi deepfake, na katerega so opozorili pri Meti, ker so ga našli na Facebooku. Prikazuje ukrajinskega predsednika Volodimirja Zelenskega, kako naproša svoje borce, naj odložijo orožje. Posnetek naj bi sicer svojo pot začel na spletnem portalu medija Ukraine 24, ki je v sredo doživel hekerski napad, pri katerem so zlikovci video podtaknili na stran. Nato se je raztepel naprej po spletu. Njegova kvaliteta ni na kaj prida visoki ravni, zato gre slutiti, da njegovi avtorji tehniko še izpopolnjujejo. Hkrati je videti, da so tako zahodna družbena omrežja kot tudi evropski preiskovalci spletnih vsebin na tovrstne prijeme solidno pripravljeni, saj je bil posnetek hitro prepoznan in omejen.