Deepfakes grožnja nacionalni varnosti?

Trojica ameriških kongresnikov, demokrata Adam Schiff in Stephanie Murphy ter republikanec Carlos, so na direktorja vladnega urada za obveščevalne dejavnosti naslovili pismo, v katerem ga pozivajo, naj oceni, v kolikšni meri nacionalno varnost ogrožajo novodobni vizualni ponaredki oziroma t. i. deepfakes. Poslanci namreč menijo, da lahko prepričljive podobe znanih posameznikov, ki počno ali govorijo stvari, s katerimi v resnici nimajo nobene zveze, lahko pomenijo grožnjo družbi, obenem pa lahko imajo resne notranje ali celo zunanjepolitične posledice. Predstavniki ljudstva sicer od obveščevalcev pričakujejo, da bodo izdelali poročilo o tem novodobnem pojavu, zlasti o primerih, ko gre za tovrstne izdelke tujih državljanov. Česar, resnici na ljubo, ni veliko.

Deepfakes so prvikrat prodrli v javnost leta 2016, ko so uporabniki Reddita začeli za zabavo raziskovati razsežnosti umetnopametnih učinkov in lepiti obraze znanih osebnosti v porno prizore. Od tod tudi izvira zloženka imena, namreč deep learning in ponaredek.

Odtlej se številna podjetja, univerze in menda tudi ameriška vojska, trudijo najti način za prepoznavanje takih ponaredkov. Za zdaj načina, ki bi stoodstotno razločeval resnično od ponarejenega, še niso našli. Ob tem pa malone vsi priznavajo, da tudi ko ga morda bodo, ga bo najverjetneje precej hitro povozila nova različica tehnologije ponarejanja. Pri deepfakes namreč ne gre za ceneno animiranje ustnic, obraza in drugih delov telesa, pač pa za obliko globokega učenja, pri kateri v algoritem naložimo veliko količino avdio in video posnetkov določene osebe, umetna pamet pa vse to združi v izdelek, ki precej natančno posname mimiko, glas in druge značilnosti tega človeka.