Facebook odstranil omrežje s strojno generiranimi profilnimi slikami

Iz Facebooka so sporočili, da so odstranili razvejano omrežje še ene propagandne skupine, ki je širila politične dezinformacije. Kar ta primer loči od prejšnjih, pa je dejstvo, da so bile lažne profilne podobe njenih uporabniških računov očitno množično napravljene s pomočjo strojnega učenja.

Upravljalci socialnih omrežij so do vratu potopljeni v spopad z raznoraznimi interesnimi skupinami, ki po spletu širijo dezinformacije in skušajo s tovrstno propagando ojačati vpliv te ali one politične struje. Objava, da je Facebook pred dnevi odstranil še dve takšni grupi - eno iz Gruzije in drugo iz ZDA ter Vietnama - tako ne bi bila nič posebnega, če ne bi poleg druge stal poudarek, da je imel velik delež od njenih 610 odstranjenih uporabniških računov lažne profilne slike, napravljene z umetno inteligenco. Ti avtomatizirani accounti so samodejno všečkali, delili in komentirali objave medijske firme The BL, ki so na ta način dosegle kar okoli 55 milijonov ljudi.

Skupini strokovnjakov za boj proti dezinformacijam Graphika in DFRLab sta v skupnem poročilu o analizi dogodka sklenili, da gre za prvi primer množične rabe avtomatsko generiranih podob v takšnem obsegu, čeprav smo nekaj takega lahko pričakovali že dlje časa. Poročilo ugotavlja, da je bila avtomatizacija prisotna v vseh elementih dejavnosti skupine, tudi pri komentiranju in jemanju slik od drugod, saj je programje na primer včasih napačno določilo spol osebe na ukradenih fotografijah in moško fotko prilepilo na ženski profil. Tehnološka spretnost nepridipravov je bila tako še na razmeroma nizki ravni in računi lahko izsledljivi, toda bolj zaskrbljujoč je trend, ki ga dogodek najavlja. V Facebooku sicer tudi sami razvijajo lasten strojno učen softver za boj proti takšnim tegobam in očitno smo zares vstopili v čas, ko se (programski) roboti borijo za to, kaj lahko vidimo na spletu.

Mimogrede - tudi tisti, ki jih zanimajo politične podrobnosti ameriško-vietnamskega omrežja, imajo kaj videti, saj gre za precej bizarno reč. Družba The BL je širila pro-trumpovsko lažno propagando, in sicer zato, ker naj bi bila povezana z medijsko hišo The Epoch Times, ki ima zaledje v kitajskem spiritualnem gibanju Falun Gong. Njegovi aktivisti so na Kitajskem preganjani in vidijo v Trumpu človeka, ki se lahko zoperstavi Komunistični partiji. Pri The Epoch Times so povezavo sicer kategorično zanikali, a so si strokovnjaki edini, da dvomov zanje ni.