Skrivanje zlonamerne kode v nevronske mreže

Kitajski raziskovalci (z University of the Chinese Academy of Sciences) so pokazali, da je možno zlonamerno kodo učinkovito skriti v nevronske mreže in jo s tem pretihotapiti mimo protivirusnih zaščit. V objavljenem članku so 36,9 MB virusne kode skrili v 178 MB veliko nevronsko mrežo, ki je sicer namenjena prepoznavanju fotografij. S tem njenega delovanja niso opazno poslabšali (manj kot odstotek), so pa se izmuznili protivirusnim programom. Storitev VirusTotal, ki uporablja več kot 70 različnih protivirusnih programov in sezname sumljivih strani, domen in podobna orodja za iskanje sumljivega obnašanja, ni opazila ničesar.

Raziskovalci so v izdelani model nevronske mreže, ki je dobro deloval, v primeren sloj podtaknili virus. Možno je tudi drugače, in sicer lahko vzamejo nenatreniran model, mu dodajo virus in ga potem urijo. Rezultat bo nevronska mreža, ki bo nekoliko večja, bo pa primerljivo kakovostna. To je v bistvu steganografija, umetnost skrivanja, ki ni novost. Skrivna sporočila so že pred leti podtikali v digitalne fotografije, videoposnetke, glasbene datoteke itd. Steganografija v nevronske mreže nas torej konceptualno ne sme presenetiti.

Ob tem nekateri strokovnjaki poudarjajo, da to še vedno ne pomeni, da se tak virus avtomatično zažene. Še vedno je treba imeti na drugi strani ustrezen program, ki bo iz nevronske mreže sestavil virusno kodo in jo izvedel. In ko bodo proizvajalci protivirusnih programov ugotovili, da je skrivanje v nevronske mreže resen problem, lahko pričakujemo rešitve tudi na tem področju.