Slo-Tech - Kitajski raziskovalci (z University of the Chinese Academy of Sciences) so pokazali, da je možno zlonamerno kodo učinkovito skriti v nevronske mreže in jo s tem pretihotapiti mimo protivirusnih zaščit. V objavljenem članku so 36,9 MB virusne kode skrili v 178 MB veliko nevronsko mrežo, ki je sicer namenjena prepoznavanju fotografij. S tem njenega delovanja niso opazno poslabšali (manj kot odstotek), so pa se izmuznili protivirusnim programom. Storitev VirusTotal, ki uporablja več kot 70 različnih protivirusnih programov in sezname sumljivih strani, domen in podobna orodja za iskanje sumljivega obnašanja, ni opazila ničesar.
Raziskovalci so v izdelani model nevronske mreže, ki je dobro deloval, v primeren sloj podtaknili virus. Možno je tudi drugače, in sicer lahko vzamejo nenatreniran model, mu dodajo virus in ga potem urijo. Rezultat bo nevronska mreža, ki bo nekoliko večja, bo pa primerljivo kakovostna. To je v bistvu steganografija, umetnost skrivanja, ki ni novost. Skrivna sporočila so že pred leti podtikali v digitalne fotografije, videoposnetke, glasbene datoteke itd. Steganografija v nevronske mreže nas torej konceptualno ne sme presenetiti.
Ob tem nekateri strokovnjaki poudarjajo, da to še vedno ne pomeni, da se tak virus avtomatično zažene. Še vedno je treba imeti na drugi strani ustrezen program, ki bo iz nevronske mreže sestavil virusno kodo in jo izvedel. In ko bodo proizvajalci protivirusnih programov ugotovili, da je skrivanje v nevronske mreže resen problem, lahko pričakujemo rešitve tudi na tem področju.
Novice » Varnost » Skrivanje zlonamerne kode v nevronske mreže
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | GDPR pred resno Facebook preizkušnjoOddelek: Novice / Zasebnost | 12734 (9934) | FrRoSt |
» | Človeški jezik (strani: 1 2 )Oddelek: Znanost in tehnologija | 17359 (13674) | kuall |
» | O čem sanjajo umetni možganiOddelek: Novice / Znanost in tehnologija | 35605 (11602) | lexios |
» | IBM superračunalnik simulira mačje možgane (strani: 1 2 3 4 5 )Oddelek: Novice / Znanost in tehnologija | 15607 (11888) | Okapi |
» | Predstavili zmogljivejši avtopilot (strani: 1 2 )Oddelek: Novice / Znanost in tehnologija | 11504 (8956) | TechFreak |