» »

Skrivanje zlonamerne kode v nevronske mreže

Skrivanje zlonamerne kode v nevronske mreže

Slo-Tech - Kitajski raziskovalci (z University of the Chinese Academy of Sciences) so pokazali, da je možno zlonamerno kodo učinkovito skriti v nevronske mreže in jo s tem pretihotapiti mimo protivirusnih zaščit. V objavljenem članku so 36,9 MB virusne kode skrili v 178 MB veliko nevronsko mrežo, ki je sicer namenjena prepoznavanju fotografij. S tem njenega delovanja niso opazno poslabšali (manj kot odstotek), so pa se izmuznili protivirusnim programom. Storitev VirusTotal, ki uporablja več kot 70 različnih protivirusnih programov in sezname sumljivih strani, domen in podobna orodja za iskanje sumljivega obnašanja, ni opazila ničesar.

Raziskovalci so v izdelani model nevronske mreže, ki je dobro deloval, v primeren sloj podtaknili virus. Možno je tudi drugače, in sicer lahko vzamejo nenatreniran model, mu dodajo virus in ga potem urijo. Rezultat bo nevronska mreža, ki bo nekoliko večja, bo pa primerljivo kakovostna. To je v bistvu steganografija, umetnost skrivanja, ki ni novost. Skrivna sporočila so že pred leti podtikali v digitalne fotografije, videoposnetke, glasbene datoteke itd. Steganografija v nevronske mreže nas torej konceptualno ne sme presenetiti.

Ob tem nekateri strokovnjaki poudarjajo, da to še vedno ne pomeni, da se tak virus avtomatično zažene. Še vedno je treba imeti na drugi strani ustrezen program, ki bo iz nevronske mreže sestavil virusno kodo in jo izvedel. In ko bodo proizvajalci protivirusnih programov ugotovili, da je skrivanje v nevronske mreže resen problem, lahko pričakujemo rešitve tudi na tem področju.

2 komentarja

kow ::

Brez zamere, ampak malo brezvezna novica. Kar prizna avtor v sami novici:))

bluefish ::

Plašnice čez oči so najboljša taktika ...

Zgodovina sprememb…

  • spremenil: bluefish ()


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

GDPR pred resno Facebook preizkušnjo

Oddelek: Novice / Zasebnost
407965 (5165) FrRoSt
»

Človeški jezik (strani: 1 2 )

Oddelek: Znanost in tehnologija
7310946 (7261) kuall
»

O čem sanjajo umetni možgani

Oddelek: Novice / Znanost in tehnologija
3231556 (7553) lexios
»

IBM superračunalnik simulira mačje možgane (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
21711483 (7764) Okapi
»

Predstavili zmogljivejši avtopilot (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
859442 (6894) TechFreak

Več podobnih tem