Nov uspeh za večopravilne nevronske mreže

Jurij Kristan

22. okt 2018 ob 19:24:34

Znanstveniki iz Chicaga so pokazali, da je mogoče že s preprostim prijemom, ki posnema delovanje človeških možganov, napraviti umetno nevronsko mrežo večopravilno in močno omejiti njeno pozabljanje ob učenju novih veščin.

Današnja umetna inteligenca sicer počne nekatere navdušujoče stvari, kot sta prepoznava govora in obrazov. A tudi najnaprednejši algoritmi so v svoji namembnosti izredno togi, saj tisti za vožnjo ne znajo prodajati delnic. Ko običajni deep network poskušamo priučiti česa drugega, namreč izgubi originalno znanje, ker nove izkušnje s spreminjanjem moči sinaps podrejo prvotno strukturo. Temu strokovnjaki pravijo katastrofalno pozabljanje (catastrophic forgetting). Intuitivno bi zato sklepali, da bi morala biti večopravilna nevronska mreža skupek ločenih podmrež, kjer bi bila vsaka namenjena lastni nalogi ... kar pa ni res, saj raziskave človeških možganov kažejo, da se isti skupki nevronov prižigajo pri zelo različnih dejavnostih, pa ob učenju kolesarjenja nismo naenkrat pozabili držati žlice v rokah.

Raziskovalci s Čikaške univerze so zato na nevronski mreži uporabili preprost princip kontekstualnih zapornic in vsaki od nalog dodelili petino naključno izbranih vozlišč. Tako delujoča živčna mreža je celo po učenju petstotih različnih veščin zabeležila občutno nižji padec v učinku za posamezno sposobnost kot pri doslej uporabljanih praksah. Gre za važno dognanje pri stremenju k bolj splošni strojni inteligenci, ki bi premogla "zdravo pamet", in nadgrajuje obstoječe Googlove izkušnje v tej smeri. Hkrati je to zmaga za sodelovanje med nevroznanostjo in preučevanjem AI, kar bo pomagalo obema, saj na ta način napreduje tudi poznavanje naših možganov.