Strah pred umetno inteligenco je odveč

Ljubljana, 22. november 2019 - "Ko gre za razvoj in uporabo umetne inteligence, je zaupanje javnosti in spoštovanje etičnih načel ključno". Tako so ugotavljali sodelujoči na mednarodni delavnici in okrogli mizi Soobstoj z umetno inteligenco: vizija družbe 5.0*, ki se je v organizaciji Zavoda 14 in Evropskega liberalnega foruma (ELF), 21.11., odvijala v prostorih Poligona v Ljubljani. Dogodek z mednarodno udeležbo strokovnjakov se je začel z delavnicama, ki sta se osredotočili na vprašanje soobstoja človeka in umetne inteligence (UI) ter na regulacijo UI. Nadaljeval pa z okroglo mizo, kjer so se govorci dotaknili tem, kot so prihodnost razvoja algoritmov, UI, kibernetike, kognitivnih sistemov in kibernetske varnosti, predvsem iz etično-socialnega vidika.

Po mnenju govorcev je strah pred UI odveč, če bo družba znala vzpostaviti mehanizme, ki bodo omogočali optimalno, a varno rabo tehnologij prihodnosti.

Direktor Zavoda 14 dr. Aleksander Aristovnik je uvodoma izpostavil, "kot v preteklosti parni stroj, elektrika ali internet, danes AI spreminja naše gospodarstvo in družbo, razpoložljivost podatkov v kombinaciji z vse zmogljivejšimi računalniki in vse bolj naprednimi algoritmi, pa UI spreminja v strateško pomembno tehnologijo 21. stoletja". Prav zato je veliko na kocki. "Kako pristopamo k UI bo pomembno vplivalo na to, v kakšnem svetu bomo živeli " tudi ko gre za vprašanja vpliva UI na človekove pravice, demokracijo, vladavino prava. Zato EU na tem področju potrebuje jasne okvirje, tudi pravne, saj UI s seboj prinaša nevarnosti. Zagotoviti je treba, da bosta razvoj in uporaba UI potekala v skladu z našimi vrednotami, človekovimi pravicami in etičnimi principi," je opozoril Aristovnik. "EU bi morala biti vodja razvoja na področju UI," je še dodal in se zavzel za povečanje investicij javnega in zasebnega sektorja na tem področju.

Akademik prof. dr. Ivan Bratko z ljubljanske fakultete za računalništvo in informatiko, eden utemeljiteljev raziskav s področja umetne inteligence pri nas, je pojasnil, da je bil v zadnjem desetletju največji preboj dosežen na področju globokega učenja. Če je bilo število napak še leta 2010 okoli 25 odstotkov, se je do leta 2016 zmanjšalo na okoli dva odstotka. A to po eni strani to pomeni, da so nevronske mreže vse bolj kompleksne in jih je že skoraj nemogoče razumeti - torej postajajo črne škatle, kjer uporabnik ne ve, kako je sistem iz podatkov ustvaril rezultate. Eden od ciljev evropske strategije za umetno inteligenco pa je ustvariti zaupanja vredno UI, ki temelji na principu "transparentne škatle". Prav tako pa - poudarja Bratko - algoritmi še vedno naredijo popolnoma nerazumljive napake, kar vzbuja vprašanje glede varnosti takšnih algoritmov, saj napake - na primer pri avtonomni vožnji - ne morejo biti sprejemljive.

Psiholog dr. Janek Musek je opozoril, da moramo biti pri razvoju UI pozorni na etične izzive: "etika je pomembna v vseh aspektih našega življenja. Vsa velika družbena, osebna in profesionalna tveganja so posledica razkoraka med etičnimi principi in etičnim vedenjem na eni strani ter našim dejanskim vedenjem na drugi strani. Naše vedenje pogosto ni v skladu z etičnimi principi. V primeru UI pa etična vprašanja postanejo še toliko bolj pomembna, saj gre za najmočnejše orodje, ki ga je v svoji zgodovini razvilo človeštvo. Koristi UI je mogoče primerjati z drugimi orodji, škodljive posledice pa so multiplicirane. Spoštovanje etičnih načel je zato ključno."

Dr. Aljaž Košmerlj z Instituta Jožef Stefan pa je poudaril, da so sistemi umetne inteligence trenutno orodja - v resnici preprosta orodja, ki so namenjena izvajanju določenih nalog. Pri tem je izpostavil moč, ki jo imajo določene platforme, da ojačajo določen aspekt sporočila, pri čemer pa za posledice ne želijo biti odgovorne. "Mislim pa, da bodo regulatorji kmalu prepoznali, da je ta moč vendarle prevelika, da bi lahko ostala neregulirana." Opozoril je , da je potrebno okrepiti znanje, ki ga imajo ljudje o delovanju algoritmov, saj to pomeni tudi določeno odpornost na nekatere manj zaželene učinke. "Družba se bo prilagodila, kot se je že večkrat. Se je pa marsikateri težavi mogoče izogniti z izobraževanjem." Predstavil je tudi slovensko pobudo za ustanovitev Mednarodnega raziskovalnega centra za umetno inteligenco (IRCAI), ki bi deloval pod okriljem Unesca v Ljubljani. Končna odločitev o tem bo te dni sprejeta na generalni konference Organizacije ZN za izobraževanje, znanost in kulturo (Unesco) v Parizu.

Po mnenju Paula Kuyerja z dublinske City University umetna inteligenca izziva človekovo dojemanje sebe - tudi kot univerzalnega racionalnega misleca: "navajeni smo, da smo tisti, ki sprejemamo odločitve. Zdaj pa imamo UI, ki lahko prav tako sprejema odločitve in vpliva na naše odločitve. Zato vprašanje etične UI prihaja v ospredje. Ko bo UI sprejemala pomembne odločitve, je pomembno, da so prave," je poudaril iz izpostavil pomen kvalitete in nepristranskosti podatkov, s katerimi pri sprejemanju odločitev operira UI.

Dr. Dan Podjed z ZRC SAZU je provokativno predlagal, da voditelje držav in podjetij nadomestimo z "nečustveno" UI. Opozoril, da je na družbeno politične posledice in učinkovito širjenje lažnih novic - kjer se kot orodje uporabljajo prav algoritmi: "mi vse to 'kupimo', na podlagi takšnih informacij glasujemo. To lahko vodi v konec demokracije, kot jo poznamo, saj očitno ne zmoremo več racionalnih odločitev. To je idiokracija. Čas je, da algoritmom preprečimo, da nas targetirajo - pa naj bo to z namenom, da nekaj kupimo ali da za nekoga glasujemo."

Dr. Jonas Valbjorn Andersen z IT Univerze v Kopenhagnu je poudaril, da smo zaenkrat še zelo daleč od pametne umetne inteligence. Kar imamo danes, so namreč sistemi, ki so zmožni izvajanja jasno in ozko določene naloge. Po njegovem UI človeka v marsičem ne more nadomestiti. Dotaknil se je tudi vprašanja regulacije: "ko govorimo o regulaciji algoritmov, se premalo zavedamo, kako algoritmi regulirajo nas. Veliko je že UI sistemov, ki uravnavajo naše vedenje. V Evropi smo zelo osredotočeni na vprašanje, kako regulirati tehnologijo in njeno uporabo, medtem ko kitajski model bolj izpostavlja regulacijo družbe s tehnologijo."

"Evropa UI vidi kot tehnologijo, ki k nam prihaja od zunaj, čeprav tukaj deluje nekaj vrhunskih strokovnjakov. Kitajska je na drugi strani leta in leta to tehnologijo kopirala od ZDA. Vendar so to počeli sistematično, kasneje pa to nadgradili s svojo tehnologijo. Tam je to področje zelo neregulirano," pa je menila Nina Pejič s Fakultete za družbene vede. Govorci so se sicer zavzeli za model uporabe in regulacijo UI, ki bo zagotavljal nadaljevanje evropskih demokratičnih vrednot.

Video omizja si lahko ogledate na YT (kulturni del večera pa se začne od 2:53:33 naprej)

* Družba 5.0 je sicer tudi ime japonskega vladnega programa s ciljem ustvariti sobivanje med virtualnim in realnim svetom, uravnotežiti gospodarski razvoj, nasloviti izzive družbe in ustvariti boljšo, superpametno in udobnejšo družbo, ki naj bi prinesla čim večje blagostanje slehernemu posamezniku (https://www.gov-online.go.jp/cam/s5/eng...