Evropski parlament se je načeloma dogovoril o vsebini zakona o umetni inteligenci

Evropski poslanci so se na zasedanju v četrtek dogovorili o kompromisnem predlogu novega zakona o umetni inteligenci (AI Act), ki ga pripravlja Evropska komisija. O besedilu osnutka so se dogovorili poročevalci, naslednji korak pa bo glasovanje na pristojnem odboru 11. maja. Če bo predlog dobil podporo, bi ga lahko parlament na plenarni seji potrdil že junija, nato pa bo sledilo še dogovarjanje s Svetom, torej predstavniki držav članic.

V Evropski komisiji si za oblikovanje in sprejem zakona o umetni inteligenci prizadevajo že od leta 2020. Aprila 2021 so predstavili prvi osnutek, do danes pa je doživel še nekaj predelav. Gre za prvo in najbolj obsežno regulacijo umetne inteligence na svetu, ki bo uvedla številne varovalke in transparentnost pri razvoju in uporabi. Od začetka postopka do danes so vzniknili še veliki jezikovni modeli, kakršen je ChatGPT, in generativna umetna inteligenca na drugih področjih, denimo Midjourney za ustvarjanje slik. Najnovejši popravki osnutka zakonodaje opredeljujejo tudi te. Njihova uporaba ne bo prepovedana, bodo pa na primer morali razkrili, katero avtorsko zaščiteno vsebino so uporabljali za trening modelov. Na mizi je bil tudi predlog o popolni prepovedi uporabo avtorsko zaščitene vsebine za trening, a je na koncu obveljala kompromisna različica z obvezno navedbo. Prav tako zakonodaja predvideva preizkušanje in obvladovanje tveganj za zdravje, varnost, okolje, temeljne pravice, demokracijo in vladavino prava, ki bi jih lahko predstavljala uporaba umetne inteligence.

Umetna inteligenca bo razdeljena na več kategorij glede na tveganje: minimalno, omejeno, visoko in nesprejemljivo. Za prvi skupini večjih omejitev ne bo: sem sodijo na primer filtri za spam in umetna pamet v igrah. Po drugi strani pa nesprejemljivo tveganje predstavljajo sistemi, ki bi na primer določali, kdo je upravičen do socialne pomoči ali ki bi odmerjali kazni na sodiščih. Ti bodo prepovedani. Vmes je območje umetne inteligence z visokim tveganjem, ki se bo smela uporabljati, a nadzorovano in z varovalkami.