EU predlaga ostre kazni za zlorabe umetne inteligence

Evropska komisija naj bi prihodnji teden predstavila zakonodajni paket, ki ureja uporabo umetne inteligence v uniji. Vsebino predloga so danes že objavili nekateri mediji in ta se nekoliko razlikuje od osnovnih smernic, predstavljenih v začetku leta. Tedaj je bila v ospredju uporaba AI na tveganih področjih, kot je denimo v energetskem in zdravstvenem sektorju. Ta pristop se je zdaj nekoliko spremenil, saj predlog omejitev ne veže več na določena področja, pač pa na splošno govori o tveganih načinih uporabe AI kjerkoli. Ti tvegani načini naj bi bili tisti, ki lahko povzročijo smrt ali poškodbe, poškodujejo premoženje, imajo sistematičen vpliv na družbo kot celoto, lahko vplivajo na delovanje nujnih storitev ali pa vplivajo na gmotne, izobrazbene in poklicne možnosti posameznikov ter končno, če negativno vplivajo na uveljavljanje temeljnih pravic in svoboščin, ki veljajo na ozemlju EU.

Še vedno pa bo omejitev prosta uporaba pri vojaških in oborožitvenih projektih.

Bo pa po predlogu prepovedana uporaba AI sistemov za manipulacijo človeškega obnašanja, pridobivanje informacij o posameznikih ali skupinah ljudi, da bi nato nad njimi izvajali socialno ocenjevanje ali splošni nadzor. Biometrični sistemi, ki jih je moč uporabljati na daljavo, denimo prepoznava obrazov, bodo na javnih mestih dovoljeni le s posebno odobritvijo. Sistemi z visokim tveganjem, denimo na področju avtonomnih vozil, zdravstva in tudi upravljanja človeških virov, bodo pred začetkom delovanja inšpekcijsko pregledani, da bi zagotovili njihovo nediskriminatorno uporabo, delovali bodo pod nadzorom človeškega osebja, z zagotovljeno sledljivostjo delovanja za nazaj. Predlog ureja tudi delovanje botov in raznih derivatov deepfakes, kjer bo morala biti človeška oseba posebej opozorjena, da komunicira s strojem, razen, če bo to iz okoliščin očitno.

Nekatera podjetja bodo nadzor lahko izvajala sama, druga bodo deležna rednih pregledov, certifikati pa bodo izdani za obdobje največ petih let. Vse države članice bodo morale vzpostaviti regulativno telo, ki bo preizkušalo, pregledovalo in certificiralo sisteme.

Podjetja, ki bi svoje AI storitve razvijala v nasprotju s tem predpisom, bodo po predlogu kaznovana s štirimi odstotki svojega globalnega letnega prometa oz. z najmanj 20 milijoni evrov.