Podpisan dogovor o varnosti umetne inteligence

Osemnajst držav je podpisalo neobvezujoč dogovor dogovor o varni umetni inteligenci, med katerimi so tudi ZDA, Velika Britanija, Nemčija in Avstralija. Dogovor, ki so ga javnosti predstavili v nedeljo zvečer, je po besedah ZDA prvi mednarodni dogovor o ukrepih, ki bodo obvarovali uporabo umetne inteligence in varnost pred zlonamernimi akterji. Dogovor predvideva ukrepe, ki bodo zagotavljali, da bo umetna inteligenca varna že zaradi samega ustroja (secure by design).

Dvajset strani dolg dogovor predvideva, da bodo podjetja pri izdelavi in uporabi orodij umetne inteligence to počela na način, ki bo varoval uporabnike in javnost pred zlorabami. Gre sicer za neobvezujoče predloge, ki so splošna priporočila o nadzoru sistemov, zaščiti podatkov in preverjanju dobaviteljev. Kljub temu gre za pomemben dokument, ker predstavlja prvi korak pri zagotavljanju varnosti in ker so se podenj podpisale številne države, je dejala Jen Easterly iz ameriške agencije za kibernetsko varnost in infrastrukturo. V dokumentu pa nekaj pomembnih točk tudi manjka. Tako ni določeno, kaj je primerna uporaba in predvsem kako se smejo zbirati podatki, ki so uporabljeni za urjenje umetne inteligence.

Po svetu razvoju umetne inteligence sledi val poizkusov regulacije. Minuli mesec je na Otoku potekal prvi vrh o umetni inteligenci, ki se je končal z deklaracijo o varnosti. Evropska unija pa pripravlja tudi akt o umetni inteligenci, ki bo še strožje določil, kaj se sme.