» »

EU predlaga ostre kazni za zlorabe umetne inteligence

EU predlaga ostre kazni za zlorabe umetne inteligence

vir: Pixabay

Bloomberg - Evropska komisija naj bi prihodnji teden predstavila zakonodajni paket, ki ureja uporabo umetne inteligence v uniji. Vsebino predloga so danes že objavili nekateri mediji in ta se nekoliko razlikuje od osnovnih smernic, predstavljenih v začetku leta. Tedaj je bila v ospredju uporaba AI na tveganih področjih, kot je denimo v energetskem in zdravstvenem sektorju. Ta pristop se je zdaj nekoliko spremenil, saj predlog omejitev ne veže več na določena področja, pač pa na splošno govori o tveganih načinih uporabe AI kjerkoli. Ti tvegani načini naj bi bili tisti, ki lahko povzročijo smrt ali poškodbe, poškodujejo premoženje, imajo sistematičen vpliv na družbo kot celoto, lahko vplivajo na delovanje nujnih storitev ali pa vplivajo na gmotne, izobrazbene in poklicne možnosti posameznikov ter končno, če negativno vplivajo na uveljavljanje temeljnih pravic in svoboščin, ki veljajo na ozemlju EU.

Še vedno pa bo omejitev prosta uporaba pri vojaških in oborožitvenih projektih.

Bo pa po predlogu prepovedana uporaba AI sistemov za manipulacijo človeškega obnašanja, pridobivanje informacij o posameznikih ali skupinah ljudi, da bi nato nad njimi izvajali socialno ocenjevanje ali splošni nadzor. Biometrični sistemi, ki jih je moč uporabljati na daljavo, denimo prepoznava obrazov, bodo na javnih mestih dovoljeni le s posebno odobritvijo. Sistemi z visokim tveganjem, denimo na področju avtonomnih vozil, zdravstva in tudi upravljanja človeških virov, bodo pred začetkom delovanja inšpekcijsko pregledani, da bi zagotovili njihovo nediskriminatorno uporabo, delovali bodo pod nadzorom človeškega osebja, z zagotovljeno sledljivostjo delovanja za nazaj. Predlog ureja tudi delovanje botov in raznih derivatov deepfakes, kjer bo morala biti človeška oseba posebej opozorjena, da komunicira s strojem, razen, če bo to iz okoliščin očitno.

Nekatera podjetja bodo nadzor lahko izvajala sama, druga bodo deležna rednih pregledov, certifikati pa bodo izdani za obdobje največ petih let. Vse države članice bodo morale vzpostaviti regulativno telo, ki bo preizkušalo, pregledovalo in certificiralo sisteme.

Podjetja, ki bi svoje AI storitve razvijala v nasprotju s tem predpisom, bodo po predlogu kaznovana s štirimi odstotki svojega globalnega letnega prometa oz. z najmanj 20 milijoni evrov.

15 komentarjev

Furbo ::

Skratka definicija je tako široka, da bi lahko tudi samo napisali: AI je prepovedan.
Lp,f

shadeX ::

Sem kar zadovoljen z življenjem v EU. Gremo v pravo smer :)

globoko grlo ::

LOL, se vidmo čez 1 let na cctv kamerah, če nam bo AI to sploh dovolila.

Če komu ni jasn, lahko bevskajo kolkr hočjo, AI je kle in ko se nauči iskat zakonske luknje, smo pečen :)
Gigabyte B460M DS3H | I5 - 10400F | 16GB | 1060@3GB | P2 m.2 500GB

Markoff ::

Ti tvegani načini naj bi bili tisti, ki lahko povzročijo smrt ali poškodbe, poškodujejo premoženje, imajo sistematičen vpliv na družbo kot celoto, lahko vplivajo na delovanje nujnih storitev ali pa vplivajo na gmotne, izobrazbene in poklicne možnosti posameznikov ter končno, če negativno vplivajo na uveljavljanje temeljnih pravic in svoboščin, ki veljajo na ozemlju EU.

Še vedno pa bo omejitev prosta uporaba pri vojaških in oborožitvenih projektih.


V prevodu: bohobvar, da bi bila AI rasistična, Skynet+Terminator pa je OK.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

kow ::

Ja, precej tragikomicen pristop. Pa zopet denarne kazni, namesto zapor za odgovorne krsitelje.

Zgodovina sprememb…

  • spremenil: kow ()

OK.d ::

Duh je že zdavnaj ušel iz stekleničke, poti nazaj ni več.
LPOK.d

Janez-22 ::

Biometrični sistemi, ki jih je moč uporabljati na daljavo, denimo prepoznava obrazov, bodo na javnih mestih dovoljeni le s posebno odobritvijo.

Kakor je Evropa včasih zbirokratizirana in neumna, ampak te stvari so mi pa precej v redu. Tu ne gre za vprašanje AI da ali ne, pač pa gre za odgovorno uporabo. Čisto nič si ne želim kitajskega modela, kar delajo z Ujguri je kriminal. In čisto fino mi je, da če bom hodil po ulici z občutkom, da je me je nezakonito osebno spremljat, pa naj bi me spremljala država, korporacija ali pa združenje varnostnikov. Se bo treba kar ukvarjat, da bo EU ostala svobodna in ne bo podlegala raznim utopijam.

tikitoki ::

Nej prepovedo se criptomining. Domnevno se borimo proti nesmiselni potrošnji energije. Žal bi nekateri naredili karkoli za lambota.

kow ::

Utopija (po Vostoku) se zdi ideja, da veliki sistemi (kot drzava) bodo popolnoma nadzorovali vsak aspekt tvojega zivljenja. EU je proti svobodi ze zato, ker je socialisticna.
Dajali ti bodo denar, da bos odvisen od njih. Saj je v veliki meri ze tako. To ni svoboda, pa saj si jo v resnici ljudje ne zelijo.

Zgodovina sprememb…

  • spremenil: kow ()

Vlayke ::

¸Ne gre za to, da bo AI prepovedan povsod (razen v vojski). Gre za to, da bi bilo delovanje AI-ja dovoljeno v nadzorovanih situacijah. S tem ni nič narobe, ker kaos tipično ni stvar, ki si jo družba želi.

Če vzamemo avtomobile ni bilo nič drugače.
Na začetku si je nekdo izmislil avto in je počel lahko z njim kar je želel. Bil je en in ni bilo težav. Ko se je začela zgodba širit, so se začeli pojavljati objestni vozniki, ki so začeli ogrožat pešče. Začele so se pojavljati nevarnosti trkov z drugimi avtomobili, kjer so bile posledice (zaradi mase in hitrosti) potencialno hujše, kot s kočijami.

Posledica je bil ZVCP, omejitve hitrosti, semaforji, prometni znaki in seveda izpiti za voznike. Da sploh ne govorimo o tem, da so potem skozi čas avtomobili začeli pridobivat ogledala, varnostne pasove, vzglavnike, airbage, ABS-e in podobno "navlako".
In seveda moramo uporabniki avtomobile redno (in to na bistveno manj kot pet let) dat na "inšpekcijo", da dobimo "certifikat", na podlagi katerega lahko tak avto uporabljamo dalje.

Ob vsem tem je težko reči, da so avtomobili prepovedani povsod. Tudi težko rečemo, da so proizvajalci avtomobilov reveži, ki nimajo za 5 dag zenfa.
Vsi poznajo pravila, vsi se jih držijo (kadar se jih ne, jih bolj ali manj uspešno ulovijo in kaznujejo) in na cestah so gore avtomobilov.

Janez-22 ::

kow je izjavil:

Utopija (po Vostoku) se zdi ideja, da veliki sistemi (kot drzava) bodo popolnoma nadzorovali vsak aspekt tvojega zivljenja. EU je proti svobodi ze zato, ker je socialisticna.
Dajali ti bodo denar, da bos odvisen od njih. Saj je v veliki meri ze tako. To ni svoboda, pa saj si jo v resnici ljudje ne zelijo.

Dokler se sam lahko odločiš ali boš vzel denar, je kar v redu svoboda. In dokler lahko človek napiše karkoli, brez da bi ga strpali na prevzgojo v taborišče, je tudi kar v redu (sovražni govor ipd. izvzeto). Za svobodo si je treba stalno prizadevat. Mentaliteta sužnja je to, da apatično čaka, kaj bodo naumili birokrati, npr. Ni važno, ali je na pohodu nek hinavski socializem ali pa fašizem.

Kakor prihajajo informacije iz dežele Ujgurov, tam oblast v povezavi (lastnimi) tehnološkimi podjetji kar konkretno uporablja AI za spremljanje problematične družbene skupine (terorizem). Sumljivi (10% populacije) gredo na prevzgojo (izobraževanje, delovna terapija) v taborišče. Verjetno se določen delež zahodnjakov tudi navdušuje nad podobno idejo.

Po drugi strani je mentaliteta na zahodu drugačna. Recimo zelo popularna kriminalka "Dekle z zmajskim tatujem". Tam glavno junakinjo (malo posebna, samotarska, hekerica) zaprejo zaradi neke državne skrivnosti, preventivno, da ne bi povzročala težav. (Na Švedskem je to seveda popolnoma nezakonito). Ta afera se razkriva skozi tri knjige. Totalna afera, zato ker so neupravičeno zaprli eno samo osebo.

NubCake ::

tikitoki je izjavil:

Nej prepovedo se criptomining. Domnevno se borimo proti nesmiselni potrošnji energije. Žal bi nekateri naredili karkoli za lambota.

Ali pa prepovedo božično okraševanje, it's burning our planet alive! Sicer pa crypto mining ni niti približno tako popularen v EU kot na Kitajskem in Ameriki, pri nas imamo bolj home minere, ki so anonimni in jih je itak nemogoče izsledit (razen malo povečan račun za elektriko).

Ghost7 ::

Božična okrasitev popije elektrike precej manj kot pred nekaj leti (zahvaljujoč ledicam), problem je sedaj v kakšnih toplotnih črpalkah. Zelo čisto ogrevanje je na plin. Tam, kjer je možen priklop na plin bi morali topolotne dodatno račune obtežit.

Avtomobili so načeloma druga zgodba, ker je res malo avtomobilov na plin, Tesla je sicer kriva, da ni šel razvoj v to smer, ampak spet v elektriko. Kar je zelo narobe, prvič pridobivanje elektrike in potem sama razgradnja baterij (katere so kratkomalo ekološke katastrofe, plus naj noben ne zapelje v izvir pitne vode...). Sčasoma bo veče lektričnih avtov, elektrika bo samo še dražja, ne cenejša. Prvič zaradi povpraševanja, drugič z lahkoto bodo upravičili investicije v prenosno omrežje (kar je sicer prav, žal bomo imeli spet polno proti ljudi za še en blok JE).
Elektro Gorenjska na primer, je že zdaj vsa v marmorju (kot včasih samo banke), zato, da sem na parceli dobil števec (podstavek in omarica sta že bila), sem dal slabega jurja za vse njihove postavke. Seveda števec sem kupil, kateri seveda ni moj. Je sedaj od elektra, če jim ga ne šenkaš s podpisom na pogodbi, ti ga pa ne priklopijo.

K sreči imamo ekokredit (zaenkrat zelo ugoden za Dacio) za plinske avtomobile. Škoda, ker drugi proizvajalci nimajo v ponudbi vozil na plin...
Fiat ima nekaj po naročilu (čeprav so največji strokovnjaki na tem področju), Opel je nekaj nudil... Ostalo vse elektrika, hibridi..

Problem predstavljamo dolgoprogaši, ki prevozimo veliko kilometrov in lahko dejansko pri poti dolgi 100km konstantne hitrosti porabimo toliko kot kratkoprogaši na 70km. Moderni diesli so zelo dober približek, plinaši so odlični za take primere. Saj skoraj ni, je zanemarljiv delež plinov in ogromno vodne pare.
Elektrika? Hibridi? Za kratke fure, mesta ok. Kapaciteta se v mrazu še dodatno zmanjša.

Ok, sem skrenil s teme, AI je potrebno fejst zregulirat. Skrbi me, ker vem, da ko se bo koda sama začela učit programirat in rast, bomo kmalu imeli Skynet. Še predstavljate si ne, kako preroški film je bil Terminator. Ni pa rečeno, da bo tako destruktiven kot skynet. AIju seveda tudi vojska ne bi smela dati dostopa do orožja za masovno uničevanje.

Zgodovina sprememb…

  • spremenilo: Ghost7 ()

freetard ::

men se zdi pa dobra in dobrodošla regulacija, spodbuja višje inženirske standarde in prepoveduje "avtomatski" nateg. Naj bodo amerikanci pa kitajci poskusni zajčki AI odločanja v pomembnih zadevah. Čeprav še radikalnejša in boljša rešitev pa bi bila, da bi morali biti AI sistemi transparentni tudi končnim uporabnikom, z datasetom in algoritmom vred. Potem bi se tudi regulacije lahko rešili, ker bi bilo jasno razvidno kaj se počne.

Zgodovina sprememb…

  • spremenilo: freetard ()

Bibi ::

Glede na to, da si že imel 15 let nazaj bota, ki je avtomatsko meril na sovražnike in jih pobijal (v igrcah), potem pomeni, da vojska že ima to dolgo "instalirano".

Ni več mogoče ustavit AI. Samo vprašanje je kaj naj bo dovolila v prihodnosti.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

EU predlaga ostre kazni za zlorabe umetne inteligence

Oddelek: Novice / Zasebnost
152463 (496) Bibi
»

Googlov Waymo avtonomno prevozi 40.000 kilometrov na dan (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
559817 (6177) BigWhale
»

Kaj torej piše v ACTI (strani: 1 2 3 )

Oddelek: Novice / NWO
13761400 (47905) Iatromantis
»

Britanska policija poseduje opremo za tajni nadzor telefonov (strani: 1 2 )

Oddelek: Novice / Varnost
9919349 (16141) BlueRunner
»

Zakaj je Nataša Pirc Musar izjema? (strani: 1 2 )

Oddelek: Problemi človeštva
8111829 (8830) Matthai

Več podobnih tem