»

(Dogodek) Tehnologija globokih prevar (deepfakes) in nevarnost totalitarizma

Dr. Mark Coeckelbergh

Slo-Tech -
Tehnologija globokih prevar ali deepfakes spodkopava zaupanje med ljudmi ter institucijami. Izjave politikov, direktorjev podjetij in drugih javnih osebnosti imajo posledice za naša življenja, saj vplivajo na javno mnenje, geopolitiko in nenazadnje na delovanje pravne države. Napad na aktiviste z uporabo deepfakes je le en izmed zadnjih primerov, kako se lahko nova tehnologija zlorabi.

Ali deepfakes res predstavljajo veliko grožnjo demokraciji, bo v soboto, 22. avgusta, v Ljubljani predaval dr. Mark Coeckelbergh, profesor filozofije medijev in tehnologije na Univerzi na Dunaju, ki je bil tudi član strokovne skupine na visoki ravni za umetno inteligenco Evropske komisije. Predavanje, ki bo potekalo ob 18:30 pred Švicarijo v Parku Tivoli, bo v pogovoru s Coeckelbergh sklenila Nika Mahnič, raziskovalka etike in politike podatkov.

Program konference boste lahko spremljali tudi prek livestreama.

11 komentarjev

Tudi prva glava Googla podpira prepoved prepoznave obrazov, Microsoft je proti

Sundar Pichai, vir: Flickr

Slo-Tech - Sundar Pichai, CEO Alphabeta in Googla, je na tiskovni konferenci v Bruslju podprl nedavna in za zdaj še povsem neuradna zavzemanja Evropske komisije, da bi začasno prepovedali uporabo samodejne prepoznave obrazov. Kot razlog tudi sam navaja možnost, da bi bila tehnologija zlorabljena v nečedne namene, je pa regulatorje obenem tudi pozval k previdnemu in proporcionalnemu pristopu, ki naj pretehta družbene koristi in potencialno škodo.

Takim stališčem se je precej jasno uprl predsednik in glavni pravnik Microsofta Brad Smith. Kakršenkoli moratorij je primerjal z uporabo mesarske sekire, namesto skalpela, s katerim bi po njegovem mnenju morali pristopati k reguliranju takih področij. Pri tem je našteval nekatere koristi, ki jih samodejna prepoznava obrazov prinaša, denimo pri iskanju pogrešanjih otrok. Dodal je še, da je potrebno probleme najprej identificirati, šele na taki podlagi pa oblikovati pravila, ki nas bodo obvarovala pred morebitnim množičnim nadzorom. Po njegovem mnenju...

22 komentarjev

Kitajska: lažne novice in deepfakes po novem kazniva dejanja

vir: Flickr

Reuters - Kitajska uprava za informacijsko družbo je objavila nov sveženj pravil, ki urejajo objavo zvočnega in video materiala na spletu. Med drugim govori tudi objavljanju in razširjanju lažnih novic ter drugega materiala, ustvarjenega s pomočjo umetne inteligence in navidezne resničnosti. Vsaka taka objava mora biti poslej jasno označena na poudarjen način, v nasprotnem primeru pa bo storilec odgovarjal za kaznivo dejanje. V določenih primerih bo odgovornost nosil tudi upravljavec platforme, ki je material objavila.

Po mnenju kitajski oblasti lahko tehnologije, kot je deepfakes ogrozijo nacionalno varnost, škodujejo družbeni stabilnosti in družbenemu redu ter posežejo v zakonite pravice tretjih oseb. Zavedanje o tovrstnih grožnjah se je tam okrepilo v začetku septembra, ko je v uporabo prišla kitajska aplikacija Zao, ki zna precej prepričljivo ponarejati in animirati obrazne poteze.

Pravilo bo začelo veljati s 1. 1. prihodnjega leta.

Pred tedni je Kalifornija kot prva zvezna država v...

27 komentarjev

Umetna inteligenca, ki slači

Slo-Tech - Sredi tedna se je na internetu znašla aplikacija DeepNude, ki je obljubljala točno to, na kar namiguje njeno ime. Aplikacija je iz čim več fotografij oblečene osebe ženskega spola z algoritmi izdelala posnetek, kako je verjetno videti ta oseba brez oblek. Pričakovano je aplikacija dvignila precej prahu in polemik, ali je takšna uporaba sploh zakonita. Odgovor na tako vprašanje ni tako premočrten, kot bi na prvi pogled sklepali. Ni namreč vedno res, da so dovoljene vse vsebine, ki ne posegajo v zasebnost drugih in ne vplivajo nanje. Ekstremen primer je na primer otroška pornografija, kjer so prepovedane tudi realistične podobe, četudi bi šlo v celoti za izmišljene, izrisane like. A vrnimo se k aplikaciji DeepNude (ki sedaj ni več dostopna).

Ta deluje le na...

421 komentarjev

Tehnologija lažnih posnetkov se izboljšuje

Slo-Tech - Pred dvema letoma je veliko pozornosti požel program Deepfakes, ki se je anonimno pojavil na internetu in je sleherniku omogočil izdelovanje lažnih videoposnetkov. Nevronske mreže so se namreč sposobne iz obilice posnetkov tarče naučiti, kako je videti njen obraz, in ga potem natančno "presaditi" na videposnetke drugih ljudi. Internet je seveda to najprej izkoristil za izdelavo pornografskih posnetkov, a kmalu je postalo jasno, da so lahko dobri lažni posnetki velik problem, ker brišejo mejo med resničnostjo in fotomontažo tudi pri videu. Raziskovalci iz Samsungovega centra za umetno inteligenco v Moskvi in Inštituta Solkovo za znanost in tehnologijo so sedaj tehnologijo prignali še...

59 komentarjev

Deepfakes grožnja nacionalni varnosti?

Washington Post - Trojica ameriških kongresnikov, demokrata Adam Schiff in Stephanie Murphy ter republikanec Carlos, so na direktorja vladnega urada za obveščevalne dejavnosti naslovili pismo, v katerem ga pozivajo, naj oceni, v kolikšni meri nacionalno varnost ogrožajo novodobni vizualni ponaredki oziroma t. i. deepfakes. Poslanci namreč menijo, da lahko prepričljive podobe znanih posameznikov, ki počno ali govorijo stvari, s katerimi v resnici nimajo nobene zveze, lahko pomenijo grožnjo družbi, obenem pa lahko imajo resne notranje ali celo zunanjepolitične posledice. Predstavniki ljudstva sicer od obveščevalcev pričakujejo, da bodo izdelali poročilo o tem novodobnem pojavu, zlasti o primerih, ko gre za tovrstne izdelke tujih državljanov. Česar, resnici na ljubo, ni veliko.

Deepfakes so...

33 komentarjev