»

(Dogodek) Tehnologija globokih prevar (deepfakes) in nevarnost totalitarizma

Dr. Mark Coeckelbergh

Slo-Tech -
Tehnologija globokih prevar ali deepfakes spodkopava zaupanje med ljudmi ter institucijami. Izjave politikov, direktorjev podjetij in drugih javnih osebnosti imajo posledice za naša življenja, saj vplivajo na javno mnenje, geopolitiko in nenazadnje na delovanje pravne države. Napad na aktiviste z uporabo deepfakes je le en izmed zadnjih primerov, kako se lahko nova tehnologija zlorabi.

Ali deepfakes res predstavljajo veliko grožnjo demokraciji, bo v soboto, 22. avgusta, v Ljubljani predaval dr. Mark Coeckelbergh, profesor filozofije medijev in tehnologije na Univerzi na Dunaju, ki je bil tudi član strokovne skupine na visoki ravni za umetno inteligenco Evropske komisije. Predavanje, ki bo potekalo ob 18:30 pred Švicarijo v Parku Tivoli, bo v pogovoru s Coeckelbergh sklenila Nika Mahnič, raziskovalka etike in politike podatkov.

Program konference boste lahko spremljali tudi prek livestreama.

12 komentarjev

Kitajska: lažne novice in deepfakes po novem kazniva dejanja

vir: Flickr

Reuters - Kitajska uprava za informacijsko družbo je objavila nov sveženj pravil, ki urejajo objavo zvočnega in video materiala na spletu. Med drugim govori tudi objavljanju in razširjanju lažnih novic ter drugega materiala, ustvarjenega s pomočjo umetne inteligence in navidezne resničnosti. Vsaka taka objava mora biti poslej jasno označena na poudarjen način, v nasprotnem primeru pa bo storilec odgovarjal za kaznivo dejanje. V določenih primerih bo odgovornost nosil tudi upravljavec platforme, ki je material objavila.

Po mnenju kitajski oblasti lahko tehnologije, kot je deepfakes ogrozijo nacionalno varnost, škodujejo družbeni stabilnosti in družbenemu redu ter posežejo v zakonite pravice tretjih oseb. Zavedanje o tovrstnih grožnjah se je tam okrepilo v začetku septembra, ko je v uporabo prišla kitajska aplikacija Zao, ki zna precej prepričljivo ponarejati in animirati obrazne poteze.

Pravilo bo začelo veljati s 1. 1. prihodnjega leta.

Pred tedni je Kalifornija kot prva zvezna država v...

27 komentarjev

Tehnologija lažnih posnetkov se izboljšuje

Slo-Tech - Pred dvema letoma je veliko pozornosti požel program Deepfakes, ki se je anonimno pojavil na internetu in je sleherniku omogočil izdelovanje lažnih videoposnetkov. Nevronske mreže so se namreč sposobne iz obilice posnetkov tarče naučiti, kako je videti njen obraz, in ga potem natančno "presaditi" na videposnetke drugih ljudi. Internet je seveda to najprej izkoristil za izdelavo pornografskih posnetkov, a kmalu je postalo jasno, da so lahko dobri lažni posnetki velik problem, ker brišejo mejo med resničnostjo in fotomontažo tudi pri videu. Raziskovalci iz Samsungovega centra za umetno inteligenco v Moskvi in Inštituta Solkovo za znanost in tehnologijo so sedaj tehnologijo prignali še...

59 komentarjev

Deepfakes grožnja nacionalni varnosti?

Washington Post - Trojica ameriških kongresnikov, demokrata Adam Schiff in Stephanie Murphy ter republikanec Carlos, so na direktorja vladnega urada za obveščevalne dejavnosti naslovili pismo, v katerem ga pozivajo, naj oceni, v kolikšni meri nacionalno varnost ogrožajo novodobni vizualni ponaredki oziroma t. i. deepfakes. Poslanci namreč menijo, da lahko prepričljive podobe znanih posameznikov, ki počno ali govorijo stvari, s katerimi v resnici nimajo nobene zveze, lahko pomenijo grožnjo družbi, obenem pa lahko imajo resne notranje ali celo zunanjepolitične posledice. Predstavniki ljudstva sicer od obveščevalcev pričakujejo, da bodo izdelali poročilo o tem novodobnem pojavu, zlasti o primerih, ko gre za tovrstne izdelke tujih državljanov. Česar, resnici na ljubo, ni veliko.

Deepfakes so...

33 komentarjev

Študija: hramba prometnih podatkov ne pomaga pri preiskavi kaznivih dejanj

vir: Heise
Heise - Na splet je pricurljalo poročilo nemškega Inštituta Max Planck za tuje in mednarodno kazensko pravo, ki je po naročilu nemškega pravosodnega ministrstva izvedel raziskavo o vplivu hrambe prometnih podatkov na boj proti kriminalu. Odkrili so, da ukrepi hranjenja prometnih podatkov ne pripomorejo k večji preiskanosti ali preventivi pred kriminalnimi dejanji, zato niso smiselni. S tem so posredno potrdili pravilnost odločbe nemškega ustavnega sodišča, ki je marca 2010 zakon o hranjenju telekomunikacijskih prometnih podatkov iz leta 2008 razglasilo za neustaven zaradi nesorazmernega poseganja v zasebnost posameznika.

Spor med notranjim in pravosodnim ministrstvom se s tem zaostruje. Spomnimo, da je...

6 komentarjev

Ameriška policija testira program za predvidevanje lokacije kaznivih dejanj

Uspešna aretacija na eni od predvidenih 'vročih točk'.

vir: The New York Times
The New York Times - Policijske službe v Santa Cruzu, mestecu v osrednji Kaliforniji, so začele uporabljati posebno računalniško simulacijo za predvidevanje, v katerih delih mesta naj bi se na tekoči dan zgodilo največ kaznivih dejanj. V program, ki osnuje na modelih za predvidevanje lokacij popotresnih sunkov, vsako jutro vnesejo tekoče podatke o kriminaliteti, nakar izračuna 10 najbolj verjetnih žarišč kriminala za tekoči dan. Eno žarišče ustreza kocki s stranico 150 metrov (500 čevljev) in je lahko celo tako natančno kot "ta in ta parkirna hiša". Na najbolj vroče točke nato razpošljejo dodatne patrulje kot sredstvo za odkrivanje in preprečevanje kriminala. Prvi rezultati so vzpodbudni - število vlomov v stanovanja je julija upadel za 27% glede na isti...

38 komentarjev