Slo-Tech - Pred dvema letoma je veliko pozornosti požel program Deepfakes, ki se je anonimno pojavil na internetu in je sleherniku omogočil izdelovanje lažnih videoposnetkov. Nevronske mreže so se namreč sposobne iz obilice posnetkov tarče naučiti, kako je videti njen obraz, in ga potem natančno "presaditi" na videposnetke drugih ljudi. Internet je seveda to najprej izkoristil za izdelavo pornografskih posnetkov, a kmalu je postalo jasno, da so lahko dobri lažni posnetki velik problem, ker brišejo mejo med resničnostjo in fotomontažo tudi pri videu. Raziskovalci iz Samsungovega centra za umetno inteligenco v Moskvi in Inštituta Solkovo za znanost in tehnologijo so sedaj tehnologijo prignali še korak dlje. Ne potrebujemo več niti mnogo fotografij žrtve, temveč v ekstremnih primerih zadostuje že - eden.
Po eni strani to pomeni, da se Mona Lisa lahko nasmeji ali obrne glavo. Podobno so storili tudi za Marilyn Monroe, Salvadora Dalija in druge. Rezultat so poimenovali "fotorealistične govoreče glave" ali "lutkarstvo (puppeteering). Bistveni napredek, ki so ga dosegli v Samsungu, je zmanjšanje števila potrebnih fotografij za trening nevronskih mrež. Ljudje smo si pač dovolj podobni, da lahko nevronske mreže treniramo tudi na milijonih fotografijah drugih ljudi, potem pa potrebujemo le drobec informacij o konkretni osebi, da jo lahko poustvarimo. Včasih je šlo zlahka na primer za Donalda Trumpa, o katerem kroži na internetu milijone posnetkov, saj je v medijih praktično vsak dan, sedaj pa grozi, da bo šlo tudi za Janeza iz sosednje ulice, čigar eno fotografijo smo našli na Facebooku.
K sreči tehnologija še ni dovolj daleč, da bi lahko ureditev sveta zamajal kar vsakdo. Tim Hwang, direktor Harvard-MIT Ethics and Governance of AI Initiative, je tehnologija še daleč od tega, da bi lahko s pritiskom na gumb kdorkoli lepil obraze na fotomontaže. Potrebni so veliki denarni vložki in veliko denarja, a v teoriji je to možno, kot kažejo najnovejši primeri.
To pa spet odpira stara vprašanja o zaupanju v posnetke. Kot je pokazala afera Ibiza, zaradi katere je padla celotna avstrijska vlada, je dovolj en videoposnetek, pa se zgodi pretres. Nobenega dvoma ni, da je omenjeni posnetek avtentičen (dasiravno je nastal že pred dvema letoma, razkrit pa je bil šele sedaj). Toda, včasih bi za dosego političnih ali drugih ciljev zadostoval že bistveno krajši posnetek. V resnici sploh ni potrebe, da je posnetek vrhunske kvalitete, saj ga vedno lahko predstavimo kot delo amaterja, ki je slučajno snemal z mobilnim telefonom. Še več, tudi če je posnetek sorazmerno enostavno moč razkrinkati kot lažen, je še vedno bistveno, da zaseje dvom, ne da ljudi prepriča. Posnetek Nancy Peloso, kjer naj bi bila ta pijana, je slab ponaredek, saj je v resnici le upočasnjen. A posnetek se širi in povzroča škodo, čeprav je vsem jasno, da je ponarejen.
V preteklosti smo že slišali - sicer nekoliko medijsko napihnjeno, pa vseeno - za algoritme, ki jih njihovi tvorci niso upali spustiti v javnost, ker da so prenevarni. Četudi razvijemo orodja za identifikacijo lažnih posnetkov, je pravi problem drugje. Ko se zaseje zrno dvoma, to klije.
Posnetek Pelosijeve je smešen in youtube je z njegovo cenzuro naredil zanimiv precedent. Zanimiva je tudi reakcija demokratov in podobno usmerjenih levičarjev, ki potezo podpirajo pod pretvezo "obrambe demokracije". Občutek dajejo kot, da demokracija ne more delovat brez cenzure.
Neumen zaključek. Tudi dokumente že tisočletja ponarejamo, fotografije že desetletja, pa zaradi tega ni vesoljnega potopa.
Neumen komentar. Ljudje veliko bolj verjamemo to kar vidimo na lastne oči in žal smo v glavi zvezani tako, da večina ljudi enako verjame osebi, ki govori na TVju in osebi, ki sedi v dnevni sobi poleg nas.
"Četudi razvijemo orodja za identifikacijo lažnih posnetkov, je pravi problem drugje. Ko se zaseje zrno dvoma, to klije."
Drži. Podobno je tud ko si osumeljen kaznivih dejanj npr posilstva; umora; ipd. Če se izve da si osumljen te vsak obravnava kot že obsojenega in de facto krivega. Lahko si nedolžen pa boš imel velike probleme z prepričevanjem drugih da nisi kriv tud če po pravu dokažeš nedolžnost.
"Četudi razvijemo orodja za identifikacijo lažnih posnetkov, je pravi problem drugje. Ko se zaseje zrno dvoma, to klije."
Drži. Podobno je tud ko si osumeljen kaznivih dejanj npr posilstva; umora; ipd. Če se izve da si osumljen te vsak obravnava kot že obsojenega in de facto krivega. Lahko si nedolžen pa boš imel velike probleme z prepričevanjem drugih da nisi kriv tud če po pravu dokažeš nedolžnost.
Drži. Videl na lastne oči. Enkrat ko je nekdo ožigosan, je izredno težko, da pridobi spet zaupanje publike. Še posebej med normiji.
Nekoč recimo, ko je beseda počasneje tekla so lahko šarlatani se selili iz mesta v mesto in izvajali svoje scame. Se strinjam, da ni prav. Ampak...raje imam 10 svobodnih šarlatanov kot pa 1 nedolžnega, ki je po krivici fasal mob justice.
I don't approve of the future we're heading. Da, nekoč je bilo res več lakote in nasilja, ampak tudi več svobode za tiste, ki so se upali in znajdli. Danes pa je vse tako restikrirano. Na nek način mi je žal za prihodnje generacije. They'll inherit a fake world.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
"Četudi razvijemo orodja za identifikacijo lažnih posnetkov, je pravi problem drugje. Ko se zaseje zrno dvoma, to klije."
Drži. Podobno je tud ko si osumeljen kaznivih dejanj npr posilstva; umora; ipd. Če se izve da si osumljen te vsak obravnava kot že obsojenega in de facto krivega. Lahko si nedolžen pa boš imel velike probleme z prepričevanjem drugih da nisi kriv tud če po pravu dokažeš nedolžnost.
Drži. Videl na lastne oči. Enkrat ko je nekdo ožigosan, je izredno težko, da pridobi spet zaupanje publike. Še posebej med normiji.
Nekoč recimo, ko je beseda počasneje tekla so lahko šarlatani se selili iz mesta v mesto in izvajali svoje scame. Se strinjam, da ni prav. Ampak...raje imam 10 svobodnih šarlatanov kot pa 1 nedolžnega, ki je po krivici fasal mob justice.
I don't approve of the future we're heading. Da, nekoč je bilo res več lakote in nasilja, ampak tudi več svobode za tiste, ki so se upali in znajdli. Danes pa je vse tako restikrirano. Na nek način mi je žal za prihodnje generacije. They'll inherit a fake world.
enkrat ko si ožigosan z preprostim 'duševni bolnik' zna bit tudi kr jeba ...
I don't approve of the future we're heading. Da, nekoč je bilo res več lakote in nasilja, ampak tudi več svobode za tiste, ki so se upali in znajdli. Danes pa je vse tako restikrirano. Na nek način mi je žal za prihodnje generacije. They'll inherit a fake world.
Kakšen future? Nekateri progresivni strpni filantropski sodržavljani bi radi pri nas uvedli sistem, ki propada še v zadnjih utrdbah. Svoboda misli, dokler razmišljaš tako, kot mi hočemo. Skrajna nestrpnost do vseh drugače mislečih. Fojbe, hude luknje, tezna, teharja, bajonetiranje v morje. Goli otoki. Nacionalizacija. Sovražni govor. Veleizdajalci. Kdor ni z nami, je fašist. Njihov.
Marsikaj sem že videl kot otrok. Pa vendarle v znatno bolj blagi obliki. Jebeš Jugoslovenijo. Vsaj dokler še smem reči kaj takega brez družbene izločitve in obiska lokalnega miličnika ali petih.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
VSAKA OBJAVA(!) nekega posnetka povzroča osebi na posnetku moralno škodo. Ker video pove več, kot 1000 fotografij, že ena fotografija pa "več kot 1000 besed".
Posnetek (lulanja moškega na samem, ob drevesu, posnet brez da snemana oseba to ve/vidi) politika, ali osebe, ki je šla 3 leta po posnetku v politiko, osebi izjemno škodi.
Razen, če mogoče kdo zblojeno misli, da kandidat boljše promocije od posnetka lulanja sploh ne more imeti...
Naknadna preigravanja in poteze, zahteva njegovega odvetnika za izbris, stroški osebe z odvetnikom, nepotrebna živčnost zaradi neumnosti, ki se je pripetila, tudi sramota, pa so le šale na smetišču, imenovanemu splet.
Delikt (snemanje brez vednosti) je bil že narejen, enako škoda, kajti posnetek je/bo šel seveda na turnejo po spletu. In enkrat na spletu - vedno na spletu...
Mimogrede, ve kdo, kako se je končalo z mulcem, ki je posnel ravnatelja pri seksu? Najbrž oproščen, kajti snemal in objavil je seveda v službi "resnice"... Samomor ravnatelja pa je bil seveda le ena od mnogih kolateralnih škod...
Nekateri bodo porekli: Kaj pa ni pazil, kaj pa si ni prelepil okna kabineta...
Samomor ravnatelja pa je bil seveda le ena od mnogih kolateralnih škod...
Nekateri bodo porekli: Kaj pa ni pazil, kaj pa si ni prelepil okna kabineta...
Veš koliko svobode so vseprisotne kamere uničile? Nepopisno. And it will only get worse with time, ko bodo počasi imeli AI powered reči.
Če mi ne vrjamete, poglejte v punk/mladinsko sceno juge. A mislite, da bi bila ista, če bi vsak lolek lahko imel HD mini camere? Če si nekoč uletel notri z fotoaparatom in nisi bil approved, so te vrjetno nalomili ko pičko.
Da...več nasilja, ampak več svobode. I'm fine with it. Nevone ni. Ona bi rada varno živela v kletki s sladoledom, forever.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
He who sacrifices freedom for security deserves neither.
Pravim...ni idealne rešitve, zgolj kompromis. In jz osebno raje izberem kompromis, da sem malo bolj tepen ampak malo bolj svoboden, kot pa malo manj tepen in malo manj svoboden. Personal preference. V katero smer bo svet šel pa čmo vidt. Zaenkrat kaže v drugo.
Vaše navduševanje nad potencialno izjemno škodljivimi tehnologijami je res bizarno. Tale zadeva že sedaj omogoča in tudi dejansko povzroča številne zlorabe, na dolgi rok pa neizogibno vodi v cenzuro in kliče po nekom, ki bo s trdo roko napravil red, ampak važno, da imajo fantki vsak dan nove igrače, ane.
vodi v cenzuro in kliče po nekom, ki bo s trdo roko napravil red
Komunisti še vedno sanjate o Stalinu. Razvoj tehnologije je zelo dobra stvar. Podobno kot je dobra stvar kapitalizem. Ti dve stvari sta dobri zato, ker pridejo do izraza nadarjeni posamezniki.
Nepismen si, podobno kot Hipatija, ki jo citiraš. Ona nikjer ne zagovarja komunizma, podobno kot naslov v ničemer ne izraža navdušenja nad "škodljivo tehnologijo".
Sicer pa predvidevam, da rusi niso imeli znanstvenih programov in moderne tehnike, ker nadarjeni posamezniki tipa Korolev, Sukhoi, ... niso mogli priti do izraza.
Where all think alike, no one thinks very much.
Walter Lippmann, leta 1922, o predpogoju za demokracijo.
Nepismen si, podobno kot Hipatija, ki jo citiraš. Ona nikjer ne zagovarja komunizma, podobno kot naslov v ničemer ne izraža navdušenja nad "škodljivo tehnologijo".
Seveda je pisala o komunizmu. Samo pozablja, da bi v taksnem sistemu kot ženska imela zelo malo pravic.
Vaše navduševanje nad potencialno izjemno škodljivimi tehnologijami je res bizarno. Tale zadeva že sedaj omogoča in tudi dejansko povzroča številne zlorabe, na dolgi rok pa neizogibno vodi v cenzuro in kliče po nekom, ki bo s trdo roko napravil red, ampak važno, da imajo fantki vsak dan nove igrače, ane.
Očitno ne razumeš poante novice.
Poanta novice je, da se ta tehnologija izboljšuje, da je bila že prej nevarna in da zdaj postaja še bolj nevarna.
Nihče se ne navdušuje nad tem. Zgolj svarimo.
Razen seveda, če si mislila, da se o teh tehnologijah ne sme poročati. In o njenih nevarnostih tudi ne.
Predvsem je pa dejstvo, da se je podobna tehnologija v preteklosti že uporabljala:
Razlika je bila le ta, da je bila ta tehnologija draga in jo je za manipulacijo uporabljala izključno Oblast. Zdaj, ko je možnost za manipulacijo postala dostopna vsem, je pa to kar naenkrat problem?
Ne. Problem je sama manipulacija. Vrniti se je treba h koreninam. Treba je biti nezaupljiv do vsake Oblasti in kritičen do vsega. Včasih so ljudje verjeli fotografijam. Sploh, če jih je pokazal Stalin.
Danes, ko Photoshop lahko zlorablja praktično vsakdo, pa v zavest ljudi prihaja kritičen razmislek. In to je po mojem zgolj dobro.
Neumen zaključek. Tudi dokumente že tisočletja ponarejamo, fotografije že desetletja, pa zaradi tega ni vesoljnega potopa.
V bistvu je hujši problem, da zaradi vseh teh lažnih novic ljudje tudi resničnim novicam ne verjamejo. Ko enkrat ne moreš več ločit med ponaredkom in originalom, original izgubi vrednost.
Danes, ko Photoshop lahko zlorablja praktično vsakdo, pa v zavest ljudi prihaja kritičen razmislek. In to je po mojem zgolj dobro.
"Kritičen razmislek" v smislu, da nihče nikomur nič več ne verjame, je vse prej kot dober. Ko ljudje več ne verjamejo zdravnikom, da je cepljenje koristno, ali znanstvenikom, da gensko spremenjene rastline niso nevarne, ali sociologom in ekonomistom, da migranti niso nevarni ...
"Kritičen razmislek" v smislu, da nihče nikomur nič več ne verjame, je vse prej kot dober. Ko ljudje več ne verjamejo zdravnikom, da je cepljenje koristno, ali znanstvenikom, da gensko spremenjene rastline niso nevarne, ali sociologom in ekonomistom, da migranti niso nevarni ...
Kakšen butast argument. Fora je v (ne)konsenzualnosti, ane. Tovrstni posnetki se komot tretirajo kot revenge porn, ki je kazniv, edini razlog, zakaj se dosledno ne preganja in kaznuje tiste, ki ga ustvarjajo in širijo je dejstvo, da živimo v seksistični družbi, kjer je degradacija žensk povsem sprejemljiva, vsakodnevna praksa.
Je pa ustvarjanje fake posnetkov po mojem mnenju povezano s pravico razpolaganja z lastno podobo (kar je pa tudi povezano s pravico do zasebnosti).
Sicer tukaj trčimo na problem dvojnikov. Recimo neka gospa je zelo podobna angleški kraljici in se pogosto oblači kot kraljica in se tudi fotografira na različnih krajih kot kraljica. O konsenzualnosti koga torej govorimo? Angleške kraljice ali te gospe? Se ta gospa ne sme oblačiti kot kraljica? Se ne sme fotografirati? Je pa res, da so tisti, ki sliko gledajo zavedeni, da je bila angleška kraljica na tem in tem kraju.
Tudi pri porno produkciji so znani taki primeri dvojnic. Torej, o čigavi konsenzualnosti govoriš? Če porno igralka, ki je podobna znani osebnosti, da polno soglasje za snemanje - je to dovoljšen konsenz ali ne?
Problem teh fake posnetkov je bolj v tem, da neka aktivistična skupina komot pripravi lažni posnetek kako Assange domnevno posiljuje dve ženski hkrati - in bo to javnost prejela kot ključni dokaz njegove krivde.
Odlična novica. Končno se klijejo semena dvoma o vsem in vsakomur.
Časov, ko je obstajala vse splošna resnica, ni več. Napredujemo do stopnje, ko ima vsak posameznik svojo resnico. Že od nekdaj so si posamezniki izbirali svobodo misli, počasi se je izboljševalo s svobodo izbiranja svojih izvoljenih predstavnikov, vere, spolne orientacije, moralnega sistema, fizične pojave, kulture, znanstvenih pogledov.
Pluralnost mnenj na mnogo področjih še ni dovolj dobro zastopana, denimo v znanstvenih vprašanjih. Tudi znanost je namreč le en sistem, v katerega posameznik lahko ali pa ne verjame. Primer: imamo premalo teorij, ali je zemlja ploščata, okrogla, nekaj vmes, in če sploh obstaja.
Resnica ne obstaja, obstaja samo najbolj pogosto mnenje, kaj je res, in kar je v vsakem trenutku lahko spremenljivo. Tehnologija kot je deepfake nadvse slikovito poudari nihilistične, relativistične temelje današnje družbe.
A parody of extremism is impossible to differentiate from sincere extremism.
Sčasoma bo tega deepfake materiala dovolj, da bomo lahko isto ali vsaj zelo podobno ai tehnologijo uporabljali za določanje ali je posnetek deepfake ali ne. To je seveda moje laično mnenje, ampak ali je kje ovira za to? Domnevam, da bo še vedno ponaredke lažje masovno odkrivati kot pa masovno producirati.
Eni naši raziskovalni partnerji razvijajo tehnologijo ugotavljanja ali je posnetek fake ali ne. V osnovi mislim da uporabljajo error level analysis. V glavnem, se da, še posebej v dokaznem postopku, kjer imaš (domnevno) na voljo tudi napravo, ki naj bi posnetek naredila. Je pa kar nekaj dela.
Eni naši raziskovalni partnerji razvijajo tehnologijo ugotavljanja ali je posnetek fake ali ne. V osnovi mislim da uporabljajo error level analysis. V glavnem, se da, še posebej v dokaznem postopku, kjer imaš (domnevno) na voljo tudi napravo, ki naj bi posnetek naredila. Je pa kar nekaj dela.
Naj ti poevem, kako zgleda danes mob justice:
1. Nekdo posta fejk posnetek 2. Na FB gre zadeva viral 3. folk začne kicat za linčanje, sežig sredi trga ... 101. Pol leta kasneje forenziki pokažejo, da je posnetek fejk 102. Ljudje so človeka linčali že prvi teden in pol pozabili na reč 103. Obtoženec s tičem v roki ostane pred vrati
Normijev ne zanima resnica.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Glavni problem je, da ti o normijih govoriš v tretji osebi, čeprav bi moral v prvi, ker si nasedel tako zelo popolnoma, da se bolj sploh ne da: http://www.bbc.com/future/story/2019052...
Kakšen butast argument. Fora je v (ne)konsenzualnosti, ane. Tovrstni posnetki se komot tretirajo kot revenge porn, ki je kazniv, edini razlog, zakaj se dosledno ne preganja in kaznuje tiste, ki ga ustvarjajo in širijo je dejstvo, da živimo v seksistični družbi, kjer je degradacija žensk povsem sprejemljiva, vsakodnevna praksa.
Citiraj člen v zakonu, ki pravi, da je računalniško ustvarjen posnetek kaznivo dejanje? Preden začneš nakladat naj te opomnim, da je v ZDA otroška pornografija, ki je generirana s pomočjo računalniških orodij legalna in zakonita. Tako da ni prav nobene ovire, da ostale oblike računalniško ustvarjene vsebine ne bi bile zakonite. In tudi so. Nekateri si seveda želite, da ne bi bile, a je ameriško ustavno sodišče tebi podobnim že povedalo kar vam gre - računalniško ustvarjanje vsebine je zaščiteno z ustavo.
Bullshit, ki ga ti prodajaš je pa nekaj povsem drugega. Prepovedano je posneti resničen pornografski posnetek in ga nato objaviti iz maščevanja ali s pomočjo tega posnetka nekoga izsiljevati.
Zaradi nekaj snežinkic ne bomo spreminjali zakonodaje in ustave. Deal with it.
Zaradi nekaj snežinkic ne bomo spreminjali zakonodaje in ustave. Deal with it.
Je že spremenjena, le ti in tvoji kolegi nenadoma mislite, da EU (in posledično tudi Slovenija) ne temelji na solidarnosti, strpnosti in spoštovanju človekovih pravic (vseh, ne le državljanov).
