Slo-Tech - Raziskovalci z univerz Stanford in Princeton, z Inštituta Max Planck in iz podjetja Adobe Research so razvili nov algoritem, ki omogoča še lažjo manipulacijo videoposnetkov ljudi. Lani smo se prvikrat resno zavedli moči algoritmov za deepfake, s katerimi je možno obraz človeka (ali kar celega človeka) na posnetku zamenjati z nekom drugim. Umetna inteligenca in nevronske mreže pa brez predaha napredujejo, zato je sedaj možno še več. V novem algoritmu lahko enostavno kakor v urejevalniku besedil zamenjamo besede, ki jih človek na posnetku izgovarja.
Za trening algoritma potrebujemo posnetek, ki je dolg vsaj 40 minut, in prepis govorjenega besedila. Iz tega se algoritem nauči, kako se spreminja obrazna mimika človeka pri izgovoru posameznega fonema. Ko to imamo, lahko enostavno napišemo spremenjeni tekst, pa bo algoritem ustvaril prilegajoč videoposnetek. Tehnika se imenuje Neural Rendering. Gre za izris površine prek 3D modela, ki uporablja fotorealistične teksture. Rezultat je neverjetno dober.
Novi algoritem omogoča zgolj manipulacijo slikovnega materiala v videu, ne pa tudi glasu. Tega lahko bodisi posnamemo ločeno, zložimo iz posnetih fonemov ali uporabimo sintetizatorje govora. Raziskovalci pravijo, da je nova tehnologija uporaba za snemanje filmskih prizorov, kadar se igralci na primer zmotijo, da ni treba vsega posneti znova. Po drugi strani pa to odpira možnost za številne zlorabe, saj bo še teže ločiti avtentične posnetke od ponaredkov.
V Mercatorju so začeli prodajati nove in še bolj poceni nože za rezanje kruha. Z novimi noži bodo lahko ljudje kruh rezali 15% hitreje in za kar 20 odstotkov tanjše rezine.
Po drugi strani pa to odpira možnost za številne zlorabe, saj je z nožem za kruh mogoče nekomu prerezati tudi vrat.
Kje dfak so zakonodajalci in regulatorji, da tem norcem že enkrat stopijo na prste???
Rešitve ni. Regulatorji so vedno v zaostanku z tehnologijo.
Vedno bolj sem prepričan, da fermijev paradox je pravzaprav naravni zakon. Z napredkom tehnologije civilizacija počasi konvergira v samouničenje. Pa sploh ne mislim, z neko nuklearno katastrofo or something.
Ampak day to day activities. Ljudje postajajo vedno bolj cinični z napredkom. Tisti, ki niso ciniki pa posegajo po avtoritarnih modelih, ki s pomočjo tehnologije postanejo stagnirajoče distopije.
Hunter-gatherers so morda bili oppressed by nature. Ampak oppressed by nature je tko kot napad medveda. Morda se zgodi tu pa tam, ampak je povsem jasno kako se mu ognit. Opressed by man...to pa je blazno zahtevnejše, še posebej, če je ta ki zatira pametnejši.
Tko, da ja...at one point bo tehnološki in psiho-socialni razvoj konvergiral v nulifikacijo eksistence. In glede na to, da se začenjamo igrati z tehnologijami, ki ne zgolj restavrirajo biološko eksistenco, ampak jo povsem alter-irajo...bo ta točka mislim, da relativno gledano, kaj kmalu. Rečemo 200 let, če prihajajoče katastrofe v naslendjih 100 letih ne bodo znatno zmanjšale vektor razvoja.
ni 2x za rečt da so ameri nekaj podobnega uporabil za une posnetke k kao Iran minira ladje v hormoški ožini....
Čisto iskreno...to je prva reč, na katero sem pomislil, ko sem videl tisti video. Gledal sem zgolj tistega v slabi resoluciji, ker ne vem če obstaja boljši, ampak prvo sem razmišljal, če niso slučajno to delali v kak unreal-engine ali neki.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Torej ti prisegas na to, da je "pravo" zivljenje na zemlji nek srednjeveski stil, kjer religija izvaja represijo nad intelektialci, nekaj ljudi dobro zivi, ostali jim pa sluzijo? Je to pot kjer bi se morali ustavit? Ali je mogoce kak drug sistem pravi? Rimski casi, grski? Hladna vojna?
Torej ti prisegas na to, da je "pravo" zivljenje na zemlji nek srednjeveski stil, kjer religija izvaja represijo nad intelektialci, nekaj ljudi dobro zivi, ostali jim pa sluzijo? Je to pot kjer bi se morali ustavit? Ali je mogoce kak drug sistem pravi? Rimski casi, grski? Hladna vojna?
Ko bi vsaj bil nek absolutni, ultimativni delujoči koncept. Zaenkrat ga še nismo našli.
Ampak, food for thought: Lovci-nabiralci so živeli več 10k let. Moderni ljudje, might not even make it a few hundred. Kaj je torej boljše?
Sori, ti si želela da regulatorji končno nekaj nardijo proti tem norcem.
In ko to končno naredijo nekemu norcu, pošizi.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
FUCK. They got me. Za trenutek sem res mislu, da gre za mladega Zucka, ki to govori. Granted, nisem spremljal preveč pozorno. Ob ponovnem pogledu se pa mi je zdel sumljiv.
Point being...the post-truth dystopia is actually here, and not in the future anymore. Casual gledalcev, ki gledajo take zadeve z enim očesom se da že sedaj prelisičit.
Kaj to pomeni za širšo civilizacijo...smo že povedali...in t.j. nič lepega.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Kaj to pomeni za širšo civilizacijo...smo že povedali...in t.j. nič lepega.
kaj je pa tebi? saj si kot stare mamice, ki se bojijo napredka.
Saj so imele prav. 300 let nazaj je kazalo, da bo civilizacija večna ali vsaj do Jezusovega drugega prihoda. Today...no such guarantee can be made. Povsem možno, IMO vrjetno, da v naslednjih 100-200 letih bomo failali the great filter.
Vs dosedanji razvoj je bil kurativen in ne kreativen.
Dvigni večjo skalo. Poleti višje. Pozdravi to bolezen. Nadomesti tisto nogo. Razvoj, ki prihaja pa se bo igral s konceptom eksistence in ne zgolj patchanja nam podedovane eksistence.
Recimo...virusi v preteklosti so pač sledili neki naravni propagaciji, ki se jo je dalo ognit. Tko kot medvedu. Virusi prihodnosti pa lahko da bodo bolj taktični.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Kaj to pomeni za ĹĄirĹĄo civilizacijo...smo Ĺže povedali...in t.j. niÄ lepega.
kaj je pa tebi? saj si kot stare mamice, ki se bojijo napredka.
točno tko. a do sedaj pa se s folkom ni manipuliralo? čarodeji, vrači, politiki, verski vodje... čudno da so vse to preživeli.
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Ampak ok...i'll give you the benefit of the doubt. Da vidmo kaj bo.
Ko enkrat dovolis, da nekdo podvomi v obstoj boga, je to next level. Jasno je, da je krscanska vera edina prava in cista resnica.
Ko enkrat za prevoz iz enega konca sveta na drug konec rabis manj kot 12 ur, je to next level. Cisto drugace kot v pravem svetu, ko bi se moralo potovati 4 mesece.
300 let nazaj je kazalo, da bo civilizacija večna ali vsaj do Jezusovega drugega prihoda.
300 let nazaj je bil lov na čarovnice popularen. Vraževerja tudi veliko več kot danes. dandanes se še najde kakšen jype sxem pa tja, ki lovi čarovnice (v njegovem primeru naciste) drgalč pa so ljudje kar napredovali od 300 let nazaj. Pa še bodo.
Če si znanstven človek imaš modern čas rad. Danes je znanost in tehnologija navkljub vsemu glavna miselnost. Prej je bilo to vraževerje. Meni je žal, da ne živim še bolj v prihodnosti.
ja z razvojem je prišla tudi atomska bomba, ki lahko uniči planet. ampak živiš samo enkrat, je treba riskirat. z razvojem je prišlo tudi polno dobrih stvari in polno potenciala za še več dobrih stvari, umetna inteligenca itd. jaz imam raje tak bolj rizičen razumski znanstveni svet kot pa neumni srednjeveški svet lova na čarovnice, ki mi je nagravžen.
pa ljudje, ki jih je vsega strah in ki vsemu nasprotujejo imajo v resnici nek psihološki problem. jih kar dost poznam. je pa to najbolj značilna lastnost ljudi, ki so zoprna družba. ljudje, ki so dobra družba ti nikoli ne nasprotujejo in močno vzpodbujajo razvoj, delo, akcijo, napredek, znanost.
Treba riskirat, sure. Ampak zato pa pravim...nobenega dokaza nimamo, da je razvoj, kot ga v tem kontekstu jemljemo, prava stvar.
Jutri lahko nekdo kreira smrtonosni virus, ki eksterminira človeštvo. 10.000 let nazaj si lahko bil prepričan, da ne bo nihče kreiral tak smrtonosni virus. Jasno, bile so druge tegobe, ampak razvoj nas zagotovo ni tako ogrožal.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
ampak saj velik riziko je tudi to, če si neveden, potem pa trešči asteroid na zemljo in človeštvo izumre. če pa bomo pametni bomo tak dogodek lahko predvideli in ga nekako preživeli. vidiš, riziko ne pride samo z napredkom ampak ga je lahko več tudi, če napredka ni.
če nič ne narediš gredo stvari v negativno smer. taka je narava življenja. torej: smisel življenja je delo (napredek)
točno tko. a do sedaj pa se s folkom ni manipuliralo? čarodeji, vrači, politiki, verski vodje... čudno da so vse to preživeli.
Če se je od nekdaj manipuliralo, to še ne pomeni, da je to OK, sploh ker so orodja za manipulacijo vse bolj izpopolnjena in sofisticirana. Širjenje lažnih novic in dezinformacij ter vzpodbujanje nezaupanja med ljudmi ima negativne, velikokrat tudi tragične posledice, zato tega pač ne gre jemati z levo roko.
točno tko. a do sedaj pa se s folkom ni manipuliralo? čarodeji, vrači, politiki, verski vodje... čudno da so vse to preživeli.
Če se je od nekdaj manipuliralo, to še ne pomeni, da je to OK, sploh ker so orodja za manipulacijo vse bolj izpopolnjena in sofisticirana. Širjenje lažnih novic in dezinformacij ter vzpodbujanje nezaupanja med ljudmi ima negativne, velikokrat tudi tragične posledice, zato tega pač ne gre jemati z levo roko.
ampak saj velik riziko je tudi to, če si neveden, potem pa trešči asteroid na zemljo in človeštvo izumre. če pa bomo pametni bomo tak dogodek lahko predvideli in ga nekako preživeli. vidiš, riziko ne pride samo z napredkom ampak ga je lahko več tudi, če napredka ni.
če nič ne narediš gredo stvari v negativno smer. taka je narava življenja. torej: smisel življenja je delo (napredek)
Počasi bomo prišli do točke, ko bo antropogena nevarnost eksponentno bolj nevarna od naravne.
Sicer pa vse stvari gredo v negativno smer. Entropija, jebat ga.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Vostok, ti lahko svojim ocem cisto normalno se naprej verjames. Samo namesto da slike vzames mal z rezervo, bos isto naredil sedaj se z videi. Vse kar vidis ostalega, pa lahko zaupas svojim ocem (vkolikor hodis po svetu trezen).
točno tko. a do sedaj pa se s folkom ni manipuliralo? čarodeji, vrači, politiki, verski vodje... čudno da so vse to preživeli.
Če se je od nekdaj manipuliralo, to še ne pomeni, da je to OK, sploh ker so orodja za manipulacijo vse bolj izpopolnjena in sofisticirana. Širjenje lažnih novic in dezinformacij ter vzpodbujanje nezaupanja med ljudmi ima negativne, velikokrat tudi tragične posledice, zato tega pač ne gre jemati z levo roko.
Včasih se je širila lažna novica, da nevidni mož na nebu hoče, da pustiš domačijo in greš čez mejo pobijati druge ljudi, ki da so baje zlobni. In veliko jih je verjelo tem lažnim novicam. Bi skoraj rekel, da več kot danes.
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!
točno tko. a do sedaj pa se s folkom ni manipuliralo? čarodeji, vrači, politiki, verski vodje... čudno da so vse to preživeli.
Če se je od nekdaj manipuliralo, to še ne pomeni, da je to OK, sploh ker so orodja za manipulacijo vse bolj izpopolnjena in sofisticirana. Širjenje lažnih novic in dezinformacij ter vzpodbujanje nezaupanja med ljudmi ima negativne, velikokrat tudi tragične posledice, zato tega pač ne gre jemati z levo roko.
Včasih se je širila lažna novica, da nevidni mož na nebu hoče, da pustiš domačijo in greš čez mejo pobijati druge ljudi, ki da so baje zlobni. In veliko jih je verjelo tem lažnim novicam. Bi skoraj rekel, da več kot danes.
Napačna primerjava.
Bolj podobno je, če bi papež takrat reku, da so odpustki od danes naprej obvezni.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Če se je od nekdaj manipuliralo, to še ne pomeni, da je to OK, sploh ker so orodja za manipulacijo vse bolj izpopolnjena in sofisticirana. Širjenje lažnih novic in dezinformacij ter vzpodbujanje nezaupanja med ljudmi ima negativne, velikokrat tudi tragične posledice, zato tega pač ne gre jemati z levo roko.
Vsekakor.
Težava je v temle: dokler je z ljudmi lahko manipulirala le elita, je bil to samo "problem". O katerem se niti ni kaj dosti govorilo.
Ko pa je ta tehnologija postala dostopna vsem (in predvsem začela tudi ogrožati elito), je pa to kar naenkrat velikanski problem, ki kliče po regulaciji in ga je treba takoj rešiti.
Zakaj se tega problema ni reševalo že prej? Zakaj že prej ni bilo pozivov k regulaciji?
Zato, ker so bile te manipulacije a) usmerjene proti običajnim ljudem in b) jih je lahko izvajala samo elita.
Torej - gre se za interese elit. Zapakirane v "skrb za malega človeka".
Torej - gre se za interese elit. Zapakirane v "skrb za malega človeka".
"Dokler so samo elite letele z letali, se problema varnosti letalskih prevoznikov ni reševalo, zdaj so pa nenadoma strogi predpisi, samo zato, ker danes lahko leti vsak."
Če si tak pikolovski, lahko izbrskaš "najbolj reprezentativno lažno novico" iz tistega obdobja.
"Turki vas želijo zasužnjiti."
V resnici je tudi takrat obstajalo ogromno ljudi, ki so se imeli za Turke, pa niso nikoli šli na noben vojaški pohod.
ja, eni so sužnje pridobivali, drugi so z njimi trgovali, ostali pa od krvave ekonomije dobro živeli, zato se tudi niso prizadevali za ukinitev suženjstva
Če se je od nekdaj manipuliralo, to še ne pomeni, da je to OK, sploh ker so orodja za manipulacijo vse bolj izpopolnjena in sofisticirana. Širjenje lažnih novic in dezinformacij ter vzpodbujanje nezaupanja med ljudmi ima negativne, velikokrat tudi tragične posledice, zato tega pač ne gre jemati z levo roko.
Vsekakor.
Težava je v temle: dokler je z ljudmi lahko manipulirala le elita, je bil to samo "problem". O katerem se niti ni kaj dosti govorilo.
Ko pa je ta tehnologija postala dostopna vsem (in predvsem začela tudi ogrožati elito), je pa to kar naenkrat velikanski problem, ki kliče po regulaciji in ga je treba takoj rešiti.
Zakaj se tega problema ni reševalo že prej? Zakaj že prej ni bilo pozivov k regulaciji?
Zato, ker so bile te manipulacije a) usmerjene proti običajnim ljudem in b) jih je lahko izvajala samo elita.
Torej - gre se za interese elit. Zapakirane v "skrb za malega človeka".
Se strinjam, da se politiki niso kaj prida brigali za zlorabe in potencialne nevarnosti interneta dokler niso ugotovili, da lahko škodijo tudi njim, ampak to še ne pomeni, da tudi "mali človek" ne bi imel koristi od večje regulacije. Še vedno raje živim v državi, kjer ima samo peščica na voljo sredstva za manipulacijo kakor pa vsak kekec, ki ima 5 minut časa in mu v resnici nihče nič ne more. Podobno kot raje živim v svetu, kjer ima samo nekaj držav na voljo atomsko, kemično, biološko orožje kot pa da bi ga imel vsak posameznik.
Ampak živiš v utopiji. Povej mi, kako bi regulirala posedovanje te tehnologije? Ker če to tehnologij nekdo poseduje, jo bo lahko tudi uporabil. Bi prepovedala računalnike? Bi prepovedala matematične algoritme? Bi prepovedala konkreten software (v osnovi sicer Tensorflow, ki je namenjen splošnemu AI-ju in je Deepfake samo njegov poseben primer uporabe)?
Ja, to je ta tipičen attitude. Najprej, lako čemo, vrat na nos v stvari za katere se že v naprej ve, da bodo problemi z njimi, potem pa... nismo vedeli, nič se ne da, nič ne moremo... in tako 100 puta.
Zakaj se res vsaka tehnična tema sprevrže v nabijanje o pravičnosti, človeštvu, polemiziranju dojemanja sveta, kritiziranju vsega, levih, desnih in ne vem še čem... bi lahko enkrat tekla tehnična debata o tehniki. Kaj vse je potrebno da to deluje, kakšne algoritme so uporabili, tehnike,... meni osebno je fascinantno, kako je Ian "izumil" GAN...
ja, eni so sužnje pridobivali, drugi so z njimi trgovali, ostali pa od krvave ekonomije dobro živeli, zato se tudi niso prizadevali za ukinitev suženjstva
To drži. Vi se še kar naprej vozite z osebnimi avtomobili, čeprav je danes že kristalno jasno, da zaradi tega vsi prekomerno trpimo - vse od naše prababice, ki je nesrečna, ker nimam bolj rdečega audija od soseda, pa do tistih več sto na leto, ki predčasno umrejo zaradi bolezni dihal, ker je Slovenija tako zabasana s stroji, ki v prebivališča ljudi oddajajo rakotvorne in strupene snovi.
Zakaj se res vsaka tehnična tema sprevrže v nabijanje o pravičnosti, človeštvu, polemiziranju dojemanja sveta, kritiziranju vsega, levih, desnih in ne vem še čem... bi lahko enkrat tekla tehnična debata o tehniki. Kaj vse je potrebno da to deluje, kakšne algoritme so uporabili, tehnike,... meni osebno je fascinantno, kako je Ian "izumil" GAN...
Ker se je znaten del družbenega dogajanja preselil na računalnike, povezane v Internet.
