VentureBeat - Intel je predstavil orodje FakeCatcher, ki je po njihovih besedah prvi detektor deepfakov v realnem času, kar mu uspeva s 96-odstotno natančnostjo. Orodje, ki so ga razvili v sodelovanju s State University of New York, uporablja Intelovo programsko in strojno opremo. Deepfake prepoznava z analizo "krvnega obtoka" (blood flow) v posamezni pikslih. Prepoznava namreč posnetke ljudi, ki niso avtentični.

Ilke Demir, vodja raziskave v Intel Labs, pojasnjuje, v čem se je FakeCatcher razlikuje od dosedanjih orodij. Ta gledajo surove podatke oziroma posamezne piksle in poizkušajo zaznati neavtentičnost v njih. FakeCatcher pa uporablja metodo, ki se imenuje imenuje PPG (fotopletismografija). Metoda meri, koliko svetlobe se odbija ali pronica skozi vene, po katerih teče kri. Na podoben način pametne zapestnice merijo srčni utrip, FakeCatcher pa bo tako preverjal, ali je oseba na posnetku živa. S prostim očesom se tega ne vidi, s strojem pač. FakeCatcher preveri signale na 32 mestih na obrazu...

CNet - Po spletu je zaokrožil prvi algoritemsko obdelan manipulativni video posnetek - popularno imenovani deepfake - ki ima namen širjenja dezinformacij okoli aktualnega spopada v Ukrajini.

Z "deepfaki" nazivamo medijske vsebine, torej slike, video in zvočne posnetke, ki so bili obdelani s strojno učenimi algoritmi na način, da uporabnika zavajajo, oziroma prikazujejo izmišljeno vsebino. Vse od rojstva se daleč najbolj uporabljajo za umetne pornografske video posnetke, kar predstavlja problem predvsem za ženske, katerih obrazi se zlorabijo za njihov nastanek. Toda varnostni strokovnjaki in politični analitiki se bolj bojijo potenciala deepfakov v dezinformacijskih kampanjah, kjer bi na ta način denimo proizvedli posnetek vidne politične osebe z lažnim sporočilom. Vrsto takšnih študijskih projektov smo že videli, medtem ko se v praksi strahovi doslej še niso uresničili, saj bistvenih incidentov v tej smeri še ni bilo. Bržkone tudi zato, ker je takšne posnetke še razmeroma lahko...

Slo-Tech - Odkar je pred nekaj leti tehnologija deepfake, ki omogoča vstavljanje obrazov v videoposnetke, napredovala dovolj, da je primerna za slehernika, se je zgolj potrdilo pravilo 34. Resda obstajajo aplikacije, ki nas vstavijo v znamenite prizore iz slavnih filmov - tak primer je na primer Zao - a po ocenah Sensity AI se v 90-95 odstotkih primerov deepfake uporablja za izdelavo nesporazumnih pornografskih posnetkov. Z drugimi besedami, obraz žrtve z večjo ali manjšo natančnostjo in prepričljivostjo vstavijo v pornografske videe. Posledice so lahko zelo resne.

Tehnologija je napredovala do stopnje, ko je postala uporaba podobno preprosta kot pri pralnem stroju. Kot piše MIT Technology Review, so pred kratkim odkrili spletno storitev, ki deluje na klik. Zadostuje, da naložimo fotografijo poljubne osebe, pa storitev sama izvede vse potrebno in osebo prepričljivo umesti v predpripravljene pornografske posnetke. Storitev, katere imena ne razkrivajo, ima za zdaj še zelo malo uporabnikov, a...

Slo-Tech - Prav možno je, da ste med brskanjem po spletu naleteli na fotografijo in zapis človeka, ki ne obstaja. Morda je šlo zgolj za neškodljiv obraz v reklami, morda je lažen profil z na videz verodostojno fotografijo priporočal nek izdelek ali na širil politično agendo. Umetna inteligenca oziroma algoritmi so napredovali do te mere, da je potreba po človeških fotomodelih odpadla. Ne glede na želje - starost, polt, spol, počutje - je možno izdelati ustrezno fotografijo. Umetno. Človeka, ki ne obstaja. Človeka, ki ga ni.

The New York Times je pripravil izjemno reportažo, kjer si je možno tudi v praksi pogledati, kako so videti te animacije. Rezultati se potem pojavljajo marsikod: od vohunskih iger do širjenja politične propagande in spletnega ustrahovanja.

Te prepričljive fotografije je možno ustvariti z nevronskimi mrežami GAN (generative adversarial network), ki so v zadnjih letih doživele velikanski razvoj. Še leta 2014 so bili posnetki katastrofalni, bolj podobni animacijam v igri...

Technology Review - Pravilo 34, ki velja za internet, velja tudi za umetno inteligenco. Že lani smo poročali o aplikaciji DeepNude, ki je uporabnikom proti plačilu 50 dolarjev digitalno retuširala fotografije tako, da je ženskam na njih (na moške ni delovala) odstranila oblačila. Aplikacija je po zgražanju, ki ga je povzročila, kmalu izginila, ne pa tudi ideja. Sensity AI v poročilu ugotavlja, da je manj kot mesec dni pozneje na Telegramu vzniknila skupina, ki omogoča povsem enako. Gre za sedem skupin na Telegramu, kjer je glavna namenjena slačenju žensk na posnetkih, preostale pa služijo kot različne tehnične podpore in za deljenje posnetkov.

Sistem deluje enostavno. Uporabnik v skupino pošlje fotografijo, na kateri je ženska, algoritem oziroma bot pa mu odgovori s fotografijo, na kateri so odstranjena oblačila. Čim bolj je posnetek, tem boljši so rezultati. V skupini je 100.000 uporabnikov (nekateri se podvajajo, a vsaj 45.000 je unikatnih), ki so do julija slekli že vsaj 100.000 žensk na...

Slo-Tech -
Tehnologija globokih prevar ali deepfakes spodkopava zaupanje med ljudmi ter institucijami. Izjave politikov, direktorjev podjetij in drugih javnih osebnosti imajo posledice za naša življenja, saj vplivajo na javno mnenje, geopolitiko in nenazadnje na delovanje pravne države. Napad na aktiviste z uporabo deepfakes je le en izmed zadnjih primerov, kako se lahko nova tehnologija zlorabi.

Ali deepfakes res predstavljajo veliko grožnjo demokraciji, bo v soboto, 22. avgusta, v Ljubljani predaval dr. Mark Coeckelbergh, profesor filozofije medijev in tehnologije na Univerzi na Dunaju, ki je bil tudi član strokovne skupine na visoki ravni za umetno inteligenco Evropske komisije. Predavanje, ki bo potekalo ob 18:30 pred Švicarijo v Parku Tivoli, bo v pogovoru s Coeckelbergh sklenila Nika Mahnič, raziskovalka etike in politike podatkov.

Program konference boste lahko spremljali tudi prek livestreama.

Slo-Tech - Čeprav je tehnologija deepfake že precej napredovala od svojih začetkov pred tremi leti, je za uporabo v filmih še vedno preslaba. Nekajsekundni kadri, kot denimo pokojne Carrie Fisher v Vojni zvezd, stane milijone in terjajo mesece dni dela. A v prihodnosti se kani to spremeniti, saj postaja deepfake čedalje boljši. Disney je pokazal, da je z njihovim algoritmom možno izdelati že zelo prepričljive posnetke v ločljivosti 1024 x 1024. To seveda še vedno ni dovolj za filmsko produkcijo, je pa bliže od 256 x 256.

Algoritem so razvili skupaj z raziskovalci z ETH Zürich. Uporaba je preprosta, saj potrebujemo le dobro osvetljena posnetka dveh oseb, pa bo algoritem v prvi posnetek vstavil obraz druge. Pomaga, če sta osebi posneti v podobnem kadru, torej da obe gledata v kamero. Rezultati so že precej impresivni. Temeljit pregled seveda hitro pokaže, da gre za manipulacijo, a to niti ni namen. Posamezne posnetke lahko pridobimo iz videoposnetka in jih potem zložimo tudi nazaj, rezultat pa...

Slo-Tech - Facebook je objavil rezultate tekmovanja, na katerem je 2114 udeležencev sodelovalo s več kot 35.000 algoritmi za prepoznavanje t. i. deep fake posnetkov. Pomerili so se v prepoznavanju več kot 100.000 kratkih videov, za katere so pri Faceboooku najeli okoli 3500 igralcev, nekatere od teh posnetkov pa so s pomočjo umetne inteligence in tehnologije deep fakes na različne načine spremenili.

Pa rezultati? Tekmovalci so del videov prejeli vnaprej, da bi lahko svoje algoritme preizkusili, v tem primeru je bila natančnost najboljšega modela 82,56 odstotna. Ko pa so se pomerili zares, torej pri prepoznavanju popolnoma neznanih posnetkov, pa je uspešnost zmagovalnega algoritma, prispeval ga je Selim Seferbekov, znašala precej povprečnih 65,18 odstotka. Kar pomeni, da je samodejno prepoznavanje tovrstnih ponaredkov v veliki meri še nerešen problem.

Zmagovalni algoritem bo Facebook javno objavil kot odprto kodo, v pomoč preostalim razvijalcem, ob tem pa v podjetju razvijajo tudi svoj...

Slo-Tech - Programska oprema, za spremljanje okuženih s COVID-19, ki jo bosta sredi maja skupaj izdala Google in Apple, za nekatere države ponuja preveč zasebnosti. Aplikacija naj bi delovala tako, da bi svojo okužbo posameznik v njej prostovoljno označil, sistem pa bi nato prek vmesnika Bluetooth spremljal vse naprave, ki so se znašle v bližini, podatek pa šifriran posredoval Googlu in Applu. Ko bo okužbo posameznika potrdil še zdravstveni organ, bo sistem vsem, ki so se znašli v bližini okuženega, razposlal ustrezna opozorila. Sama programska oprema je zastavljena tako, da bodo vsi podatki anonimizirani, baza srečanj z drugimi napravami pa bo decentralizirana, shranjena na napravah samih.

Francija je zdaj prva javno pozvala obe podjetji, naj njihovim zdravstvenim organom omogočita dostop do več podrobnosti o posamezniku. Kot je v intervjuju za Bloomberg povedal francoski minister za digitalno družbo, Cédric O, želijo, da podjetji sprostita tehnološke prepreke in državam dovolita, da...

Nature - Ameriški raziskovalci so z izvirno rabo strojnega učenja našli spojine z antimikrobnimi učinki, ki uničujejo tudi nekatere najbolj trdovratno odporne bakterije, a so hkrati drugačne od vseh doslej znanih oblik antibiotikov. Gre za pomemben preboj v izkoriščanju algoritmov za iskanje novih zdravil.

Rastoča odpornost bakterij na antibiotike je ena največjih nevarnosti za človekovo zdravje. Trenutno poberejo okoli 700.000 življenj letno po svetu, vse več od njih v razvitih državah; do leta 2050 bi lahko številka dosegla milijon žrtev letno, pravi WHO. Eden od problemov v tem oziru so skokovito rastoči stroški razvoja novih zdravil zanje, kar je v mnogočem posledica dejstva, da smo že bolj ali manj izčrpali klasične metode iskanja antibiotikov, zaradi česar se farmacevtski koncerni neradi lotevajo tovrstnih raziskav. Hkrati je družba nezmožna sprejeti ukrepe, ki bi bi bili potrebni za upočasnitev širjenja rezistence, kot je drastična omejitev predpisovanja zdravil ali rabe...

Slo-Tech - Zavod 14 organizira 21. novembra v ljubljanskem Poligonu mednarodno delavnico in okroglo mizo "Soobstoj z umetno inteligenco: vizija Družbe 5.0". Z uglednimi strokovnjaki, govorci in zainteresiranim občinstvom bodo tokrat iskali konkretne rešitve o prihodnosti razvoja algoritmov, umetne inteligence, kibernetike, kognitivnih sistemov in kibernetske varnosti, tudi iz socialno-etičnega vidika, nagovorili kakšna bi morala biti vloga EU na področju umetne inteligence z namenom, da bi dosegli cilj največ koristi za oblikovalce politike, gospodarstvo EU, državljane in družbo na splošno.



Program omizja
17.00 – 17.10 Pozdravni nagovor
dr. Aleksander Aristovnik | Direktor, Zavod 14
Goran Neralić | Član upravnega odbora ELF
Zdravko Počivalšek | Minister za gospodarski razvoj in tehnologijo
17.10 – 17.30 Predstavitev sklepov delavnice na temo sobivanja z umetno inteligenco
dr. Aljaž Košmerlj | IJS |strokovnjak na področju umetne inteligence
17:30 – 19:30 Panel: Sobivanje z umetno...

Slo-Tech - Ta teden je splet obnorela aplikacija FaceApp, ki računalniško postara obraz na fotografiji in z uporabo umetne inteligence prikaže zelo realistično podobo. V resnici aplikacija ni nova, saj je prva verzija izšla že januarja 2017. Aplikacija ponuja različne možnosti manipulacije fotografij, od pomlajevanja, spreminjanja spola, dodajanja nasmeška, brade, spreminjanja pričeske, do - staranja, ki je pritegnilo največ pozornosti. Toda za obilico prahu je poskrbelo odkritje, da je aplikacija iz pod prstov ruskega avtorja in da ob namestitvi zahteva dovoljenje za dostop do vseh fotografij na telefonu.

Aplikacijo razvija Wireless Lab, v katerem je vodja Yaroslav Goncharov. Ta se je na navedbe, da naj bi aplikacija kradla in v...

Slo-Tech - Sredi tedna se je na internetu znašla aplikacija DeepNude, ki je obljubljala točno to, na kar namiguje njeno ime. Aplikacija je iz čim več fotografij oblečene osebe ženskega spola z algoritmi izdelala posnetek, kako je verjetno videti ta oseba brez oblek. Pričakovano je aplikacija dvignila precej prahu in polemik, ali je takšna uporaba sploh zakonita. Odgovor na tako vprašanje ni tako premočrten, kot bi na prvi pogled sklepali. Ni namreč vedno res, da so dovoljene vse vsebine, ki ne posegajo v zasebnost drugih in ne vplivajo nanje. Ekstremen primer je na primer otroška pornografija, kjer so prepovedane tudi realistične podobe, četudi bi šlo v celoti za izmišljene, izrisane like. A vrnimo se k aplikaciji DeepNude (ki sedaj ni več dostopna).

Ta deluje le na...

Slo-Tech - Raziskovalci z univerz Stanford in Princeton, z Inštituta Max Planck in iz podjetja Adobe Research so razvili nov algoritem, ki omogoča še lažjo manipulacijo videoposnetkov ljudi. Lani smo se prvikrat resno zavedli moči algoritmov za deepfake, s katerimi je možno obraz človeka (ali kar celega človeka) na posnetku zamenjati z nekom drugim. Umetna inteligenca in nevronske mreže pa brez predaha napredujejo, zato je sedaj možno še več. V novem algoritmu lahko enostavno kakor v urejevalniku besedil zamenjamo besede, ki jih človek na posnetku izgovarja.

Za trening algoritma potrebujemo posnetek, ki je dolg vsaj 40 minut, in prepis govorjenega besedila. Iz tega se algoritem nauči, kako se spreminja obrazna mimika človeka pri izgovoru posameznega fonema. Ko to imamo, lahko enostavno...

Slo-Tech - V začetku leta je na internetu završalo, ko se je pojavilo orodje za preprosto izdelavo video fotomontaž (deepfake), ki je izrabljalo računsko moč grafičnih procesorjev v modernih računalnikih. Internetno občestvo je novost takoj zgrabilo in po pričakovanjih je bil rezultat razmah fotomontirane pornografije. Raziskovalci s Carneige Mellon University (CMU) so sedaj predstavili nov način za izdelavo še bolj vernih fotomontaž.

V posnetku na YouTubu so pokazali, kako lahko iz Johna Oliverja naredijo Stephena Colberta, iz Martina Luthra Kinga Baracka Obamo in iz slednjega Donalda Trumpa. Mogoče so tudi abstraktnejše metamorfoze, denimo iz Johna Oliverja v žabca ali med dvema vrstama cvetov. Tudi ta metoda uporablja pristope umetne inteligence, da prenese "slog" ene osebe v drugo. Metodo so...

Slo-Tech - DeepMind je svojo pot začel kot izvrsten igralec iger, a se je umetna inteligenca kmalu začela učiti tudi uporabnejših reči. Pred dvema letoma je DeepMind začel sodelovati z očesno kliniko Moorfields v Londonu, kjer je bil cilj umetno inteligenco naučiti prepoznati bolezni, ki jih lahko diagnosticiramo s fotografij oči. Številne bolezni je moč diagnosticirati s pregledom oči, na primer diabetično retinopatijo (bolezen očesne mrežnice zaradi povečane koncentracije sladkorja v krvi) ali starostno degeneracijo rumene pege. Dve leti pozneje so prvi rezultati objavljeni v Nature Medicine. Povzetek: DeepMind je boljši od ljudi.

DeepMind lahko iz posnetkov OCT prepozna več kot 50 različnih bolezni z natančnostjo 94,5 odstotka. Pearse Keane, ki je eden vodilnih avtorjev raziskave, pojasnjuje,...

Slo-Tech - Googlova enota DeepMind, ki je bila nekdaj svoje podjetje, pa jo je Google pametno kupil, je pokazala še eno sposobnost svojih nevronskih mrež. Razvili so sistem nevronskih mrež, ki sta sposobni iz le nekaj dvodimenzionalnih posnetkov izluščiti resnično prostorsko postavitev predmetov in jih potem izrisati iz poljubnega zornega kota. Težav jima ne delajo niti osvetlitev, senčenje, prekrivanje in drugi vizualni učinki.

Gre za sposobnost, ki se je ljudje priučimo izkušnjami in jo načeloma obvladamo tako dobro, da niti ne razmišljamo o njej. Če vidimo mizo pred steno, predpostavljamo, da je tudi stena, ki je zaradi mize ne vidimo, enake oblike in barve kot preostanek. Če vidimo fotografijo mize, si kar dobro predstavljamo, kako stoji v prostoru. Tudi če je na fotografiji ena noga zakrita, bomo intuitivno vedeli, kje stoji. Z malo vaje si...

Slo-Tech - V resnici je bilo le vprašanje časa in prav neverjetno je bilo, da je toliko časa trajalo. Toda pravilo 34 še vedno velja in niti nevronske mreže in strojno učenje niso izjeme. Svojo uporabo so dočakale tudi v pornografiji, posledice pa utegnejo biti - globoke.

Konec decembra so se razširili videoposnetki, ki se imenujejo deepfake. Konec je primitivnega in grotesknega lepljenja glav zvezdnic na telesa pornoigralk. Sedaj lahko poustvarjalci uporabijo fotografije z interneta, kjer jih v dobi modernih družabnih omrežij res mrgoli, in preproste odprtokodne algoritme za strojno učenje (deep learning), da obraz zvezdnic prilepijo kar v videoposnetke. Za zdaj je tovrstne posnetke še mogoče prepoznati, ker vendarle niso popolni in opazimo, da nekaj ni v najlepšem redu....

Nvidia - Navajeni smo že, da je z modernimi orodji mogoče fotografije zelo popraviti, a da lahko iz dneva naredimo noč in iz dežja sonce, je vseeno osupljivo. Nvidia je predstavila rezultate razvoja nevronskih mrež GAN (generative adversarial networks), s katerimi uspešno počne prav to. Čudež se zgodi, ko povežemo dve nevronski mreži, ki sta se izučili vsaka svoje obrti. Če se ena nevronska mreža uči prepoznavanja cest, druga pa pogleda ponoči, lahko z njuno kombinacijo fotografijo ceste podnevi spremenimo v nočno.

Ta teden je Nvidia objavila precej podroben znanstveni članek (napisan je bil že pred meseci) in na konferenci predstavile dosežke, ki so s tem dosegljivi. Možnosti so praktično