Slo-Tech - Ameriški velikani, ki razvijajo umetno inteligenco - OpenAI, Microsoft, Google, Meta, Amazon, Anthropic in Inflection - so se prostovoljno zavezali, da bodo razvili tehnologijo za označevanje izdelkov generativne umetne inteligence z vodnimi žigi. Na ta način naj bi poskrbeli, da bo pri deljenju besedil, fotografij, videoposnetkov in ostalih vsebin možno prepoznati, da niso avtentične. Tehnične podrobnosti o sistemu še niso znane.
Spomnimo, da je letos veliko prahu dvignila podoba papeža Frančiščka v beli puhovki, ki je bila ustvarjena z Midjourneyjem. Podobna je bila usoda fotografije prejšnjega ameriškega predsednika, na kateri je bila upodobljena njegova aretacija. To so bili sorazmerno neškodljivi poizkusi, a generativna umetna inteligenca se lahko uporablja tudi pri ponarejanju glasu ali videoposnetkov, s čimer je možno izvajati prevare ali izsiljevati.
OpenAI so zapisali, da bodo na voljo orodja ali API-ji, s katerimi bo možno enostavno ugotoviti, ali neka vsebina izvira iz njihovih izdelkov. Vodno žigosanje bo privzeto vključeno, razen v redkih primerih, denimo pri glasu pomočnikov (npr. Siri). Google na primer pravi, da bo v vsebine vključil metapodatke, ki bodo imeli enak namen. Poleg vodnih žigov so se podjetja zavezala še k drugim ukrepom, denimo notranjemu in zunanjemu testiranju storitev pred javno objavo, investicijam v kibervarnost in deljenju informacij. Microsoft piše, da se obeta tudi nacionalni register visokotveganih sistemov AI.
Točno tako. To je dvorezni meč. Enostavno bo "zaupanja vredna" korporacija namenoma ali po pomoti watermarkala fake informacijo, in to bo smatrano kot resnica.
Kot sem že govoril. Zaradi AI bo poterbno spet iti na bolj človeški nivo, kot v davnih časih, ker kar bo na netu ne bo zaupanja vredno.
Po eni strani sem skoraj vesel. Generativni AI bo uničil internet. Kot nek gray goo, ga zapolnil samo z balastom. Samo še portali večjih entitet, ki bodo imeli visoko kurirano vsebino bodo berljivi. Pa še tam bo zgolj kurirana AI vsebina.
Fran Milčinski: Laž in njen ženin Zgodilo se je, Laž se je neki večer preobjedla, ponoči ni mogla spati, pa je premišljevala, kako grdo je pokvarjen svet, da ji že noče več vsega verjeti odkraja; premišljevala je in je prišla slednjič do tega konca in sklepa, da se bo omožila. Omožena ženska - tako je modrovala - ima vendarle več veljave pri ljudeh kakor samica. Laž se je torej ozirala po ženinu. In res, iztaknila je moža, ta ji je bil posebno všeč, ker je imel lasuljo, umetne zobe in lepo kratke noge kakor ona. Ime mu je bilo Prilažič in hitro sta bila bot, da mu je najprej prestati izkušnjo, potem pa bodi poroka. Laž gre in stopi v krčmo, tam so sedeli kmetje pri polnem bokalu in so tarnali o slabih časih. Laž sede za mizo, naroči si vina in kruha pa jo vprašajo kmetje: "Mati, od daleč prihajate, kaj je novega po svetu?" Laž odgovori: "Kaj bo novega? Nič posebnega! Le kokoš sem videla čuda veliko, z eno nogo je stala pod Grintovci, z drugo nogo pod Gorjanci in je pila vodo iz Save." Kmetje so zabučali v smeh in kričali vprek: "To je laž, kosmata laž!" - Laž je bila jezna, pozabila je plačati in je odšla. Za njo pride, kakor sta se bila zmenila, v isto krčmo Prilažič. Pil je svojo merico pa še njega vprašajo po novicah. "Drugega ne vem," je rekel: "jajce sem videl, bilo je tako veliko kakor hiša, devet kovačev ga je z dleti odpiralo, v vsej deželi ga bo dosti za cvrtje." Kmetje staknejo glave vkupa in reko: "Nemara je to jajce zlegla ona kokoš, ki je o nji pravila ženska." In vprašali so Prilažiča, ali ni videl tudi kokoši, ki je zlegla to jajce. Prilažič je odgovoril, da ne, - kmetje pa so modro pokimali z glavo in mu povedali: "Kokoš, ki je zlegla to jajce, je čuda velika; z eno nogo stoji pod Grintavci, z drugo pod Gorjanci in pije vodo iz Save." Pa so vse verjeli. Pride Laž na svoji poti v drugo krčmo. Tudi tu se zgodi, da jo vprašajo po novicah. "Kaj bo novega," je odgovorila, "nič posebnega! Zelnato glavo sem videla, tako je bila velika, da so tesači po lestvi plezali nanjo." "Lažeš," so rekli kmetje, "tako debelih laži ne bomo poslušali; glej, da se nam izgubiš izpred oči!" Laž se je užaljena dvignila in je odšla. Od gole jeze je še maseljc s seboj odnesla in kozarec. Kmalu za njo pride v krčmo Prilažič. Tudi njega pobarajo, kaj je novega. Prilažič malo pomisli in pove: "Pero sem videl, možje, bogve katerega zelišča je bilo! To pero je bilo tako veliko, da je pet vozov stalo pod njim." Kmetje se spogledajo in eden reče: "Bilo je zelnato pero." "Ne vem," odgovori Prilažič, "za zelnato bi bilo nemara preveliko!" "Zelnato je bilo, zelnato," silijo kmetje, "mi to dobro vemo, nič novega nam nisi povedal, o tem zelju smo že čuli!" Prilažič je prosil zamere, da jim ni mogel z boljšo novico postreči, in se je poslovil. Kmetje pa so vse verjeli. Lažje prišla še v tretjo krčmo. Tudi tukaj hoté vedeti, kaj je kaj novega po božjem svetu, in Laž jim pove, da je videla goreti morje; sto oralov ga je zgorelo noter do tal. - Ti kmetje pa so bili vroče krvi in kar koj so se razvneli. "Kaj, s takimi lažmi bi nas imela za norce?" so rekli. "Počakaj no, mi ti pokažemo!" in prijela sta jo dva pod pazduho, tretji je pomagal z nogo in že je frčala uboga Laž čez prag na cesto. Kmetje se niso še pomirili, pa pride mednje Prilažič. Vljudno jim vošči dober dan, sede, potem jih pa vpraša, kaj jih je tako razburilo. Kmetje mu hite povedati, kako jim je zanikrna ženščina hotela natvesti goreče morje, pa so ji koj pokazali, po čem so laži. Prilažič jim pritrdi in jih pohvali, trčili so s kozarci in pili in potem jim je povedal, kaj je srečal na cesti: dolgo, dolgo vrsto težkih pariških voz, vsi so bili visoko obloženi s pečenimi ribami; kaj menijo, od kod so bile ribe? Kmetje so pomislili in nazadnje uganili: "Nemara je pa ženska le govorila resnico, da je gorelo morje." "Kako bo morje gorelo," je ugovarjal Prilažič, "ko je mokro!" A kmetje so se zopet razvnemali. "Od kod pa so bli vozovi pečenih rib, kaj, če ne iz gorečega morja?" so kričali, in ker je Prilažič le majal z glavo, so ga v svoji togoti na eno, dve vrgli na plan. - Prilažič se je ročno pobral in je hitel za Lažjo. Konec vasi ga je čakala in smejoč sta si segla v roko; izkušnja je bila prestana! In gospodična Laž in gospod Prilažič sta se poročila, živela sta srčeno in ugledno in sta imela mnogo, mnogo, mnogo otrok. -
Google is reportedly testing an AI writing tool capable of generating news articles, and has even started approaching a handful of new outlets to pitch a sales idea. Citing internal sources, The New York Times -- which was also solicited by Google -- reports that the tool is codenamed "Genesis." Instead of pushing it as a replacement for actual news writers, Google is selling Genesis as some kind of personal assistant for journalists that will automate the process of information gathering for them to free up time for other chores.
At the same time, Google is aware of the risks and wants to clear the air, too. "These tools are not intended to, and cannot, replace the essential role journalists have in reporting, creating and fact-checking their articles," Google spokesperson Jenn Crider was quoted as saying. She indicated that Genesis could assist with tasks like brainstorming headline ideas and writing styles.
... nato pa dobimo MMC RTV poln vodnih žigov navzkrižnega preverjanja dejstev različnih AI novinarskih botov.
At the same time, Google is aware of the risks and wants to clear the air, too. "These tools are not intended to, and cannot, replace the essential role journalists have in reporting, creating and fact-checking their articles," Google spokesperson Jenn Crider was quoted as saying. She indicated that Genesis could assist with tasks like brainstorming headline ideas and writing styles.
V nekem googlovem paralelnem vesolju, skreganom z zakoni realnosti, mogoče.
Dejansko pa se bo v tem vesolju zgodilo nekaj drugega: odpustili bojo kupe novinarjev in jih nadomestili s cenejšimi "študenti", ki bojo članke "pisali" izključno na outputu AIja.
Enako kot je Delo, z razmahom interneta, večino novinarjev zamenjal s polpismenimi študenti, ki večinoma prirejajo besedila.
Men tut ni jasno kako naj bi to delovalo? steganografija? pri slikah bi mejbi šlo pa videih (dokler kdo ne razvije orodja za odstranjevanje žiga) ampak pri tekstu pa pomoje malo težje...
Take that, dirty Linux hippies! Take that, Thieving Macintosh Republicans! XD
Če ti čez sliko na veliko piše "to je fejk," res ne rabiš razmišljat. Govorimo o slikah (oz. izdelkih), ki na prvi, drugi, tretji pogled niso jasen fejk.
Dejansko velikani to rabijo tudi zaradi učenja novejših modelov. Ena raziskava je pokazala, da če se bodo modeli učili na izdelkih starejših modelov, potem stvar zelo hitro nazaduje. To pomeni, da je zelo zaželeno, da vsebina, ki je bila narejena z AIjem preprosto ne pride v zbirko podatkov za učenje.
Men tut ni jasno kako naj bi to delovalo? steganografija? pri slikah bi mejbi šlo pa videih (dokler kdo ne razvije orodja za odstranjevanje žiga) ampak pri tekstu pa pomoje malo težje...
Papirnati denar ima vodni žig pa si ga lahko brez problema skopiraš. Z uporabo le-takega v trgovini si lahko pridobiš storitev izven okvirja delovanja le-te.
Jaz bolj vidim tak “vodni žig”, kot prihvatizacijo in zaščito “intelektualne lastnine” proizvoda AI novinarskega bota s strani njegovega lastnika na eni in preložitev odgovornosti v primeru napake na uporabnika bota na drugi strani.
Npr.: Pod člankom na MMC RTV zapis, s pomočjo tega in tega bota sestavil in preveril dejstva ta in ta “študent”. Multimedija v članku ustvarjena z botom vsebuje seveda “vodni žig”, sam članek (besedilo) pa ne. Original sestavek bota je seveda v formatu z “vodnim žigom” v ozadju. Študentske diplome enako. Brez podanega vira (AI bota) postanejo dokazljiv plagiat (nekje na googlovih serverjih obstaja dokazljiv original). Plačilo “intelektualne lastnine” AI bota ...
Fino bi bilo tudi, da bi kak YT v prihodnje filtriral z AI ustvarjene vsebine, oz. jih naredil opcijske ali pa shadowbannal. Zaslužkarji bi znali zaspamat sceno s clickbait videi.
Fino bi bilo tudi, da bi kak YT v prihodnje filtriral z AI ustvarjene vsebine, oz. jih naredil opcijske ali pa shadowbannal. Zaslužkarji bi znali zaspamat sceno s clickbait videi.
Pomembno je, da Google vidiš kot to kar so: oglaševalsko podjetje.
Potem hitro razumeš, da mu gladko dol visi za clickbaite in jih zanima samo to, da ti lahko pokažejo čimveč oglasov.
Ne vem, Google se boji tudi nastanka alternativ in upada ogledov. Tudi tisti z naročnino bodo neradi plačevali za poplave AI shieta. Kvaliteta AI vsebin je lahko zelo velika, ampak je za take zadeve lahko potrebno precej truda. Po drugi strani pa se kuhajo tudi regulativne zakonodaje...
Zato pa je profiliranje in mehurčkanje posameznega uporabnika - filtriranje in sortiranje ponujenih vsebin na profil uporabnika; shieta je že sedaj preveč.
Posledica pretiranega mehurčkanja je lahko tudi neke vrste Babilon; govorimo sicer isti jezik, vendar zaradi le-tega izrazi dobivajo različen pomen.
Če narediš posnetek zaslona in kakovost malo poslabšaš, najbrž ne morejo več ugotoviti ničesar.
Audio algoritme za copyright tudi prelisičijo tako, da za kak % spremenijo hitrost predvajanja. Filtri ne zaznajo skladbe in gre skozi.
Zadeva bo delovala tako:
Ti boš lahko odstranil watermark iz slike z kako modifikacijo. Kompresijo itd. Ampak to pol ne bo več isti fajl z istim "hashom".
Če računalnik ne bo našel digitalnega podpisa, bo enostavno javil, da "no trusted digital signature found. Picture could be fake".
Sedaj, če boš ti zmanjšal sliko, boš pač popačil hash, ampak nekje na netu bo floatala kopija, ki se jo bo lahko vizualno primerjalo in določilo, če je tvoja modifikacija benigna iz vidika konteksta. To govorim za recimo kake sodne postopke pa tko.
Tako kot TPM. Ta veliki si bodo naštimali medsebojno verifikacijo. Nikonov ali Canonov "ključ" bo integriran v microsoftovo platformo, ki bo avtomatsko filtriralo vsebino. Definitivno pa je veliko resnice, kar je en uporabnik prej spisal. To je skoraj nujna zadeva za nadaljno učenje teh modelov. Ker to je edini način kako preprečit, da učenje ne povsem zabrede. Samo kot rečeno. Zadeva ima negativno povratno zanko. Bolj kot bo AI natančen, manj bodo normiji delali originale, manj bo učne vsebine. Zadeva bo asimptotsko limitirala.
Četudi ne vrjamem v te "AIje", vrjamem pa da bodo dodobra spremenili digitalno občestvo.
Če ti čez sliko na veliko piše "to je fejk," res ne rabiš razmišljat. Govorimo o slikah (oz. izdelkih), ki na prvi, drugi, tretji pogled niso jasen fejk.
Ce si vezal name. Watermar se fizicno brise in ukrade avtorstvo fotke ali videa ter ponovno prodaja pod drugim imenom. Kaj je kasneje je druga zgodba....
Bolj ali manj so bodo lastili pravice , če zgenerira kaj uporabnega bo ostalem pa izolirali od halucinacij. Hw , kateri se gre te zadeve si pa jožefi itak ne moremo privoščit
