Velikani obljubili vodne žige v izdelkih umetne inteligence

Ameriški velikani, ki razvijajo umetno inteligenco - OpenAI, Microsoft, Google, Meta, Amazon, Anthropic in Inflection - so se prostovoljno zavezali, da bodo razvili tehnologijo za označevanje izdelkov generativne umetne inteligence z vodnimi žigi. Na ta način naj bi poskrbeli, da bo pri deljenju besedil, fotografij, videoposnetkov in ostalih vsebin možno prepoznati, da niso avtentične. Tehnične podrobnosti o sistemu še niso znane.

Spomnimo, da je letos veliko prahu dvignila podoba papeža Frančiščka v beli puhovki, ki je bila ustvarjena z Midjourneyjem. Podobna je bila usoda fotografije prejšnjega ameriškega predsednika, na kateri je bila upodobljena njegova aretacija. To so bili sorazmerno neškodljivi poizkusi, a generativna umetna inteligenca se lahko uporablja tudi pri ponarejanju glasu ali videoposnetkov, s čimer je možno izvajati prevare ali izsiljevati.

OpenAI so zapisali, da bodo na voljo orodja ali API-ji, s katerimi bo možno enostavno ugotoviti, ali neka vsebina izvira iz njihovih izdelkov. Vodno žigosanje bo privzeto vključeno, razen v redkih primerih, denimo pri glasu pomočnikov (npr. Siri). Google na primer pravi, da bo v vsebine vključil metapodatke, ki bodo imeli enak namen. Poleg vodnih žigov so se podjetja zavezala še k drugim ukrepom, denimo notranjemu in zunanjemu testiranju storitev pred javno objavo, investicijam v kibervarnost in deljenju informacij. Microsoft piše, da se obeta tudi nacionalni register visokotveganih sistemov AI.

Dogovor so sklenili pod patronatom Bele hiše.