☰

» »

Google predstavil izboljšani detektor za izdelke umetne inteligence

Google predstavil izboljšani detektor za izdelke umetne inteligence

Slo-Tech - Google je predstavil novo verzijo detektorja za prepoznavanje izdelkov umetne inteligence, ki išče skrivne vzorce SynthID. Te vodne žige v vsebine, ki so nastale z umetno inteligenco, vstavijo Gemini in nekateri drugi modeli. Človeškemu očesu niso vidni, kakovosti vsebine ne spremenijo opazno, a za seboj pustijo jasno sled.

SynthID se na primer vkodira v slike, videoposnetke in glasbo, ki jo ustvari Gemini. Google pravi, da je doslej s SynthID opremil že 180 milijard slik in za 240.000 ur avdio posnetkov. Doslej je bil edini način za prepoznavanje teh vsebin vprašati Gemini. Odslej se lahko obrnemo na SynthID, kamor naložimo vsebino in preverimo, ali nosi podpis. Njegova glavna pomanjkljivost je omejenost na Geminijev SynthID, tako da ne prepozna izdelkov OpenAI. Za zdaj.

V pripravi je nova verzija, ki bo podpirala tudi druge modele, denimo podjetij OpenAI, Nvidia, Kakao in Apple. Še vedno pa pomembne omejitve ostajajo, saj orodja prepoznavajo le vsebine, ki vsebujejo namerni podpis umetne inteligence. V svetu obstajajo tudi siva orodja, ki tega ne počnejo. Morda bomo v prihodnosti počeli obratno in podpisovali avtentične vsebine.

5 komentarjev

FastWIND ::

Ali prepozna tudi če narediš z AI fotko , posentek zaslona ? :)

stegy ::

Čakam na youtube možnost filtriranja / odstranitev AI generated videov - postalo je nevzdržno.

karafeka ::

Že na tem forumu je postalo nevzdržno.

Črni DILDO ::

FastWIND je izjavil:

Ali prepozna tudi če narediš z AI fotko , posentek zaslona ? :)


SynthID in podobni napredni sistemi ne iščejo le vidnih napak v sliki (kot so čudna prsti ali neumnosti v ozadju), temveč v samo sliko vstavijo nevidne vodne znamke na ravni pikslov. Te vodne znamke so zasnovane tako, da so odporne na določene spremembe, kot so stiskanje, filmsko urejanje ali sprememba barv.

Vendar pa zaslonski posnetek spremeni način, kako so podatki zapisani v datoteki. Pri tem se zgodi naslednje:

1.Izguba metapodatkov: Zaslonski posnetek ustvari popolnoma novo datoteko. Vse prvotne informacije (EXIF podatki), ki bi lahko jasno povedale, da je sliko ustvaril AI, so izbrisane.
2.Sprememba razločljivosti in kompresije: Ko narediš screenshot, slika pogosto dobi novo razločljivost in se ponovno komprimirajo piksli. To lahko "razbije" nevidno vodno znamko, ki je vgradil SynthID, saj se matematični vzorec, ki ga algoritem išče, spremeni.

Kljub temu obstajajo druge metode zaznavanja:

1.Analiza artefaktov: AI modeli puščajo specifične "digitalne odtise" v strukturi šuma slike, ki jih lahko zaznajo napredni detektori, ne glede na to, ali je slika screenshot ali original.
2.Vizualna analiza: Strokovnjak bo še vedno opazil AI-tipične napake v anatomiji, svetlobi ali teksturah, ki jih screenshot ne popravi.
Kratko povedano: s screenshotom lahko "prevaraš" preproste detektore in izbrišeš metapodatke, vendar vrhunski algoritmi in izkušeni strokovnjaki še vedno lahko ugotovijo, da je slika ustvarjena z AI.

Zgodovina sprememb…

LeQuack ::

Hvala, AI, za ta komentar.
Quack !