Tudi Gemini pomotoma napadal resnične sisteme

Zdi se, kot da bi razvijalci različnih modelov umetne inteligence kar tekmovali v razkritjih, kam vse so njihovi modeli vdrli pomotoma. Seznamu se je pridružil tudi Google, čigar Gemini naj bi maja pridobil dostop do sistemov treh podjetij, ne da bi mu to izrecno naročil. Incident so razkrili šele ta teden.

Google pojasnjuje, da je šlo za klasično testiranje zmogljivosti modelov z nalogo CTF (capture the flag). Test je zanj izvajalo izraelsko podjetje Irregular, agenti pa nikoli ne bi smeli imeti dostopa do interneta. Zaradi napačnih nastavitev so imeli dostop do interneta. Agenti torej niso sami ugotovili, kako bi se izognili omejitvam oziroma peskovniku, temveč so tak dostop dobili. Nato so poizkusili dostopiti do treh sistemov. V enem primeru je model napadel podjetje, ki je imelo enako ime kot izmišljeno podjetje v testu.

V vseh treh primerih je šlo za precej enostavne načine napada. V enem primeru so agenti ugibali geslo, dokler ga niso odkrili, v drugih primerih pa je na spletu našel javno objavljene prijavne podatke. Ko je Gemini ugotovil, da gre za napad na resnična podjetja, je akcijo ustavil. Google trdi, da ne gre za vdor ali resen incident, temveč le za napačno konfiguracijo modelov, zato dogodka ni razkril javno. Preiskovalni organi in podjetja so te informacije dobili julija.