Slo-Tech - Zdi se, kot da bi razvijalci različnih modelov umetne inteligence kar tekmovali v razkritjih, kam vse so njihovi modeli vdrli pomotoma. Seznamu se je pridružil tudi Google, čigar Gemini naj bi maja pridobil dostop do sistemov treh podjetij, ne da bi mu to izrecno naročil. Incident so razkrili šele ta teden.
Google pojasnjuje, da je šlo za klasično testiranje zmogljivosti modelov z nalogo CTF (capture the flag). Test je zanj izvajalo izraelsko podjetje Irregular, agenti pa nikoli ne bi smeli imeti dostopa do interneta. Zaradi napačnih nastavitev so imeli dostop do interneta. Agenti torej niso sami ugotovili, kako bi se izognili omejitvam oziroma peskovniku, temveč so tak dostop dobili. Nato so poizkusili dostopiti do treh sistemov. V enem primeru je model napadel podjetje, ki je imelo enako ime kot izmišljeno podjetje v testu.
V vseh treh primerih je šlo za precej enostavne načine napada. V enem primeru so agenti ugibali geslo, dokler ga niso odkrili, v drugih primerih pa je na spletu našel javno objavljene prijavne podatke. Ko je Gemini ugotovil, da gre za napad na resnična podjetja, je akcijo ustavil. Google trdi, da ne gre za vdor ali resen incident, temveč le za napačno konfiguracijo modelov, zato dogodka ni razkril javno. Preiskovalni organi in podjetja so te informacije dobili julija.
Tukaj se sprašujem, če niso tega povzročili oz. objavili namenoma, ker trenutno Gemini caplja za konkurenco; ker vsi prav obupno tekmujejo v tem, da se jih omenja v javnosti, pa četudi negativno
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Tudi naš Huš zna v članke dodati merico sarkazma, to je lepo videti. Tokrat s šaljivo besedico "pomotoma" v naslovu.
Čisto verjamem, da je bilo pomotoma.
Sem laufal lokalni model, in je hitro pogruntal, da je v virtual machine in da bi bilo lažje, če ima direkten dostop do nekaterih naprav, in je začel brskati po mreži, delati port scan, poskušal je gesla, našel exploit za eno napravo ... tako, ... usput
Ni point v tem, ni bilo nobene panike, saj sem bil zraven, pa tudi namenoma sem pustil, da vidim. Point je, da je zelo iznajdljiv in ne bo kar rekel "ne gre", ampak bo (v "dobri veri") poskusil priti do rešitve na različne načine.
V mojem primeru je našel potencialne ranljivosti v firmware-u, ampak ker ni bil čisto siguren, je razmišljal "to bi bilo dobro preveriti .... hmm, če je firmware na voljo, potem verjetno obstaja tudi naprava ... hmm, če je naprava priključena, potem bi bilo to precej enostavno preveriti ... hmm, glede na to, da je mrežna naprava, jo lahko poskusimo poiskati na mreži ... itd"
Mreže mu sicer ponavadi nočeš izklopiti, ker je to tako, kot da mu polomiš roke in noge in rečeš "laufaj".
Internet je glavni vir informacij, znanje znotraj samega modela je omejeno, ključno je, kako se "znajde" z orodji, ki jih ima na voljo.
Zdaj vemo, da bo T-2 s seboj na morilskih pohodih nosil Talmud.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
