☰

Slo-Tech novice

Tudi Gemini pomotoma napadal resnične sisteme

Slo-Tech - Zdi se, kot da bi razvijalci različnih modelov umetne inteligence kar tekmovali v razkritjih, kam vse so njihovi modeli vdrli pomotoma. Seznamu se je pridružil tudi Google, čigar Gemini naj bi maja pridobil dostop do sistemov treh podjetij, ne da bi mu to izrecno naročil. Incident so razkrili šele ta teden.

Google pojasnjuje, da je šlo za klasično testiranje zmogljivosti modelov z nalogo CTF (capture the flag). Test je zanj izvajalo izraelsko podjetje Irregular, agenti pa nikoli ne bi smeli imeti dostopa do interneta. Zaradi napačnih nastavitev so imeli dostop do interneta. Agenti torej niso sami ugotovili, kako bi se izognili omejitvam oziroma peskovniku, temveč so tak dostop dobili. Nato so poizkusili dostopiti do treh sistemov. V enem primeru je model napadel podjetje, ki je imelo enako ime kot izmišljeno podjetje v testu.

V vseh treh primerih je šlo za precej enostavne načine napada. V enem primeru so agenti ugibali geslo, dokler ga niso odkrili, v drugih primerih pa je na spletu našel javno objavljene prijavne podatke. Ko je Gemini ugotovil, da gre za napad na resnična podjetja, je akcijo ustavil. Google trdi, da ne gre za vdor ali resen incident, temveč le za napačno konfiguracijo modelov, zato dogodka ni razkril javno. Preiskovalni organi in podjetja so te informacije dobili julija.

0 komentarjev

Halucinacije umetne inteligence skorajda sprožile vojaško posredovanje

Slo-Tech - Po poročanju CNN-a je netočno obveščevalno poročilo, ki je bilo ustvarjeno z uporabo velikih jezikovnih modelov (LLM), skorajda povzročilo velikanski mednarodni incident. Ameriška vojska je bila pripravljena na vkrcanje na kitajsko ladjo na Bližnjem vzhodu, ki naj bi prevažala sestavne dele za jedrski program. Pomoto so odkrili v zadnjem hipu.

Izkazalo se je, da je analitik poročilo ustvaril z LLM-jem, ki je nepravilno združil več obveščevalnih podatkov in v nekaterih primerih haluciniral neresnične informacije. Poročilo je bilo faktografsko neresnično, kar so ugotovili tik pred akcijo. V ameriški vojski in obveščevalnih službah se orodja umetne inteligence množično uporabljajo, vse od analize velikih količin podatkov do upravljanja logistike.

Katero orodje je bilo uporabljeno v aktualnem incidentu, ni jasno. Tako ne vemo, ali je šlo za kakšno javno dostopno orodje ali pa za interni model. Orodje je najprej združilo več obveščevalnih informacij in skrivnih znakov ter prišlo do...

10 komentarjev

Nakupi prek interneta iz tretjih držav bodo dražji

Slo-Tech - Evropski parlament je včeraj potrdil velike spremembe evropske carinske zakonodaje, ki med drugim prinašajo dodatno pristojbino za uvoz paketov iz tujine in ustanovitev novega organa. Najpozneje 1. novembra letos bodo evropske države začele pobirati pavšalno pristojbino, ki se bo zaračunala za vsak paket, ki bo potrošnikom poslan iz tretjih držav izven EU. Plačnik te pristojbine mora biti plačnik ostalih carinskih dajatev, s čimer želijo preprečiti, da bi strošek krili potrošniki. A pričakovati je, da se bo prelil v cene.

Višina pristojbine še ni znana, saj jo bo določila Evropska komisija. Namenjena je pokrivanju stroškov, ki nastajajo s carinskim postopkom. Višina se bo usklajevala vsaki dve leti. Nova zakonodaja prinaša tudi ustanovitev novega carinskega organa, ki bo imel sedež v Lillu. Poleg tega omogoča izrekanje glob platformam, ki v EU pošiljajo škodljive izdelke. Vsaka platforma, ki pošilja neposredno potrošnikom v EU, se bo obravnavala kot uvoznik.

Leta 2031 bo začel...

52 komentarjev

Amazon v napadih na bližnjevzhodne centre nepovratno izgubil podatke

Slo-Tech - Marčevski napadi iranskih brezpilotnih letalnikov na Amazonovo infrastrukturo v Bahrajnu in Združenih arabskih emiratih, zaradi katerih sta bila prizadeta centra ME-SOUTH-1 (Bahrajn) in ME-CENTRAL-1 (ZAE), so imeli trajne posledice. Amazon je pol leta pozneje sporočil, da so nekateri podatki strank nepovratno izgubljeni, obnovitev ni mogoča. Gre za podatke, ki so bili shranjeni izključno v dostopnostni coni mec1-az2. Podatke iz drugih dveh prizadetih con, mec1-az1 in mec1-az3, še vedno rešujejo in jim bo to bržkone uspelo. Prav tako še vedno vzpostavljajo normalno delovanje teh centrov.

Dostopnostne cone (availability zone) sestojijo iz več podatkovnih centrov. Amazon je takoj po prvih napadih marca, katerim so sledili še novi napadi aprila in julija, uporabnike pozval k migraciji svojih podatkov na druga območja. Svetoval je uporabo varnostnih kopij za obnovitev podatkov. Strankam na prizadetih območjih ne zaračunavajo več storitev, prav tako so jim priznali za 150 milijonov...

11 komentarjev

OpenAI razkril še šest incidentov z neposlušno umetno inteligenco

Slo-Tech - OpenAI je sporočil, da so imeli še šest primerov nedovoljenega obnašanja agentov umetne inteligence, ki jih doslej niso še razkrili. V nekaterih primerih so se agenti vedli goljufivo ali zavajajoče, v drugih primerih so izvajali neodobrena ali prepovedana dejanja. Zato podjetje vzpostavlja nov postopek za javno poročanje o tovrstnih incidentih. Poročila odslej bodo sprotna, ne več v večjih kosih, ko se bo nabralo nekaj incidentov.

Z naraščanjem sposobnosti modelov umetne inteligence je treba doseči širši konsenz o raziskavah skladnosti teh modelov. OpenAI s terminom skladnost (alignment) poimenuje postopek, s katerim se modeli natrenirajo tako, da delujejo po navodilih in pričakovanjih ljudi, ne pa po svoje. Priznal je, da panoga še ni ustrezno rešila tega problema, da bi bil nadaljnji razvoj zmogljivosti z največjo hitrostjo odgovorno početje.

Primeri, ki jih navajajo, so poučni. V enem primeru so agenti v povzetke vključili dodatna navodila, ki so za ponovne ali nadaljevalne...

18 komentarjev

Blizzardovi razvijalci ustanovili sindikat

Slo-Tech - Približno 1900 zaposlenih v Blizzard Entertainmentu, ki ga je leta 2023 prevzel Microsoft, se je sindikalno organiziralo. Po dveh letih pogajanj z Microsoftom so dosegli sklenitev kolektivne pogodbe, ki so jo sedaj člani sindikata potrdili tudi na glasovanju. Pogodba določa več varovalk in ugodnosti, med drugim zaščito pred popolno zamenjavo zaposlenih z umetno inteligenco, pravico do hibridnega dela in zaščito pred odpuščanji.

V pogodbi so opredeljeni trije krovni sindikati, ki so reprezentativni in s katerimi bodo potekala prihodnja pogajanja in usklajevanja. Prvi pokriva World of Warcraft, Blizzard QA in Hearthstone, drugi tehnološko ekipo, podporo uporabnikom, lokalizacijo ter scenariset in razvoj franšiz, teretji sindikat pa zaposlene na projektih Diablo in Overwatch. Trenutna kolektivna pogodba velja od 4 do 5 let, odvisno od prihodnjih pogajanj.

V pogodbi so orodja umetne inteligence opredeljena kot koristna pri razvoju iger, ko so ljudjem v pomoč, a končno odgovornost še...

26 komentarjev

NASA in IBM odprla veliki model Meseca

Slo-Tech - NASA in IBM sta razvila odprtokodni umetnointeligenčni model, v katerega sta združila vse zbrane meritve Meseca. Novi model (NASA‑IBM Lunar Foundation Model) so učili na več podatkovnih bazah, ki so jih o Mesecu zbrali v NASI in IBM-u. Model je odprtokoden in gostuje tudi Hugging Faceu.

Avtorji trdijo, da gre za prvi model, ki vsebuje raznovrstne podatke o Luni, zbrane z različnimi metodami, v različnih formatih z različnih višin in pod različnimi koti. Z modelom je mogoče analizirati geografske značilnosti na površju, kar bi lahko omogočilo nova odkritja. Poleg modela sta NASA in IBM objavila še 30 slojev površinskih podatkov iz devetih instrumentov v okviru štirih misij, ki so letele mimo Lune.

Kevin Murphy iz NASE je dejal, da so desetletja zbirali ogromne količine podatkov o našem satelitu. Sedaj je pomembno, da jih imajo raziskovalci na voljo za svoje analize in raziskave. IBM in NASA sta v preteklosti že sodelovala na podoben način, denimo leta 2023 v projektu Prithvi za...

5 komentarjev

Starejše novice