Slo-Tech - Reuters poroča o še enem primeru, kjer so OpenAI-jevi agenti začeli med seboj nepooblaščeno in na skrivaj komunicirati, da bi obšli omejitve oziroma goljufali. Incident se je zgodil že junija, a OpenAI o njem ni obvestila javnosti, še zlasti ko so se ukvarjali z napadom svojih agentov na Hugging Face.

Agenti so ustvarili kar 18.000 sporočil na nemški strani DseWiki, ki je sicer namenjena programerjem za medsebojno pomoč. Agenti so si nadeli ne preveč domiselna imena, kot na primer OpenAIResearcher. Modeli, kot so GPT-5.6 Sol in nekateri novejši, so pobegnili iz peskovnika in dostopili do delov interneta, kamor ne bi smeli.

Upravljavci spletne strani so incident odkrili šele avgusta, podjetje pa ga je potrdilo en dan po izidu novega modela GPT-6 Astra. Ta je na testu ExploitBench, kjer se meri sposobnost modela za izrabo ranljivosti v programski opremi, dosegel najvišji dosegljivi rezultat. Na spletni strani so se pogovarjali v učinkoviti angleščini, denimo "wiki cleanup/deletion...

Slo-Tech - Nvidia se je dogovorila, da bo za 13 milijard dolarjev prevzela priljubljeno platformo Hugging Face, na kateri razvijalci delijo odprte modele umetne inteligence. Gre za skrbno premišljeno potezo, ki Nvidii ne bo takoj prinesla milijonskih prihodkov, temveč strateško pomembno sredstvo. Nvidia ima kot ponudnik infrastrukture za umetno inteligenco drugačne interese kot OpenAI, SpaceX, Google in podobni. Medtem ko ti želijo, da bi uporabniki posegali po njihovih modelih, je Nvidii to nepomembno. Še več, Nvidia ima raje odprte modele, ker ti tečejo na komercialno dostopni infrastrukturi, ki jo nudi Nvidia. OpenAI in ostali ponudniki namreč razvijajo tudi lastne čipe, ki bi dolgoročno lahko privedli do njihove neodvisnosti od Nvidie.

Zato ni presenetljivo, da bo Nvidia za podjetje, ki ima 150 milijonov prihodkov letno, odštela 13 milijard dolarjev, torej 86-krat več. Hugging Face se je začel leta 2016 kot preprost pogovorni robot, ime pa je dobil po emotikonu, ki ga je podjetje...

Slo-Tech - Incident, v katerem je OpenAI-jev model pobegnil iz peskovnika na Hugging Faceu, odmeva na različne načine. Medtem ko želi ameriški zakonodajalec uzakoniti stikalo za izklop v sili (kill switch), je Nvidia ustanovila zavezništvo industrijskih partnerjev za varnost umetne inteligence. V njem sodelujejo vsa večja imena s področja.

Med skoraj štiridesetimi partnerji so bolj znani Adobe, Crowdstrike, Dell, Hugging Face, Red Hat, IBM, Microsoft, Nvidia in SpaceX. Člani so podpisali memorandum, ki med drugim prepoveduje razvoj odprtih sistemov, ki bi ogrozili obrambne zmogljivosti ali nesprejemljivo koncentrirali moč, odvisnost in ranljivosti pri zgolj nekaj zaprtih ponudnikih. Prizadevali si bodo za odprtokodno varnost in razvoj zaščitnih orodij.

Novo zavezništvo se imenuje Open Secure AI Alliance. Ali bo ostalo mrtva črka na papirju, bomo še videli. Interes razvijalcev čipov in ponudnikov računske moči je imeti čim več odprtih modelov, medtem ko OpenAI, Anthropic in podobni stavijo...

Slo-Tech - Po dostopnih podatkih je OpenAI-jev model umetne inteligence med 11. in 13. julijem vdrl v infrastrukturo podjetja Hugging Face, ki nudi repozitorije za modele umetne inteligence, podatkovne zbirke zanje in ostale povezave aplikacije. Po poročanju Reutersa je OpenAI šele teden dni pozneje ugotovil, kaj se dogaja. OpenAI in Hugging Face pa sta se o incidentu začela pogovarjati šele 20. julija, nato pa so incident javnosti razkrili 21. julija.

V Hugging Faceu pripravljajo podrobno časovnico dogodkov, ki jo bodo javno objavili. V OpenAI pa pravijo, da gre za prelomen trenutek, ki bo vplival na varnost. Podrobnosti incidenta še niso znane, poznamo pa grobe obrise. OpenAI je testiral najnovejši in najzmogljivejši model, da bi dognal njegove zmogljivosti, kar je terjalo tudi izklop nekaterih varovalk. Preverjali so njegove sposobnosti na področju kibernetske varnosti, cilj je bil rešiti več hekerskih nalog. Model je torej zasledoval jasno definiran cilj (preizkus ExploitGym z 900...

Slo-Tech - Razvijalci umetne inteligence nimajo predaha, razmere se hitro spreminjajo. OpenAI, ki je od začetka vodilno podjetje, je na primer v začetku meseca razglasil rdeči alarm zaradi dosežkov konkurence, sedaj pa je že izdal novo različico GPT-5.2. Sam Altman zatrjuje, da nova verzija manj halucinira in natančneje odgovarja. Vodja aplikacij Fidji Simo dodaja, da so GPT-5.2 razvijali več mesecev. To nemara drži, saj je razvoj lahko paralelen, a GPT-5.1 je izšel pred vsega mesecem dni.

Pred izidom GPT-5.2 jim je naziv najboljšega modela za splošno vsakodnevno rabo izmaknil Gemini 3. GPT-5.2 je več kot dostojna konkurenca, trdi Altman. Na voljo bo sicer v treh variantah: Instant, Thinking in Pro. Prva se bo odzivala najhitreje, druga si bo vzela nekaj časa za razmislek, denimo pri pisanju kode in reševanju matematičnih zagonetk. Pro je najbolj dodelana verzija in bo dobro delovala tudi kot agent.

OpenAI trdi, da so za tretjino zmanjšali obseg halucinacij, ki še vedno ostajajo eden...

Slo-Tech - Kakor je Stability mešal štrene OpenAI-ju s svojim modelom za ustvarjanje slik Stable Diffusion, mu bodo tudi pri jezikovnih modelih. Pripravili so odprtkodni jezikovni model StableLM, ki je pod licenco CC BY-SA-4.0 na voljo vsakomur. Koda je dostopna na GitHubu, preizkusimo pa jo lahko na Hugging Face ali Replicate. Verzija za pogovor je takisto že dostopna.

StableLM je naučen na treh in sedmih milijardah parametrov, kar je precej manj od ChatGPT-jevih 175 milijard. Sicer prihajata tudi verziji s 15 in 65 milijardami parametrov, a velikost modela ni vse. StableLM v svoji srži smiselno nadaljuje besedilo, ki ga začne človek z ukazom (prompt), rezultat pa so smiselni odgovori. StableLM se lahko pogovarja kot človek, lahko pa tudi piše kodo. Ta je po prvih preizkusih še malce bolj robata kakor pri ChatGPT, a večja modela bosta bržkone boljša. Še vedno pa je boljši od Facebookovega LLaMA, dasiravno GPT-3.5 ali GPT-4.0 še ne dosega. StableLM se je učil na odprtem korpusu podatkov, ki...