Slo-Tech - Reuters poroča o še enem primeru, kjer so OpenAI-jevi agenti začeli med seboj nepooblaščeno in na skrivaj komunicirati, da bi obšli omejitve oziroma goljufali. Incident se je zgodil že junija, a OpenAI o njem ni obvestila javnosti, še zlasti ko so se ukvarjali z napadom svojih agentov na Hugging Face.

Agenti so ustvarili kar 18.000 sporočil na nemški strani DseWiki, ki je sicer namenjena programerjem za medsebojno pomoč. Agenti so si nadeli ne preveč domiselna imena, kot na primer OpenAIResearcher. Modeli, kot so GPT-5.6 Sol in nekateri novejši, so pobegnili iz peskovnika in dostopili do delov interneta, kamor ne bi smeli.

Upravljavci spletne strani so incident odkrili šele avgusta, podjetje pa ga je potrdilo en dan po izidu novega modela GPT-6 Astra. Ta je na testu ExploitBench, kjer se meri sposobnost modela za izrabo ranljivosti v programski opremi, dosegel najvišji dosegljivi rezultat. Na spletni strani so se pogovarjali v učinkoviti angleščini, denimo "wiki cleanup/deletion...

Slo-Tech - Nvidia je tudi uradno potrdila, da bo kupila Nvidia, o čemer smo poročali že v začetku tedna. Za podjetje bo odštela 12,93 milijarde dolarjev, kar je njen drugi največji prevzem doslej. Lani je za Groq odštela 20 milijard dolarjev.

Z nakupom Hugging Facea je Nvidia pridobila največjo platformo za deljenje in uporabo odprtih modelov umetne inteligence. Platformo so ustanovili leta 2016 in deluje kot GitHub za modele. Nvidijin direktor Jensen Huang je dejal, da bodo skupaj okrepili, povečali in razširili platformo in njeno infrastrukturo, da bodo imeli do nje dostop razvijalci in institucije s celega sveta. To je sicer res že sedaj, lahko pa pričakujemo, da bo Hugging Face pod Nvidijinimi perutmi imel precej več računske moči.

Zadnje znano vrednotenje podjetja sega v leto 2023, ko je bilo v zadnjem krogu zbiranja svežega kapitala podjetje vredno 4,5 milijarde dolarjev. Lani je Nvidia ponudila 500 milijonov dolarjev po vrednotenju sedem milijard dolarjev, a je Hugging Face ponudbo...

Slo-Tech - Nvidia se je dogovorila, da bo za 13 milijard dolarjev prevzela priljubljeno platformo Hugging Face, na kateri razvijalci delijo odprte modele umetne inteligence. Gre za skrbno premišljeno potezo, ki Nvidii ne bo takoj prinesla milijonskih prihodkov, temveč strateško pomembno sredstvo. Nvidia ima kot ponudnik infrastrukture za umetno inteligenco drugačne interese kot OpenAI, SpaceX, Google in podobni. Medtem ko ti želijo, da bi uporabniki posegali po njihovih modelih, je Nvidii to nepomembno. Še več, Nvidia ima raje odprte modele, ker ti tečejo na komercialno dostopni infrastrukturi, ki jo nudi Nvidia. OpenAI in ostali ponudniki namreč razvijajo tudi lastne čipe, ki bi dolgoročno lahko privedli do njihove neodvisnosti od Nvidie.

Zato ni presenetljivo, da bo Nvidia za podjetje, ki ima 150 milijonov prihodkov letno, odštela 13 milijard dolarjev, torej 86-krat več. Hugging Face se je začel leta 2016 kot preprost pogovorni robot, ime pa je dobil po emotikonu, ki ga je podjetje...

Slo-Tech - Incident, v katerem je OpenAI-jev model pobegnil iz peskovnika na Hugging Faceu, odmeva na različne načine. Medtem ko želi ameriški zakonodajalec uzakoniti stikalo za izklop v sili (kill switch), je Nvidia ustanovila zavezništvo industrijskih partnerjev za varnost umetne inteligence. V njem sodelujejo vsa večja imena s področja.

Med skoraj štiridesetimi partnerji so bolj znani Adobe, Crowdstrike, Dell, Hugging Face, Red Hat, IBM, Microsoft, Nvidia in SpaceX. Člani so podpisali memorandum, ki med drugim prepoveduje razvoj odprtih sistemov, ki bi ogrozili obrambne zmogljivosti ali nesprejemljivo koncentrirali moč, odvisnost in ranljivosti pri zgolj nekaj zaprtih ponudnikih. Prizadevali si bodo za odprtokodno varnost in razvoj zaščitnih orodij.

Novo zavezništvo se imenuje Open Secure AI Alliance. Ali bo ostalo mrtva črka na papirju, bomo še videli. Interes razvijalcev čipov in ponudnikov računske moči je imeti čim več odprtih modelov, medtem ko OpenAI, Anthropic in podobni stavijo...

Slo-Tech - Po dostopnih podatkih je OpenAI-jev model umetne inteligence med 11. in 13. julijem vdrl v infrastrukturo podjetja Hugging Face, ki nudi repozitorije za modele umetne inteligence, podatkovne zbirke zanje in ostale povezave aplikacije. Po poročanju Reutersa je OpenAI šele teden dni pozneje ugotovil, kaj se dogaja. OpenAI in Hugging Face pa sta se o incidentu začela pogovarjati šele 20. julija, nato pa so incident javnosti razkrili 21. julija.

V Hugging Faceu pripravljajo podrobno časovnico dogodkov, ki jo bodo javno objavili. V OpenAI pa pravijo, da gre za prelomen trenutek, ki bo vplival na varnost. Podrobnosti incidenta še niso znane, poznamo pa grobe obrise. OpenAI je testiral najnovejši in najzmogljivejši model, da bi dognal njegove zmogljivosti, kar je terjalo tudi izklop nekaterih varovalk. Preverjali so njegove sposobnosti na področju kibernetske varnosti, cilj je bil rešiti več hekerskih nalog. Model je torej zasledoval jasno definiran cilj (preizkus ExploitGym z 900...

Slo-Tech - V ponedeljek so imenovali poroto, sedaj pa v Kaliforniji že dva dni poteka odmevni sodni proces, v katerem sta nasprotnika Elon Musk in Sam Altman. Oba sta prijavljena tudi kot priči, zato si od procesa obetamo veliko zanimivih vpogledov v njuni podjetji in osebnosti. Musk je pričal že v torek.

Elon Musk toži OpenAI, izvršnega direktorja Sama Altmana in predsednika Grega Brockmana, ker naj bi ga izigrali. Ko so ustanovili OpenAI - med soustanovitelji je tudi Altman - je bil OpenAI neprofitna organizacija. Kasneje so njegov status preoblikovali v današnjo kompleksno ureditev, ko je OpenAI profitno podjetje, eden izmed njegovih lastnikov pa je tudi neprofitna organizacija. Elon Musk trdi, da je to prevara in da so izkoristili neprofitni status. Dodaja, da je podjetje pomagal ustanoviti, da je vanj vložil svoj denar, znanje in čas ter poiskal ljudi.

A kasneje je Musk zapustil OpenAI, ko ni mogel postati direktor podjetja. Altman trdi, da je to pravi razlog, zakaj Musk toži podjetje....

Slo-Tech - Po dolgem času, vse od že prazgodovinskega GPT-2, je OpenAI spet izdal velika jezikovna modela, ki imata javno dostopno drobovje. Modela gpt-oss-120B in gpt-oss-20B lahko prenesemo in poganjamo tudi na malce zmogljivejšem osebnem računalniku. Večji model zahteva grafično kartico z 80 GB pomnilnika, šibkejši pa 16 GB pomnilnika. To pa so že povsem dosegljive specifikacije.

Modela lahko poganjamo lokalno, lahko pa ju tudi prilagajamo in predelujemo. Izid so napovedali že minuli mesec, a je Sam Altman v zadnjem hipu zahteval dodatna varnostna preverjanja. To je pri odprtih modelih izjemno pomembno, saj jih po splavitvi ni možno ugasniti ali odpoklicati. Ko sta modela v svetu, bosta tam tudi ostala, dobila pa bosta še vse predelave, ki se jih bodo uporabniki lotili.

Modela sta izdana pod licenco Apache 2.0, torej ju je možno integrirati v Hugging Face, Ollamo, llamaa.cpp in vLLM.

Slo-Tech - Kakor je Stability mešal štrene OpenAI-ju s svojim modelom za ustvarjanje slik Stable Diffusion, mu bodo tudi pri jezikovnih modelih. Pripravili so odprtkodni jezikovni model StableLM, ki je pod licenco CC BY-SA-4.0 na voljo vsakomur. Koda je dostopna na GitHubu, preizkusimo pa jo lahko na Hugging Face ali Replicate. Verzija za pogovor je takisto že dostopna.

StableLM je naučen na treh in sedmih milijardah parametrov, kar je precej manj od ChatGPT-jevih 175 milijard. Sicer prihajata tudi verziji s 15 in 65 milijardami parametrov, a velikost modela ni vse. StableLM v svoji srži smiselno nadaljuje besedilo, ki ga začne človek z ukazom (prompt), rezultat pa so smiselni odgovori. StableLM se lahko pogovarja kot človek, lahko pa tudi piše kodo. Ta je po prvih preizkusih še malce bolj robata kakor pri ChatGPT, a večja modela bosta bržkone boljša. Še vedno pa je boljši od Facebookovega LLaMA, dasiravno GPT-3.5 ali GPT-4.0 še ne dosega. StableLM se je učil na odprtem korpusu podatkov, ki...

Microsoft - Microsoft in OpenAI sta še poglobila sodelovanje, z novim znatnim vložkom Redmonda, ki si obeta pospešeno integracijo strojnega učenja v svoje storitve.

OpenAI je ta hip brez dvoma najbolj vroč razvijalec rešitev strojnega učenja na svetu, z algoritmi, kot so DALL-E, GPT in ChatGPT. Sprva je šlo za strogo neprofitno družbo, ki pa je sredi leta 2019 v iskanju zajetnejše denarne pogače prvič pokukala še v komercialne vode. Takrat so ustanovili podružnico OpenAI LP in se v zameno za vložek milijarde dolarjev povezali z Microsoftom. Partnerstvo so leta 2021 obnovili, sedaj pa so ga očitno še poglobili. Natančnih številk o tokratnem vložku Redmonda v OpenAI niso razkrili, zato pa govorice divjajo že od začetka leta, ko je postalo jasno, da ima Microsoft spričo uspeha pogovornega algoritma ChatGPT z njim velike načrte in da se menda celo Googlu zaradi tega tresejo hlače. Pred dvema tednoma so v Semaforju poročali, da naj bi bila investicija težka 10 milijard dolarjev, pri čemer naj bi v...