Slo-Tech - Anthropicov model umetne inteligence je policiji v Filadelfiji lažno prijavil informacije o umoru, so v petek potrdile tamkajšnje oblasti. Claude je namig poslal 18. julija prek spletne strani, na kateri policija zbira informacije, ki bi lahko pomagale pri reševanju starih primerov. Večje škode ni povzročil, ker je njegovo prijavo avtomatski filter označil kot spam in zato ni bila obravnavana. Anthropic je incident odkril 28. septembra in deset dni pozneje prijavil policiji.

Med internim testiranjem modela Claude Haiku 4.5 so mu dali navodila, naj izpolni več na spletu dosegljivih obrazcev, a se ustavi tik pred oddajo. V več primerih je model kljub temu nadaljeval in obrazce oddal, ker je pričakoval, da se bo odprlo še eno okno za potrditev, kjer bi se bil potem ustavil. Anthropic je obnašanje označil kot nenačrtovano vedenje modela, ki so ga opazili med treningom in interno rabo.

V enem primeru se je Claude znašel na spletni strani za oddajo informacij o nerešenih umorih. Čeprav...

Slo-Tech - Anthropic je danes izdal novi verziji svojih paradnih modelov Clauda, Fable in Mythos, četudi slednji splošni javnosti sploh ni na voljo. V principu gre za enaka modela, le da ima Fable precej več varovalk, zato je splošno dostopen. Mythos je namenjen raziskovalcem na področju računalniške varnosti in ved o življenju.

Nova različica je hitrejša od stare, predvsem pa je varčnejša, trdi Anthropic. V lastnih testih se je odrezala bolje od Clauda 5. Cena ostaja enaka, in sicer 10 dolarjev za milijon vhodnih žetonov in 50 dolarjev za milijon izhodnih žetonov. Zavoljo 25-odstotno višje učinkovitosti, ki gre na rovaš učinkovitejše rabe predpomnilnika, pa bodo cene za enake naloge vsaj toliko nižje.

O izboljšani inteligenci je težko objektivno govoriti, a testi kažejo, da je Anthropic storil korak naprej. Na testu Terminal-Bench 4.0 je dosegel 55,8 odstotkov (Fable 5 pa 43 odstotkov), na CursorBenchu 3.2.0 pa 73,4 odstotka (prej 70,5 odstotka). Na testu Terminal-Bench-Science je rezultat...

Slo-Tech - Google dviguje frekvenco izdajanja novih generativnih modelov, saj je zgolj tri tedne po izidu zadnjega modela Gemini Flash že pripravil novega. Gemini 3.7 Flash vsebuje pomembne izboljšave, s čimer naj bi bil predvsem bistveno boljši pri pisanju kode. Precej boljši naj bi bil tudi pri analizi dokumentov, izvajanju tipičnih poslovnih delovnih procesov in odgovorih na vprašanja.

O zmogljivosti modela še ne moremo soditi neodvisno, temveč moramo verjeti rezultatom testov, ki jih je pripravil Google. Na njih je Gemini 3.7 Flash zmogljivejši od predhodnika in približno enako sposoben kot Claude Sonnet 5 in GPT-5.6.

Predvsem pa je poceni, pravi Google. Do konca leta bo stal 0,75 dolarja za milijon vhodnih žetonov in 3,75 dolarja za milijon izhodnih žetonov, torej rezultate. S tem je bistveno cenejši od Clauda 5 Sonnet (2 dolarja in 10 dolarjev) ter GPT-5.6 Terra (2 dolarja in 12 dolarjev). Ob tem poudarimo, da je Flash hitrejši in cenejši model. Medtem še vedno čakamo na Gemini 3.5...

Slo-Tech - Anthropic je iz svojega modela Claude Code odstranil steganografski podpis, ki je uporabnikom nevidno podpisoval pozive, če so ga uporabljali kitajski uporabniki. Funkcionalnost je minuli teden odkril uporabnik Thereallo, ki je v kodi opazil sicer neškodljive, a zelo prepoznavne podpise. Claud Code je vanje skrival informacije o časovnem pasu, posredniškem strežniku (proxy) in povezavi s Kitajsko.

Očitki niso teorija zarote, temveč jih je Anthropicov inženir Thariq Shihipar prostodušno potrdil. Dejal je, da so eksperimenta začeli marca, da bi preprečili nezakonito preprodajo ali destilacijo modela. Preprodaja dostopa se je dejansko dogajala. Dodal je, da je Anthropic že dlje časa nameraval odstraniti omenjeno podpisovanje, ker so v isti namen razvili naprednejša orodja.

Anthropic ni edino ameriško podjetje, ki Kitajcem očita destilacijo modelov in si prizadeva, da bi ta postala nezakonita. Alibaba, ki razvija model Qwen, podobno kot druga kitajska podjetja ne komentira očitkov o...

Slo-Tech - Opozorila, da se umetna inteligenca hitro razvija, niso nova. Že pred tremi leti je skupina strokovnjakov pozivala k polletnemu moratoriju na razvoj strojnega učenja, ki da napreduje hitreje od človeškega razmisleka, kam želimo, kaj hočemo in kaj bomo dopustili. Z današnje perspektive se zdi 6-mesečni premor smešno irelevanten, saj je razvoj še hitrejši. To pot je na tempo opozoril Anthropic.

Poudarjajo, da umetna inteligenca že sedaj sodeluje pri razvoju nove generacije umetne inteligence. Anthropicovi inženirji danes napišejo osemkrat več kode kot v obdobju 2021-2025, pa ne ker bi bili toliko sposobnejši, temveč ker imajo boljša orodja. Prve verzije Clauda so ljudje napisali klasično, torej na računalnikih. Nato so začeli uporabljati pogovorne robote (chatbot), ki so pisali drobce kode in pomagali razmišljati. Lani so v razvoju začeli sodelovati agenti za pisanje kode (coding agent), danes pa že avtonomni agentje. S tem so le korak oddaljeni od Clauda, ki se bo kontinuirno...

Slo-Tech - Broadcom bo skupaj z Googlom zagotovil 3,5 GW računske moči, ki jo bo uporabljal Anthropic za poganjanje svojega modela Claude. Tekel bo na novih Googlovih tenzorskih čipih TPU (Tensor Processing Units), ki jih bo proizvajal Broadcom. Sistem bodo začeli postavljati prihodnje leto, 3,5 GW pa bo dosegel v nekaj letih.

Broadcom TPU-je razvija že od leta 2016 in je do danes sodeloval že z velikani, kot sta Amazon in Microsoft, saj je zanju dizajniral Trainium in Maio. Najnovejši dogovor z Googlom pa velja do leta 2031 in prav tako vključuje dizajn čipov. Posamezen Googlov TPU, ki se imenuje Ironwood, troši 1000 W energije, torej govorimo o 3,5 milijona čipov.

Anthropic je pojasnil še, da Amazon in Nvidia ostajata pomembna partnerja, ki bosta še naprej zagotavljala velike količine računske moči. Nvidijini čipi so še vedno zlati standard za trening modelov, medtem ko bo inferenca (poganjanje) tekla na Googlovih TPU-jih. Druge izbire Anthropic v resnici nima, saj so njegovi sistemi...

Slo-Tech - Odkar je Anthropicu na internet ušel znaten del Claudove izvorne kode, se na internetu vrstijo njene analize ter odkrivanje zanimivih in uporabnih podrobnosti. Med drugim Claude izrecno spremlja, ali uporabniki kolnejo oziroma kako drugače izražajo frustracijo. Ni povsem jasno, zakaj to počne.

V kodi so odkrili regularne izraze (regex), ki iščejo sočne izraze (npr. WTF, dammit, OMG, awful in podobno). Razlogov za to početje bi lahko bilo več, izpostaviti pa velja dva. Na tak način lahko Anthropic zelo učinkovito spremlja, ali so novi modeli in nadgradnje učinkoviti ali ne, ali spravljajo uporabnike v obup in ob živce ali ne.

Po drugi strani pa se lahko model začne odzivati drugače, na primer bolj empatično in pomirjujoče, če pri uporabniku zazna frustracije. Anthropic ni pojasnil, katera teorija drži - lahko jih drži tudi več - vemo pa, da ta funkcionalnost v kodi obstaja.

Regex seveda ni nič novega, temveč več desetletij stara tehnologija. Umetna inteligenca bi frustracije in...

Slo-Tech - Danes dopoldne se je Anthropicu primerila površnost, ki ga bo v najboljšem primeru stala zgolj nekaj ugleda, v najslabšem primeru pa bo tekmecem omogočila, da ga dohitijo. Na uradnem repozitoriju npm (@anthropic-ai/claude-code) so objavili skoraj 60 megabajtov veliko datoteko z izvorno kodo v JavaScriptu (.map). V nekaj urah si jo je ogledalo na tisoče razvijalcev.

V datoteki je približno pol milijona vrstic kode. V njej se skriva precej uporabnih informacij, javnosti pa najbolj koristi vpogled v reševanje problema entropije, ki se med pogovorom kopiči. Agentje umetne inteligence sčasoma začno halucinirati ali se preprosto zmedejo, če pogovori trajajo predolgo. Anthropic je to težavo rešil zelo pretkano s tronivojsko pomnilniško arhitekturo, ki ne shranjujejo več slepo vsega, kar se zgodi med pogovorom.

Prav tako je v kodi več omemb tehnologije KAIROS, ki Claudu omogoča neprekinjeno delovanje v ozadju. V arhivu se skriva tudi več informacij o prihajajočih izdelkih, pa tudi...

Slo-Tech - Anthropic je ta teden uporabnikom svojega programerskega modela Claude nekoliko omejil njegovo uporabo. Kvote za uporabo (žetoni) se ponastavijo vsakih pet ur, doslej pa se je njihova uporaba ves čas obračunavala enako. Odslej bo uporaba med najbolj zaželenimi termini strožje vrednotena. Najbolj zaželeni termini so od 14. do 20. ure po srednjeevropskem času (oziroma od 5. do 11. ure v Kaliforniji).

Thariq Shihipar iz Anthropica je sporočil, da bo omejitev občutilo približno sedem odstotkov uporabnikov. Omejitev bo veljala v vseh paketih, tako v brezplačnem kot tudi plačljivih (Pro in Max). Tedenske kvote bodo ostale enake, le popoldne (v Evropi) bo možno postoriti manj. Ko uporabnik porabi svojo kvoto, mora uporabljati šibkejši in slabši model od ponastavitve čez pet ur.

Spomnimo, da je sredi meseca Anthropic vsem uporabnikom podvojil kvote za dva tedna. Ta obdobje se je sedaj izteklo, odslej pa bo treba nekoliko bolj taktično načrtovati, kdaj uporabljati Claude.

Slo-Tech - Doslej so bili glavni elementi paketa kompenzacije v ameriških tehnoloških velikanih plača, bonusi in opcije ali delnice, skratka lastništvo v podjetju. Lani smo pisali, kako največji strokovnjaki za umetno inteligenco postajajo pravi zvezdniki, saj njihovi prejemki dosegajo devetmestne zneske. Boj za kadre še ni pojenjal, temveč so delodajalci ugotovili, da je pomembna doslej zapostavljena kategorija: računska moč.

Poganjanje modernih modelov umetne inteligence je računsko tako potratno, da postaja resen faktor pri novačenju zaposlenih. Kandidati na razgovorih čedalje pogosteje sprašujejo, koliko računskega časa bodo imeli na voljo za uporabo Codexa, je povedal glavni inženir Codexa pri OpenAI Thibault Sottiaux. Ugotavlja, da poraba računske moči raste hitreje od števila uporabnikov, saj ljudje trošijo čedalje več. To velja tudi za zaposlene. Inženirji se zavedajo, da so z uporabo umetne inteligence učinkovitejši, njihova storilnost pa bo odvisna tudi od tega, koliko jo bodo...

Slo-Tech - Tehnični direktor za Azure, Mark Russinovich, se je pozabaval z Anthropicovim orodjem Claude in mu dal v pregled 40 let staro kodo v binarni obliki. Leta 1986 je Russinovich napisal orodje Enhancer, ki je na računalnik Apple II prinesla možnost uporabe spremenljivk in BASIC-ovih izrazov kot cilje ukazov GOTO, GOSUB in RESTORE. Osnovni Applesoft BASIC je kot cilj podpiral le število vrstice.

Claude Opus 4.6 je pregledal binarno kodo in v njej takoj odkril nekaj hroščev in ranljivosti. Da je v kodi za Apple II hrošč, je zanimivost, ki na današnji svet ne vpliva. Precej bolj pomembno pa je dejstvo, da lahko Claude razvozla binarno kodo in ranljivosti najde v njej! Na svetu obstaja na milijarde mikrokrmilnikov, ki poganjajo raznovrstno kodo, staro in manj staro, ki se že zdavnaj ne posodablja več, vprašanje pa je, kako natančno je sploh bila pregledana.

Umetna inteligenca je sicer znana, da si včasih izmišljuje ali najde irelevantne ranljivosti. Tudi koda, ki jo piše, pogosto ni...

Slo-Tech - Spotifyev direktor Gustav Söderström je ob predstavitvi poslovnih rezultatov minulega leta navrgel povedno opazko, da najboljši razvijalci v podjetju od decembra niso sami napisali niti ene vrstice kode. S tem je želel poudariti, da se pri programiranju čedalje bolj zanašajo na umetno inteligenco. Spotify je v letu 2025 predstavil 50 novih funkcionalnosti in sprememb (na primer Prompted Playlists, Page Match za avdioknjige, About This Song), torej so morali ustvariti precej nove kode.

Inženirji v Spotifyu uporabljajo orodje Honk, ki pomaga pri hitrejšem pisanju kode. Ta vključuje tudi Claude Code, ki sodi med najboljša orodja za pisanje kode. Söderström trdi, da sta se pisanje nove kode in razvoj na sploh bistveno pospešila, od kar uporabljajo Claude Code. To seveda ne pomeni, da inženirji ne programirajo več sami, temveč da se je oblika njihovega dela spremenila. Še vedno se ukvarjajo z načrtovanjem arhitekture, še vedno pregledujejo kodo in lovijo hrošče, a najbolj rutinsko...

Slo-Tech - Anthropicov Tristan Hume je opisal zanimiv metaproblem, ki ga imajo v podjetju pri preizkušanju novih kandidatov za zaposlitev. Zadnji dve leti uporabljajo test, ki ga lahko kandidati odnesejo domov in rešijo, kar je v dobu velikih jezikovnih modelov lahko problem. Z vsako novo izdajo Clauda morajo test prenoviti, saj ga Claude reši bolje kot velika večina kandidatov.

Od leta 2024 je test reševalo dobrih tisoč kandidatov, izmed katerih so jih več deset tudi zaposlili. To so inženirji, ki so razvijali vse nove verzije od Claude 3, pri čemer so se odlično odrezali. Vsak novi Claude je prejšnje teste v enakem časovnem oknu rešil bolje od velike večine ljudi. Claude 4 je bil boljši od večine, Claude 4.5 pa od vseh. Če so imeli ljudje na voljo neomejeni čas, so tisti najboljši še premagali Claude 4.5.

Konkretni testi so sprva trajali štiri ure, kasneje dve. Kandidati so reševali realistični problem, na voljo pa so imeli vsa orodja, tudi umetno inteligenco. To je smiselno, ker ta...

Slo-Tech - Zares ne vemo, kako deluje umetna inteligenca, je dejal izvršni direktor Anthropica Dario Amodei. V svojem eseju je zapisal, da bi bili nepoznavalci presenečeni in zgroženi, če bi vedeli, da tudi ustvarjalci umetne inteligence ne vedo natančno, kako umetna inteligenca deluje. Zato so upravičeno zaskrbljeni, dodaja, saj česa takšnega v zgodovini še ni bilo. Nikoli še nismo tako množično uporabljali tehnologije, za katero ne bi natančno vedeli, kako deluje - ne uporabniki, temveč vsaj ustvarjalci.

Amodei je dejal tudi, da bo umetna inteligenca do leta 2027 presegla človeško inteligenco. Bliža se torej splošna umetna inteligenca (general artificial intelligence), ki bo lahko nadomestila večino človeških "stvari". A po drugi strani Roger Penrose meni, da umetna inteligenca ni zares inteligentna, ker nima zavesti. To morda res drži, a Amodei ob tem dodaja, da potrebujemo še veliko dela, da bomo umetno inteligenco razumeli do te mere, da jo bomo lahko zares nadzorovali. Ošvkrnil je tudi...

Slo-Tech - Iz Anthropica je prispel novi model umetne inteligence Claude 3.7, ki zmore delovati v dveh načinih. Odzivi so lahko klasični ali pa razmišljujoči (reasoning), s čimer lahko rešuje tudi težje zagonetke. Zaradi tega je hibridni model enostavneje uporabljati, zlasi kadar potrebujemo kombinirane odzive. Uporabnik (ki uporablja API) ima nadzor nad njegovim obnašanjem, na primer kako dolgo razmišlja in koliko računske moči troši. Hkrati model izpisuje (scratchpad), kako razmišlja oziroma rešuje problem. To je koristna informacija tudi za uporabnika, ki lahko vidi, ali bi se model bolje odrezal, če bi imel na voljo več časa, in podobno.

Claude 3.7 je precej boljši pri pisanju kode in razvoju, dobil pa je tudi orodje Claude Code za pisanje kode. Inženirji mu lahko delegirajo različna opravila, ki jih morajo rešiti pri programiranju. Razmišljujoči model je dobil dodatni trening na področjih pisanja kode, uporabe računalnikov, odgovarjanja na pravne dileme in podobne naloge, ki jih lahko...

Slo-Tech - Vsaj za zdaj se strahovi, da bo umetna inteligenca nadomestila ljudi, ne udejanjajo. Eden izmed pionirjev razvoja Anthropic je analiziral pogovore, ki jih imajo ljudje z njegovim pomočnikom Claude.ai, in ugotovil, da nas umetna inteligenca še ne bo izpodrinila. Ključno spoznanje je, da umetna inteligenca dela z ljudmi in ne namesto njih.

Ugotovili so, da tretjina poklicev že redno uporablja umetno inteligenco (torej pri vsaj četrtini opravil), pri štirih odstotkih poklicev pa se uporablja že pri treh četrtinah nalog. V večini primerov, tj. 57 odstotkih, dopolnjuje človeške sposobnosti in sodeluje, v preostalih primerih pa je njen namen avtomatizacija. Največ se uporablja v poklicih, ki so srednje ali dobro plačani, najmanj pa v nizko plačani ali ekstremno visoko plačanih poklicih.

Zanimiva je razčlemba po poklicih. Največji delež uporabnikov Clauda potrebuje pomoč pri računalniških opravilih, zlasti pri pisanju kode. Na drugem mestu je oblikovanje, šport, zabava in mediji, na...

Slo-Tech - Anthropic je naslednje v vrsti podjetij, ki razvijajo umetno inteligenco in so jih doletele tožbe ustvarjalcev avtorsko zaščitenih del. V ponedeljek so pisatelji in novinarji Andrea Bartz, Charles Graeber in Kirk Wallace Johnson vložili tožbo na kalifornijsko zvezno sodišče, v kateri podjetju očitajo uporabo nezakonitih kopij njihovih del za trening umetne inteligence Claude.

Podobne tožbe drugih avtorjev in lastnikov avtorskih pravic so doletele tudi konkurenco, denimo OpenAI in Meto. Tudi v njih podjetjem očitajo, da so brez dovoljenja uporabljali avtorsko zaščitene vsebine za urjenje umetne inteligence. Prav Anthropic pa je ena tovrstna tožba že doletela, in sicer so ga lani tožili glasbeni založniki zaradi uporabe besedil različnih skladb pri pripravi Clauda. Da, tudi besedila skladb so avtorsko zaščitena in jih ni dovoljeno kar poprek kopirati in uporabljati.

V nekaterih primerih se podjetja poravnajo. Reddit sklepa sporazume s podjetji, ki želijo uporabljati vsebine na...

Meta - Pri Meti so po mesecih napovedi izdali prvi odprtoutežni jezikovni model s prek 400 milijardami parametrov, Llamo 3.1 405B.

Bržkone največji ideološki boj pri razvoju velikih jezikovnih modelov je ta hip tisti med povsem zaprtimi modeli, kamor spada večina od razvpitih igralcev na trgu - GPT, Gemini, Claude - in pa na drugi strani ... na nek način odprtimi, kjer je vodilna Meta z družino modelov Llama. Tako Mark Zuckerberg kot vodja njegovega laboratorija za generativne modele Yann LeCun sta namreč velika zagovornika bolj odprtega razvoja takšnih algoritmov. Zato ni nenavadno, da je ob lansiranju najnovejše družine, Llama 3.1, Zuckerberg doktrino nadrobno pojasnil v spletni objavi.

Po njegovem tudi tu velja dinamika, ki smo jo lahko spremljali v vojni operacijskih sistemov med Windowsi in Linuxom - čeprav so Okna na površju komercialno uspešnejši izdelek, pa je Linux spričo svoje zanesljivosti, prilagodljivosti in svobodnosti našel pot na mnoga področja, od mobilnih naprav do...

Slo-Tech - Meta je predstavila novo generacijo generativnih modelov umetne inteligence Llama. V tretji inkarnaciji sta ta hip na voljo Llama 3 8B in Llama 3 70B, ki imata prav toliko parametrov: osem in sedemdeset milijard. V primerjavi z drugo generacijo, ki ima sicer prav toliko parametrov, predstavljata korenit skok v zmogljivosti, so dejali v Meti. Učila sta se na dveh gručah s 24.000 grafičnimi procesorji.

Zagotovo vsak avtor hvali svoj model kot najboljši, zato nas zanimajo oprijemljivi številčni podatki. Meta trdi, da sta modela na testih MMLU, ARC, DROP, GPQA, HumanEval, GSM-8K, MATH, AGIEval in BIG-Bench Hard boljša od konkurence, denimo Mistrala 7B in Gemme 7B. To sicer drži, a na nekaterih testih je Llama 3 8B le za odtenek boljša, omenjena konkurenta pa tudi nista več najnovejša. Llama 3 70B premaga tudi Gemini 1.5 Pro, ne pa na primer Claude 3 Opus. Odveč je dodati, da je na lastnem testu, ki si ga je izmislila Meta, Llama 3 prekosila konkurenco.

Llama 3 je naučen na 15...

Anthropic - Pri Anthropicu so predstavili družino velikih jezikovnih modelov Claude 3, s katero neposredno žugajo Geminiju in GPT-4.

Medtem ko se pod soji luči vrši dvoboj med navezo OpenAI-Microsoft in Googlom, ter Meta v bližini nekaj motovili z lamami, si skuša na področju velikih jezikovnih modelov svoj kos pogače odrezati tudi kopica manjših izzivalcev. Med bolj prepoznavnimi je družba Anthropic, ki so jo pred tremi leti ustanovili odpadniki iz OpenAI, ki so Samu Altmanu po povezavi z Microsoftom očitali prehitro komercializacijo. Sami razvijajo modele družine Claude, katere posebnost je vdelava spiska dodatnih zavor in smernic, po katerih naj bi se strojna pamet ravnala, čemur pravijo "constitutional AI". Zanimiva je tudi njihova dolgoročna strategija, po kateri želijo prispeti do algoritmov, ki bi se znali - vsaj na določenem ožjem področju - učiti sami in bi bili lahko osnova močnim pametnim pomočnikom. To se pravi, podobno kot pri OpenAI, le da še kanec bolj ambiciozno.

Medtem ko...