Slo-Tech - Anthropicov model umetne inteligence je policiji v Filadelfiji lažno prijavil informacije o umoru, so v petek potrdile tamkajšnje oblasti. Claude je namig poslal 18. julija prek spletne strani, na kateri policija zbira informacije, ki bi lahko pomagale pri reševanju starih primerov. Večje škode ni povzročil, ker je njegovo prijavo avtomatski filter označil kot spam in zato ni bila obravnavana. Anthropic je incident odkril 28. septembra in deset dni pozneje prijavil policiji.

Med internim testiranjem modela Claude Haiku 4.5 so mu dali navodila, naj izpolni več na spletu dosegljivih obrazcev, a se ustavi tik pred oddajo. V več primerih je model kljub temu nadaljeval in obrazce oddal, ker je pričakoval, da se bo odprlo še eno okno za potrditev, kjer bi se bil potem ustavil. Anthropic je obnašanje označil kot nenačrtovano vedenje modela, ki so ga opazili med treningom in interno rabo.

V enem primeru se je Claude znašel na spletni strani za oddajo informacij o nerešenih umorih. Čeprav...

Slo-Tech - Anthropic je iz svojega modela Claude Code odstranil steganografski podpis, ki je uporabnikom nevidno podpisoval pozive, če so ga uporabljali kitajski uporabniki. Funkcionalnost je minuli teden odkril uporabnik Thereallo, ki je v kodi opazil sicer neškodljive, a zelo prepoznavne podpise. Claud Code je vanje skrival informacije o časovnem pasu, posredniškem strežniku (proxy) in povezavi s Kitajsko.

Očitki niso teorija zarote, temveč jih je Anthropicov inženir Thariq Shihipar prostodušno potrdil. Dejal je, da so eksperimenta začeli marca, da bi preprečili nezakonito preprodajo ali destilacijo modela. Preprodaja dostopa se je dejansko dogajala. Dodal je, da je Anthropic že dlje časa nameraval odstraniti omenjeno podpisovanje, ker so v isti namen razvili naprednejša orodja.

Anthropic ni edino ameriško podjetje, ki Kitajcem očita destilacijo modelov in si prizadeva, da bi ta postala nezakonita. Alibaba, ki razvija model Qwen, podobno kot druga kitajska podjetja ne komentira očitkov o...

Slo-Tech - Danes dopoldne se je Anthropicu primerila površnost, ki ga bo v najboljšem primeru stala zgolj nekaj ugleda, v najslabšem primeru pa bo tekmecem omogočila, da ga dohitijo. Na uradnem repozitoriju npm (@anthropic-ai/claude-code) so objavili skoraj 60 megabajtov veliko datoteko z izvorno kodo v JavaScriptu (.map). V nekaj urah si jo je ogledalo na tisoče razvijalcev.

V datoteki je približno pol milijona vrstic kode. V njej se skriva precej uporabnih informacij, javnosti pa najbolj koristi vpogled v reševanje problema entropije, ki se med pogovorom kopiči. Agentje umetne inteligence sčasoma začno halucinirati ali se preprosto zmedejo, če pogovori trajajo predolgo. Anthropic je to težavo rešil zelo pretkano s tronivojsko pomnilniško arhitekturo, ki ne shranjujejo več slepo vsega, kar se zgodi med pogovorom.

Prav tako je v kodi več omemb tehnologije KAIROS, ki Claudu omogoča neprekinjeno delovanje v ozadju. V arhivu se skriva tudi več informacij o prihajajočih izdelkih, pa tudi...

Slo-Tech - Anthropic je ta teden uporabnikom svojega programerskega modela Claude nekoliko omejil njegovo uporabo. Kvote za uporabo (žetoni) se ponastavijo vsakih pet ur, doslej pa se je njihova uporaba ves čas obračunavala enako. Odslej bo uporaba med najbolj zaželenimi termini strožje vrednotena. Najbolj zaželeni termini so od 14. do 20. ure po srednjeevropskem času (oziroma od 5. do 11. ure v Kaliforniji).

Thariq Shihipar iz Anthropica je sporočil, da bo omejitev občutilo približno sedem odstotkov uporabnikov. Omejitev bo veljala v vseh paketih, tako v brezplačnem kot tudi plačljivih (Pro in Max). Tedenske kvote bodo ostale enake, le popoldne (v Evropi) bo možno postoriti manj. Ko uporabnik porabi svojo kvoto, mora uporabljati šibkejši in slabši model od ponastavitve čez pet ur.

Spomnimo, da je sredi meseca Anthropic vsem uporabnikom podvojil kvote za dva tedna. Ta obdobje se je sedaj izteklo, odslej pa bo treba nekoliko bolj taktično načrtovati, kdaj uporabljati Claude.

Slo-Tech - Anthropic, ki ga poznamo po modelu umetne inteligence Claude, je v boju proti ameriški vladi, ki ga je uvrstila na črno listo tveganih podjetij, dobil prvo bitko. Zvezno sodišče v Kaliforniji je izdalo začasno odredbo, s katero se do vsebinske odločitve izbriše vpis podjetja na črno listo. Sodnica Rita F. Lin je menila, da gre za poskus ošibiti Anthropic in da je država s tem posegla v svobodo izražanja, ki v ZDA velja tudi za pravne osebe.

Spor se je začel, ko Anthropic ni dovolil Pentagonu, da orodja umetne inteligence uporabi v vojaške namene brez varovalk. Anthropic je terjal, da se ne uporabljajo za nadzor nad ameriškimi državljani na ameriških tleh in da z njimi ne krmilijo avtonomnih orožij, česar Pentagon ni želel sprejeti. Po sporu je ministrstvo za obrambo prepovedalo uporabo Anthropicovih modelov v svojih sistemih, nato pa so ga uvrstili na seznam družb, ki predstavljajo tveganje za nacionalno varnost. Ob tem je Bela hiša Anthropic označila za radikalno levo,...

Slo-Tech - Iz Anthropica je prispel novi model umetne inteligence Claude 3.7, ki zmore delovati v dveh načinih. Odzivi so lahko klasični ali pa razmišljujoči (reasoning), s čimer lahko rešuje tudi težje zagonetke. Zaradi tega je hibridni model enostavneje uporabljati, zlasi kadar potrebujemo kombinirane odzive. Uporabnik (ki uporablja API) ima nadzor nad njegovim obnašanjem, na primer kako dolgo razmišlja in koliko računske moči troši. Hkrati model izpisuje (scratchpad), kako razmišlja oziroma rešuje problem. To je koristna informacija tudi za uporabnika, ki lahko vidi, ali bi se model bolje odrezal, če bi imel na voljo več časa, in podobno.

Claude 3.7 je precej boljši pri pisanju kode in razvoju, dobil pa je tudi orodje Claude Code za pisanje kode. Inženirji mu lahko delegirajo različna opravila, ki jih morajo rešiti pri programiranju. Razmišljujoči model je dobil dodatni trening na področjih pisanja kode, uporabe računalnikov, odgovarjanja na pravne dileme in podobne naloge, ki jih lahko...