Slo-Tech - Anthropic je iz svojega modela Claude Code odstranil steganografski podpis, ki je uporabnikom nevidno podpisoval pozive, če so ga uporabljali kitajski uporabniki. Funkcionalnost je minuli teden odkril uporabnik Thereallo, ki je v kodi opazil sicer neškodljive, a zelo prepoznavne podpise. Claud Code je vanje skrival informacije o časovnem pasu, posredniškem strežniku (proxy) in povezavi s Kitajsko.

Očitki niso teorija zarote, temveč jih je Anthropicov inženir Thariq Shihipar prostodušno potrdil. Dejal je, da so eksperimenta začeli marca, da bi preprečili nezakonito preprodajo ali destilacijo modela. Preprodaja dostopa se je dejansko dogajala. Dodal je, da je Anthropic že dlje časa nameraval odstraniti omenjeno podpisovanje, ker so v isti namen razvili naprednejša orodja.

Anthropic ni edino ameriško podjetje, ki Kitajcem očita destilacijo modelov in si prizadeva, da bi ta postala nezakonita. Alibaba, ki razvija model Qwen, podobno kot druga kitajska podjetja ne komentira očitkov o...

Slo-Tech - Le nekaj dni po izidu najnovejših modelov Claude Fable 5 in Claude Mythos 5 - prvi je namenjen sleherniku in ima vgrajene varovalke, da ga ne bi izkoriščali za kibernetske napade, drugi pa je na voljo le upravičenim uporabnikom - ju je moral Anthropic odstraniti z interneta. Potrdili so, da je ameriška vlada uvedla izvozne omejitve, ki prepovedujejo uporabo vsem tujim državljanom, tako v tujini kakor v ZDA. Zaradi tega so morali nemudoma onemogočiti dostop do modelov, kar velja za vse uporabnike, tudi v ZDA.

Vlada je ukaz izdala včeraj ob 17.21 po lokalnem času (23.21 po slovenskem času), v njem pa se brez dodatnih pojasnil sklicuje na nacionalno varnost. Po Anthropicovemu tolmačenju naj bi vlada ugotovila, da je možno varovalke v modeli obiti (bypassing, jailbreaking). Podrobni pregled pri proizvajalcu je pokazal, da gre za manjše ranljivosti, ki jih je trivialno odpraviti. Dodajajo, da lahko enake ranljivosti odkrijejo tudi drugi, javno dostopni modeli. Ponavljajo, da ima Claude...

Slo-Tech - Anthropic je ta teden uporabnikom svojega programerskega modela Claude nekoliko omejil njegovo uporabo. Kvote za uporabo (žetoni) se ponastavijo vsakih pet ur, doslej pa se je njihova uporaba ves čas obračunavala enako. Odslej bo uporaba med najbolj zaželenimi termini strožje vrednotena. Najbolj zaželeni termini so od 14. do 20. ure po srednjeevropskem času (oziroma od 5. do 11. ure v Kaliforniji).

Thariq Shihipar iz Anthropica je sporočil, da bo omejitev občutilo približno sedem odstotkov uporabnikov. Omejitev bo veljala v vseh paketih, tako v brezplačnem kot tudi plačljivih (Pro in Max). Tedenske kvote bodo ostale enake, le popoldne (v Evropi) bo možno postoriti manj. Ko uporabnik porabi svojo kvoto, mora uporabljati šibkejši in slabši model od ponastavitve čez pet ur.

Spomnimo, da je sredi meseca Anthropic vsem uporabnikom podvojil kvote za dva tedna. Ta obdobje se je sedaj izteklo, odslej pa bo treba nekoliko bolj taktično načrtovati, kdaj uporabljati Claude.

Reuters - Ni presenečenje, da je Anthropic vložil tožbo proti ZDA, ker ga je ministrstvo za obrambo uvrstilo na seznam družb, ki predstavljajo tveganje za nacionalno varnost. Ta oznaka je posledica spora med Pentagonom in Anthropicom, ki iz svoje umetne inteligence ni želel odstraniti varovalk, ki bi preprečevale njeno uporabo za nadzor prebivalcev in krmiljenje avtonomnih smrtonosnih orožij. Pentagon je odpovedal vse pogodbe z Anthropicom, z uvrstitvijo na seznam pa morajo to storiti tudi vsa podjetja, ki poslujejo s Pentagonom. Ameriški predsednik je sicer na svojem družbenem omrežju od vseh podjetij, ki poslujejo z zvezno vlado, zahteval prekinitev sodelovanja z Anthropicom.

Anthropic je zato danes vložil tožbo na zvezno sodišče v Kaliforniji, v kateri zahteva odstranitev s seznama. Podjetje trdi, da mu ameriška administracija s tem krši pravico do svobode govora (prvi amandma) in pravico do pravične obravnave (peti amandma). Gre za prvi primer, ko se je kakšno ameriško podjetje znašlo...

Slo-Tech - Iz Anthropica je prispel novi model umetne inteligence Claude 3.7, ki zmore delovati v dveh načinih. Odzivi so lahko klasični ali pa razmišljujoči (reasoning), s čimer lahko rešuje tudi težje zagonetke. Zaradi tega je hibridni model enostavneje uporabljati, zlasi kadar potrebujemo kombinirane odzive. Uporabnik (ki uporablja API) ima nadzor nad njegovim obnašanjem, na primer kako dolgo razmišlja in koliko računske moči troši. Hkrati model izpisuje (scratchpad), kako razmišlja oziroma rešuje problem. To je koristna informacija tudi za uporabnika, ki lahko vidi, ali bi se model bolje odrezal, če bi imel na voljo več časa, in podobno.

Claude 3.7 je precej boljši pri pisanju kode in razvoju, dobil pa je tudi orodje Claude Code za pisanje kode. Inženirji mu lahko delegirajo različna opravila, ki jih morajo rešiti pri programiranju. Razmišljujoči model je dobil dodatni trening na področjih pisanja kode, uporabe računalnikov, odgovarjanja na pravne dileme in podobne naloge, ki jih lahko...

Anthropic - Pri Anthropicu so predstavili družino velikih jezikovnih modelov Claude 3, s katero neposredno žugajo Geminiju in GPT-4.

Medtem ko se pod soji luči vrši dvoboj med navezo OpenAI-Microsoft in Googlom, ter Meta v bližini nekaj motovili z lamami, si skuša na področju velikih jezikovnih modelov svoj kos pogače odrezati tudi kopica manjših izzivalcev. Med bolj prepoznavnimi je družba Anthropic, ki so jo pred tremi leti ustanovili odpadniki iz OpenAI, ki so Samu Altmanu po povezavi z Microsoftom očitali prehitro komercializacijo. Sami razvijajo modele družine Claude, katere posebnost je vdelava spiska dodatnih zavor in smernic, po katerih naj bi se strojna pamet ravnala, čemur pravijo "constitutional AI". Zanimiva je tudi njihova dolgoročna strategija, po kateri želijo prispeti do algoritmov, ki bi se znali - vsaj na določenem ožjem področju - učiti sami in bi bili lahko osnova močnim pametnim pomočnikom. To se pravi, podobno kot pri OpenAI, le da še kanec bolj ambiciozno.

Medtem ko...