Anthropic prisiljen ukiniti dostop do modelov Claude Fable 5 in Claude Mythos 5

Le nekaj dni po izidu najnovejših modelov Claude Fable 5 in Claude Mythos 5 - prvi je namenjen sleherniku in ima vgrajene varovalke, da ga ne bi izkoriščali za kibernetske napade, drugi pa je na voljo le upravičenim uporabnikom - ju je moral Anthropic odstraniti z interneta. Potrdili so, da je ameriška vlada uvedla izvozne omejitve, ki prepovedujejo uporabo vsem tujim državljanom, tako v tujini kakor v ZDA. Zaradi tega so morali nemudoma onemogočiti dostop do modelov, kar velja za vse uporabnike, tudi v ZDA.

Vlada je ukaz izdala včeraj ob 17.21 po lokalnem času (23.21 po slovenskem času), v njem pa se brez dodatnih pojasnil sklicuje na nacionalno varnost. Po Anthropicovemu tolmačenju naj bi vlada ugotovila, da je možno varovalke v modeli obiti (bypassing, jailbreaking). Podrobni pregled pri proizvajalcu je pokazal, da gre za manjše ranljivosti, ki jih je trivialno odpraviti. Dodajajo, da lahko enake ranljivosti odkrijejo tudi drugi, javno dostopni modeli. Ponavljajo, da ima Claude zelo široke varovalke, zaradi katerih se uporabniki celo pritožujejo, v nobenem primeru pa niso odkrili univerzalnega načina za njihov obvoz. Ameriška administracija je s podjetjem le ustno delila okvirne informacije o ranljivosti.

Dostop do drugih Anthropicovih modelov ni moten. Claude Fable 5 in Claude Mythos 5 pa bosta morala počakati, da Anthropic in ameriška administracija najdeta skupni jezik. V podjetju so optimistični, da gre za nesporazum, ki bo hitro zglajen. Blokada tudi v ZDA pa je logična posledica dejstva, da ni mogoče razlikovati med uporabniki v ZDA, ki so državljani, in tistimi, ki niso.