» »

Anthropic sledil nekaterim uporabnikom

Anthropic sledil nekaterim uporabnikom

Slo-Tech - Anthropic je iz svojega modela Claude Code odstranil steganografski podpis, ki je uporabnikom nevidno podpisoval pozive, če so ga uporabljali kitajski uporabniki. Funkcionalnost je minuli teden odkril uporabnik Thereallo, ki je v kodi opazil sicer neškodljive, a zelo prepoznavne podpise. Claud Code je vanje skrival informacije o časovnem pasu, posredniškem strežniku (proxy) in povezavi s Kitajsko.

Očitki niso teorija zarote, temveč jih je Anthropicov inženir Thariq Shihipar prostodušno potrdil. Dejal je, da so eksperimenta začeli marca, da bi preprečili nezakonito preprodajo ali destilacijo modela. Preprodaja dostopa se je dejansko dogajala. Dodal je, da je Anthropic že dlje časa nameraval odstraniti omenjeno podpisovanje, ker so v isti namen razvili naprednejša orodja.

Anthropic ni edino ameriško podjetje, ki Kitajcem očita destilacijo modelov in si prizadeva, da bi ta postala nezakonita. Alibaba, ki razvija model Qwen, podobno kot druga kitajska podjetja ne komentira očitkov o destilaciji. A to ne pomeni, da je Anthropicovo početje upravičeno ali sploh smiselno. Podjetje, ki toliko stavi na zaupanje, bi svoje uporabnike zlahka obvestilo, da uporabljajo metode za preprečevanje in zaznavanje nezakonite rabe, pa je raje v model vtaknilo sledenje. Večina uporabnikov sicer ni bila tarča, je treba priznati.

2 komentarja

rekakitece ::

Ne vidim nič spornega? Malo metadata trackinga..

pegasus ::

Tudi rezultati AlphaFold3 so watermarked, da google ve poimensko, čigava instanca modela je bila uporabljena pri generiranju rezultatov ...


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Mythos 5 in Fable 5 dobila zeleno luč za vrnitev

Oddelek: Novice / Ostale najave
172047 (643) Tody
»

ZDA 250: 60 ameriških inovacij ki so preoblikovale gospodarstvo in svet (strani: 1 2 )

Oddelek: Loža
915433 (3560) PovemVfaco
»

Anthropic toži ZDA, ker so ga označile za tveganje za nacionalno varnost

Oddelek: Novice / Tožbe
123126 (639) sbawe64
»

Anthropic pristal v nemilosti ameriškega predsednika

Oddelek: Novice / Tožbe
254692 (1919) Mr.B
»

Anthropic tožijo zaradi uporabe avtorsko zaščitenih vsebin za trening umetne intelige

Oddelek: Novice / Tožbe
105076 (3992) Utk

Več podobnih tem