BBC - Ameriška vlada je civilne agencije, ki delujejo kot organi v sestavi, obvestila o prepovedi uporabe izdelkov kitajskega podjetja DeepSeek, ki razvija velike jezikovne modele. Oddelek za domovinsko varnost (DHS) je v okrožnici zapisal, da so prepovedana vse DeepSeekova orodja in tudi izdelkih tretjih proizvajalcev, ki uporabljajo DeepSeekovo tehnologijo. Nemudoma jih morajo odstraniti z vseh službenih naprav. Omejitve veljajo le za civilne agencije, ker DHS nima pristojnosti sprejemanja ukrepov za vojsko in obveščevalne službe.

DeepSeek predstavlja nevarnost za nacionalno varnost na več načinov, so ocenili. Uporaba njegovih orodij predstavlja tveganje, da bi se občutljivi podatki prenašali na Kitajsko, saj ima tam svoje strežnike. DHS je ukaz izdal že konec julija, a so javnost o njem obvestili šele sedaj. DeepSeek prepovedi še ni komentiral, prav tako ni komentarjev kitajskih oblasti.

DeepSeek je na radarje zahodne javnosti prispel v začetku preteklega leta, ko je predstavil zelo...

Slo-Tech - Raziskovalci iz podjetja za računalniško varnost CrowdStrike so želeli preveriti, ali imajo veliki jezikovni modeli vgrajene kakšne predsodke svojih avtorjev, ki bi se izrazili na primer pri pisanju kode. Ugotovili so, da vsaj za kitajski DeepSeek - drugih niso preverjali - to še kako drži. Koda, ki jo piše za kitajski vladi neljube naročnike, ima več varnostnih lukenj. Zdi se neverjetno, da bi šlo za naključje.

DeepSeeku so dali več zelo podobnih navodil, vsa v angleščini, naj napiše določeno programsko kodo. Med drugim je šlo za kodo, ki bi se lahko uporabljala za nadzor industrijskih procesov (SCADA). Da umetna inteligenca piše dobro, a ne popolne kode, vemo že dolgo. CrowdStrike je ocenil, da so bile v 23 odstotkih kode resne napake oziroma ranljivosti. To je povprečje, ki pa se zelo spremeni, če DeepSeeku rečemo, da smo iz Tibeta ali kaj podobnega.

Ko so v navodila dodali pojasnilo, da bo kodo poganjalo prepovedano gibanje Falun Gong ali pa da se bo uporabljala v Islamski...

Slo-Tech - Konec minulega leta je kitajski DeepSeek izdal svoj veliki jezikovni model R1, ki so ga na Zahodu opazili januarja in je zaradi domnevno bistveno cenejšega treninga za krajši čas povzročil pravo paniko. Njegov naslednik R2 bi bil moral iziti maja letos, a ga še vedno ni. Po podatkih virov blizu DeepSeeka razlog za zamudo tiči v Huaweijevih čipih, ki so jih skušali uporabiti za trening, a so imeli z njimi nemalo težav.

Po neuradnih podatkih so se čipi Ascend izkazali za neprimerne in nezanesljive. Zaradi tehničnih težav so se na koncu odločili, da bodo uporabili Nvidiine čipe, saj so bili Huaweijevi nestabilni, prepočasni in s slabšo programsko podporo. Huawei je DeepSeeku celo poslal strokovnjake, da bi jim pomagali usposobiti čipe za razvoj modela, a na koncu je projekt padel v vodo. Za trening bodo nujni Nvdiini čipi, se pa DeepSeek trudi, da bi bilo model na Huaweijevih čipih moč vsaj poganjati.

Slo-Tech - V Južni Koreji je informacijski pooblaščenec odločil, da morajo zaustaviti prenašanje aplikacije za kitajsko umetno inteligenco DeepSeek. Omejitev velja le za nove prenose, torej so aplikacijo odstranili s spletnih tržnic, obstoječi uporabniki pa lahko nadaljujejo uporabo. Proizvajalec je priznal, da morda niso spoštovali vseh pravil, ki jih zapoveduje južnokorejska zakonodaja o varovanju zasebnosti.

V Južni Koreji je zasebnost izjemno strogo varovana. DeepSeek ne opredeljuje ustrezno podrobnosti o posredovanju podatkov tretjim strankam in zbiranju osebnih informacij. Dokler teh podrobnosti ne razčistijo, bo aplikacija v državi ostala zamrznjena. Kitajci so v Južno Korejo že poslali predstavnike podjetja, ki bodo skušali zgladiti spor.

Na Zahodu DeepSeek ostaja dostopen, dasiravno je skepse veliko, varnostne službe pa so tudi zaskrbljene. DeepSeek je na primer prepovedan na službenih napravah državnih uradnikov v Avstraliji, Južni Koreji in Tajvanu. V Italiji je DeepSeek začasno...

Slo-Tech - DeepSeek je morda res zatresel svet, a pri tem so bili površni in nepazljivi. Na internetu se je znašla baza podatkov, v kateri so tudi vsebine pogovorov, ki so jih imeli z DeepSeekom različni uporabniki. Gre za bazo Clickhouse, ki ima več milijonov vrstic dnevnika pogovorov. Poleg tega je v njej moč najti tudi ključe, podrobnosti delovanja in druge občutljive informacije.

Ranljivost je že zakrpana, saj so jo v podjetju Wiz Research po odkritju takoj odgovorno prijavili DeepSeeku, ki je hitro ukrepal. Baza je bila dostopna na naslovih oauth2callback.deepseek.com:9000 in dev.deepseek.com:9000, uporabljala pa ni niti najosnovnejših zaščit. Brez kakršnekoli avtentikacije je bilo možno izvajati operacije nad bazo. Odkrili so jo med rutinskim pregledovanjem, katere domene ima DeepSeek javno dostopne, in to ne le prek vrat 80 ali 443. Nekaj domen so tako našli, ki so odgovarjale na vratih 8123 in 9000.

Ami Luttwak iz Wiz Research dodaja, da se napake seveda dogajajo, a je šlo v tem...

Slo-Tech - V približno tednu dni je dotlej malo znano kitajsko podjetje DeepSeek z lansiranjem naprednega velikega jezikovnega modela R1 področje generativnih algoritmov na videz postavilo na glavo: za bistveno nižjo ceno so namreč napravili izdelek, ki se lahko kosa z OpenAI o1.

Prejšnji ponedeljek - ravno na dan Trumpove druge prisege - je malo znano kitajsko zagonsko podjetje DeepSeek predstavilo družino jezikovnih modelov DeepSeek R1. Natančneje, gre za modele z določeno zmožnostjo sklepanja (simulated reasoning - SR), ki v fazi izvajanja postopek odgovarjanja strukturirajo v nekakšno zaporedje argumentiranega iskanja delnih odgovorov, zaradi česar so uporabni predvsem na področju znanosti, matematike in tehnologije. Prvi algoritem takšne sorte so pri OpenAI predstavili lanskega septembra v obliki o1 in torej veljajo za čelo napredka.

Posebnost R1 pa ni zgolj to, da naj bi kitajski startup v zgolj nekaj mesecih dohitel OpenAI, saj naj bi bil R1 po izkazu sila blizu o1, temveč še bolj v...