Slo-Tech - DeepSeek je morda res zatresel svet, a pri tem so bili površni in nepazljivi. Na internetu se je znašla baza podatkov, v kateri so tudi vsebine pogovorov, ki so jih imeli z DeepSeekom različni uporabniki. Gre za bazo Clickhouse, ki ima več milijonov vrstic dnevnika pogovorov. Poleg tega je v njej moč najti tudi ključe, podrobnosti delovanja in druge občutljive informacije.
Ranljivost je že zakrpana, saj so jo v podjetju Wiz Research po odkritju takoj odgovorno prijavili DeepSeeku, ki je hitro ukrepal. Baza je bila dostopna na naslovih oauth2callback.deepseek.com:9000 in dev.deepseek.com:9000, uporabljala pa ni niti najosnovnejših zaščit. Brez kakršnekoli avtentikacije je bilo možno izvajati operacije nad bazo. Odkrili so jo med rutinskim pregledovanjem, katere domene ima DeepSeek javno dostopne, in to ne le prek vrat 80 ali 443. Nekaj domen so tako našli, ki so odgovarjale na vratih 8123 in 9000.
Ami Luttwak iz Wiz Research dodaja, da se napake seveda dogajajo, a je šlo v tem primeru za katastrofalno napako. Varnostna ranljivost kaže, da DeepSeek še ni pripravljen za resno uporabo z občutljivmi podatki, je še dodal. Ali je še kdo drug odkril odprto bazo in vanjo vstopil, ne vemo.
Se vid da je bil DeepSeek postranski konceptni hobi projekt in da niso računal na tako hipno nenadno povečanje zanimanja da bi bolj resno zastavil zadevo.
Se vid da je bil DeepSeek postranski konceptni hobi projekt in da niso računal na tako hipno nenadno povečanje zanimanja da bi bolj resno zastavil zadevo.
Seveda je. :D Kitajska jemlje projekte z umetno inteligenco kot postranske.
Če prisloniš uho na vroč šporhet, lahko zavohaš kak si fuknjen.
Niso meli H100 kartic ampak H800. H100 so prepovedane za kitajsko. In pa tudi dosti inovacij nima smisla če imaš H100. Glede na to da so pa hedge fund denar verjetno ni problem. Če so pa shortali Nvidio so pa par miljard tudi zaslužli. :)
Here's the thing: a huge number of the innovations I explained above are about overcoming the lack of memory bandwidth implied in using H800s instead of H100s. Moreover, if you actually did the math on the previous question, you would realize that DeepSeek actually had an excess of computing; that's because DeepSeek actually programmed 20 of the 132 processing units on each H800 specifically to manage cross-chip communications. This is actually impossible to do in CUDA. DeepSeek engineers had to drop down to PTX, a low-level instruction set for Nvidia GPUs that is basically like assembly language. This is an insane level of optimization that only makes sense if you are using H800s.
Again, just to emphasize this point, all of the decisions DeepSeek made in the design of this model only make sense if you are constrained to the H800; if DeepSeek had access to H100s, they probably would have used a larger training cluster with much fewer optimizations specifically focused on overcoming the lack of bandwidth.
Vsaka tvoja izjava je nespametna, ampak tega smo že vajeni.
Še iz ukradenega znajo narediti boljši produkt. Seveda sploh če si imel Kitajce pri razvoju produkta nad katerega si potem prilepil kapitalistične zahodne ideje. Ps sej razumeš sarkazem.
France Rejects Genocide Accusations Against Israel in Gaza,
To accuse the Jewish state of genocide is to cross a moral threshold
Še iz ukradenega znajo narediti boljši produkt. Seveda sploh če si imel Kitajce pri razvoju produkta nad katerega si potem prilepil kapitalistične zahodne ideje. Ps sej razumeš sarkazem.
Seveda lahko naredijo iz ukradenega boljši produkt, ker ne rabijo zapravljat ne časa ne denarja za osnoven produkt. Vse kar imajo vržejo v to, da zadevo izboljšajo za 5% in da se potem tolčejo po prsih.
Seveda lahko naredijo iz ukradenega boljši produkt, ker ne rabijo zapravljat ne časa ne denarja za osnoven produkt. Vse kar imajo vržejo v to, da zadevo izboljšajo za 5% in da se potem tolčejo po prsih.
Dvomim, da gre to tako.
Sicer bi lahko pustili ameriške miljarderje, da zapravijo baziljone, mi pa čez par dni skopiramo za promil cene.
Bi, če bi imeli "neomejne" resurse sponzorirane s strani države. Tako pa naša država ne bi kupila na črnem trgu 50 tisoč H100 kartic + vso ostalo opremo za skupaj 2-3 mrd USD.
Kakšen vzvratni inžiniring. Kitajska občutno prednjači pri patentih na področju ai. Poleg tega druga orodja, drugčen pristop pri treniranju modela in celo svoj omrežni sklad. Pojma nimaš.
Kvaliteta ni enako kvantiteta (patenti). Zankrat je ocitno, da vodijo Ameri. Gotovo pa jih Kitajci nameravajo ujeti in prehiteti. Samo dvomim, da imajo sanse.
Lep izgovor za nekopetentnost. Vodijo pri samovožečih vozilih, prepoznavi obrazov , matematičnih razreševalcih, praktično povsod. Edino na llm področju so bili manj znani. Delno zaradi jezika, delno zaradi hwja. Deepseek Laufa na huawejevih procesorjih za inferenco. Kaj bo ko bodo imeli še svoje za trening bomo pa videli.
LoL. Zadeva je open source. Duh je že uštel iz svetilke
Kinda butthurt,no?
Meh...
Deepseek se ne bo mogel izboljšat. Je malo optimizirana različica chatGPT-ja za tiste ki si ne bodo mogli privoščiti boljšega modela bodo pač vzeli deepseek, ki je cenejši.
S čimer ni nič narobe saj ne rabimo za vsako stvar TOP modela, sam to da kitajci lažejo, da je to nek stranski produkt nekega hedge sklada in temu se verjame...
Kakšen vzvratni inžiniring. Kitajska občutno prednjači pri patentih na področju ai. Poleg tega druga orodja, drugčen pristop pri treniranju modela in celo svoj omrežni sklad. Pojma nimaš.
Nimaš pojma. 14 dni nazaj bi dal roko v ogenj, da je ChatGPT najmočnejši model na tržišču, sedaj pa daš roko v ogenj, da so kitajci za 6 miljonov naredili boljši produkt. :D
Če prisloniš uho na vroč šporhet, lahko zavohaš kak si fuknjen.
Lep izgovor za nekopetentnost. Vodijo pri samovožečih vozilih, prepoznavi obrazov , matematičnih razreševalcih, praktično povsod. Edino na llm področju so bili manj znani. Delno zaradi jezika, delno zaradi hwja. Deepseek Laufa na huawejevih procesorjih za inferenco. Kaj bo ko bodo imeli še svoje za trening bomo pa videli.
Verjetno bodo rabili samo 100$ in bodo prehiteli vse po spisku. jao bože, katera naivnost.
Če prisloniš uho na vroč šporhet, lahko zavohaš kak si fuknjen.
Ostajam na GPT. Tud če je open source, kej več kt 7B noben kle nemore sam lavfat tkoda. +da bi hotu sam doma met skor isto kt GPT good luck. Vsaj 1000gb vram.
Pomojem so te LLM tako kot je recimo z Muskovo Teslo. Z AI so dosegli 80% avtomatizacije, za tistih 20% bodo pa scali kri še 20 let. Musk, sicer obljublja da bodo robotaxiji na voljo že 4 leta nazaj, ampak pomojem iz tega ne bo nič vsaj še 10 let.
Te LLM se pa vidi, da je statistika dobra, samo da bo kaj inoviral in ti reševal inžinirske probleme pa ne bo šlo. Dober je za iskanje idej, avtomatizacijo kakšnih odgovorov, iskanje povzetkov, urejanje podatkov itd..
So pa pojem te AI firme naredili precej hypa okoli tega, da pač cene delnic letijo v nebo. Ni pa to nek bav bav, to sedaj dela ogromno podjetij. Glede HW je pa sigurno po mojem menju, da lahko kitajci težavnost s svojim znanjem prepolovijo ali pa zmanjšajo lahko tudi za 10x.
Saj so že zunaj. Ali preko https://lmstudio.ai ali Ollama + Docker + open-webui, da ne gledaš grdega terminala, temveč si g33k in uporabljaš ds preko localhosta v Firefoxu.
Musk, sicer obljublja da bodo robotaxiji na voljo že 4 leta nazaj, ampak pomojem iz tega ne bo nič vsaj še 10 let.
Musk stavi na kamere+sw, vsi ostali na senzorje. Razlog je cena, kamere so poceni, senzorji niso.
. 
