Umetna inteligenca

Predno se bo lokalne modele splacalo lavfat bodo morali cloud ponudniki nehat subvencionirat.

Saj morda bo to kmalu ko jim zmanjkuje hardwarja in morajo throtlat zadnje tedne :)

Pa tut napredek se dogaja, razlika cheap vs premium model se bo v naslednjih letih precej zmanjsala. Ker na premium modelih pocasi dosegajo diminishing return, pri sami optimizaciji porabe hardwerja pa je se dosti okna za izboljsave.

So pa najbrz dolgorocna prihodnost lokalni modeli zapeceni v ASIC chip. Sam to pomeni da bos moral cip menjat da bos model menjal :)

Ti pa si komik

vke4XC je 19. apr 2026 ob 17:17:33 izjavil:

Whatever - LLMji so že polno uporabni kot samostojno odločujoči se agenti, nič hudega, če jih ne poznaš. Tudi na slo-tech.com že delajo :D

Odločajo se že lahko sami, a samostojni še niso in vsaj letos še za kaj resnega ne bodo.

vke4XC je 22. apr 2026 ob 17:06:51 izjavil:

Si je kdo AI mojstrov že postavil domači LLM in ga zares koristi? 16GB ram + 16GB vram je preskromno za leto 2026, ni? Priporočeno je 64GB ram in 16-24 GB vram?

Navedi dejanski CPU, GPU in OS. Zgolj količina RAM/VRAM je pomanjkljiv podatek, ker se te zadeve precej specifične glede na OS in HW.

Tako na splošno rečeno, poskusi Gemmo 4 E4B, Unslothove quante (ker imaš 16 GB VRAM, kar Q8_K_XL quant). Od necenzuriranih pa recimo tale Gemma 4 E4B Heretic (izberi Q8_0 quant).

S tvojim HW bi sicer lahko poganjal tudi zmogljivejšo Gemmo 4 26B-A4B, a nižje quante in najverjetneje z delnim CPU offloadom. Poskusi prvo te zgoraj...

Gemma 4 je sicer top odprti model trenutno, poleg Qwen 3.6.

Minimalističen GNU/Linux brez grafičnega vmesnika. In recimo llama.cpp za inferenco. Ti linki LLM modelov zgoraj so ustrezni prav za uporabo z llama.cpp.

Že sam llama.cpp lahko uporabljaš kot minimalističen chat terminal, ali pa kot OpenAI kompatibilen strežnik, na katerega se lahko poveže praktično kateri koli LLM program z GUI ali TUI, s te iste mašine ali od zunaj.

Če pa je slučajno HW teh starejših notesnikov v osnovi prešvoh, da bi z llama.cpp poganjal Gemmo 4 E4B ali vsaj E2B, potem je, IMHO, škoda časa...

aytim je 19. apr 2026 ob 16:53:33 izjavil:

vke4XC je 19. apr 2026 ob 08:33:59 izjavil:

Glede na odgovorjeno, govorimo o različnih stvareh in mene niti malo ne moti, da tako ostane.

Zgolj različen nivo razumevanja.
Če daš llm za moda, bo hitro prišel do nacija.

Ne bom napisal, da se ti sanja ne, kaj je naci, nacizem, kako deluje, zakaj deluje in s čim se hrani (ta zver)!

Predno odidem s te tehnološke greznice, ali pa naravno sterilnega in zdravilnega srudenca (pitne) vode, bi (ti) postavil samo še eno (preprosto) vprašanje!

Recimo, da tvoja teza drži!
Llm bi zlahka prepoznal nacija in podobne!? (O ostalih takih in drugačnih PACIeNTOV tukaj sploh ne bom vpletal)

VPRAŠANJE:

ZAKAJ potem tega ne storijo!??? In:
Komu je to v interesu!?

Uvest vzgojo, kako ga sploh uporabljat. Tu bo problem, ker AI napreduje prehitro in ko napišejo učbenike, oz. snov, bodo že praktično zastareli.

Do nekega leta pa prepovedat, ker so možgani še premalo razviti. Do 15. morda.

Ja, in pri LLM-jih je osnovni problem je že v tem, da starši in splošna populacija šolskih učiteljev nimajo pojma, kaj v bistvu to je. Če bi to razumeli, bi imeli vsaj neko možnost otroke postopoma naučiti tega, in pa še samo uporabo orodij.

Tako pa smo (spet) v situaciji, da multinacionalke potiskajo svojo agendo skozi vse možne komunikacijske kanale, z namenom izključno zaslužka (in s tem povezane indoktrinacije), družba pa ni pripravljena na to. Obstaja veliko nesorazmerje med tem, kaj so interesi ponudnikov storitev in kaj je dejansko interes družbe.

Taka nesorazmerja bodo vse večja, če ekonomski sistem ne spremenimo v bolj humanega. Ne gre sploh v tej smeri.

Kdo se bo pa odločil kateri model vzgoje bo LLM uporabljal? Ker "strokovnjaki" so nekaj časa nazaj zagovarjali permisivno vzgojo, pa danes vidimo, da ni fino.

delavec44 je 25. apr 2026 ob 15:58:00 izjavil:

Kdo se bo pa odločil kateri model vzgoje bo LLM uporabljal? Ker "strokovnjaki" so nekaj časa nazaj zagovarjali permisivno vzgojo, pa danes vidimo, da ni fino.

Tistega ki ga bo fotr al pa mat nastavila pod child settings :)

V evropi enako.

https://futurism.com/artificial-intelli... ... Ai za kontrolo zračnega prostora. What could possibly go wrong...