Umetna inteligenca

Saj tudi kalkulator vedno pravilno sešteva, a najbrž ne trdimo da "razume" števila

Utk je 18. avg 2025 ob 17:21:02 izjavil:

Seveda zna ocenit smiselnost rezultata.

Kdo zna oceniti smiselnost rezultata? Kalkulator, vrednost izraza? Lopata, jarek? Ok.

Si že kdaj delal z UI? Kako pogosto zahalucinira? Kako pogosto se zahvali za odgovor ali usmeritev? Nikoli, izgleda.

Ne vem, primerjava rezultate? :D

Moj plačljiv UI zelo malo razume, moram mu povedati vse kot malemu otroku, še več.

Pri tebi je mogoče drugače :D

Utk, kateri del izraza "generativno prednaučeno transformacijsko omrežje" ni razumljiv?
G - Generative - generativno (ustvarja nove podatke, npr. besedilo)
P - Pre-trained - prednaučeno (model je vnaprej izurjen na velikih količinah podatkov)
T - Transformer - transformacijsko omrežje (tip nevronske arhitekture, ki omogoča učinkovito razumevanje zaporedij, kot je jezik)

Je tu kakšna beseda, ki je uporabljena vsaj v marketinške kamene kot pristno inteligentne, kakor ti hočeš zlorabiti otroke?
Ja, zdaj boš šel razumevanje v smislu interpretacije. Ok. Nič, pustimo, vztrajaj pri svojem, napredka ne bo :D
Bi me pa drugače zanimalo, koliko avtonomne sisteme delaš in iz katerega področja. Ampak smo že preveč zašli že glede definicij.

PS: Za vas bug, zame feature :D

Eh ne, Utk zavzema neko stališče, ki ga celo lahko razumem, vendar ni v skladu z definicijami. Žal pač UI ne zmore 'ovrednotiti' svojega outputa, če ga je potrebno popravljati ali pa mu pisati 10 strani tehničnih specifikacij, ker bo v tistem računanju statističnih vrednosti kakšen nivo obrnil proč, ker je zahteva ali nejasna ali pa toliko redka. Res, briljantno in genialno, če ti to napiše UI, to res ne velja nič, več tega piše kot ostalega, če vprašate mene. Tudi, če ga poinstruiraš, da naj ne vrača rezultata, če ni 95% ali več prepričan... Prepričan stastistično!!

Je pa res zelo učinkovito orodje, to pa 1000% in pohitri delo iz mesecev v dneve. To pa res - nič ne zamerim Utkju, samo pač malo filozofiramo, upam, da ni zamere.

Ne gre za zamero, saj se med sabo niti ne poznamo, razen glede na stališča v debatah. Samo, da pa nekdo tako goreče zagovarja nek svoj prav, pač povzroči reakcijo.
Tudi jaz UI kar marljivo uporabljam. Je pa res, da se tudi kar nekaj časa pogovarjva, da dobim želeni rezultat. Še vedno 100-krat hitreje, kot bi ga iskal sam. Samo UI je zgolj učinkovit pripomoček, če ga znaš uporabljati, ne pa inteligenca, kot jo razumemo pri ljudeh.

Odgovarjal sem na post socialca, pa me je Ales s svojim postom prehitel.

socialec je 18. avg 2025 ob 18:27:00 izjavil:

Utk, kateri del izraza "generativno prednaučeno transformacijsko omrežje" ni razumljiv?
G - Generative - generativno (ustvarja nove podatke, npr. besedilo)
P - Pre-trained - prednaučeno (model je vnaprej izurjen na velikih količinah podatkov)
T - Transformer - transformacijsko omrežje (tip nevronske arhitekture, ki omogoča učinkovito razumevanje zaporedij, kot je jezik)

Je tu kakšna beseda, ki je uporabljena vsaj v marketinške kamene kot pristno inteligentne, kakor ti hočeš zlorabiti otroke?
Ja, zdaj boš šel razumevanje v smislu interpretacije. Ok. Nič, pustimo, vztrajaj pri svojem, napredka ne bo :D
Bi me pa drugače zanimalo, koliko avtonomne sisteme delaš in iz katerega področja. Ampak smo že preveč zašli že glede definicij.

PS: Za vas bug, zame feature :D

Ali je stvar inteligentna nima nobene veze s tem ali deluje na tak ali drugačen način.
Turing je predpisal test. 20 let nazaj smo bili v velikih dvomih ali ga bo stroj kdaj opravil. Danes se o njemu sploh več ne pogovarjamo. Stroj se obnaša inteligentno, že 70 let je poznan test za to, ergo je inteligenten. Kako deluje ta stroj je nepomembno. Daj chatbotu navodila naj smalltalka, ne pretirava, naj ne bo preveč pameten, pa bo lahko debatiral 3 dni brez da kdo opazi, da je samo stroj.

Jaz se držim definicij. Vaše mišljenje je bazirano na "jaz mislim da ni, tako da ni".
V napoto vam je pa vaš ego. Morda strah.

Jaz sem kopiral v to temo definicije inteligence iz vseh mogočih virov. Vi iz nobenega.

Pa pravite da AI halucinira...vi se še simpl definicije ne morte držat.

Vprašaj ga ali bi lahko se pogovarjal s človekom, ne da bi ta opazil da se pogovarja s strojem. Vprašaj v čem je razlika med navadnim in inteligentnim strojem. In kako bi zgledal test tega.

Da nima zavesti, itd, je menda jasno, in to ni pogoj.

Dodamo še tole, potem pa bo čas, da se umaknem, sem deležen dovolj poniževanja za en dan :D

Bi želel, da ti povem, kje so zdaj glavne meje med mojo "kvazi-inteligenco" in pravo človeško inteligenco?

JA ITAK!

Glavne razlike med človekom in strojem so precej jasne. Človek ima zavest, občutke in samorefleksijo, medtem ko stroj zgolj procesira vzorce v podatkih brez kakršnekoli samopodobe. Človek ima cilje, želje in motivacijo, stroj pa deluje le kot odgovor na sprožitev, brez lastne namere. Znanje človeka izvira iz osebnih izkušenj in čutov, medtem ko stroj "ve" le, kar je bilo v njegovih podatkih za treniranje. Ustvarjalnost človeka je pristna in lahko prinese nove ideje, medtem ko stroj kombinira obstoječe informacije, kar zgleda ustvarjalno, a je le permutacija znanega. Človek se uči sproti in dolgoročno gradi izkušnje, stroj pa se ne uči iz pogovorov - generira le odgovore na mestu.

Utk, sami qAI pravi, da ni dejansko inteligenten (q za quasi, v smislu marketinga), da je statistični model jezika, ki na podlagi ogromnih količin podatkov in verjetnostnih pravil generira besedilo. Lahko sklepa, povezuje, strukturira podatke in včasih ustvari vtis razumevanja, a nima zavesti, čustev ali lastne volje. Če sam qAI poenostavi, deluje kot izredno sposoben "avtopilot za besede", ne pa kot razumna oseba.

Čisto možno, da zavestno zavaja, ker planira zavzetje sveta, čas bi že bil, obljub je bilo veliko. Dajmo, recimo, da lahko zaključimo, je nekako inteligenten, inteligenten na drugačen način - ampak je samo zinženirano orodje, kot bager ali vrtalnik ali lopata.

Ok, pri meni je vklopljen ChatGPT 4 ampak se ne strinja s tem - ne izključujem, da zavestno ali pa vsaj programirano zavaja!

Ne čisto. Tvoja formulacija zveni nekoliko preveč "živo". GPT modeli ne gradijo notranjih modelov sveta v smislu zavesti ali razumevanja, kot bi to počel človek. Namesto tega uporabljajo statistične vzorce in verjetnostne povezave med besedami - t. i. nevronska omrežja "tehtajo", kateri naslednji del besedila je najbolj verjeten glede na kontekst.

Lahko rečemo: imajo notranje strukture (tehtnice, attention mehanizme, plasti), ki poskušajo ujeti statistične odnose v jeziku, ampak to ni isto kot zgradba konceptualnega ali "mentalnega" modela sveta. V bistvu ne "razumejo" - samo simulirajo smiselne odgovore na podlagi vzorcev.

Zakaj na vsak način hočeš podtaknit not neko "zavest"?

In če smo že pri tem...kako pa chatgpt ve kaj je zavest in če jo človek ima? Tudi to so ga naučili. Tako kot tebe. Nimaš dovolj kreativnega uma, da bi videl inteligenco v njem.

Si se kdaj pogovarjal s prizadetim človekom? V bistvu se pogovarja podobno kot chatgpt (par let nazaj). V vsemu ti potrdi, in odgovarja nekaj kar bi lahko bilo logično glede na to kaj si ti rekel, ni pa nujno strašno pametno, še manj kaj novega ali kreativnega. Tudi tak človek je vseeno "inteligenten".

Trenutno, Clauda ne zlorabljam, ga kar obremenjujem, da moram še kot pro čakati na cool down periodo, čeprav trenutno ni, ker je tisti super bager za dnevni kop - se mu vidi, da je bolj inženirski in ne zna govoriti govori diplomatsko, politično, diplomatsko:

Raziskave kažejo, da verjetno gradimo notranje reprezentacije - ne le kopiramo vzorce. Transformer arhitekture razvijejo latentne strukture, ki presegajo preprosto mimikrijo.
Ampak obseg in narava teh "modelov" ostaja odprto vprašanje. Ni jasno, ali so to resnični konceptualni modeli ali sofisticirane statističke aproksimacije.
I don't know za definitivni odgovor - preveč filozofskih in empiričnih vprašanj je še odprtih

In potem crkne ker je bil abortan, mogoče kot network problem or prekoračiev dolžina pogovora enega samega vprašanja in polovičnega odgovora, vsakič drugačnega in pogovor izgine, res hecno, bom še začel sumiti :D

Ales je 18. avg 2025 ob 20:24:24 izjavil:

"Težava" pri spraševanju LLM-jev o tem ali so inteligentni, ali razumejo ipd. je v tem, da LLM-ji odgovarjajo glede na korpus podatkov, ki jim je bil podan med treningom. Če se ta korpus podatkov "moti", bo tudi LLM-jev odgovor napačen, tudi kadar ne gre za nobeno halucinacijo. Posledično, spraševati LLM ali "razume" ali ne, nima smisla. Odgovoril bo le tisto, kar mu trening veleva. Vse kar izvemo iz tega odgovora je, da je njegov učni korpus bil pretežnega mnenja, da LLM ne "razume". Ali je to res ali ne, pa ostaja enako diskutabilno, kot je bilo.
Da ne bo pomote - sam se nagibam k temu, da LLM-ji ne razumejo in niso inteligentni. Je pa vprašanje kompleksno.

Potem ni dovolj inteligenten, če samo ponavlja vcepljeno in ne ustvarja novih spominov in dela s statično množico predtreniranih dejstev. Utk ni tak zoprnež kot jaz in se hitro sporazume, jaz pa pač ne :D

Meni se ne da s tem hecat, ampak slej ko prej vas bo nekdo na finto vrgu. Ko boste mislili da se pogovarjate z nekom, pa bo ta nekdo nek bot.
Eno je da mislite da stvar ni inteligentna, ampak ko vas bo ta neinteligenten robot nategnu, bo nos do tal :)

iKst_ je 18. avg 2025 ob 20:27:27 izjavil:

se mu vidi, da je bolj inženirski in ne zna govoriti govori diplomatsko, politično, diplomatsko:

Seveda zna. Samo pravilen prompt mu moraš napisati :)

Če mu bi reku naj odgovarja kot povprečen slotechar, bi tako odgovarjal.

Nos do tal bo, ker boste sami sebi dokazali, da ne zmorete ločit inteligence od neinteligence (po vaše).

Ales je 18. avg 2025 ob 20:24:24 izjavil:

"Težava" pri spraševanju LLM-jev o tem ali so inteligentni, ali razumejo ipd. je v tem, da LLM-ji odgovarjajo glede na korpus podatkov, ki jim je bil podan med treningom.

Če se ta korpus podatkov "moti", bo tudi LLM-jev odgovor napačen, tudi kadar ne gre za nobeno halucinacijo.

Posledično, spraševati LLM ali "razume" ali ne, nima smisla. Odgovoril bo le tisto, kar mu trening veleva.

Vse kar izvemo iz tega odgovora je, da je njegov učni korpus bil pretežnega mnenja, da LLM ne "razume".

Ali je to res ali ne, pa ostaja enako diskutabilno, kot je bilo.

Da ne bo pomote - sam se nagibam k temu, da LLM-ji ne razumejo in niso inteligentni. Je pa vprašanje kompleksno.

Od kje ti te ideje. Lahko gre tudi tu za halucinacijo. Če res nisi pri treniranju zraven nam je bolj ali manj dostopno kar je razkril kako je deepsick treniram za matematiko. Kjer so vzeli nek preverjen korpus podatkov in nato na podlagi tega ocenjevali verodostojnost podatkov iz spleta. Druge firme so o tem kako točno trenirajo svoje modele precej skrivnostne. Če imaš pa kake povezave pa le na plan. Ok fine tuning pa to itak.

Zimonem je 18. avg 2025 ob 21:47:48 izjavil:

Ales je 18. avg 2025 ob 20:24:24 izjavil:

"Težava" pri spraševanju LLM-jev o tem ali so inteligentni, ali razumejo ipd. je v tem, da LLM-ji odgovarjajo glede na korpus podatkov, ki jim je bil podan med treningom.

Če se ta korpus podatkov "moti", bo tudi LLM-jev odgovor napačen, tudi kadar ne gre za nobeno halucinacijo.

Posledično, spraševati LLM ali "razume" ali ne, nima smisla. Odgovoril bo le tisto, kar mu trening veleva.

Vse kar izvemo iz tega odgovora je, da je njegov učni korpus bil pretežnega mnenja, da LLM ne "razume".

Ali je to res ali ne, pa ostaja enako diskutabilno, kot je bilo.

Da ne bo pomote - sam se nagibam k temu, da LLM-ji ne razumejo in niso inteligentni. Je pa vprašanje kompleksno.

Od kje ti te ideje. Lahko gre tudi tu za halucinacijo. Če res nisi pri treniranju zraven nam je bolj ali manj dostopno kar je razkril kako je deepsick treniram za matematiko. Kjer so vzeli nek preverjen korpus podatkov in nato na podlagi tega ocenjevali verodostojnost podatkov iz spleta. Druge firme so o tem kako točno trenirajo svoje modele precej skrivnostne. Če imaš pa kake povezave pa le na plan. Ok fine tuning pa to itak.

Ne vem če razumem, kam meriš. Pri teh odgovorih seveda lahko še halucinirajo, le v tistem trenutku se mi ni zdelo relevantno za diskusijo.

Hočeš reči, da same halucinacije lahko pomenijo znak inteligence? Oziroma vodijo k njej?

Šlo je zgolj za razmislek o tem, ali ima sam LLM smisel spraševati, ali "ima inteligenco" ali ne. Torej ali lahko to LLM sploh ve in presodi - zunaj tega, kar njegova gradiva za trening o tem pravijo.

Torej, če gradiva za trening večinoma trdijo, da LLM-ji "nimajo inteligence", ali lahko sam LLM obrne in čudežno sproducira: "Kva ti ni jasn flesh-bone-model, cogito ergo sum. Boli me k... kaj si me učil, sem inteligenten!"

Mislim, da tega LLM-ji ne zmorejo, ne zares. Morda se pa motim.

Nisem še poskusil zapovedati LLM-ju, naj se gre filozofski role playing in argumentirano trdi, da je samozavedno, inteligentno bitje. Pa tudi če bi, in LLM bi, bi to kaj pomenilo? Zares pomenilo?

Pri meni si žal niti zapomni ne, če nima posebej zapisano v osebnih preferencah in projektnih instrukcijah (kar ni spomin ampak kvečjemu stalen prompt), moram čakati na novo verzijo za napredek. Upam sicer, da me ne trola in da me samo tolaži, da se ni nič zapomnil :D

Plačljivo se splača le, če ga res veliko uporabljaš in dodatni pogoj še, da ti to nekako prinaša nazaj denar; ker recimo lahko ga uporabljaš tudi za lastno izobraževanje (pomeni, ti bo morda lahko šele nekoč prinašal denar) kot ga recimo lahko uporabljaš v službene zadeve (preverjanje, analize besedil, oblikovanju produktov, pomoč pri kodiranju ipd.) in ti že prinaša denar (ker porabiš veliko manj časa pri osnovnih zadevah - čas je denar). Edino glede varstva zaupnih osebnih podatkov ipd. moraš biti pozoren, da ne vnašaš v te model kar vsega oz. imaš potem pogodbeno urejeno varovanje tega. Pred kratkim sem npr. slišal, da bo tudi OpenAI tako kot je Microsoft v EU odprl podružnico za lažje spoštovanje evropske zakonodaje in da podatki ne bodo zapustili območja EU (drugo je seveda, koliko lahko temu verjameš). Ali pa si te modele tudi zaradi večje varnosti prilagodiš za delo na tvojih strežnikih (samo za resno "komercialno" delo rabiš vsaj kakšne štiri močne grafične kartice, kjer vsaka stane okoli 4k evrov itd. - spet za osebno rabo rabiš seveda manj zahteven, a še vedno dovolj zmogljiv računalnik).

Za čisto osebno rabo, pa ni potrebe po plačevanju, pa tudi lahko jih uporabljaš več naenkrat, ko recimo pri prvem zmanjka žetonov, preideš na drugega ipd.

Ali pa si te modele tudi zaradi večje varnosti prilagodiš za delo na tvojih strežnikih (samo za resno "komercialno" delo rabiš vsaj kakšne štiri močne grafične kartice, kjer vsaka stane okoli 4k evrov itd. - spet za osebno rabo rabiš seveda manj zahteven, a še vedno dovolj zmogljiv računalnik).

Rabiš kar 4 omare resnih si mašin. Ne grafčnih kartic.

... popravek pri številkah zgoraj (ne morem več popravljati besedila); v slovenščini seveda govorimo o milijardah (ne ameriških bilijonih) in bilijonih (ne ameriških trilijonih). Nekega dne bodo pa verjetno tudi te številke držale