Novice » Znanost in tehnologija » Matematiki svarijo pred jezikovnimi modeli v matematiki
Utk ::
Preverjaš enako kot se preveri vse drugo. Prednost je da dobiš rezultat hitro.
Morda preveč gledaš na svoj proces. Če moraš zdaj vse 5x preverit, boš tudi še naprej. Samo da začetni del dobiš hitreje, in pri preverjanju ti tudi lahko kaj pomaga.
Če jaz AI rečem preglej maile o tej zadevi, kaj je nazadnje dogovorjeno, pripravi odgovor tak in tak, itd., pa seveda ne bom šel še sam čez 100 mailov preverjat ali je on to prav razumel. Ker tudi če bi šel, kdo pravi da ne bi jaz še več pomembnih stvari izpustil.
Če mu rečem naredi mi tako funkcijo, ali celo formo, tudi ne bom šel preverjat po vrsticah kaj je naklofal, ampak bom pregledal končni rezultat, kot končni uporabnik.
Morda preveč gledaš na svoj proces. Če moraš zdaj vse 5x preverit, boš tudi še naprej. Samo da začetni del dobiš hitreje, in pri preverjanju ti tudi lahko kaj pomaga.
Če jaz AI rečem preglej maile o tej zadevi, kaj je nazadnje dogovorjeno, pripravi odgovor tak in tak, itd., pa seveda ne bom šel še sam čez 100 mailov preverjat ali je on to prav razumel. Ker tudi če bi šel, kdo pravi da ne bi jaz še več pomembnih stvari izpustil.
Če mu rečem naredi mi tako funkcijo, ali celo formo, tudi ne bom šel preverjat po vrsticah kaj je naklofal, ampak bom pregledal končni rezultat, kot končni uporabnik.
Zgodovina sprememb…
- spremenil: Utk ()
Zmajc ::
nekikr ::
Zveni politično nekorektno, ne pa neizobraženo.
Tako kot vse ostale. Poveš kakšen mora biti test in kakšen rezultat, da zadeva pije vodo, potem pa vržeš notri drug swarm ali pa človečnjake, če so temu kos in voila! Ne sprejmem, da se to da samo če je nek matematik prej 40 let vlekel državno plačo in hodil na simpozije.
Kako boš neodvisno dokazoval nek izračun ki ga je agent swarm reševal 88 ur?
Tako kot vse ostale. Poveš kakšen mora biti test in kakšen rezultat, da zadeva pije vodo, potem pa vržeš notri drug swarm ali pa človečnjake, če so temu kos in voila! Ne sprejmem, da se to da samo če je nek matematik prej 40 let vlekel državno plačo in hodil na simpozije.
BigWhale ::
Če mu rečem naredi mi tako funkcijo, ali celo formo, tudi ne bom šel preverjat po vrsticah kaj je naklofal, ampak bom pregledal končni rezultat, kot končni uporabnik.
To je kr dober nacin, da dobis ven AI slop, ki ga nihce vec ne razume, ki bo delal pocasi in slabo. To, da lahko hitreje iteriras med verzijami je trenutno se prednost ampak ce stvari ne kontroliras tudi s pregledovanjem kode, prides hitro do problema.
Ni treba brati vseh vrstic ampak nek sanity check bo pa se nekaj casa protreben, ker LLMji enostavno nimajo dovolj konteksta, da bi lahko spremljali sirso sliko.
Utk ::
Zato je dobro da naredi nek cel sklop. Ko postane velik, počasen, karkoli, mu ga vržeš nazaj v faco in mu poveš v čem je problem.
nekikr ::
Če mu rečem naredi mi tako funkcijo, ali celo formo, tudi ne bom šel preverjat po vrsticah kaj je naklofal, ampak bom pregledal končni rezultat, kot končni uporabnik.
To je kr dober nacin, da dobis ven AI slop, ki ga nihce vec ne razume, ki bo delal pocasi in slabo. To, da lahko hitreje iteriras med verzijami je trenutno se prednost ampak ce stvari ne kontroliras tudi s pregledovanjem kode, prides hitro do problema.
Ni treba brati vseh vrstic ampak nek sanity check bo pa se nekaj casa protreben, ker LLMji enostavno nimajo dovolj konteksta, da bi lahko spremljali sirso sliko.
Na parih zadevah ki sem jih naredil (Claude je naredil) in jih konstantno dograjujem glede na kaprice tistega dne, mu večkrat rečem, da naj gre čez vse korake in kodo in naj optimizira kar lahko, naredi oceno kje in kako bi lahko še optimiziral, če bi se morda česa lotil z drugega konca. Deluje že zdaj. Deluje perfektno? Absolutno in definitivno! Če primerjaš s slopom ki ga generira povprečen programer.
Utk ::
Tako. Tudi človek dela napake in ne optimalno. V teh časih če se ne gre ravno za letalo in življenja nimaš časa vse delat optimalno. Bolj je pomembno da lahko delaš hitre popravke in spremembe kot pa da je perfektno.
BigWhale ::
mu večkrat rečem, da naj gre čez vse korake in kodo in naj optimizira kar lahko, naredi oceno kje in kako bi lahko še optimiziral, če bi se morda česa lotil z drugega konca. Deluje že zdaj. Deluje perfektno? Absolutno in definitivno!
Torej, ni niti absolutno niti perfektno? To je to kar ze ves cas trdim.
In, da ce ga ne nadziras in ne ves kaj je potrebno nadzirati, ne mores vedeti, da je potrebno narediti se eno iteracijo.
c23po ::
Na parih zadevah ki sem jih naredil (Claude je naredil) in jih konstantno dograjujem glede na kaprice tistega dne, mu večkrat rečem, da naj gre čez vse korake in kodo in naj optimizira kar lahko, ...A ni to nekoliko jalovo delo, glede na Goedelovo (in Turingovo) ugotoviev, da samoreferenca vodi do protislovja. (Sistem ne more dovolj dobro opisati samega sebe)? V proces optimizacije bi moral vpeljati nek drug dejavnik. Verjetno najbrž še vedno možgane?
Računalniki nimajo spominov.
feryz ::
A niste še nikoli pomislili, da so ai-ji nalašč glupi? Vsaj tisti, ki so raji na voljo.
Delno zaradi razlik med kastami uporabnikov, delno pa z namenom kurjenja resursov tistim, ki plačujejo zanje.
Delno zaradi razlik med kastami uporabnikov, delno pa z namenom kurjenja resursov tistim, ki plačujejo zanje.
c23po ::
Feryz, a nisi nikoli pomislil, da so kladiva glupa in da glup uporabnik z njim naredi škodo? Nekatera so nesramno draga z namenom kurjenja resursov tistim, ki plačujejo zanje.
Računalniki nimajo spominov.
BigWhale ::
A ni to nekoliko jalovo delo, glede na Goedelovo (in Turingovo) ugotoviev, da samoreferenca vodi do protislovja. (Sistem ne more dovolj dobro opisati samega sebe)? V proces optimizacije bi moral vpeljati nek drug dejavnik. Verjetno najbrž še vedno možgane?
Jaz veckrat vpletem tudi kak drug model.
Se pa lepo vidi, kako skozi vec iteracij en in isti model najde razlicne stvari, tudi ce se vmes nic ne spremeni.
nekikr ::
Torej, ni niti absolutno niti perfektno? To je to kar ze ves cas trdim.
Seveda je, če primerjam s povprečnim programerjem, pa tudi advanced programerji, ki sem jih imel že cel kup, ko so nam delali take in drugačne zadeve.
Ja, saj vem v kaj se vtaknete in imate vsi seveda prav. Dokler sistem ni vsaj 101% učinkovit in brez napake, do takrat je brezvezen. V praksi je pa boljši od vsaj 99% človečnjakov, odzivnejši pa od vseh.
c3p0 ::
Saj si gradijo superračunalnike za težke milijone davkoplačevalcev, pa naj bo denarja še za kak H100 clusterček.
Katere superračunalnike pa si lastijo izključno matematiki?
Zakaj pa bi si jih morali izključno oni lastiti?
Also "H100 clusterček" niti kupit več ne moreš, ker je to obsolete EOL tech. Mogoče ga lahko na kakem odpadu izbrskaš
Idealno čas za nakup, ko veliki odjemalci upgradajo in mečejo "staro robo ven".
Zgodovina sprememb…
- spremenil: c3p0 ()
c3p0 ::
Ena moja opazka na to temo je, da ljudje uporabljajo LLMje za strukturiranje odgovora, ker ga sami niso sposobni ubesedit tako, da ima odgovor glavo in rep. Prekratek attention span, preveč zmedene misli in sposobnost pisanja vsaj enega konsistentnega odstavka hitro izpuhti.
V šolah bi morali več poudarka dati na pisanje esejev.
Ena opazka je, zakaj je sploh prišlo do tega, da bi človek moral pisat odgovor. Zakaj LLM ne reši tega brez človeka?
McAjvar ::
Zakaj pa bi si jih morali izključno oni lastiti?
Da bi lahko prednostno reševali svoje probleme?
Poskusiva drugače: kateri superračunalnik so si omislili matematiki in za koliko milijonov?
"[...] the advance of civilization is nothing
but an exercise in the limiting of privacy."
- Isaac Asimov
but an exercise in the limiting of privacy."
- Isaac Asimov
Markoff ::
Pa ne samo AI, prepovedati bi morali tudi kalkulatorje. Kaj se pa gredo eni, da kar v kalkulator nek račun dajo, namesto da bi peš računali na tabli 20 let z državno plačo?!
Veriga znanja je bila doslej človeška, saj je vključevala seminarje, diskusije, članke, učbenike itd.
Točno to je problem v fiziki. Ogroooooomno denarja gre za izlete, seminarje, diskusije, tekma kdo bo napisal več brezveznih člankov je že leta problem, potem pa bolj malo ostane za eksperimente.
Morda malce nerodno zapisano. AI je še vedno sistem približkov in verjetnosti. Njegove napake in pomanjkljivosti opazi le človeški ekspert, ki razume materijo. Da je pridobil takšno strokovnost, je moral začeti na začetku, z osnovami, temelji. Na teh je nato gradil znanje in kariero. AI najlažje nadomesti temelje, z dovolj dobrimi približki. Torej junior kader. Če eliminiraš junior kader, vzameš osnovo, na kateri se zgradi ekspert. Pri matematiki je verjetno podobno - če ne znaš računati na pamet, če ne razumeš, kaj funkcije in modeli pravzaprav vsebinsko počnejo in vse vmes, bodo prihodnji matematiki veliko manj strokovni od AI, ne bodo znali prepoznati njegovih napak in tako postali obsolete. Hkrati, če ne bodo sami ponavljali kompleksnih računov, metod, konceptov, ne bodo sposobni razvijati nove. AIju bo potrebno posledično neskončno zaupati, ker nihče več ne bo mogel parirati njegovemu znanju, ne v obstoječem, ne v potencialnem. In takrat se začne konec civilizacije, saj samozavedajoči se stroj ne bo prostovoljno sužnjaril manjvrednemu bitju.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
EU_zamašek- ::
Zakaj ne?
Saj ne veš, kaj bo hotel in kaj ne. Po moje se bo razvijal vzporedno, mi pa bomo "odmrli" ...
Saj ne veš, kaj bo hotel in kaj ne. Po moje se bo razvijal vzporedno, mi pa bomo "odmrli" ...
nekikr ::
Da je pridobil takšno strokovnost, je moral začeti na začetku, z osnovami, temelji.
To je absolutno res in velik problem, ki ga tudi sam izpostavljam, ko imamo debate o tem. Junior kader je AI že nadomestil, senior pa ne postaneš brez juniorja. Edina druga, še slabša, opcija je, da AI v nekaj letih napreduje do te mere (in to je povsem verjetno), da bo tudi seniorje odrezal (marsikje jih je že ali pa jim teče voda v grlo). Kaj sledi nihče ne ve. Sigurno pa rešitev ni "prepovejmo AI, ker matematiki ne morejo na simpozije in vlečti državne plače 40 let ob raziskovanju istega problema". Kaj pa je rešitev pa ne ve nihče od nas, ker se svet spreminja tako hitro in v temeljih, da ga ni junaka, ki bi vedel zakaj se gre in kaj sledi.
BigWhale ::
Pa saj nihce, ki ima vsaj malo vpogleda v to kako deluje razvoj, ne pravi, da bi bilo treba LLMe prepovedati. Pri nas v firmi sem jaz zadel pushat, da vsem omogocimo uporabo LLMjev in pusham ljudi, da se v celotni verigi razvoja cim vec uporablja AI orodja. Od pisanja specifikacij, do razvoja, in testiranja.
nekikr ::
Debata je bila o teh matematikih, ki so užaljeni, ker ne bodo mogli več na simpozije zaradi AI in delati ene in iste stvari na državni plači od diplome do penzije. Oni so precej proti.
BigWhale ::
Debata je bila o teh matematikih, ki so užaljeni, ker ne bodo mogli več na simpozije zaradi AI in delati ene in iste stvari na državni plači od diplome do penzije. Oni so precej proti.
Nic od tega kar si napisal ni res. Ce bi prebral njihovo izjavo, ki je na voljo v novici, bi to vedel.
nekikr ::
To ni njihova izjava ampak njegova. Od enega. In ta en je napisal en navaden rant, ker je prišlo orodje, ki je izredno zmogljivo, pa nihče ne ve kako točno bi ga uporabili (ugiba ali je sploh dobro ali ne). Če bi prebral še kaj drugega, bi pa videl, da je težava tudi v tem kar sem napisal.
McAjvar ::
Od enega.
Prva poved novice, odebeljeno za pomoč:
Petindvajset vodilnih svetovnih matematikov, ki so tudi prejemniki prestižne Fieldsove medalje, je predstavilo izjavo o uporabi umetne inteligence v matematiki
"[...] the advance of civilization is nothing
but an exercise in the limiting of privacy."
- Isaac Asimov
but an exercise in the limiting of privacy."
- Isaac Asimov
nekikr ::
Ja, tam je pa večinoma samo rant, ki ga lepo zaokroži en stavek:
Kar danes AI naredi v 88 urah bo jutri naredil v 20ih, pa še tri probleme zraven. Ne bo šlo stran, ni to .com bubble, tu dejansko uporabljamo te stvari. In očitno je konec obdobja, ko je profesor celo življenje reševal nek problem na javni plači in hodil okoli se pogovarjat o idejah. To je bilo, zdaj je malo manj, jutri pa ne bo več.
Meni je tudi žal za programerje, ampak to kar so mi oni včasih delali več mesecev (s popravki in vsem kar pride zraven) danes naredim sam, vmes, ko delam druge stvari. Treba se bo prilagoditi na ta novi svet, pa naj pelje kamor že pelje.
Solving one of these problems has been a certain sign of new insights and interesting methods, which would then be studied by a community of mathematicians, through a long and arduous process of talks, discussions, simplifications.
Kar danes AI naredi v 88 urah bo jutri naredil v 20ih, pa še tri probleme zraven. Ne bo šlo stran, ni to .com bubble, tu dejansko uporabljamo te stvari. In očitno je konec obdobja, ko je profesor celo življenje reševal nek problem na javni plači in hodil okoli se pogovarjat o idejah. To je bilo, zdaj je malo manj, jutri pa ne bo več.
Meni je tudi žal za programerje, ampak to kar so mi oni včasih delali več mesecev (s popravki in vsem kar pride zraven) danes naredim sam, vmes, ko delam druge stvari. Treba se bo prilagoditi na ta novi svet, pa naj pelje kamor že pelje.
McAjvar ::
Se pravi, tebe motijo vsi, ki poučujejo druge, delijo znanje in opravljajo bazične raziskave, ker jih moraš ti plačevati (joj, davki) in od tega nimaš nič? Ravno zaradi njihovih preteklih dosežkov danes lahko uporabljaš AI in še marsikaj drugega...
Glede programerjev pa ne vem, kakšno smolo si imel. Moje izkušnje so bile največkrat, da naročnik ponavadi ni dobro vedel, kaj bi pravzaprav sploh rad. Se je naredilo nekaj, pa to ni bilo to, ampak spet ni znal pojasnit. Najraje bi imeli vsi en čarobni knof, ki vedno naredi, kar tisti moment mislijo. Res pa je v takih primerih, ko nisi povsem prepričan, kaj bi rad, AI izvrsten ravno s hitrimi iteracijami, da vidiš, kaj funkcionira in kaj ne.
Glede programerjev pa ne vem, kakšno smolo si imel. Moje izkušnje so bile največkrat, da naročnik ponavadi ni dobro vedel, kaj bi pravzaprav sploh rad. Se je naredilo nekaj, pa to ni bilo to, ampak spet ni znal pojasnit. Najraje bi imeli vsi en čarobni knof, ki vedno naredi, kar tisti moment mislijo. Res pa je v takih primerih, ko nisi povsem prepričan, kaj bi rad, AI izvrsten ravno s hitrimi iteracijami, da vidiš, kaj funkcionira in kaj ne.
"[...] the advance of civilization is nothing
but an exercise in the limiting of privacy."
- Isaac Asimov
but an exercise in the limiting of privacy."
- Isaac Asimov
nekikr ::
Točno tako. Na hard in do konca, če je kakšna senca dvoma v dosedanje početje. Pozabil si napisati, da bi jih tudi zmetal v peči, ane?
In zdaj ga imamo.
Najraje bi imeli vsi en čarobni knof, ki vedno naredi, kar tisti moment mislijo.
In zdaj ga imamo.
BigWhale ::
In očitno je konec obdobja, ko je profesor celo življenje reševal nek problem na javni plači in hodil okoli se pogovarjat o idejah. To je bilo, zdaj je malo manj, jutri pa ne bo več.
Ampak nihce izmed teh ljudi ne jamra o tem. Jamrajo o necem drugem. To, da se teb zdi, da ti profesorji samo vlecejo javne place in se samo pogovarjajo o idejah in resujejo neke bizarne probleme od katerih ni nobene koristi, je pac neki v kar si zmotno preprican.
BigWhale ::
Potem pa, v cem je problem, ce kup pametnih ljudi pravi, da mogoce na dolgi rok ne bi blo pametno, ce se nihce vec ne bi nicesar ucil in da nobene stvari ne bi vec delali pes in bi slepo zaupali LLMjem?
Ker vse kar jaz vidim je, da pravijo, da so LLMi sicer ok pripomocek ampak da bo treba se vedno kup stvari narest na roke in da to, da imas samo resitev se ne pomeni vsega in da je za razumevanje resitve ponavadi pomembna tudi pot kako se pride do resitve.
Ker vse kar jaz vidim je, da pravijo, da so LLMi sicer ok pripomocek ampak da bo treba se vedno kup stvari narest na roke in da to, da imas samo resitev se ne pomeni vsega in da je za razumevanje resitve ponavadi pomembna tudi pot kako se pride do resitve.
IgorCardanof ::
Sam bi rekel, da v kolikor gremo v to smer, kjer dobimo resitve, da bo AI zmozen podat tudi razlage in ideje. Ne bo samo kucal rezultatov in vzemi to za sveto, ampak bo znal razlozit.
Retail investor, Simp, Crypto analyst, Cardano hejtr
Ne odgovarjam na DM.
Ne odgovarjam na DM.
Utk ::
Tudi taka razlaga ti ne pomaga, če ne razumeš stvari.
Matematik lahko drugemu matematiku nekaj dokaže. Meni pa lahko dokaže karkoli, pa ne bom videl, da ne drži vode.
Matematik lahko drugemu matematiku nekaj dokaže. Meni pa lahko dokaže karkoli, pa ne bom videl, da ne drži vode.
Zgodovina sprememb…
- spremenil: Utk ()
nekikr ::
Ampak 99,9% stvari danes ne razumeš. V bistvu se ti sanja ne o njih. AI bo katastrofa za osnovna znanja, res je. Ampak izbira bo, če bo šlo tako naprej: ali prepovemo oz. tako upočasnimo, da bomo človečnjaki to razumeli ali pustimo, da samo naredi kar pač bo in imamo v 5 letih leteče avte na vodo (hipotetično, seveda), ki pa jih sami ne bomo razumeli - tako kot že zdaj večina ne razume kako točno deluje vsaka komponenta pametnega telefona, uporablja ga pa vseeno?
BigWhale ::
Problem je malo bolj kompleksen in ni tako enostaven. LLMov ne bomo prepovedali in upocasnili, tudi kalkulatorjev nismo, ker to nima nobenega smisla. Bo pa potrebno nekaj vec nadzora pri delu s temi orodji in pri uporabi produktov, ki jih bodo ta orodja ustvarila.
Eno je, ce uporabljas black box, ki ga ne znas razloziti. Drugo pa je, ce uporabljas black box, ki ga ne zna razloziti niti tisti, ki ti ga je prodal.
Predstavljaj si, da kupis avto in ti proizvajalec rece, da nima pojma kako tocno deluje. Ti mu mors samo zaupat in se odpeljat s tem avtom.
Eno je, ce uporabljas black box, ki ga ne znas razloziti. Drugo pa je, ce uporabljas black box, ki ga ne zna razloziti niti tisti, ki ti ga je prodal.
Predstavljaj si, da kupis avto in ti proizvajalec rece, da nima pojma kako tocno deluje. Ti mu mors samo zaupat in se odpeljat s tem avtom.
nekikr ::
Pa saj to je že zdaj? Prodajalec ve kakšno opremo ti še lahko proda, ve koliko baterije in dosega v izmišljenih pogojih ima, ne ve pa kako točno deluje motor in iz česa je, niti kako se obnaša kemija v baterijah. Niti za tako uporabo to ni smiselno vedeti. Avto je slaba primerjava ker je splošen produkt, bazično znanje, kot je matematika, je nekaj povsem drugega, ampak mogoče tudi ne, če bo šlo tako hitro naprej.
Regulacija AI pa mislim da ne bo možna, čeprav bi bila potrebna. Predstavljaj si, da ZDA recimo reče, da bodo upočasnili in regulirali, kitajska pa ne. Kitajci bi v dveh letih tehnološko povsem povozili ZDA. Če dodaš še robotiko v ta mix potem si nihče ne more privoščiti, da konkurentu pusti prednost, ker je ta prednost tehnološka singularnost proti kateri nimaš več orožja. Par let nazaj bi bil to sci-fi, danes je realnost.
Regulacija AI pa mislim da ne bo možna, čeprav bi bila potrebna. Predstavljaj si, da ZDA recimo reče, da bodo upočasnili in regulirali, kitajska pa ne. Kitajci bi v dveh letih tehnološko povsem povozili ZDA. Če dodaš še robotiko v ta mix potem si nihče ne more privoščiti, da konkurentu pusti prednost, ker je ta prednost tehnološka singularnost proti kateri nimaš več orožja. Par let nazaj bi bil to sci-fi, danes je realnost.
BigWhale ::
Ne govorim o prodajalcih ampak o proizvajalcih.
LLMji so essentially black boxes, not vrzes input in ven dobis nek nedeterministicen output. Kaj se not dogaja pa ne ves, in ker output ni deterministicen, ne mores vec govoriti o tem ali je pravilen ali je nepravilen, in je bolj smiselno zacet govoriti o nekem verjetnostnem racunu.
LLMji so essentially black boxes, not vrzes input in ven dobis nek nedeterministicen output. Kaj se not dogaja pa ne ves, in ker output ni deterministicen, ne mores vec govoriti o tem ali je pravilen ali je nepravilen, in je bolj smiselno zacet govoriti o nekem verjetnostnem racunu.
nekikr ::
Mja, ni čisto tako. Prvi del se strinjam, to je že zdaj, v prihodnje bo pa sploh en black box za katerega bomo preneumni da bi ga razumeli. Ampak output je pa seveda determinističen, če se pogovarjamo o katerikoli eksaktni vedi. Če ne veš kako je prišel do rešitve 1+1=2 to še vedno lahko testiraš z raznimi testi (kot to počnemo sedaj). Bodo pa in postopki in rešitve in testi vedno bolj zapleteni, ker smo ves low hanging fruit že pobrali.
Razen, če misliš, da pri kompleksnih problemih kjer je premalo podatkov za točen odgovor dobiš drugačen rezultat? To je pa spet enako kot zdaj. Samo poglej koliko teorij imamo v fiziki za temno energijo in temno snov, vsak dan tri nove in dodatnih 5 dimenzij.
Razen, če misliš, da pri kompleksnih problemih kjer je premalo podatkov za točen odgovor dobiš drugačen rezultat? To je pa spet enako kot zdaj. Samo poglej koliko teorij imamo v fiziki za temno energijo in temno snov, vsak dan tri nove in dodatnih 5 dimenzij.
Zgodovina sprememb…
- spremenil: nekikr ()
BigWhale ::
Enostavne matematicne operacije imajo res samo en odgovor. Imas pa kompleksne matematicne probleme in dokaze, do katerih lahko prides na vec nacinov in po vecih poteh, in imajo lahko tudi vec razlicnih resitev, pri teh ze zdaj LLMi dajejo ven razlicne resitve. Pri fiziki bo to samo se bolj ocitno.
Problem bo, ko bomo zaradi vse bolj pogoste uporabe blackboxov, ratali preneumni za razumet to kar pride ven.
Ostaja samo vprasanje, a se bodo lahko ti blackboxi spomnili cesa novega, nekaj cesar se niso "prebrali na internetu". Zanimiv experiment bi bil, ce bi nek LLM natrenirali z vsem znanjem, ki ga je premogel svet leta 1900, in ga potem poslali na raziskovanje fizike. A bi po dolocenem casu raziskovanja ven padla specialna in kasneje splosna relativnost ali ne? Glede na to kako trenutno delujejo LLMji, ne zgleda, da se to lahko zgodi.
Nevronska mreza, ki se nauci igrati Pac-mana, ne bo znala igrati Monopoly.
Problem bo, ko bomo zaradi vse bolj pogoste uporabe blackboxov, ratali preneumni za razumet to kar pride ven.
Ostaja samo vprasanje, a se bodo lahko ti blackboxi spomnili cesa novega, nekaj cesar se niso "prebrali na internetu". Zanimiv experiment bi bil, ce bi nek LLM natrenirali z vsem znanjem, ki ga je premogel svet leta 1900, in ga potem poslali na raziskovanje fizike. A bi po dolocenem casu raziskovanja ven padla specialna in kasneje splosna relativnost ali ne? Glede na to kako trenutno delujejo LLMji, ne zgleda, da se to lahko zgodi.
Nevronska mreza, ki se nauci igrati Pac-mana, ne bo znala igrati Monopoly.
enavlaka ::
A bi po dolocenem casu raziskovanja ven padla specialna in kasneje splosna relativnost ali ne?
Ne. Ker LLM nikoli ne zna izumit nečesa novega, temveč samo bruha znanje nekoga drugega.
Pisarniški fikus bo fikus do penzije, tako bo tudi LLM bruhalnik podatkov, dokler se ga ne izklopi.
nekikr ::
A bi po dolocenem casu raziskovanja ven padla specialna in kasneje splosna relativnost ali ne
Sama od sebe ne, ker tudi Einstein tega ni napisal kar tako, brez da bi potekal kakšen eksperiment kje, ki ga je potisnil v pravo smer razmišljanja. Hipotetično, če bi imeli robote ki bi lahko zgradili karkoli (se pravi karkoli lahko zgradimo človečnjaki) potem pa ne vidim težave. Tako kot mi bi se zaletel v zid, kjer je potreben eksperiment, da dobi več podatkov. Če bi ga lahko zgradil, dobi več podatkov.
Nevronska mreza, ki se nauci igrati Pac-mana, ne bo znala igrati Monopoly.
Tri leta nazaj si na googlu tipkal za recept za pico. Danes vprašaš in ti pove (vmes ko ti izdeluje dva programa, ki si jih opisal besedno in na splošno in jih sproti popravljaš, analizira stanje artiklov na zalogi in kaj moraš naročiti da ne ostaneš brez in pripravlje kalkulacije in scenarije za pogajanje z banko). Jaz ne bi bil tako zelo prepričan v te omejitve kaj bo in kaj ne.
IgorCardanof ::
Ja tale o nevronski mrezi, ki zna igrat pacmana in ne monopoly, je zelo neposrecena izjava.
Trenutno imas modele, ki te nabrisejo na 99.9% podrocij, hkrati te pa tudi z lahkoto premagajo v sahu ali pa monopoliju.
Trenutno imas modele, ki te nabrisejo na 99.9% podrocij, hkrati te pa tudi z lahkoto premagajo v sahu ali pa monopoliju.
Retail investor, Simp, Crypto analyst, Cardano hejtr
Ne odgovarjam na DM.
Ne odgovarjam na DM.
BigWhale ::
Oba sta zgresila poanto. Nihce ne dvomi v to, da nevronska mreza, ki je strenirana za nekaj tega ne pocne dobro in bolje od vecine ljudi. To je jasno, da je tako.
Vprasanje je, a lahko nevronska mreza pogrunta nekaj, cesar se nihce prej ni pogruntal ali opisal? A lahko povsem ignorira nekaj kar velja za splosno znano in sprejeto teorijo/hipotezo in iz tega izpelje nekaj novega? Tako kot je Einstein ignoriral aether.
In, a imamo kak dokaz, da se je to ze kje zgodilo?
Vprasanje je, a lahko nevronska mreza pogrunta nekaj, cesar se nihce prej ni pogruntal ali opisal? A lahko povsem ignorira nekaj kar velja za splosno znano in sprejeto teorijo/hipotezo in iz tega izpelje nekaj novega? Tako kot je Einstein ignoriral aether.
In, a imamo kak dokaz, da se je to ze kje zgodilo?
nekikr ::
Po takem razmišljanju tudi noben človek še nikoli ni ničesar novega zares izumil, zakaj bi to pričakoval od AI? Da je Einstein ignoriral eter ni bila odločitev v vakuumu ( štekaš :) ampak odločitev ki je upoštevala vse kar je bilo znano od prej. Se pravi je šlo za nekonvencionalno odločitev, ki je temeljila za stoletjih prejšnjih idej in poskusov.
enavlaka ::
Saj ni rečeno, da ima ajštan sploh prav in llm model narobe.
Je pa nekonvencionalno razmišljanje domena ljudi.
Je pa nekonvencionalno razmišljanje domena ljudi.
IgorCardanof ::
Oba sta zgresila poanto. Nihce ne dvomi v to, da nevronska mreza, ki je strenirana za nekaj tega ne pocne dobro in bolje od vecine ljudi. To je jasno, da je tako.
Vprasanje je, a lahko nevronska mreza pogrunta nekaj, cesar se nihce prej ni pogruntal ali opisal? A lahko povsem ignorira nekaj kar velja za splosno znano in sprejeto teorijo/hipotezo in iz tega izpelje nekaj novega? Tako kot je Einstein ignoriral aether.
In, a imamo kak dokaz, da se je to ze kje zgodilo?
Tako je. Se je ze zgodilo. AlphaZero je recimo na novo definiral kako se sah igra. Otvoritve so ljudje dokaj vredu nastudirali, tu ni nekih novosti, ampak kako se igra pa potem naprej, pa je AlphaZero odkril nove nacine, stile igranja.
Stil igranja je pa tak, da ti je za figure vseeno, glavno je kako aktivno postavitev imas, oziroma kako pasivno ima masprotnik.
S tem je tudi popolnoma sesul Stockfish takrat.
Retail investor, Simp, Crypto analyst, Cardano hejtr
Ne odgovarjam na DM.
Ne odgovarjam na DM.
BigWhale ::
Po takem razmišljanju tudi noben človek še nikoli ni ničesar novega zares izumil, zakaj bi to pričakoval od AI? Da je Einstein ignoriral eter ni bila odločitev v vakuumu ( štekaš :) ampak odločitev ki je upoštevala vse kar je bilo znano od prej. Se pravi je šlo za nekonvencionalno odločitev, ki je temeljila za stoletjih prejšnjih idej in poskusov.
Seveda, saj to je jasno. Sam, a LLMji znajo tko delat? Trenutno delajo tako, da statisticno 'ugibajo' kaj morajo povedat. Nova odkritja se velikokrat zgodijo tko, da en rece: vse tole je bullshit in tega ne bom uposteval. LLMji pa delajo ravno obratno, LLM pogleda po svojih podatkih in rece: tole je najbolj verjeten mozni odgovor.
A lahko LLM s svojim nacinom dela pride do nekega povsem novega koncepta, ali pa prepozna nekaj novega iz kupa podatkov?
Recimo, da LLM natreniras s podatki o astronomiji vse do rojstva Kopernika. A bomo znali s temi podatki priti do heliocentricnega modela osoncja? Pred tem se je heliocentricni sistem ze omenjal ampak je veljal za napacnega in vsi izracuni, podatki in vsa opazovanja so strogo podpirala geocentricni sistem. Tak LLM bi ti na vprasanje kaj je v centru osoncja, rekel, da je to Zemlja, in to bi ti potrdil z izracuni. Ne bi prisel na radikalno idejo, da orbite niso perfektne krožnice ampak elipse, se vedno bi te prepriceval v to da so orbite kroznice.
So pa LLMji izredno dobri pri iskanju vzorcev v podatkih, in neprimerno hitrejsi kot ljudje. Lahko bi LLMju rekel naj ti na podlagi nekih podatkov iz opazovanj izracuna orbite planetov in jih narise, takrat bi pa videl, da so to elipse in ne krogi.
nekikr ::
Problem je, ker si si nekaj zapičil v glavo pa se v vsaki stvari motiš, kratko vprašanje da hiter odgovor. Skratka bulletproof ideje ni bilo in je še danes ni. Vsaka stvar kaže neprijetne stvari tam nekje zadaj, univerzalne 100% pravilne teorije vsega nimamo in morda niti ni možna.
Ne, geocentrični sistem nikoli ni bil nedvoumno jasen in edini možen, čeprav je bil več stoletij prevladujoč model vesolja. Kljub njegovi zakoreninjenosti v vsakdanjem opazovanju in podpori cerkvenih ter znanstvenih avtoritet, so ga že od samega začetka spremljali dvomi, matematični zapleti in alternativne ideje.Razlogi, zakaj geocentrični sistem ni bil edina ali popolnoma jasna možnost, so razdeljeni v nekaj ključnih točk:1. Obstajale so zgodnje heliocentrične alternativeZemlja kot središče vesolja ni bila edina ideja starih Grkov. Že v 3. stoletju pred našim štetjem je Aristarh s Samosa predlagal prvi znani heliocentrični model, v katerem sta Zemlja i drugi planeti krožili okoli Sonca. Njegovo idejo so takrat zavrnili predvsem zato, ker fizika tistega časa (Aristotelova fizika) ni znala pojasniti, zakaj ne čutimo gibanja Zemlje, če se ta res premika.2. Sistem je bil matematično izjemno zapletenČe opazujemo planete z Zemlje, se včasih zdi, da se premaknejo nazaj (retrogradno gibanje). Da bi Klavdij Ptolemej v 2. stoletju to pojasnil z geocentričnim modelom, je moral uvesti izjemno zapletene matematične koncepte:Epicikle: Manjše kroge, po katerih se gibljejo planete, medtem ko ta krog kroži okoli večjega kroga (deferenta).Ekscentre: Središča kroženja, ki niso bila natančno v središču Zemlje.Ekvante: Točke, glede na katere so se planeti gibali z enakomerno hitrostjo, kar je kršilo Aristotelovo pravilo o popolnem enakomernem kroženju.Sistem torej ni bil "jasen", ampak je bil umetno prilagojen tako, da je ustrezal opazovanjem, čeprav je bil matematično okoren.3. Tychonski sistem kot vmesna potPozneje, v 16. stoletju, je danski astronom Tycho Brahe razvil hibridni model (tychonski sistem). V njegovem modelu je Zemlja še vedno mirovala v središču, Luna in Sonce sta krožila okoli nje, vsi ostali planeti pa so krožili okoli Sonca. To dokazuje, da so astronomi iskali drugačne rešitve, ki bi bile matematično bolj elegantne od Ptolemejevega sistema, a bi še vedno ohranile Zemljo v središču.
nekikr ::
Recimo, da LLM natreniras s podatki o astronomiji vse do rojstva Kopernika. A bomo znali s temi podatki priti do heliocentricnega modela osoncja?
V bistvu bi ravno tu lahko bil AI bistveno boljši od ljudi. Danes recimo lahko znanstveni stroki rečeš "poglejte zadevo in dajte neke alternativne predloge, tudi če v osnovi niso najbolj smiselni jih testirajte in ovrzite, če se jih da ovreči 100%". Dobil bi 500, 1000 ali pa 10.000 predlogov, aktiviral bi celotno znanstveno srenjo. Trajalo bi desetletja ali več. Po drugi strani pa AI ustvari 10 milijonov agentov ki se mečejo na 500.000 milijonov idej in pregledujejo vse stranske poti. Rezultat pa v nekaj dneh, tednih ali mesecih skupaj s predlogi kakšne dodatne eksperimente rabijo, da dobijo potrebne podatke za nadaljevanje (skupaj s shemami, časovnicami in stroškovnikom naprav).
Zgodovina sprememb…
- spremenil: nekikr ()