Slo-Tech - Petindvajset vodilnih svetovnih matematikov, ki so tudi prejemniki prestižne Fieldsove medalje, je predstavilo izjavo o uporabi umetne inteligence v matematiki, k podpisu pa vabijo tudi druge matematike. V njej svarijo pred vplivom uporabe velikih jezikovnih modelov (LLM) za reševanje matematičnih problemov na prihodnji razvoj področja. V minulih mesecih so namreč LLM-ji prispevali rešitve nekaterih pomembnih problemov, katerih rešitve smo čakali desetletja. A ni vse zlato, kar se sveti.
Terry Tao, verjetno eden najslavnejših in najboljši matematikov sodobne dobe, je izjavo pospremil z daljšim zapisom na svojem blogu. Pojasnjuje, da je glavni problem močna neusklajenost ciljev podjetij, ki razvijajo LLM-je, in matematične skupnosti. V izjavi niso proti umetni inteligenci, saj lahko pospeši raziskovanje in razumevanje, opozarjajo pa na pasti. Glavna past se skriva v razvoju novih matematikov, ki bi svoj um mojstrili na reševanju problemov, ki jih bo sedaj premagala umetna inteligenca. Veriga znanja je bila doslej človeška, saj je vključevala seminarje, diskusije, članke, učbenike itd. Če vse to nadomesti dokaz umetne inteligence, se prenos prekine ali vsaj ni več tako učinkovit.
Ločen problem je tratenja časa matematikov. LLM-ji producirajo tudi veliko neumnosti, skozi katere se morajo ljudje prebiti, da jih kot take prepoznajo. K temu gre dodati še problem avtorstva, citiranja in plagiatorstva, o čemer smo veliko pisali prav ob zadnjem velikem preboju.
Pa ne samo AI, prepovedati bi morali tudi kalkulatorje. Kaj se pa gredo eni, da kar v kalkulator nek račun dajo, namesto da bi peš računali na tabli 20 let z državno plačo?!
Veriga znanja je bila doslej človeška, saj je vključevala seminarje, diskusije, članke, učbenike itd.
Točno to je problem v fiziki. Ogroooooomno denarja gre za izlete, seminarje, diskusije, tekma kdo bo napisal več brezveznih člankov je že leta problem, potem pa bolj malo ostane za eksperimente.
Najbolj zanimivo - simpozije (v ožjem smislu) ste pozabili :D
V minulih mesecih so namreč LLM-ji prispevali rešitve nekaterih pomembnih problemov, katerih rešitve smo čakali desetletja. A ni vse zlato, kar se sveti.
Yep, ai. Problem bo še naprej zagovarjati plačevanje ogromne količine neproduktivnih fikusov, ki proizvedejo točno nič in je njihov doprinos družbi takisto točno nič. Prav bi bilo, da jih že danes damo na utd. Ali pa v prekomando, mc, wolt in podobno.
Da ne bo pomote, tudi produktivni so vmes, vendar težko pridejo do izraza, ker so v manjšini.
Btw, danes je ai še tam, kjer so bili Kitajci nedavno. Se pravi kopira in izboljšuje. Ampak bo kmalu, tako kot Kitajci, nadmudril učitelje in bodo morali ti kopirati njega.
99.991% of over-25 population has tried kissing.
If you're one of the 0.009% who hasn't, copy & paste this in your Signature.
Intel i5-14400f rtx 3050 Pismo smo stari v bozjo mater. Recesija generacija
Najbolj zanimivo - simpozije (v ožjem smislu) ste pozabili :D
V minulih mesecih so namreč LLM-ji prispevali rešitve nekaterih pomembnih problemov, katerih rešitve smo čakali desetletja. A ni vse zlato, kar se sveti.
Ne odtehta?
Ne, ker si izpustil ravno tisto, kar je glavni problem:
Glavna past se skriva v razvoju novih matematikov, ki bi svoj um mojstrili na reševanju problemov, ki jih bo sedaj premagala umetna inteligenca
Imel boš butastega matematika, ki polovico zadev ne bo razumel v globino, ampak rešil bo pa bogsigavedi kakšen problem. Na Kitajskem, če nimaš dipolome, adijo svetovanje po internetu. Kmalu bo to lahko postalo tam tudi kaznivo dejanje. V Sloveniji pa je že 2 milijona doktorjev znanosti. Civilne iniciative tudi že uporabljajo umetni pamet da dokažejo svojo prav. Če ne pa postaviš vprašanje tako, da ti bo dala prav. Da ne bo potem še kakšna karma, ko bo sosed začel težito z ograjo s pomočjo umetne pameti, ki mu bo pritrdila da ima duševno stisko.
Jaz tud ponavadi ne sprasujem LLMjev stvari, ki jih ne poznam niti malo, pa nisem vedno 100%, da je odgovor pravilen.
Ampak saj ves, niso vsi odgovori popolnoma binarni in tudi ti ne ves vedno a je pri dogovoru zgresil za dve magnitudi ali pa za eno malenkost, ki statisticno ni vec pomembna.
Ok, očitno sem tukaj hudičev LLM-jev advokat, me zanima, kako dolgo bom moral biti - sicer pa, tudi vprašati je potrebno znati v letu 2026 in ni vsak model/odjemalec dober za vsako stvar. Recimo, z asvaltirnim strojem ne pripenjaš slike na steno, da bo absurdnost ekstremna :D
Drugič mu dodaj vsaj letnico, da gre iskat po netu zadnje podatke, ne da vleče iz spomina 3 leta stare, FFS.
Pri takšnih vprašanjih LLM res ne potrebuje brezplačnega advokata, bomo tole kar zaključili tukaj.
Recimo moj primer. Na prehodu na debian, sem imel probleme pri bootanju sistema (zfs na root-u). In mi je res pomagal in sem zapravil dva večera, da sva vstavljala noter debug message v initramfs scripte, ki sem jih potem preko UART-a na arduinutu bral. Na koncu pa mi je svetoval, da vstavim custom kodo v initramfs zfs skripto, pri čemer zfs počaka pri mountanju diska, dokler device v /dev/ ni viden, kjer je celo hardcodal /dev/sda1.
Prava rešitev je pa bila sila preprosta, dodat kernel roodelay parameter v cmdline (ampak kaj češ, nisem admin, da bi to iz glave vedel), kar sem videl initramfs skripti, da se uporablja.
Torej očitno mu je bila pot bolj važna kot rezultat :). Za opravičilo, bil je zastonjski chatgpt.
Moji prompti, od katerih pričakujem izdelek, so navadno nekaj kb dokumentacije. Če pa blebetam neke neumnosti, se pa res zgodi, da moram precizirati in včasih tudi preklinjati zraven. Ampak jaz v tem, za razliko od vas, ne vidim težave v LLM ampak PEBKAC.
Mislim, da ti ne razumeš, kako fino je, če se celo življenje voziš na simpozije, če se le da nekam v eksotično državo, če lahko praktično celo življenje rešuješ nek problem, brez, da bi kdo pomislil, če je to smiselno oziroma kaj bi lahko za ta denar dobili. Ker je itak državni denar v praktično vseh primerih. AI je še eno orodje. Vrhunsko orodje. In ga lahko uporabijo ali pa jezno stopicljajo na mestu. Danes zjutraj sem naredil nekaj s Claudom za kar so mi programerji pri ponudniku ERPja rekli, da je to nemogoče oziroma toliko dela, da morajo premisliti, če bi sploh dali ponudbo, ker imajo preveč drugega dela. Ni kakšna kvantna znanost, je pa nekaj specifičnega kar sem si zamislil že pred časom. Pa sem se zjutraj lotil, v dveh urah je bila zadeva narejena, uro pozneje testirana in deluje. Tako gre danes to. Sprejmi ali pa jezno stopicljaj na mestu (ampak ne pričakuj, da bo država plačevala tvoje jezno stopicljanje).
Čestitam, da ti je uspelo rešiti, včasih ni vedno tako enostavno. Morda tvoja rešitev res deluje v celoti, na podmnožici podatkov trenutno ali pa ni spropagirana po vsej vertikali ali pa ne bo ohranjena z novo verzijo. Dokler ne vidimo problema in rešitve, se ne da ničesar zagotovo reči, žal.
V bistvu je glavni argument proti ai, da samo kopirajo in nič novega ne morejo ustvariti. Kar je, seveda, neumnost. Jasno da ustvarjajo novo, drugače bi samo pastali kopije. In to novo ljudi moti. In kot drugo, človek ni popolnoma nič drugačen. Celo življenje se uči od drugih pred njim in iz njihovega dela skuša ustvariti nekaj novega. Svojega, unikatnega. Ai dela isto zadevo, le da za velikostne razrede hitreje.
Tako da znajo matematiki imeti prav. Počasi se bo izgubil smisel več desetletnega treniranja novih matematikov, če lahko ai že danes to izumlja neskončno hitreje od teh, ki nam bodo na voljo čez kakih 30, 40, 50 let. Če se danes skotijo in jih ves ta čas futramo.
Yep, ai. Problem bo še naprej zagovarjati plačevanje ogromne količine neproduktivnih fikusov, ki proizvedejo točno nič in je njihov doprinos družbi takisto točno nič. ...
Nekaj matematičnih "neproduduktivnih fikusov" v zgodovini, katerih doprinos družbi je bil v njihovem času ocenjen blizu ničle, saj so opravljali raziskave, ki jih njihovi sodobniki niso razumeli ali znali praktično umestiti: - George Boole (1815–1864) - boolova algebra - Bernhard Riemann (1826–1866) - neevklidske enačbe v prostoru - Godfrey Harold Hardy (1877–1947) - teorija (pra)števil - Alan Turing (1912–1954) - hipotetični stroji na papirju - Évariste Galois (1811–1832) - teorija grup - Pierre de Fermat (1601-1665) - potenciranje praštevil, temelji verjetnostnega računa, tlakovanje poti odvajanja in integriranja,... (vse to v prostem času)
in verjetno bi se dalo najti še katerega (sem AI rekel, naj mi jih našteje samo 5, sam pa sem Fermata dodal zato, ker sem v osnovni šoli sanjaril, da bom rešil njegov veliki problem, pa so me 1995 potem prehiteli na način, da niti razumem ne, kaj so hoteli reči ;-/).
Kar bi se v zgodovini že morali naučiti je, da imajo misleci pogosto prenapredne in za nas rajo v našem času neuporabne (doprinos družbi praktično nič) teorije, ki pa se čez mnogo let izkažejo kot osnova nekega napredka.
[ Kar bi se v zgodovini že morali naučiti je, da imajo misleci pogosto prenapredne in za nas rajo v našem času neuporabne (doprinos družbi praktično nič) teorije, ki pa se čez mnogo let izkažejo kot osnova nekega napredka.
Lepo nakladanje. Ampak, po drugi strani, je računalnik ali program rešil zelo hitro problem, s katerim se človeške glave ukvarjajo že zelo dolgo. Torej? Gremo nazaj v jame znova odkrivati toplo vodo ali raje rečeno, da bo odslej tako?
Btw, pri citiranju si prikladno izpustil del teksta. Verjetno ne po nesreči.
Drugič mu dodaj vsaj letnico, da gre iskat po netu zadnje podatke, ne da vleče iz spomina 3 leta stare, FFS. Pri takšnih vprašanjih LLM res ne potrebuje brezplačnega advokata, bomo tole kar zaključili tukaj.
:) to je recimo stvar, ki bi jo prakticno vsak clovek razumel iz konteksta, brez najmanjse obrazlozitve.
Tu gre za nesporazum, z LLM nima smisla tekmovati ampak se ga uporablja kot orodje. Perplexity chat ima to res privzeto (ker je bolj agregator), ne pa tudi VSI LLM chati sami (spet ne vemo, s katerim je bilo vprašano, pa kar generalno zagovarjam, recimo), ampak pri vsakemu rečem 'povej mi abc za (september) 2026', če hočem kaj 'svežega' in ne 'trajnega', ker me manj stane v času, ugibanju, preverjanju, potrpljenju in tokenih. LLM chat pa pač dela na varčevanju z resursi, vsaj nekoč so, jim ničesar ne zamerim.
PS: Raje napišem 'LLM chat', da je jasno, da mislim vso storitev in ne samo jedra. Recimo, to sem se naučil na forumu, čeprav meni je bilo vedno kristalno jasno - ampak se prilagodim, da ne zapravljam svoje energije na neproduktivnostih ali kakšnih obmetavanjih.
PPS: Še nekaj kvalifikatorjev sem raje dodal, ker domnevam, da se zna sicer porablja časa in potrpljenje - le od kod imam to ozaveščeno?
Ja nič, ti LLM-ji in znanja kako narediti hardware za njih, se pravi silicon waferje, čipe in datacentre bo postalo novo "temeljno znanje". Tudi danes se ne učimo o osnovnem preživetju kot pračlovek več, kako ubiti neko žival, narediti obleko od kože in pojesti meso. Zdaj se pač hodi v neko osnovno šolo, potem srednjo itd. Čez 100 let več ne bo tam nekeg strojništva, medicine, fdv, ekonomistov ipd. Temelj bo sofisticirano znanje LLM-jev in čipov, ti bodo pa vse navzdol upravljali avtomatizirano, ostane le še ekspanzija v vesolje in med zvezde. Edino kot zgleda komunikacije med ljudmi več niti ne bo z govorom - poglej mlade danes samo še zrejo v smartfone. Bomo še čustva med sabo transferirali z sporočili. "Te pogledam z smart-očali/lečami in se sporazumeva kar avtomatsko".
Le en problem bo pri vsem tem. Navaden smrtnik ne bo imel dostopa do vsega tega. Takrat bomo šele imeli tapravi kastni sistem. To kar imamo zdaj, je zgolj slaba šala, približek elit. Najboljše pride na koncu.
Ločen problem je tratenja časa matematikov. LLM-ji producirajo tudi veliko neumnosti, skozi katere se morajo ljudje prebiti, da jih kot take prepoznajo. K temu gre dodati še problem avtorstva, citiranja in plagiatorstva, o čemer smo veliko pisali prav ob zadnjem velikem preboju.
Torej če jim čas kradejo ljudje, o čemer se piše že 10 let, bo ok, če to dela A.I., ki pa bo dejansko prišel do delujoče rešitve, bo pa problem? Tole se bere kot jamranje sindikalistov, ki so proti optimizaciji, ker bi znala bistveno pohitriti delo, kar zna biti "problem", če je nekdo plačan po urah...
A matematiki ne znajo uporabit LLM kot orodje? Da jih reši duhamornih delov opravil, brainstorma, svetuje... Se bojim, da je tukaj precej zarejenih "raziskovalcev" v raznih oddelkih po faksih.
Ne razumem... kle se eni pritožujete, da matematiki itak glumijo glive, da so preveč plačani, medtem ko pa je AI za brute-force rešitev problema porabil le par dni in "zgolj" par (deset?) milijonov dolarjev tokenov. Kle pa problema ni, ker je vsaj hitrejši, če že ne cenejši?
@c3po: pa saj matematiki so uporabljali LLM kot orodje. Od tu tudi skrbi, da je OpenAI potuhtal, v katero smer preiskovati. Edino da si matematiki ne morejo privoščiti pokurit toliko tokenov, kot si lahko OpenAI. Prav jim je, kaj pa niso bogati?
"[...] the advance of civilization is nothing
but an exercise in the limiting of privacy."
- Isaac Asimov
A matematiki ne znajo uporabit LLM kot orodje? Da jih reši duhamornih delov opravil, brainstorma, svetuje... Se bojim, da je tukaj precej zarejenih "raziskovalcev" v raznih oddelkih po faksih.
Preberi to novico https://slo-tech.com/novice/t856821#crta Piše tudi o uporabi ai s strani dveh matematikov in kakje je moznost, da so lastniki modela to izv3deli ter uporabili ta llm ter "resili" problem.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
Ne razumem... kle se eni pritožujete, da matematiki itak glumijo glive, da so preveč plačani, medtem ko pa je AI za brute-force rešitev problema porabil le par dni in "zgolj" par (deset?) milijonov dolarjev tokenov. Kle pa problema ni, ker je vsaj hitrejši, če že ne cenejši?
@c3po: pa saj matematiki so uporabljali LLM kot orodje. Od tu tudi skrbi, da je OpenAI potuhtal, v katero smer preiskovati. Edino da si matematiki ne morejo privoščiti pokurit toliko tokenov, kot si lahko OpenAI. Prav jim je, kaj pa niso bogati?
Saj si gradijo superračunalnike za težke milijone davkoplačevalcev, pa naj bo denarja še za kak H100 clusterček.
A matematiki ne znajo uporabit LLM kot orodje? Da jih reši duhamornih delov opravil, brainstorma, svetuje... Se bojim, da je tukaj precej zarejenih "raziskovalcev" v raznih oddelkih po faksih.
Preberi to novico https://slo-tech.com/novice/t856821#crta Piše tudi o uporabi ai s strani dveh matematikov in kakje je moznost, da so lastniki modela to izv3deli ter uporabili ta llm ter "resili" problem.
Sigurno je tricky glede avtorstva. Če je model iz njunih chatov izcuzal kakšno znanje, gre vsaj za soavtorstvo. Razen, če sta dovolila, da se model uči na chatih.
Le en problem bo pri vsem tem. Navaden smrtnik ne bo imel dostopa do vsega tega. Takrat bomo šele imeli tapravi kastni sistem. To kar imamo zdaj, je zgolj slaba šala, približek elit. Najboljše pride na koncu.
To je tisto cesar se ljudje ne zavedajo in dogaja se na vec frontah. Politiki in elita nas prepricujejo, da je premalo keramicarjev in avtomehanikov, da zdaj kar vsi rinejo na fakultete in da nam primanjkuje teh osnovnih poklicev in da smo doomed. Hkrati pa poskrbijo da njihovi otroci pristanejo na najboljsih solah in so delezni najboljse izobrazbe.
V istem trenutku firme, ki razvijajo LLMje in so v 'AI biznisu', razlagajo kako bo kup stvari kmalu obsolete, kako ne bomo vec potrebovali knjig in knjiznic in tako naprej. Na koncu bodo imeli dostop do vseh teh orodij tisti z denarjem, tisti, ki so dovolj blizu sistema, vsi ostali bodo pa brez.
Privatizacija znanja vodi v razslojevanje ljudi in omejevanje znanja samo za 'posvecene'. Od nekdaj je veljalo, da je bolje, da je mnozica butasta.
AI bo naredil vse ljudi butaste. Podobno kot so včasih na roke računali in si vse telefonske zapomnili, z uvedbo kalkulatorjev in pametnih telefonov pa tega ne delamo več. Pa elita ni oz. ne bo nič kaj bolj pametna, ima pa neomejeno kapitala in moč, ter prva pride do relevantnih informacij, ter ima orodja da preostali folk ščuva drug na drugega, da ne bi slučajno skupaj stopili in elito vrgli s prestola. Pa btw sem trdno prepričan, da se bo to tudi zgodilo. Mogoče celo s pomočjo AI.
Elita kot sloj je vedno, le pripadniki se menjajo - z manj ali več zlorabljanja 'srčnosti' v medijih. Po novem mogoče tudi UTD, slovenski ideal, dovolj za kalorije in dopamin. Če bi le še kakšna udobna kad bila in kakšen zanimiv film 24/7... Mogoče kakšen zastarel forum :D
Ok, jaz sem star in ekstremno preprost, meni štejejo moji rezultati bolj kot postopek do njih.
Vi pa, kakor želite, svet bo še naprej tako ali drugače.
Se vidimo, nekje pa že, ni eksaktno določeno.
Kako pa ves, da je rezultat tocen in pravilen? Ti nisi prisel do njega, kako ves, da se ti LLM ni zlagal?
Kako pa to veš za človeka?
Tako, da preveris to kar si naredil. Ko sam prides do nekega rezultata, ga moras preveriti na nek nacin. Deepsick pa zdaj razlaga, da slepo zaupa LLMju z rezultatom, ki ga je dobil od le-tega in mu je vseeno za postopek.
Trenutno LLMji niso na nivoju kjer bi jim lahko v vsem slepo zaupal. In ce jim ne mores v vsem slepo zaupati, a jih lahk sploh v cem? A razumes dilemo?
Deepsick pa zdaj razlaga, da slepo zaupa LLMju z rezultatom, ki ga je dobil od le-tega in mu je vseeno za postopek.
Glej ga lažnivega propagandista. Jaz pravim, da LLM ne sprašujem, če ne vem, kaj pričakovati. In ti si celo strinjal s tem, niti nisi pokazal volje, da ti dostavim 200 kg (zastarelih!!!!) enciklopedij. Kdaj bom zaklenjen tudi iz te teme? :D
Ena moja opazka na to temo je, da ljudje uporabljajo LLMje za strukturiranje odgovora, ker ga sami niso sposobni ubesedit tako, da ima odgovor glavo in rep. Prekratek attention span, preveč zmedene misli in sposobnost pisanja vsaj enega konsistentnega odstavka hitro izpuhti.
V šolah bi morali več poudarka dati na pisanje esejev.
Znanost ne temlji na tem, da nekdo reče "heureka to sem odkril to je sveta resnica, rešil sem 200 let star problem".
Da je nekaj vsesplošno sprejeto se v science communitiyu mora preveriti in neodvisno dokazati na več lokacijah. Komaj potem se lahko govori o konsenzu in se teza sprejme. Kako boš neodvisno dokazoval nek izračun ki ga je agent swarm reševal 88 ur?
Znanost ne temlji na tem, da nekdo reče "heureka to sem odkril to je sveta resnica, rešil sem 200 let star problem".
Da je nekaj vsesplošno sprejeto se v science communitiyu mora preveriti in neodvisno dokazati na več lokacijah. Komaj potem se lahko govori o konsenzu in se teza sprejme. Kako boš neodvisno dokazoval nek izračun ki ga je agent swarm reševal 88 ur?
Prosim, da nehas dvomit v AI, ki je nezmotljiva in je ni potrebno preverjati.
