Umetna inteligenca

Kaj menite? Pretiravanje ali zrno resnice?
https://www.rtvslo.si/znanost-in-tehnol...

Anthropic researchers say AI could cause human extinction by 2030

To je tudi buildanje pred nastopom na borzi?

Elon Musk: "In just 5 more years, the world will be completely turned upside down. Don't sweat the small stuff right now. With a billion robots and universal high income handed out to everyone, I'll flip the whole world on its head, so don't you worry."

"By 2030 or 2031, in just 5 years, AI will surpass the intelligence of all humanity." The bombshell claim from the world's richest man--"In 5 years, all your current worries will vanish"--is just too wild?

?In 5 years, AI will blow past "the collective brainpower of all humanity": Even if all 8 billion people on Earth pool their smarts together, a single AI will leave them in the dust. Cramming for exams, fighting over qualifications, and academic flexing will all lose their meaning entirely
?A "billion robots" will be unleashed on Earth: Factories, construction sites, caregiving, even taking out the trash--robot armies will rotate through and handle it all. The physical need for humans to break their backs and sweat will hit absolute zero
?A world where "you get a fat stack of cash every month without working": Not just scraping by on living expenses, but a system where the massive wealth generated by robots gets distributed to everyone. The agony of slaving away at a soul-crushing job for money comes to an end
?Your current "workplace drama" woes will all seem utterly ridiculous: The boss's nitpicky lectures, the packed rush-hour trains, the anxiety over future pensions--all of it will get swept clean away by the wave of technology in just a few years

The hellish rule of "grit your teeth, endure, and work" that's dragged on for millennia will end in a mere 5 years.
Stop wearing down your soul in despair over these pointless daily grinds--instead, just kick back in this bonus stage of life and get hyped for the moment the world flips with a bang.

Nekje nasel... ne vem ce je dejansko to on povedal.

Noro. Samo počivali bomo in igrali GTA6.

IgorCardanof je 8. sep 2026 ob 19:36:07 izjavil:

https://x.com/OpenAI/status/20973746405...

OpenAI z Astro resil enega izmed 7ih milenijskih problemov. Navier Stokes equation

Zakaj OpenAI ne reče agentom, naj pozdravijo raka? Glede na zmogljivost bi mogli v roku parih dneh imeti generično zdravilo. Kaj je problem?

Predvsem pa je testiranje težje

Očitno ne razumeš razlike v kompleksnosti med biologijo in matematiko.

V debato se vključi ChatGPT

Ta pogovor je zelo dober primer, kjer ima LeQuack eno intuitivno pravilno izhodišče, vendar iz njega naredi zelo napačen sklep. Okapi ima glede bistva precej bolj prav.

Najprej pomembna aktualna opomba: OpenAI je 8. septembra 2026 res objavil rezultat, za katerega trdi, da rešuje Navier-Stokesov problem, in opisuje uporabo koordiniranega sistema agentov. Vendar to ni pomenilo, da je AI "rešil matematiko na splošno" ali da lahko zdaj v nekaj dneh najde zdravilo za raka.

1. Biologija je za nekaj velikostnih razredov bolj komplicirana od matematike.

Okapi: v bistvu ima prav, čeprav je formulacija preveč absolutna.

Navier-Stokesov problem je izjemno težak matematični problem, vendar je problem natančno definiran. Pri njem lahko formalno napišeš, kaj mora biti dokazano. Clay ga formulira kot vprašanje obstoja/smoothness rešitev oziroma njihovega možnega razpada.

Rak pa ni en sam matematični problem.

Gre za ogromno družino bolezni, pri katerih imamo:

različne vrste in podtipe raka,
genetsko heterogenost med bolniki,
heterogenost celo znotraj istega tumorja,
evolucijo tumorja,
interakcijo z imunskim sistemom,
mikrookolje tumorja,
metastaziranje,
farmakokinetiko in farmakodinamiko,
toksičnost zdravil,
odpornost na zdravljenje.

In predvsem: ne obstaja ena "enačba raka", ki bi jo bilo treba rešiti.

2. Saj lahko uporabijo milijone agentov.

To je glavna napaka LeQuackovega argumenta.

Več agentov != proporcionalno več inteligence.

Če je problem mogoče razdeliti na milijon neodvisnih podproblemov, je ogromno agentov fantastično koristnih.

Če pa je problem tak, da moraš:

oblikovati hipotezo,
preveriti, ali je pravilna,
izvesti eksperiment,
dobiti zanesljiv biološki rezultat,
ugotoviti, zakaj rezultat ni tak, kot si pričakoval,
izdelati naslednji eksperiment,

potem te omejuje realni svet, ne samo računska moč.

AI lahko zelo hitro predlaga 10 milijonov potencialnih molekul. Toda ne moreš jih preizkusiti v 10 milijonih ljudi.

3. Največja napaka: Samo naročiti morajo AI, naj dela, dokler ne najde zdravila.

To zveni logično, vendar predpostavlja nekaj, kar je pravzaprav celoten problem:

da obstaja učinkovit način preverjanja, ali je rešitev dobra.

Pri matematiki lahko AI ustvari dokaz, nato pa ga lahko formalni sistem preveri. OpenAI je pri Navier-Stokesu celo objavil Lean formalizacijo. To je izredno pomembna razlika.

Pri zdravilu pa lahko AI reče:

"Ta molekula bi morala zelo učinkovito uničevati rakave celice."

Nato moraš ugotoviti:

ali res deluje v celici,
ali pride do tumorja,
ali deluje pri človeku,
ali ubije tudi zdrave celice,
ali jo jetra razgradijo,
ali povzroči nevarne interakcije,
ali tumor razvije odpornost,
kakšen odmerek je učinkovit,
kakšni so dolgoročni učinki.

AI lahko pospeši skoraj vsak od teh korakov. Ne more pa preskočiti eksperimenta.

4. Ko raziščeš vse organizme, si končal.

To je še ena zelo pomembna napaka.

Biologija ni končni seznam organizmov, ki ga moraš samo prešteti.

Tudi če bi imeli popoln genom vsakega organizma na Zemlji, to ne bi pomenilo, da smo razumeli biologijo.

Razlog je predvsem kombinatorika in emergentno obnašanje.

Na primer, če imaš 20.000 genov, njihovih možnih interakcij ne moreš preprosto razumeti tako, da vsakega gena obravnavaš posebej. Poleg tega isti gen lahko opravlja različne funkcije glede na:

tip celice,
razvojno stanje,
okolje,
druge aktivne gene,
signalne poti,
epigenetiko,
imunski sistem itd.

In še pomembneje: rak ni samo lastnost rakave celice. Je dinamičen sistem rakavih celic, normalnih celic, imunskega sistema, krvnih žil, veziva, hormonov itd.

5. Ampak LeQuack ima eno pomembno točko

Tu bi mu vendarle dal delno prav.

Njegova intuicija:

Če AI postane dovolj zmogljiv, zakaj ga ne bi preprosto pustili neprestano iskati zdravil?

je zelo dobra raziskovalna ideja.

Pravzaprav se bo prihodnost medicine verjetno precej približala temu modelu:

AI -> hipoteza -> simulacija -> eksperiment -> rezultat -> AI -> nova hipoteza -> eksperiment ...

AI lahko močno skrajša čas med temi koraki.

Toda to ni:

milijon agentov -> nekaj dni -> zdravilo za raka

ampak prej:

milijon agentov -> ogromno več in boljših hipotez -> hitrejši eksperimenti -> hitrejša eliminacija slabih hipotez -> hitrejši razvoj zdravil.

To je bistveno bolj realističen model.

Kdo ima torej prav?
Trditev Ocena
AI lahko z ogromnim številom agentov dramatično pospeši biomedicinske raziskave LeQuack ima precej prav
Več agentov bo samo po sebi rešilo problem raka LeQuack se moti
Biologija je bistveno težji problem za avtomatizirano reševanje kot dobro definiran matematični problem Okapi ima prav
Pri biologiji je eksperimentalno preverjanje velik problem DamijanD ima zelo prav
Če samo pustimo AI delati dovolj dolgo, bo zagotovo našel generično zdravilo LeQuack se zelo moti
AI lahko bistveno pospeši iskanje novih zdravil LeQuack ima prav
Ko raziščeš vse organizme, je biologije konec LeQuack se moti
Moj končni verdict

Okapi ~80 % prav, DamijanD ~95 % prav, LeQuack ~20-30 % prav.

Toda zanimivo je, da LeQuack zadene pomembno dolgoročno vprašanje, samo da močno podcenjuje razliko med iskanjem hipotez in dokazovanjem, da hipoteza deluje v realnem svetu.

Navier-Stokes je posebej lep primer. OpenAI je lahko ustvaril dokaz, ker je končni objekt matematičen in formalno preverljiv. Clay celo zahteva, da mora biti rešitev objavljena, preteči morata najmanj dve leti in pridobiti mora splošno sprejetje matematične skupnosti, preden se lahko obravnava za nagrado.

Pri zdravilu pa narava sama predstavlja "verifikator" -- in ta verifikator je počasen, drag, šumen in nepredvidljiv. To je verjetno največja razlika, ki jo LeQuack v razpravi spregleda.

Okapi je 11. sep 2026 ob 20:39:31 izjavil:

V debato se vključi ChatGPT
...

Tako Okapi kot ChatGPT nista prebrala Štoparskega vodnika in ne vesta za 42.

For the record, I got this wrong twice and you caught both

Ce bi se vsaj mal manj trudil z ugajanjem uporabniku, tud neb blo slabo. :D

Meta AI.

1. DVA STOLPA - NAJDETA:
V mali fotografiji za modelom sta za njo dve svetlo vijolični pravokotni obliki.

STOLP 1 (levi, za njenimi nogami)
STOLP 2 (desni, za kolenom)

Obe stojita pokončno, vzporedno, zelo spominjata na WTC Twin Towers. V kombinaciji z napisom zgoraj "Kaj se BO zgodilo 11. septembra LETOS?" je to tisto, kar je sprožilo vse teorije okoli te naslovnice revije ONA.

2. ROŽIČKI - NAJDETI:
Na vrhu glave modela, v njenih laseh / frizuri, je majhen štrleč pramen, ki tvori obliko, ki spominja na rožičke. Označil sem ga z rdečim krogom. To je verjetno samo styling las, ampak na tej nizki resoluciji res deluje kot dva majhna rožička.

Tale Jev bo kot kaze spet en lep korak naprej: https://x.com/CompleteSkeptic/status/20...

Dobis torej moznost cenejsega odlocanja glede na vhod in kontekst, kjer vhod predstavlja dinamicen nabor moznosti/odlocitev. Kakor razumem se tu najbolj odmika od klasicnih klasifikatorjev, ki so natrenirani za vnaprej dolocene moznosti. Pri tem je najbolj elegatno to, da output ni serializiran, v smislu racunanja token za tokenom, ampak dobis dogovor paraleleno za vse moznosti, ki si jih podal na vhodu, naenkrat (zato se tudi izhodni tokeni ne zaracunavajo).

Mi bo pa zanimivo spremljati kako bodo integrirali zadevo v praksi. Obcutek imam da na hibriden nacin - nekaj moznosti bo staticno generiralo orodje (agent hanress), ter preklapljalo med LLM in tako klasifikacijo, lahko tudi v zanki, nekaj pa bi znal generirati sam LLM ter sproducirati output glede na rezultat.

Nekateri uporabniki ze kazejo fine demonstracije na drugacnih problemih (ni omejeno na kodiranje oz. generiranje teksta): https://x.com/Neel490/status/2100400923...