Slo-Tech - Ko je AlphaGo lani in letos rutinsko premagoval najboljše igralce goja na svetu, smo se lahko tolažili z dejstvom, da smo ga goja naučili igrati ljudje. AlphaGo je resda premagal najboljšega igralca na svetu, celotno internetno skupnost in korejskega prvaka, toda igre se je naučil z analizo tisočih odigranih partij med najboljšimi človeškimi igralci, potem pa je seveda svoje mojstrstvo izpilil z lastnim preračunavanjem in učenjem. Sedaj je Googlova podružnica DeepMind pokazala, da je za AlphaGo človeštvo povsem nepotrebno. Nova verzija AlphaGo Zero se je goja naučila sama, ne da bi sploh kdaj videla potek kakšne igre. AlphaGo Zero je dobil samo pravila igre, potem pa se je igranja učil sam, tako da je igral sam proti sebi. Rezultati so osupljivi, saj je AlphaGo Zero v treh dneh iz popolnega začetnika napredoval do zmogljivosti verzije, ki je lani premagala Leeja Sedola, v 21 dneh je postal boljši od verzije, ki je letos premagala svetovnega prvaka, v 40 dneh pa je postal najboljša umetna inteligenca za igranje goja. Vse to je dosegel sam, ne da bi videl, kako igrajo ljudje. To se je izkazalo za prednost, saj ni bil obremenjen z ustaljenimi vzorci, temveč je razvil nekaj novih, ki jih v preteklosti še nismo videli.
Z drugimi besedami to pomeni, da se je umetna inteligenca v mesecu dni naučila več, kot se je človeštvo v tisočletjih. Trik se skriva v učenju z okrepitvijo, kar je podobno, kot se ljudje učimo voziti kolesa. Z vztrajnim ponavljanjem in izboljševanjem korakoma postajamo čedalje boljši pri neki aktivnosti. AlphaGo Zero je za razliko od predhodnikov uporabljal enostavnejšo nevronsko mrežo, ker je potreboval manj predznanja. O dosežku so napisali tudi znanstveni članek s podrobnostmi.
To še ne pomeni, da nas bodo računalniki premagali povsod, so pa boljši v čedalje več aktivnostih. V goju ljudje bržkone nikoli več ne bomo boljši, se bodo pa vloge zamenjale. Sedaj bodo računalniki lahko učili največje mojstre goja. AlphaGo Zero je že poskrbel za nekaj podobnega, saj je med učenjem odkril nekaj novih načinov igre oziroma potez, ki jih strokovnjaki sedaj preučujejo.
V resnici ni. Go ima sicer ogromno možnih potez in pozicij, ampak malo pravil, ki so poleg tega točno določena, in preprost ter nedvoumen način določanja zmagovalca.
Problem inteligence, ne samo umetne, so stvari, kjer imaš veliko, po možnostih dvoumnih, pravil, ali kjer natančno določenih pravil sploh ni, in kjer končni cilj ni vnaprej natančno znan.
V resnici ni. Go ima sicer ogromno možnih potez in pozicij, ampak malo pravil, ki so poleg tega točno določena, in preprost ter nedvoumen način določanja zmagovalca.
Problem inteligence, ne samo umetne, so stvari, kjer imaš veliko, po možnostih dvoumnih, pravil, ali kjer natančno določenih pravil sploh ni, in kjer končni cilj ni vnaprej natančno znan.
You're wrong.
Največji problem pri razvoji AlphaGo je bila "ocenjevalna" funkcija - torej kdo vodi, ali je položaj dober ali ne,...
To je bil največji problem.
Šah recimo, ki ima jasno definirana pravila in se jasno določi, kdo je v boljšem položaju, je za AI dosti dosti lažje.
Preberi kakšen tehničen intervju z Demis Hassabis-om.
Islam is not about "I'm right, you're wrong," but "I'm right, you're dead!"
-Wole Soyinka, Literature Nobelist
|-|-|-|-|Proton decay is a tax on existence.|-|-|-|-|
kar je zanimivo je to, da je alphago zero prišel do istega načina odprtja kot ga to počnejo ljudje. očitno je to nek ideal kako igrati go in je isti kot so ga ljudje razvili tekom teh 4000 let.
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W
A ni to bolj brute force, pač AI zna preračunat vse možne variante v okolju z omejenimi možnosti.
Bruteforce - samo ponavljaš postopek (z malo drugačnimi parametri), dokler ne prideš do prave variante.
Reinforcement Learning - v vsakem koraku popravljaš svoje napake, vsako varianto uporabiš za lastni razvoj. Ta pristop uporablja tudi večina ljudi v vsakdanjem življenju - razen tistih, ki napak ne priznajo in se nočejo nič naučit iz njih (tak način z zanikanjem je pa recimo varianta bruteforce-a v resničnem življenju)
AI je se vedno omejen na tisti predpisani set pravil. AlphaGo zna igrati Go in to pocne z odliko. Ne zna se pa odlociti, da mu Go ni vec zanimiv in se gre nauciti igrat Monopoly.
alphago (in na splosno deep, reinforcement, itd. learningi) so toliko hypani zadnje case, da postajajo ze nekaksen 'red herring' (Red herring) @ Wikipedia hassabis lahko hypa kolikor hoce, ampak na koncu dneva je to se vedno igra s popolno informacijo in malo pravili.
in alphago zero je mogoc ravno zato - ker je to igra, kjer je kompleksnost toliko nizja kot v realnem svetu. funkcija ocene stanja je bila najbolj zajeban del tega, in ko so ga resili, se lahko gredo tudi igranje racunalnika proti samem sebi. v realnem svetu pa pac ni tako. za samo starcraft 2 bo bistveno vecji izziv, bomo videli, kako se bo obneslo tam. trenutno jih amatersko-sestavljeni boti na podlagi pisanih pravil se scat peljejo.
Next milestone: boljši performance per Watt kot najboljši človek. Mislim da je pri šahu trajalo še vse do 2009, tu bo verjetno prej. Od igre s Sedolom so že prišli iz 178 TPU-jev na samo dva, ki če sem prav videl kurita ~2kW.
rahlo off topic; Kakorkoli pogledamo, je vsak razvoj šel po eksponentni krivulji. Ali to pomeni, da bomo vse več in več stvari prepuščali avtomatiki, aka robotom, aka AI? Kaj pa če NE želim, da nekaj naredi "computer"? Kaj, če bi rad SAM kaj postoril? Se bodo našli "moroni" v parlamentu, ki bodo izglasovali zakone, da tega ne bomo smeli več početi, ker bo protizakonito? Tega me je strah. Pokvarjen stroj se ustavi. Pokvarjen človek pa ne.
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.
Kako misliš, pokvarjen človek se ne ustavi? Seveda se. Nedolžni so umirali, ko je nekoga infarkt za volanom avta ali krmilom letala.
To me spominja na razburjenje ob štetju glasovnic na enih od prejšnjih ameriških volitev, ko so objavili podatek, da se stroj zmoti v 0,001 odstotkih (izmišljena številka, za pravo naj vsak sam pogugla). Potem je pa nekdo povedal, da se ljudje pri ročnem štetju zmotijo v 0,003%.
Če se izkaže, da je stroj zanesljivejši in varnejši, ne vidim nobenega razloga, da bi človeku ne prepovedali opravljati tiste naloge (če je to neka kritična stvar, zaradi katere lahko nastane škoda ali žrtve).
rahlo off topic; Kakorkoli pogledamo, je vsak razvoj šel po eksponentni krivulji. Ali to pomeni, da bomo vse več in več stvari prepuščali avtomatiki, aka robotom, aka AI? Kaj pa če NE želim, da nekaj naredi "computer"? Kaj, če bi rad SAM kaj postoril? Se bodo našli "moroni" v parlamentu, ki bodo izglasovali zakone, da tega ne bomo smeli več početi, ker bo protizakonito? Tega me je strah. Pokvarjen stroj se ustavi. Pokvarjen človek pa ne.
ZAKAJ bi stvar, ki jo računalnik naredi bolje, hotel delati sam? A te motijo tudi ročni kalkulatorji?
Odlično. Sedaj si tako tehnologijo zamislite v rokah represivnega režima.
Katerega? Kitajskega, s-korejskega, ruskega, ameriškega, EU-jevskega, ...? Ali morda obstaja kakšen nerepresiven režim? Mislim, tak, ki obstoja več kot nekaj mesecev?
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
To ne, močno pa upam, da bo AI dobil v roke vzvode, ki bodo določali, kdo ima pravico do razploda in komu se jo odvzame. Ali to ali pa popolna kontrola genetskega materiala v oplojeni jajčni celici. Druge poti naprej ne vidim.
A ni to bolj brute force, pač AI zna preračunat vse možne variante v okolju z omejenimi možnosti.
Ko te bo en brute force robot stlačil v palačinko, se lahko v nedogled sprašuješ, ali je robot v resnici pametnejši od tebe ali ne. V takšni situaciji pa lahko neodvisni opazovalec hitro sam zaključi, kateri ob obeh subjektov je zares pameten in kateri pravzaprav ni.
To ne, močno pa upam, da bo AI dobil v roke vzvode, ki bodo določali, kdo ima pravico do razploda in komu se jo odvzame. Ali to ali pa popolna kontrola genetskega materiala v oplojeni jajčni celici. Druge poti naprej ne vidim.
I, Robot meets Gattaca. Bitja, ki se razvijejo v okviru evolucije, bodo težko osvojila galaksijo, kaj šele vesolje. FTL drives gor/dol. Sicer pa, če pomislimo, kako zelo neracionalno zna vsak od nas reagirati v določenih situacijah (konec koncev smo živali z biološkimi nagoni, ki lahko hitro prevzamejo nadzor), morda ne bi bilo slabo, da bi se "potweakali" do potankosti, pri čemer AI, ki se sam sebe še ne zaveda, lahko zelo pomagal.
Evgenika, kot so si jo predstavljali nacisti, je seveda genocid. Evgenika, kot je bila zamišljena izvirno, je napredek. Res pa ga verjetno velika večina ne bo kar tako sprejela...
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Do zdaj je clovek dokazal, da se evgenika ne obnese. Na nikakrsen nacin. Se vedno nimamo super zelenjave ali pa super psa. Imamo pa polno sort in vrst, kjer so nekatere geni bolj izrazeni, vkljucno s tistimi slabimi. Recimo, ogromno pasem psov ima precej genetskih napak, ki jim skrajsujejo zivljensko dobo in precej otezujejo zivljenje.
Seveda se obnese, samo čudežev ne smeš pričakovati. Koruza je danes veliko donosnejša, kot je bila izvirno, potrebuje pa več "nege".
Lepotico s popolnimi prsmi, pametno, zabavno in da bo zdrava doživela 120 let, boš težko "naredil". Nekatere lastnosti morda sploh niso kompatibilne, vsaj ne brez temeljitega genskega inženiringa.
Si RES prepričan, da bo iz zrna desne koruze naslednje leto zrasla nova koruza? Danes pogledal "Robot&Frank". Cool movie. Pripoorčam ogled v edukativne namene. Se pa strinjam z @Markoff odstavkom; robot ne rabi AI, da prekine tvoje življenjske funkcije... Ne razumem, kako folku ni jasno, da ves AI, ki ga bomo ustvarili, NE bo delal v dobrobit človeštva!
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.
To ne, močno pa upam, da bo AI dobil v roke vzvode, ki bodo določali, kdo ima pravico do razploda in komu se jo odvzame. Ali to ali pa popolna kontrola genetskega materiala v oplojeni jajčni celici. Druge poti naprej ne vidim.
Krasni novi svet torej? Saj to se ze dogaja. V obicajni hrani imas ogromno kemikalij kjer je posledica neplodnost populacije. Tisto z vrta pa imajo in jedo premoznejsi.
A ni to bolj brute force, pač AI zna preračunat vse možne variante v okolju z omejenimi možnosti.
Računalniki niso niti približno tako zmogljivi, da bi lahko bruteforcali go. Kombinacij je vsaj 10^(10^48), kot pravim nismo blizu in zelo verjetno nikoli nebomo.
Ne, ne pomeni. Ker človek z računalnikom premaga računalnik.
Ravno v tem je poanta AlphaGo Zero, da je boljši od AlphaGo, ker ni imel vnaprej določenih priporočljiv potez in taktike, ki jih uporabljajo profi igralci.
Sicer pa je AI neizbežen. Neizbežno je tudi, da bo superioren našemu umu. Upajmo samo, da mu ne bomo v napoto. Bo pa naslednjih 50-100 let ful zanimivih za človeštvo
A ni to bolj brute force, pač AI zna preračunat vse možne variante v okolju z omejenimi možnosti.
Računalniki niso niti približno tako zmogljivi, da bi lahko bruteforcali go. Kombinacij je vsaj 10^(10^48), kot pravim nismo blizu in zelo verjetno nikoli nebomo.
... v 21 dneh je postal boljši od verzije, ki je letos premagala svetovnega prvaka, v 40 dneh pa je postal najboljša umetna inteligenca za igranje goja ...
morda ne bi bilo slabo, da bi se "potweakali" do potankosti, pri čemer AI, ki se sam sebe še ne zaveda, lahko zelo pomagal.
Če bo to počel na tak način, kot se uči igrati, mu bo zmanjkalo vzorcev (ljudi), preden bo naredil kak napredek.
Tweakanje genov, ne ljudi. Popravljanje ljudi je kot flikanje fiča s ciljem nadgraditi ga v cadillaca. Poleg tega se AI ne bo ukvarjal z dejanskim parjenjem, temveč simulacijami. Simulator bo verjetno izgradil na podlagi empiričnih poizkusov, od tu dalje pa empirika ne bo več potrebna, razen potrditve posameznih mejnikov.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Si RES prepričan, da bo iz zrna desne koruze naslednje leto zrasla nova koruza? Danes pogledal "Robot&Frank". Cool movie. Pripoorčam ogled v edukativne namene. Se pa strinjam z @Markoff odstavkom; robot ne rabi AI, da prekine tvoje življenjske funkcije... Ne razumem, kako folku ni jasno, da ves AI, ki ga bomo ustvarili, NE bo delal v dobrobit človeštva!
No, jaz menim, da lahko pogojno sobivamo z AI. Četudi bo nam superioren v vseh pogledih, se lahko "šlepamo" na dejstvo, da smo njegovi stvarniki, torej njegovi bogovi. Če bo imel vsaj malo (simuliranih, brute force, whatever) čustev, nam bo to prav prišlo. :) Če.
Bolj realno je, da bomo z AI lahko sobivali le, dokler bomo za svoje preživetje potrebovali večinoma različne resurse. Npr. njiva na hribčku, ki ne vsebuje redkih kovin, AI-ju nima nobene vrednosti. Živali tudi ne. Energenti (sploh elektrika), (redke) kovine, infrastruktura (tovarne, transport) pa. Težka bo.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
dejstvo je da je ta AI začetek nečesa kar se bo lahko uporabilo na mnogih področjih. recimo prometna infrastruktura, učenje v izobraževalnih ustanovah, upravljanje ladij ipd... še najbolj verjetno pa kalulacije v vesoljskem programu ali pa medicini. ni da ni.
i9-12900k; 32GB DDR5-6000 CL36; Nvidia RTX 3080 ti;
Gigabyte Aorus z690 master; Be Quiet Dark Power 12 1000W
To ne, močno pa upam, da bo AI dobil v roke vzvode, ki bodo določali, kdo ima pravico do razploda in komu se jo odvzame. Ali to ali pa popolna kontrola genetskega materiala v oplojeni jajčni celici. Druge poti naprej ne vidim.
Neumnost. Evgenika se ni obnesla in trenutno genetika se ni divolj razvita. Lahko bi pa delali na odstrabitvi dednih bolezni. Bi pa morali vsem omejiti moznost razploda. Ker je folka prevec.
Do zdaj je clovek dokazal, da se evgenika ne obnese. Na nikakrsen nacin. Se vedno nimamo super zelenjave ali pa super psa. Imamo pa polno sort in vrst, kjer so nekatere geni bolj izrazeni, vkljucno s tistimi slabimi. Recimo, ogromno pasem psov ima precej genetskih napak, ki jim skrajsujejo zivljensko dobo in precej otezujejo zivljenje.
Em, kaj?
Iz volka smo dobili cel kup super psov, ki odlično služijo svojemu namenu. Prav tako z zelenjavo, ki je povsem neprimerljivo bolj hranilna, kot divja.
Da imajo nekatere pasme genetske napake, je posledica zgolj napačnega načina evgenike v teh primerih. Osredotočanje zgolj na izgled in ne tudi na funkcionalnost oziroma zdravje. Obstaja cel kup pasem, ki teh problemov nima, pri obstoječih pa se odpravljajo. (Dokler "poznavalci" ne kupujejo pasemskih psov brez rodovnika, ampak to itak ostane izven rodovniške linije). Pa tudi pri tistih, ki jih imajo, so v primerjavi z volkovi te psi dejansko super psi - kljub nekaterim hibam so super čuvaji, super lovci, super prinašalci, ...
Pazi, to je genski inženiring, ki ga bodo itak zdaj enkrat prepovedali in zdemonizirali vse, ki karkoli delajo na tem področju.
Evropa se že bori proti gensko spremenjeni hrani, a zdaj pa mislite, da ljudi bi pa lahko popravljali. Vse mora ostati v božjih rokah. In najbolj zagovarjajo ponavadi ljudje, ki se smartajo za najbolj "neverne".
Vsak, ki kakorkoli čuti, da ima pred drugimi prednost dano od boga, bo navijal, da to ostane v božjih rokah, dokler ga nekaj ne doleti.
o+ nevone
Either we will eat the Space or Space will eat us.
Neumnost. Evgenika se ni obnesla in trenutno genetika se ni divolj razvita. Lahko bi pa delali na odstrabitvi dednih bolezni. Bi pa morali vsem omejiti moznost razploda. Ker je folka prevec.
Ene vrste evgenike se res ne obnesejo, druge se.
Zato je npr. Monsanto multinacionalka z milijardami v tržni kapitalizaciji, Hitler pa je v zgodovino napisan zelo neslavno. Res pa se eni lotevajo evgenike z znanstvenim pristopom in laboratoriji, drugi pa z večvrednostnim kompleksom in koncentracijskimi taborišči.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Do zdaj je clovek dokazal, da se evgenika ne obnese. Na nikakrsen nacin. Se vedno nimamo super zelenjave ali pa super psa. Imamo pa polno sort in vrst, kjer so nekatere geni bolj izrazeni, vkljucno s tistimi slabimi. Recimo, ogromno pasem psov ima precej genetskih napak, ki jim skrajsujejo zivljensko dobo in precej otezujejo zivljenje.
Em, kaj?
Iz volka smo dobili cel kup super psov, ki odlično služijo svojemu namenu.
Ampak je treba takoj dodati, da "odlično služijo svojemu namenu" samo s človeško pomočjo. Udomačitev je "poneumila" volka in psi imajo, glede na velikost, v povprečju kakšnih 15% manjše možgane od volkov. Psi praktično niso sposobni več sami preživeti v naravi.
Enako velja tudi za vso "zelenjavo". Brez zalivanja, pletja, gnojenja ... v naravi ne preživi.
