Protokol

Zanimivo pa bi bilo videti, a bi se te poteze domislil računalnik (programiran brez dopolnjenih pravil). Če bi mu recimo postavil neko hipotetično pozicijo, kjer bi ga samo ta poteza rešila, ali kjer bi z njo zmagal.

O.

@Thomas: Saj ne, da ne verjame, ampak rad bi videl kakšen link do te strategije?

In še nekaj. V SIAI pisanjih je veliko več nasprotij in nedorečenosti kot v pravilih šaha. Zlahka se jih opazi. Ena taka zelo čislana mantra je ta, Yudkowsky jo je s ponosom objavil, da "random sam po sebi ni nikoli najboljša rešitev, vedno obstaja boljša rešitev od random". Prov enemu se zahvaljuje, ker je opazil ta njegov modri point.

Bullshit. Napovedosvati kateri od radiaktivnih atomov urana bo naslednji eksplodiral, ne moreš bolje kot če random ugibaš. Njegova teza je pač bogus. Ali pa šifrirnih padov tudi ne moreš narediti boolje, kot če so random.

Hočem reči, niso tko smart kot si mislijo da so.

Hvala, gzibret.

No, kako bi moral zgledati program ki rošira, da bi bil "korekten"?

Psevdokoda:

if (MyKingMovevedTimes==0 {
   while (ThereIsARookOfMyColor) {
         if (ThisRookMovedTimes == 0) {
            if (FieldsBetweenMyKingAndThisRook==AllEmpty) {
               if (FieldsBetweenMyKingAndThisRook==NotAttacked && MyKingNotAttacked) {
                  MoveThisRookNextToMyKing;
                  JumpKingOverThisRook;  
}}}}}

Tako napisana koda bi to skrito rošado, ki je ni v stoletjih vse do izbruha "škandala" - opazil nihče, uporabila in odkrila. Vendar zdaj je FIDA dodala "IfRookIsNotAPromotedOne {".

Malce offtopic: kdo potem zmaga, če matiraš nasprotnika in noben ne opazi, da nimaš več kralja?

Subtilna razlika med vzhodnjaškoim in zahodnjaškim načinom razmišljanja...

Samo škoda, ker je šah tudi vzhodnjaška pogruntavščina.

O.

Pred leti mi je slučajno prišla v roke tale knjiga, ki sem jo zdaj našel tudi na Amazonu Go, an Asian Paradigm for Business Strategy

Na to me je pravzaprav opozoril nekdo z daljnjega vzhoda, gre pa za zanimivo razmišljanje "z druge strani" in skozi prizmo iger, tistih najelitnejših, ki so imele in delno še imajo posebno vlogo v različnih kulturah. (kot šah na zahodu in GO na vzhodu)

Thomas:

Lahko mi da samo odgovor, kaj bi bil RPOP-ov rezultat. Ni treba, da RPOP kadarkoli laufa zares.

Kot je rekel WarpedOne: "Mašina, ki ti vrne rezultat RPOP, je zopet le RPOP. Bljižnic ni.".

V analogiji z atomsko bombo, ki si jo omenil kasneje, imamo abstraktni model procesa fuzije, na podlagi katerega ustvarimo program, ki na določenem, dokaj visokem nivoju abstrakcije pride do željenega rezultata. Tako kot pogosto ne obstajajo analitični ('closed form') modeli kompleksnejših procesov, tudi močno dvomim, da smo sposobni najti abstrakten model RPOP-a, ki bi ga lahko izrabili na podoben način, kot nam to uspeva pri simulaciji atomske eksplozije - da bi nam to uspelo, bi morali biti že sami praktično superinteligentni. Dvomim tudi, da je kaj takega sploh v principu mogoče.

Če si samo poskušam predstavljati program, ki bi izračunal recimo, kako bi skupina znanstvenikov rešila problem staranja, v nekem simulirane svetu, je težko videti, kako bi nam to lahko uspelo, brez da bi dejansko ustvarili te ljudi skupaj s svetom v vsej svoji natančnosti, jim dali povezavo na internet itd... skratka, ustvarili čisto pravi RPOP (ki pa v tem kontekstu ni ravno nevaren, ker gre pač za ljudi - večinoma pa seveda ne bi bilo tako).

Težko breme dokazovanja, da lahko takšen design reši problem nevarnosti RPOP-a, je tako na tistih, ki ga zagovarjajo in ne na drugih, ki naj bi morali najti luknje v njem, ali pa v nasprotnem primeru sprejeti, da je brezhiben.

No, mene je izučilo. Če še šah ni bil waterproof, kako je šele z mnogo bolj kompliciranimi predpostavkami. Kot recimo s paketom znamke SIAI.

Imaš kak drug predlog, kot da se preprosto na vso moč potrudimo in poskušamo ustvariti nekaj popolnega? Kake dobre alternative namreč ni.

Je pa drugače zanimivo, da tisti, ki bi radi ročno zakodirali v AI svojo najljubšo etično teorijo, običajno ne pomislijo na to, kaj če se pri tem napravi kaka napaka in bodo s tem uničili celotno prihodnost človeštva...

S tem ne želim reči, da je napaka v CEV algoritmu praktično nemogoča - to seveda ni - temveč le, da na takšen način, kot mnogi želijo skonstruirati AI (ali pa sistem, ki ugotavlja, kaj naj bi napravil nek AI/RPOP), zmaga praktično ni mogoča. Pri dokončno razvitem CEV modelu in preostali FAI teoriji ter temeljito stestirani in dokazano pravilni implementaciji imamo vsaj nekaj možnosti.

Ampak vsekakor smo dovolj dolgo čakali, da [SIAI] izpolnijo svoje obljube. Še vedno jih lahko, samo niso pa edini in njihov koncept ni edinozveličaven. FAI je tako kot Lilienthalov glider, konkurenca je opravila z njim, morala je, da imamo danes potniške avione.

Odkrito rečeno bi rad videl kak konkurečen projekt, ki bi se lotil problema prijaznosti močne inteligence s kakega drugega kota, vendar žal ni videti ničesar, kar bi bilo vsaj kolikor toliko non-crackpotish. Ben Goertzel je pred časom imel nekaj idej na to temo, vendar so na žalost... am, precej slabe, koncept 'oracle AI', kot ga je pred časi zagovarjal Nick Bostrom, ostaja le medla ideja polna lukenj, česa drugega pa ni videti...

SIAI&FAI's all we've got, for now.

O tem, da se FAI projekt vleče že predolgo: glede na težavnost in na to, koliko časa je trajalo, da smo razvozlali kako izmed drugih večjih skrivnosti, ni za pričakovati, da je mogoče doseči cilj že po tej peščici let, odkar je nastal SIAI - sploh pri resursih, ki so bili vloženi vanj. Namesto pritoževanja nad tem, kako "ni bilo še nič storjenega" (kar mimogrede ne drži), predlagam, da se raje osredotočimo k temu, kako pomagati, da se bodo stvari odvijale hitreje. Matematično rigorozna teorija prijazne inteligence ni nekaj, kar bi lahko en sam posameznik razvil tekom nekaj popoldnevov...

V SIAI pisanjih je veliko več nasprotij in nedorečenosti kot v pravilih šaha. Zlahka se jih opazi. Ena taka zelo čislana mantra je ta, Yudkowsky jo je s ponosom objavil, da "random sam po sebi ni nikoli najboljša rešitev, vedno obstaja boljša rešitev od random".

K sreči sem ravno pred kratkim opazil, da si dobil odgovor na svojo opazko:

Eliezer Yudkowsky:
"To be precise, the claim was that when you can improve an algorithm by randomizing it, you can improve it further by derandomizing it. Assigning probabilities over uranium atoms isn't even a random task in the first place - you just lawfully calculate some numbers, and state those numbers out loud as your probabilities; not a single randomized step in the cognitive algorithm. If you said "bet everything on a random direction" it would be inferior. This is all stated very clearly in the original page.

In other words, Thomas was misstating my previous position (as a quotation no less!) and entirely failing to get the entire point..."

Vir: Logical Rudeness

Še kakšno "nasprotje oz. nedorečenost" v SIAI pisarijah? ;)

(Seveda ne namigujem na to, da jih ni - najbrž se kje že skriva kaka, samo 'nitpicking/poor reading comprehension' kakršnega si pokazal tule, to pač ni.)

Mimogrede, ideja, katere izkrivljeno obliko omenjaš, drugače izvira od E. T. Jaynesa, legendarnega 'bayesian master-ja'. :)

E. T. Jaynes:
"It appears to be a quite general principle that, whenever there is a randomized way of doing something, then there is a nonrandomized way that delivers better performance but requires more thought."

Hočem reči, niso tko smart kot si mislijo da so.

What can I say... niso tako smart, kot bi bilo dobro, da bi bili - kakšna pa je njihova samoevalvacija inteligence, pa ne bi vedel. ;)

Thomas je 1. feb 2010 ob 20:55 izjavil:

Niso zaštekali. Yudkowsky je trdil, da random ni nikoli optimum. To preprosto ni res. En primer sem dal, uranove atome, katere bo razneslo, drugega se mi ni ljubilo. Kako bolje kot random narediti "cypher pad"?

Kaj pa, če eksplozija uranovih atomov ni true random? IMO true random v tem vesolju ne more obstajat. Če Yudkowsky tudi verjame v to (in, da se izkaže to za pravilno razmišljanje), potem ima prav.

Ja, ampak, če to vesolje funkcionira po nekem pravilu, potem je random slaba izbira. Trenutno je random izbira v določenih primerih najboljše kar imamo, na dolgi rok bo pa najbrž padla.

Ja, tanajtabol, ampak, če bi enkrat poznal vse zakonitosti vesolja, ne vem zakaj bi še uporabljal MC?

Vse nam bi blo jasn!

Jaz mislim, da ni preveč verjetno, da bomo odkrili kakšen QM hack. Never the less, zdaj razpada uranovih atomov ne znamo predvideti. Nič bolj ne znamo obiti Monte Carlo, niti delati tako zanesljivih šifrirnih padov, kakor so tisti čimbolj random.

Situacija je pač vsaj trenutno taka. Najmanj trenutno.

Da bomo odkrili vse ravno tako, da bo Yudkowsky imel prav, ne verjamem. Sigurno pa nima prav zdajle in to je bil point debate. Masovno so se pomotili skupaj z njim in jim sploh ne moreš dopovedat. Se pa dobr vidi tkole od strani, kako niso taki racionalisti, za kakršne se imajo.

Thomas je 3. feb 2010 ob 12:12 izjavil:

Jaz mislim, da ni preveč verjetno, da bomo odkrili kakšen QM hack.

Nekaj bo treba, če bi vse lahko tako idealno popisali s QM, potem bi že imeli poenoteno teorijo. Pa jo nimamo - še.

True random v sistemu, ki ga znamo opisati do popolnosti pravilno nima kaj počet. Po moje.

Kako lahkjo dekodiras popoln random code?

Thomas, ti trdiš, da true random obstaja?

To je true random.

Temu bi jaz rekel nedolocljivost(negotovost).
Kaj pa random sort nekih matematicnih vrednosti, obstaja?

Ok, se malo bolj offtopic:
Imas klasicen double slit eksperiment s fotoni in razporeditvijo.
Kako bi lahko vedel kdaj bo nek sprozen foton sel skozi levo in kdaj skozi desno rezo? Bi lahko rekel da je izbor random?

100% simulacija še "v naravi" ni možna. Dokaj približna simulacija samega sebe izpred nanosekunde si.

Dokaj izključiš, ja. Dokaj. Lahko te pa nekatere "zunanje" okoliščine izdajo. Ko crkne RAM ... se posuje v virtualnosti, če je poškodba večja od neke tolerance. Neničelna verjetnost za kaj takega, vedno. Žal.

Ja, ja. Nekaj časa sem mislil, da bomo True random zaobšli. Zdaj sem spremenil mnenje. Mislim, da ga ne bomo mogli.

No, to sem hotel pokazati. Da true random obstaja (in ko sem to pred časom trdil, se mi je Thomas Veliki celo posmehoval).

Da true random obstaja (in ko sem to pred časom trdil, se mi je Thomas Veliki celo posmehoval).

To se ni zgodilo, vsaj tako ne kot zdaj hočeš prikazati. IMO takrat nisi vedel kaj je true random, ne zdaj.

slejkoprej padeš pod resolucijo svojega modela in fašeš true random.

True. To je to.

Oh, vem, vem. Vem tudi to, da ti ne razumeš prav prida, kaj se sploh pogovarjamo o tem true randomu in o tem kako je ali ni - random kdaj optimalna rešitev kakšnega problema.

Mogoče te majo mnogi na Slotechu za precej brihtnega, jaz te zagotovo nimam, boš oprostu.