Protokol

Integral od 0 do 10^10000, je dovolj natančen.

Integral od 0 do 10^10000, je dovolj natančen.

Če bi kar tako tole cifro pisal namesto neskončno, bi prišel do napačnih rezultatov. Naprimer, ko bi imel recimo pod ulomkom pa enkrat 10^100.

Ko bi delal z velikimi števili, bi bile napake gromozanske.

@lymph

Aha, no popravi me, če sem zgrešil point, ampak ti v bistvu govoriš o tem, da sicer že je tisto kopija moje zavesti, ampak je čisto enako "pomembna" kot pa ta trenutna.

Ja in tudi tisto, da ni preveč pametno govoriti o "kopiji" in "originalu" si dobro zadel. Bolje je uporabljati pojem instance.

In torej iz objektivnega stališča postanem stari jaz replacable, če je novi jaz v boljši lupini?

To ni več objektivno stališče, temveč etično. Začel si govoriti o tem, kaj je dobro, medtem ko za prvo velja, da se ukvarja le s tem, *kakšen* je svet. Sam bi raje ostal na objektivnih tleh in s tem preoblikoval tvoj stavek v le: 'novi jaz uporablja manj sredstev za enak učinek'. Se pa strinjam s tem, da je to boljše (recimo kak mortalist, ki želi čimhitrejšo smrt človeštva, ne bi bil tega mnenja).

Edino trenutni ego in pa nagon po preživetju večini ne dovolita, da bi dojeli, da je "nova" instanca veliko boljša od stare, ker bo pač v boljši lupini.

Tule ne bom picajzlast tako kot zgoraj, tako da bi le še dodal k egu in nagonu nerazumevanje za kaj gre pri tem kopiranju zavesti.

Je to tvoj point?

Ja, če odšteješ etične implikacije. Z instancami istih matematičnih objektov (npr. števila 3), znotraj drugih mat. objektov (linearnih enačb) sem želel le nekoliko pomagati pri razumevanju večih instanc zavesti v vesolju...

Matematični dokazi niso kaj posebnega v smislu, da bi bili nekako rezervirani za nas, stroji bi jim pa po definiciji ne bi bili kos.

Te posebnosti nimajo, sem dal link na stran, kjer je neko podrčje matematike totalno mehanizirano.

Sicer so pa pomembna reč, jasno. Radi imamo matematični dokaz za nekaj. Nanj se lahko zanesemo, kot na redko katero reč.

Ja, o neskončnosti pa imamo vsaj eno drugo temo.

Thomas

Matematični dokazi niso kaj posebnega v smislu, da bi bili nekako rezervirani za nas, stroji bi jim pa po definiciji ne bi bili kos.

Jasno. Čemurkoli smo kos ljudje, so potencialno kos tudi stroji - le primeren program potrebujejo (in to velja tudi za vsa razmišljanja o neskončnosti, ki se odvijajo v naših možganih). Obratno pa ne velja nujno, čeprav o tem si nisem čisto na jasnem (nimam še preciznega argumenta).

Ljudje smo univerzalni v Turingovem smislu, vendar imamo omejen pomnilnik, kar nam onemogoča reševanje problemov, ki so preko nekega praga kompleksnosti. Res pa je, da si lahko pomagamo s svinčnikom in papirjem, ki nam razširi pomnilnik...

Vendar težko reči, če je to dovolj (celo v primeru neomejene količine papirja).

Obstaja namreč nek (Chaitinov) teorem, ki gre nekako takole: v 10 kilogramskem formalnem sistemu ni mogoče dokazati 20 kilogramskega teorema. Teža je tukaj metafora za kompleksnost matematične strukture: v prvem primeru aksiomov + pravil sklepanja in v drugem teorema.

Če si predstavljamo naše možgane kot nek formalni sistem, je posledica tega teorema, da nismo zmožni priti do določenih dovolj kompleksnih resnic. Papir in svinčnik pri tem ne pomagata.

Nisem prepričan, da tole "drži vodo", kljub temu pa se mi zdi zelo verjetno, da obstajajo inteligence, ki lahko vidijo stvari, ki so mojemu razumu nedostopne. Celo v primeru, da bi imel na voljo celotno prihodnost vesolja.

Za razširitev naših obzorij bo torej potrebno povečati kompleksnost našega razuma, samo upload ne bo dovolj.

Warped >če mi v glavi laufa simulacija raja - sem v raju.

Thomas >Warped ima prav. Stvar deluje pozitivno.

No, pa se dajmo malce ustavit pri gornjih trditvah (in problemih vezanih nanje)

Simulacija raja mi lahko v glavi laufa tud brez uploada. Sem pač zadet, al pa fantaziram u tri krasne .... v čem je razlika?

Se pa vprašanje pojavi v trenutku (pod presdpostavko, da bi res naredili upload možganov) , v kašno okolje, (bolje med kakšne kulise, če hočete) bomo postavljeni.
Bomo uploadali tud mojga kužota Runota, mogočno lipo sredi vasi, čudovite vrtnice s sosedovega vrta? Al si jih bom moral pač sam zamišlt, če bom hotel doživet "raj".

Če prvo, koliko svetov bomo morali ustvariti in koliko mojih kopij, ki si jih bodo želele neke druge kopije.

In čist za konec

Če bo upload narejen za vse osebke, kdo bo dal ukaz kdaj in za koliko časa se program zažene. Če temu ne bo tako, kdo mi jamči, da se nekdo ne bo naveličal kontrilirati vzdrževanja programov in nas bo kratkomalo izključil ,,, klik in že smo na čakanju. Ali kar je še huje ....mal presnemavanja ne škodi, a ne. Ta mulc mi ni všeč, ga bom s sosedovo Špelco presnel, ma lepše joške.

Torej, kaj in kam bomo uploadali in kdo bo to nadziral in vzdrževal, ter jamčil, da me ne bo nek pametnjakovič po pomoti ali hote zbrisal in na to mesto posnel kaj bolj zanimivga (kak dober ZF film, naprimer)

Simulacija raja mi lahko v glavi laufa tud brez uploada. Sem pač zadet, al pa fantaziram u tri krasne .... v čem je razlika?

V tem, da v simulaciji ne boš prišel "down"... naprimer

Fave

kaj je bilo napisano v uvodnih postih vem, tud kar nekaj časa že spremljam (in sodelujem v njej) to temo. Vendar to kar ti govoriš, ni niti približno to kar jaz sprašujem.

Da ponovim še enkrat.

Če hočeš "streči" moji "kopiji", pač moraš narediti tudi popoln abloud okolkolja. Sicer nisi naredil nič (razen fantazme, enake ZF filmu)
Če to narediš, moraš praktično naredit aplud celotnega okolja (morda celo vesolja).

Nagradno vprašanje zate je torej

Koliko vesolij bomo ustvarili in ali imamo rs dovolj raszpoložljivih podatkov za kaj takega.

In odgovoril si na vprašanje


kaj že?

Ne! Kvečjemu enako kompleksen, pa še to samo v teoriji.

Sicer lahko, samo je treba uvest poenostavitve.

Če pa hočeš dokaz za "ne", pa dajmo naredit en miselni eksperiment. Recimo, da je odgovor "da". Z računalnikom lahko simuliramo sistem, ki je malo kompleksnejši. S simuliranim sistemom pol simuliramo še en kompleksnejši sistem itd... Na koncu pridemo do tega, da lahko z enim bitom simuliramo vesolje, kar pa je očitna nezmožnost oz. protislovje.

Sago

Ali je lahko simuliran sistem kompleksnejši od sistema, ki poganja simulacijo?

Odvisno od tega, kakšno mero kompleksnosti uporabljaš. Če imaš v mislih kompleksnost Kolmogorova K(S), ki je nekako standardna, potem je odgovor da.

K(S) govori le o dolžini najkrajšega programa, katerega output je niz S, v katerem je zakodirana struktura, katere kompleksnost nas zanima
(ja, tudi drevo je v principu mogoče pretvoriti v niz ničel in enk; K(drevesni_string) pa je dolžina najkrajšega programa, ki proizvede drevesni_string)
nič pa ne govori o pomnilniških zahtevah tega programa, ali o njegovi hitrosti izvajanja.

Če sedaj uporabimo to mero kompleknosti na primeru računalnika Z, ki poganja nek program P, in predpostavimo, da je K(P) > K(Z) ... ne vidim nekih omejitev, ki bi nam onemogočale takšno neenakost.

Daljši kot je program P, večja je K(P). P zaseda več pomnilnika v računalniku, ki pa je seveda omejen - in tudi edina omejitev računalnika, ki "tišči navzdol" K(P).

Ali obstaja kak računalnik, pri katerem lahko shranimo v pomnilnik program, katerega kompleknost je večja od kompleknosti specifikacije računalnika?

Če povečamo pomnilnik recimo na 10^100 besed, potem to vpliva zanemarljivo na povečanje K(Z), omogoča pa poganjanje silno velikih programov (s silno velikim K(P)), tako da...

...očitno je odgovor ja, računalnik lahko izvaja programe, ki so kompleksnejši od njega samega (če pri tem ne upoštevamo programa v pomnilniku, jasno).

Sem uploadan in se počutim odlično. Z motorjem se vozim po vili, skačem z letala, počutim se "vzhičeno".

Zaželim si psa, nemškega ovčarja, in prikaže se pred mano. Mečem mu palico, tečem z njim, učim ga trikov. Nato se zamislim in se vprašam. Je ta pes zgolj simulacija meni v zabavo ali res "živi"?

Kasneje se sprehajam po plaži, ki ni simulacija le meni ampak se lahko v prostor prijavi kdorkoli. Srečam žensko mojih sanj, kmalu se poročiva in imava otroka. Ob njegovem rojstvu se malo zamislim. Je otrok simulacija nama v zabavo ali res "živi"?

Pegaz,
pri teh nasprotjih se vprašaj, kakšne so razlike v pričakovanih izkustvih če privzameš eno ali drugo stran. Če teh ni, potem je razlikovanje nesmiselno.

Če ne moreš opaziti nikakršne razlike med simuliranim in "resničnim" otrokom, potem nima smisla ohranjati pri življenju obe kategoriji...

Več o tem: Making Beliefs Pay Rent (in Anticipated Experiences)

Torej začnimo z resnico! Čeprav smo že, ampak nadaljujmo.

Sentientnih otrok ne bo možno imeti. Viri Vesolja so omejeni in eksponentno naraščanje prebivalstva bi prehitro pobralo vse.

Sentientnih otrok ne bo možno imeti. Viri Vesolja so omejeni in eksponentno naraščanje prebivalstva bi prehitro pobralo vse.

Neee, a res??

In potem bomo vsi srečni, do konca svojih dni ....

Barakuda,
naša reprodukcija ne more trajati *v nedogled*. To je pač posledica omejenosti vesolja. Enako velja tudi za nedosegljivost nesmrtnosti. Pa kaj potem?! S sredstvi, ki jih imamo, moramo poskušati narediti najboljše kar zmoremo in Protokol bi bil recimo že konkretna izboljšava današnjega stanja. Čeprav sam menim, da moramo ciljati višje...

@nicnevem

Stvar se mi zdi popolnoma ista kot online igre. Na ekranu vidiš dva osebka, ki sta lahko po zunanjosti enaka. A vedno veš, da je eden NPC (računalniško kontroliran), drugi pa dejansko nekdo, ki sedi pred računalnikom. Stvar se mi zdi popolnoma enaka, kot zadeva z resnico/lažjo. Protokol mora biti narejen tako, da bo povedal resnico.

Da Protokol skenira nekoga (oz. si ga izmisli) in nato sklepa, kaj bi osebek naredil v nekem položaju, se mi ne zdi resnično.

Protokol mora povedat resnico, če si to želiš. Če si ne; naj jo prihrani vsaj do naslednjega "srečanja"(ponovno preverjanje kaj hočeš). Nobene potrebe ni da bi "trpel" ker otrok ni pravi.

Ali zaradi travm iz časov biološkega substrata.

Me bo PROTOKOL eliminiral, da bo več prostora za tiste, ki zarad tega ne trpijo, al kaj bo?

Za v protokol moraš najprej narest paradigm shift. Ti preveč izhajaš iz trenutne situacije. PROTOKOL je pač kot stol, ko ga enkrat imaš, lahko na njem sediš. In ti ni potrebno več stati, ko si utrujen. Če se stol polomi, obstaja precej enostaven način, da prideš do novega. No ja tukaj lahko zakompliciraš, ampak recimo, da to ni kakšen poseben problem. Skratka stol te v nobenem primeru ne ogroža, če ga uporabljaš po pravilih, ampak ti je samo v pomoč.

PROTOKOL mora pač biti stol, ki se sam popravi, ali pa se sploh ne pokvari in ti služi zgolj kot pripomoček. Nobene zlorabe niso in ne smejo biti možne. To je plan, ki se mu skuša slediti. Samo za to moraš res narediti paradigm shift, sicer se stalno vrtiš v krogu zlorab in negativnih učinkov.

o+ nevone

he-he, tu te čakam cico-tico.

Ja kaj pa si dočakal. Če hočeš razumeti protokol in konstruktivno sodelovati moraš narest paradfigm shift od tvojih nebuloz.
A ti bi pa rad, da se še tvoje nebuloze v PROTOKOL prenesejo. A bi rad samo dokazal, da mi hočemo da se ustvari nek umeten sistem, v katerem bomo naprej gnali stare napake in v katerem se bo program izživljal nad instancami.

Eh ... lahko gledaš tako. Lahko tudi apliciraš svoje nebuloze name, ampak jaz jih kategorično zavračam.

o+ nevone

Tistih 50 let se bo že počakalo, da se eliminiraš sam.

he-he, hvala
Ker si tolk velikodušen, ti izdam eno majhno skrivnost - ne boš rabo tolk dolgo čakat

Kaj se sekiraš Barakuda1, ti itak veš, da noben Protokol ni možen in so vsa izpeljevanja iz njega irelevantna.

Vseeno je, kaj bi bilo v nečem, kar ti veš, da je bilo, je in bo izven realnosti.

Zakaj bi se leta 1900 menili o letečih strojih z gospodom Newcombom? Kraljevskim astronomom, ki je prepričljivo dokazal, da niso možni? Zguba časa za vse, ki so se ravno ukvarljali z aerodinamičnimi in podobnimi problemi.

Gospod Newcomb je živel do potniških avionov.

Če Barakuda1 do Protokola ne bi, mu FHI (For His Information) povem, da reload je praktično neizogiben. Reload brez cinizma, seveda.

@lymph
Kaj sem mislil s tem, da moramo ciljati višje od Protokola?
(btw, to je meni še najbolj zanimivi poganjek debate, ki je trenutno na mizi)

Pomisli na svoje otroštvo in na cilje, ki si jih imel takrat. Sam se spomnim, kako sem si želel imeti ogromen živalski vrt. Po nekaj letih (ali pa dneh ;)) sem si seveda premislil, danes pa se mi to zdi ne le otroško, temveč celo nemoralno...

Če bi živel v antični Grčiji, se ti sužnjelastništvo in odrekanje pravic ženskam ne bi zdelo nič posebnega. Skozi čas pa se je naš etično-moralni sistem tako spremenil, da danes na oboje gledamo kot na nekaj nezaslišanega.

Postavljanje dokončnih pravil, po katerih naj bi se odvijala prihodnost, je s tega zornega kota precej delikaten posel. Če bi stari Grki imeli v rokah moč, da bi ustvarili svoja mala nebesa v katerih bi precejšen del prebivalstva živel življenja sužnjev, bi bilo to - če gledamo skozi današnjo etiko - nekaj groznega. Podobno velja v primeru otroka, ki bi se za milijone let zaklenil v čudoviti živalski vrt.

Vendar... kaj nas *danes* postavlja v privilegiran položaj, ki bi preprečeval, da bi (hipotetična?) bitja prihodnosti na podoben način gledala na *naš* Protokol!? Kaj imamo, česar stari Grki niso niso imeli?! Naš etični sistem je brez dvoma doživel od tedaj znatno rast, vendar to ne pomeni, da smo že na koncu poti. Protokol je morda le vmesna postaja in ne dokončni cilj, zato moramo pustiti priprta vrata, ki vodijo iz njega...

Tole razmišljanje sicer vodi v smeri vprašanj kot so: kaj bi si želel, če bi vedel več, če bi bil modrejši in pametnejši? Kakšen odnos bi imel do morale, če bi bil bolj človek, kakršen si želim postati?

Če bi vedeli odgovore na ta in podobna vprašanja, bi se lahko izognili "živalskemu vrtu" naše trenutne mladosti. Lahko bi odšli - z zornega kota svojih modrejših različic - po idealni poti skozi čas. Mislim da je v grobem to tudi motivacija, ki stoji za predlogom "koherentnih ekstrapoliranih želja" ( Coherent Extrapolated Volition).

Gre za idejo, da bi naredili Friendly AI, ki bi ekstrapolirala želje človeštva (ugotovila, kaj bi si želeli, če bi bili pametnejši, modrejši itd.), nato pa bi to moralo naredila za svojo.

Prosim pa da ne vlečeš kakih hudih sklepov na podlagi tega mojega enovrstičnega povzetka. Članek na linku ima navsezadnje le nekaj tisoč besed...

Vprašanja pa so seveda dobrodošla (res pa je, da je že dolgo odkar sem prebral CEV in trenutno nimam ravno na pretek časa ponovitev, tako da odgovori verjetno ne bodo ravno trenutni).

Če bi bila po zunanjosti dejansko enaka, potem ločevanje ne bi bilo mogoče, tako da imaš tule protislovje.

Nad prvim piše Merchant, nad drugim pa Pegaz. Razlika je očitna in takoj se ve kdo je "pravi" in kdo ne.