Protokol

> Ravno to, da imajo vsi enake scenarije ni tratenje resursov.

To je res, ja. Samo, če bom imel na izbiro svobodno voljo ali vsaj iluzijo svobodne volje v materialnem telesu ali pa nek točno določen scenarij, ki se bo zdel primeren avtorju scenarija in da bo (kao) vsem všeč, potem mislim, da ne bo veliko za izbirati.

Ali ni glih fora uploada, da preskenira tvoje možgane in jih natančno simulira v računalniku. Ali ni tako, da uploada teoretično sploh ne bom opazil? Torej bodo veljale iste zakonitosti tukaj, v materiji in tudi v virtualnem, simuliranem svetu. Torej, če je meni tukaj nekaj všeč, potem mi bo sigurno tudi v virtualnem svetu nekaj všeč. In Gorazdu je všeč nekaj, Markotu pa nekaj drugega. Torej ne moreš imeti istega scenarija za vse "ljudi" in hkrati zagotoviti pogoju, da naj bo pleasure kar največji možen.

->Samo, če bom imel na izbiro svobodno voljo ali vsaj iluzijo svobodne volje v materialnem telesu ali pa nek točno določen scenarij, ki se bo zdel primeren avtorju scenarija in da bo (kao) vsem všeč, potem mislim, da ne bo veliko za izbirati.

Kdo pa pravi, da boš kaj sam izbiral?
Si preneumen, da veš kaj je dobro zate! ... zate=zavest!
Zakaj bi neka instanca, ki je btw le privesek na zavest izbirala usodo zavesti?!
(sej vem, da me boš zdaj začel kurcat, ampak to hard cold logika)


-> Ali ni glih fora uploada, da preskenira tvoje možgane in jih natančno simulira v računalniku.

Je pa ni. Skening možganov ti da delovanje instance. Vključena je tudi zavest - seveda. Drugače to ni sentient in je vse skupaj nesmisel.
Ko imaš sken, ga oluščiš do pač zavesti in potrebnih dodatkov.
Vse tiste navlake, ki jih zaradi grozne evolucije nosimo s sebej in so represor doseganja pleasurja in obenem ne zbrišejo zavesti se odstranijo.


->Torej bodo veljale iste zakonitosti tukaj, v materiji in tudi v virtualnem, simuliranem svetu. Torej, če je meni tukaj nekaj všeč, potem mi bo sigurno tudi v virtualnem svetu nekaj všeč. In Gorazdu je všeč nekaj, Markotu pa nekaj drugega.

Zadne poste me nisi najbolje razumel.
Tebe nebo v virtualnem svetu, mene nebo, ljudi-instanc ne bo.. bo le njihovo bistvo, njihova zavest priklopljena na nek substrat, ki bo vršil pleasure.


->Torej ne moreš imeti istega scenarija za vse "ljudi" in hkrati zagotoviti pogoju, da naj bo pleasure kar največji možen.

Predstavlaj si, da je v vesolju možnih recimo miljardo posamičnih enot.
Vse so identične, enake! Tako kot sta enaka dva kisikova atoma z drugima dvema.

A je to zate zdaj šok? Si ogorčen kaj se eni gremo?


Owca:
->Zakaj obtičiš? Zato, ker čim bolj optimiziramo za ta izbrani cilj, tem manj ekonomično postaja preusmeriti se, čeprav bi to glede na začetne pogoje bila boljša rešitev.

Torej trdiš, da se da "današnje" stanje lažje pretvori v "tvoj" kompleksni sistem kot pa tisto že diferencirano?
Zakaj?
Kajsi sploh pod tem mislil? "Čeprav bi bila na začetne pogoje boljša rešitev"
Če bi bila to res potem bi zagotovo prišlo do nje.
(razen, če nebi bila boljša, ker bi porabila preveč komputinga ;))

Glede teh axiomov, ki smo jih napisali je lahko še ena "luknja"!
Kaj pa če AI porabi preveč kumputinga za izračun najugodnejše strukture vsega sistema in obenem pokuri preveč komputinga.
Kaj če ne pride do želenega rezultata in pokuri celotno vesolje?
Se da zgodit.

-> Mislim, da bi bila vsota po celem času kar na mestu.
Zakaj?
Kaj je tako dobrega na času, da je pomemben?
To, da se ti zdi da si dolgo imel pleasure. Ali to da je dejansko se zgodil?
Kaj je bolj pomembno? Seveda ta drugo. Pa čeprav se nam ob mišlenju, da je dolgo trajalo nasmiha.

Z markom se ne strinjava le v eni "malenkosti". V kakšno juho vreči oskubljeno zavest. On bi v "čisto govejo", jest zagovarjam "še obilico začimb".

Seveda. O izbiri aksiomatskega sistema barantamo.

Ostalo je potem avtomatika.

IMO so tvoji axiomi protislovni.

Axiom1: daj nam največ užitka kar ga omogča vesolje
Axiom2: užitek naj traja časovno čim dlje

Čas! Jaz pravim, da je irelevanten.

Kaj misliš pod začimbami?

> Čas! Jaz pravim, da je irelevanten.

Čimveč subjektivnega časa. Če se izvrši pa v koledarski sekundi ali koledarskem eonu, pa ni tako pomembno.

Glavno da prideš do svojega subjektivnega GigaEona al kar že.

> Kaj misliš pod začimbami?

Mogoče samo to, da slišim neko glasbo in vidim neke barve in oblike. Mogoče še mau več tega.

To so začimbe.

>IMO so tvoji axiomi protislovni.

> Axiom1: daj nam največ užitka kar ga omogča vesolje
> Axiom2: užitek naj traja časovno čim dlje

Ta dva axioma sta protislovna in nista moja. What should I care?

->Čimveč subjektivnega časa. Če se izvrši pa v koledarski sekundi ali koledarskem eonu, pa ni tako pomembno.
Še en argument za moj scenarij.


-> Mogoče samo to, da slišim neko glasbo in vidim neke barve in oblike. Mogoče še mau več tega.

Če ti je vseeno če dobiš scenarijo San Francisco(gay) ali pa da boš znamke lizal vse te eone. To je vseeno, če si programiran, da ti to ugaja.
Tako j tudi vseeno za te začimbe.
Sej to oba vema, skupaj bova pa bolj težko prišla.

IMO se s temi začimbami ni tako fino igrat, ker lahko kaj hitro pideš v protislovje axiomov.


-> Ta dva axioma sta protislovna in nista moja. What should I care?

Ok, sori!

Tako da se mi zdi, da hrastovo steblo imamo in zdej treba nekej narest iz njega, če hočemo splah kaj imeti od tega.

Točno tako in zato je markotov scerenari prenevaren, ker ima, če drugega ne, prevelike začetne stroške, da lahko govorimo o res optimalnem. In ta optimum je lahko po požrešnosti stvar asimilacije cele galaksije, tako da ga niti ne moremo počakati "zunaj".

->prevelike začetne stroške

Opiši kaj misliš pod tem.

A zdaj ti govoriš o fizični arhitekturi sistema ali o simuliranim scenariju?

Dokler se simulirani scenari (naprimer tvoj) zahteva spicifično arhitekturo, to dvoje ni ločljivo.

Se strinjam. In jaz to ravno upoštevam. Le če vključimo čas v axiome ti več niso ok! (Za subjektiven čas pa se mi vedno bolj dozdeva, da dejansko tudi ni pomemben(o tem kdaj drugič))

Čas boš vedno vsaj implicitno vključil. To je fizikalna danost, ki ji ne moreš uiti. Lahko ga ignoriraš, ampak to te zna zelo tepsti. Prej bi sprejel, da subjektiven čas ni pomemben.
V čem problem, če hočemo maksimizirati vsak trenutek? Zapademo lahko v situacijo, ko bo ugodje vsak nasleden planckov čas manjše, recimo zaradi (vsaj začasnega) pomankanja sredstev. Potem kar naenkrat tvoja maksima to ni v nobenem pogledu več. Se strinjaš?

Sem že napisal, da jaz govorim, kar je najverjetneje da se bo zgodilo v primeru teh axiomov. Opisuje njihove posledice.

Ampak jih opisuješ narobe, ker očitno ne dojameš/upoštevaš časa, saj le-tega ne moreš trivijalno odstraniti. V fizikalnem sistemu ne (v matematičnem morda še).

Ti želiš to narediti drugače - torej moraš spremenit te axiome.
Daj jih!

Sem mnenja, da tako preprosti aksiomi, s kakršnimi tu operirajo niso zadosti, saj bodo morali vsaj do neke mere upoštevati tudi ustroj vesolja (entropija, končna hitrost širjenja informacij, ...). Kvečemu se je smiselno pogovarjati o tem, kaj želimo doseči in čemu se izogniti. Zaenkrat.
Če že, bi rekel, da ne smemo jemati arhitekture kot sredstva za dosego scenarija, ampak evoluirati oboje hkrati.

->prevelike začetne stroške

Opiši kaj misliš pod tem.

Računsko preveč stane izračunati kako zastaviti arhitekturo, da lahko optimalno izkoristiš takšen scenari.

Učitno jih bo treba spremenit, če nočete tega.

Da jih bo treba spremeniti, se strinjam, ampak ne gre za to kaj hočemo, ampak kaj je optimalno.

EDIT: odstranil nekaj osamelcev, ponekod naredil malo bolj razumljivo

To bi lahko bila pač neka evolucija. Fitness bo pleasure. Takoj, ko evolucija pride do boljšega scenarija se ta, začne izvajati. Seveda je treba tudi razmislit(kar je tudi delo za evolucijo ), koliko se splača za kej porabljat(izvajanje ali izumljanje), kar bo pa odvisno tudi kako hitro bo prihajalo do izboljšav in kako drastične bojo. Najbrž bo itak hmalu prišlo do tam, kjer ni več prostora za bistvene izboljšave, oz. so malo verjetne ter zahtevajo preveliko computinga, kar se ne splača.

Dva stvari mi nista najbolj jasni.

Recimo da bi sprejeli aksiom, ki doloca minimalno kompleksnost. Kako bi potem to kompleksnost definirali? Ker tudi z minimalno kompleksnostjo bi AI verjetno ustvarila nam povsem tuje pogoje, ki ne bi imeli z danasnjim zivljenjem nic skupnega.
A bi potem morali dolocit, da je v vsakem procesu vsaj eno drevo, sonce, luna... , da je vsaj malo podobno sedanjosti?
Tukaj se sigurno strinjam z _markom, da to vodi v absurd.


Drugo me zanima kako je vase stalisce z uzitkom in casom. Recimo:

t = cas
p = pleasure

Recimo tudi, da AI izracuna, da sta cas in pleasure premo-sorazmerna na dolgi rok pleasura

t*p = constanta

Kaj je potem boljse? Uzivat cim dlje ob nizkem pleasuru, ali uzivat cim divje ob kratkem casu?

Da je treba uporabljat hladno logiko in pustiti subjektivna mnenja ob strani, je seveda samoumevno v tej temi.

Ampak, ne govorim o doseganju max pleasurja vsak trenutek, temveč doseganja max pleausarja glede na dane pogoje vesolja.
Glede na to kako bomo končno maso vesolja najbolje izkoristili. Čas zato v tem smislu ni pomemben.
Zagovarjam pa, da naj se pač porabi vsa masa, energija vesolja za dosego največjega skupnega(vsote) pleasurja.
Veš kaj mislim?

Vem kaj misliš, tako povsem abstraktno se tudi strinjam, da čas ni pomemben, ampak fizikalno gledano je žal neločljiv od treh ključnih pojavov, računanja, hitrsoti širjenja informacije in entropije. Te tri skupaj določajo nam dane pogoje.
Čim praviš, da ti ni za maksimum v vsakem trenutku, ampak najboljši izkoristek to posledično pomeni vsoto vseh dražlajev. Zavest lahko sprejme en dražlaj na neko število časovnih enot (stvar arhitektrue), torej integiraramo po celem času in vseh instancah, da dobimo naš skupen učinek, oziroma izkoristek vesolja. Se strinjaš?

Alternativa je neka kompatibilna arhitektura, ki bi poganjala vse scenarije?
Zakaj se še vedno na tej nebi poganjal ta scenarij malenkost bolje ko ostali?

Sam bi predlagal arhitekturo, ki bi jo sproti evoluirali a bi bila spočetka zastavljana kar se da široko (recimo izomorfna nam zdaj, le precej učinkovitejša zaradi spremebe substrata).

Po tvojem se boš vedno spustil v neko diferenciacijo arhitekture, da bo pisana na kožo scenariju.
Mogoče(IMO) je neka arhitektura, ki lahko na enoto mase izpljune največ komputinga in potem morda niti ni smiselno veliko spreminjat te arhitekture.

Ja in ne, ker bi oboje hkrati razvijal, ampak bi bili lahko hkrati izpostavljeni različnim evolucijskim pritiskom. Kar iščemo je arhitektura, ki zagotovi največ dražlajov ugodja na celotno populacijo instanc zavesti na enoto energije. To sploh ni nujno neka preprosta zanka, ko enkrat namensko preklaplaš stanja polovici vesolja, lahko skoraj gotovo s pametno drobitvijo recimo izvajaš instanco na računanju, ki je posledica dražlajev ugodja za neko podmnožico populacije.

Najbrž bo itak hmalu prišlo do tam, kjer ni več prostora za bistvene izboljšave, oz. so malo verjetne ter zahtevajo preveliko computinga, kar se ne splača.

To je pomemben pomislek, zame celo nevarnost, zato bi nekoliko obrzdal radikalnost začetnih korakov.

Recimo da bi sprejeli aksiom, ki doloca minimalno kompleksnost. Kako bi potem to kompleksnost definirali? Ker tudi z minimalno kompleksnostjo bi AI verjetno ustvarila nam povsem tuje pogoje, ki ne bi imeli z danasnjim zivljenjem nic skupnega.

Ne minimalno kompleksnost, prej nekaj v smislu: maksimalna cena v energiji, da na tej arhitekturi simuliramo izhodiščno arhitekturo, glede na verjetnost, da obstaja boljša rešitev (funkcija entropije) . To je nek, morda ne najboljši, poskus formalizacije zahteve, da se nikoli ne specializiramo toliko, da bi se lahko zgodilo, da odkrijemo boljšo kombinacijo scenarij-arhitektura, a je zaradi stroškov prehoda "ne moremo" (ni ekonomično), udejaniti.

Kaj je potem boljse? Uzivat cim dlje ob nizkem pleasuru, ali uzivat cim divje ob kratkem casu?

Tu se strinjam z markotom in Thomasom, da je potrebno izbrati čim bolj stabilno, torej varno, pot (kar bi takisto moral biti eden izmed aksiomov -- neka meja tveganja).

Čim dlje ne počnemo nič, tim več resoursov se bo porabilo samo od sebe-> manj možnega komputinga.

Da ne bo pomote, moje stališče ni, da ne počnemo nič, daleč od tega! Vedno porabiti vse kar je fizikalno mogoče (vsakršen presežek lahko vedno pretopimo v dodatne instance), vprašanje je le, za kaj nameniti sredstva.

Morda je še ena stvar za katero se ne strinjam popolnoma.
Nisem prepričan, da bi različni scenariji potrebovali različen hardware.
IMO je glavni faktor število možnih operacij na enoto energije in tako hitro(?) pridemo do skoraj optimalne arhitekture računala.
Od tukaj dalje pa tako po tvoji enačbi najbrž AI nebo šla(razen če se splača seveda).

Dajte mi to malo bolj razložit v kolikor vam je stvar briljantno jasna.

Nisem prepričan, da bi različni scenariji potrebovali različen hardware.
IMO je glavni faktor število možnih operacij na enoto energije in tako hitro(?) pridemo do skoraj optimalne arhitekture računala.

Zelo odprto puščam možnost da imaš prav, vsaj za "zrelo obdobje", spočetka se bo verjetno splačalo malo pomagati, kot imamo naprimer danes specializirane 3D pospeševalce, ki so za grafiko precej bolj učinkoviti kot splošno-namenski procesorji.

Nisem prebral cele teme, ker je to praktično nemogoče. Sem pa prebral začetek, preletel nekaj random strani in prebral konec. Prosim povejte mi ali prav dojamam idejo:

1. Tehnološki napredek nam bo v prihodnosti omogočil popolno (sub)molekularno manipulacijo naše okolice.

2. S pomočjo te bomo iz osončja/ galaksije/ vesolja počasi naredili ogromen računalnik - Uranium.

3. Ta računalnik bo imel nalogo poganjanja simulacij obstoja za enote, ki so bile včasih ljudje.

4. Simulacije bodo sledile določenim zakonitostim (o katerih se zdaj usklajujete). Te bodo zagotavljale optimalen užitek enotam, ki bodo imele simuliran obstoj.

Je to to?

OK.

Mogoče ste to že obdelali, ampak meni se poraja eno (sebično) vprašanje. Nimam nobenega problema z obstojem zavesti v "virtualnem" svetu. Tudi tehnološka izvedljivost opisane simulacije se mi zdi (v nekoliko bolj oddaljeni prihodnosti kot Thomasu) čisto realna.

Moj pomislek, pred veselim uploadom, je glede identitete zavesti. Ali bom simulacije res doživljal jaz?

Tega nedvomno ne bom znal razumljivo razložiti, a bom vseeno poskusil....

Dilema je jasna, če ločiš upload od prenehanja obstoja bitja, ki je uploadano. Lepo je nakazana v zgodbici J.P. Kelly-ja Think Like a Dinosaur. Tam gre sicer za novo tehnologijo transporta - teleport. Ta naredi popolno kopijo osebe na poljubni lokaciji. Izvirnik na tej strani pa se nato uniči. Enako deluje transport nazaj. Zgodba je o "nedoraslosti" dvomečih posameznikov, ki nočejo prostovoljno prenehati obtoja tu, ker vedo, da itak živijo naprej tam.

Enak dvom imam jaz o prenosu v Protokol. Od zunaj je stvar nevtralna in jasna - zavest podbevna nadaljuje obstoj v protokolu, ki je boljši. Jaz (zavest, ki to piše) pa se sprašuje, kaj imam jaz od tega. Ko umrem bo obstajala neka zavest v Portokolu, a zame je smrt še vedno konec. Dvomim torej, da popolna replikacija (še bolj pa le delna replikacija s "potrebnimi izboljšavami") dejansko pripelje do prenosa in nadaljevanja moje zavesti. Neke zavesti že, a ne moje.

Če poskušam s primerom simulacije bitja na mojem računalniku. Naredim simulacijo bitjeca. Nato ga prekopiram (popolna identičnost kopije niti ni bistvena). V.2 pustim, V1 pa ugasnem. Zame bitjece še obstaja, a za zavest V.1 to ne pomeni dosti.

V glavnem Thomas, če ti pokažem Uranium in ti povem, da si že uploadan in živiš prvo izmed mnogih vse boljših simulacij. Ali je res racionalen pritisk gumba, ki bo ustavil tvoje nesmiselno nadaljevanje humane eksistence? Ali boš ti doživljal Protokol ali nek nov Thomas?

->Od zunaj je stvar nevtralna in jasna - zavest podbevna nadaljuje obstoj v protokolu

a-a! Zavest podbevna ne obstaja. Obstaja ZAVEST(unikat) in instanca podbevna.


->Ali boš ti doživljal Protokol ali nek nov Thomas?

Zavest Thomasa,Micke,Fredija... je identična. In na to zavest dovajan pleasure.

Si prebral temo 3 sobe?

Če se ne motim je bila ta tema ustvarjena tudi z namenom, da se sprašujejo taka vprašanja. Tako da naj ti ne bo žal teh nekaj napisanih vrstic.

Bistvo teme "treh sob" je v tem, da predstavi nekaj miselnih poskusov s katerimi
poskuša prikazati, kako izgleda, če si na večih mestih ob istem času(*) in po nekaj korakih sklepanja pride do ugotovitve, da si v resnici že zdaj uploadan v več kot 6 miljard možganov. Poskušaj si predstavljati, da se vsi ti atomi, katerih kompleksna razporeditev v vseh teh številnih možganih trenutno povzroča samozavedanje, prerazporedijo na tak način, da ohranijo to lastnost (samozavedanje snovi) ter da so mnogo bolj ekonomični kar se tiče energije in časa. To je Uranium (vsaj kot ga razumem jaz).

(*)Meni je eden najljubših tisti s potovanjem v času. Skočiš v časovni stroj in obiščeš podbevno pred n leti, ki se uči poštevanko. Ko mu gledaš čez ramo pomisliš na to, kdo si v resnici ti. Odgovor je tu sicer preprost, čeprav predstava, kako gledaš naenkrat skozi dvoje oči, pa ne več tako zelo.

Zdaj..naslednji korak je ta da spredvidiš, kako zelo si se spremenil od tistih mladih let, pa si kljub temu še vedno ostal ti. Zavest je očitno take vrste pojav, da ga lahko opišemo samo z "jakostjo" - zavedamo se bolj ali pa manj "čisto". No, seveda se lahko tudi ne zavedamo. Naprimer če me kdo močno kresne po glavi. Vendar ko zavest ponovno steče...sem še vedno jaz.

In če primerjaš razliko med seboj takrat in sedaj, z razliko med seboj zdaj in nekom, ki ti je zelo podoben, bi prav lahko zaključil, da je prva razlika večja. Veš, da sta v prvem primeru oba osebka ti. Razlika pa je večja, kot v drugem primeru. Mar ne bi bilo smiselno iz tega sklepati, da sta tudi v tem drugem primeru oba ti?

Tako nekako gredo te "zgodbice". Vseeno pa raje preberi tisto temo, ker sem prav lahko kaj zamutil pri tem poskusu pojasnila.

P.s. Pa poskušaj gledati na vse skupaj prvoosebno. Pomaga. :)

Se ti ne zdi da je malo predaleč?

@ITANIAN
> Se ti ne zdi da je malo predaleč?

Tako ali tako nameravam enkrat skočit malo čez lužo, tako da je pri meni večji
problem čas...

@Thomas
> Po tretji strani pa, bo nekaterim takorekoč v hipu jasno, da je ura že precej.
> Večini tistih celo, bo to všeč.

In zaradi teh se splača vsake toliko poslati te ideje med ljudi - vendar s primerno
majhno "glasnostjo", ker prevelika bi znala postaviti svet na glavo.

Blagor evolucionistom, kajti njih je zemeljsko kraljestvo.

Ampak evolucije dovolj resno ne jemlje niti 90% SL4 liste, da o drugih ne govorimo. Mi je svoje čase potožil en tipček: "Ja, če tole ne blo na urajmanje ...".

Kontrolirano urajmanje NI isto kot navadno urajmanje. Po navadnem Venera stopi direktno iz morske pene nenadoma (v teoriji nenadoma, v praksi nikoli), po konroliranem (s strani to be or not to be mehanizma okrutnega okolja), pa pridejo Venere šele po nekaj milijardah let iz morske pene.

Pridejo pa. Ne moreš verjet, kako to ljudem slabo vleče. Ampak nič hudega, ni pomembno.

Ben je eden od 10%. Tak, dokaj neukročen in nekonvencionalen, itak.

Ravno downloadam en 900MB video, v katerem Yudkowsky nekej razlaga celi dve uri. No, me prav zanima.

Link!

Bom dal komentar, ko bom pogledal.

Moram rečt, da ima IMO nekaj težavic. Nekako ne doume, da so Emergence, Evolution in Intelligence samo a matter of a degree. Recimo, da je Emergence v dinamičnem okolju avtomatsko Evolution. Da je evolucija s pametnimi* mutacijami, nerazločljiva od inteligence.

Ampak vse to, je tipček sposoben dojet v enem popoldnevu, ko ga bo tja (slejkoprej) zaneslo. Mau že sluti.

Over all pa - everybody should see ta film!

----
*"pametnimi" pomeni, ali z zadosti mnogo, ali z zadosti dobro naciljanimi (mutacijami). Naciljane so lahko zaradi nekega teorema, ki zožuje iskkalni prostor.

Namreč vprašanje je bilo, kako lahko program, ki je v bistvu nekaj zelo matematičnega, vpliva na svoje fizikalno okolje, ga celo overtook?

LOL. Če ste že prišli do tega sklepa, zakaj ga ne še malo "razširiš". Dej razloži mi potem, zakaj tole ne bi veljalo za samo človeško zavest. Da človek (in njegovo "bistvo") lahko vpliva (ali ga spreminja) na okolje in fizikalne dejavnike (kot tudi sebe), ki ga obkrožajo? Mogoče zato, ker to ni možno znanstveno dokazati?