Protokol

_MiKeNi_:
Mene ta "vsi enako" moti, ker imaš v mislih povsem drugo stvar kot jaz.
Ti si pod tem predstavljaš sebe, kolega, sosedovo Micko... jaz pa si pod jaz prestavljam nas(=mene;zavest).
V protokolu slej kot prej odpadejo vse te instance(IMO takoj, ampak ok), tako da sploh ni nekih blaznih razlik med "nami", menoj oz drugimi prebivalci.
Mogoče le različni način pridobitve pleasurja, če bo res več različnih scenarijev.
Mogoče, da bo prišlo do raznih razlik zaradi velike oddaljenost, ter omejenosti hitrosti potovanja informacij.

Thomas:
Če je važen samo pleasure, je vseeno po kakšni poti pridemo do njega. Torej bolj varen in uspešnejši scenarij bo prevladal.
Zakaj vedno ponavljaš o veliki dolžini in številu scenarijev?(vem, da si že enkrat nekaj omenil, ampak nevem več točno kje...)

Sicer pa bi potem bilo št. "prebivalcev" itak vedno enako? Kot prebivalcev mislim pravih uploadov in ne kakih možnih regenov, ki bi jih sestavu program, da bi se z nami igrali.

Zakaj potem pišeš to?
Število "prebivalcev" bo tolikšno kot bo najugodnejše za Protokol.
Regen je ti. Ti si regen. Eno in isto.
Tebi je lahko čisto vseeno če je "prebivalec" eden ali miljon. No, skoraj vseeno, kr z večimi kopijai(=originali) dosežeš večji pleasure.
Vseeno je tudi, če se uploadaš ti(instanca) ali pa kdo drug. V vsakem primeru si ti(zavest) upload.

jaz si mene in ostale ne predstavljam nič drugače kot si to ti (zavest al karkoli z avartarjem).

Ja, jaz si mene-nas predstavljam kot čisto zavest, ki pa deluje drugače na različnih substratih in z različnim inputom informacij.
(seveda vem, da za normalno delovanje in doseganje užitka rabiš kaj več kot čisto zavest, ampak tile dodatki nas ne definirajo kot posameznike, ki so drugačni od ostalih. Le dodatki so drugačni, mi smo še vedno isti.).

Imaš enako predstavo kot jaz?

Med posamezniki ni nobenih razlik ali boljše rečeno med zavestjo posameznikov ni nobenih razlik.
Ampak posameznika(instanco) tvori zavest z vsemi informacijami, ki jih dobi in sprocesira. Produkt tega si pa npr. ti, ki trenutno bereš ta post.

Deep down smo vsi enaki ja! -> Boljša beseda je isti!
Sploh je beseda vsi v tem kontekstu zgrešena. Vsi ne obstaja. Obstajajo le instance "posameznika"-zavesti.

MiKeNi,

Skozi temo o treh sobah smo "grizli kamenje in pulili z zobmi žeblje iz polen" - in prišli do te skrajno kontraintuitivne slike. Ki je pa čisto logična, oziroma edina preostala. Čudna je ostala, nemogoče smo zavrgli. Vem, kaj te bega, mau poglej tisto.

marko ... bom pojasnil ... mau kasneje.

Thomas, prečekiral, got the poitn. Moram prespat, da se navadim na to misel in lahko potem mirno živim naprej :)

Po tem "zimskem spanju" pa so se ti začel zdet te stvari dokaj logične?

Ok imam eno vprašanje, ki je sicer malo offtopic kar se protokola tiče al pa tudi ne. Če imamo pač vsi isto zavest in smo si "deep inside" vsi enaki oz. smo vsi isti in če smo to kar smo (kao edinstveni) je to zaradi vse informacij, vseh dogodkov, ki so se nam zgodili skozi naše življenje?! Če bi potem našega klona dali skozi enako (isto) življenje (vse informacije, itn) bi bil identičen meni tudi, če bi mu scenirali možgane?

Pa tudi še neki me zanima .. zakaj bi poleg zavesti uploadali še vse informacije, ki jih imamo, če je v končni fazi vseeno?

Yudkovsky recimo, zadnje čase razmišlja takole:

This breaks down FAI into four problems:

1) Devise a technical specification of a class of invariants, such that it is possible to prove a recursively self-improving optimizer stays within that invariant.

2) Given an invariant, devise an RSIO such that it proves itself to follow the invariant. (The RSIO's proof may be, e.g., a proof that the RSIO is stable if Peano Arithmetic is consistent.)

3) Devise a framework and a formal verification protocol for translating a human intention (e.g. "implement the collective volition of humankind") into an invariant. This requirement interacts strongly with (1) because the permitted class of invariants has to be able to represent the output of the protocol.

4) Intend something good.

Nej me hudič vzame, če je to še kaj bistveno različno od moje ideje PROTOKOLA.

Kaj je pod točko 4, to je vprašanje. Če nam ne bo všeč, kar pod točko 4 delajo 100 galaktičnih clusterjev proč, bomo šli tja in popravili. Ni druge. To je, če nam resno ne bo všeč. Če pa bodo neke naše instance tam živele kot zajčki na livadi brez lisic in pasle sladke deteljice ... se nam bo še najbolj splačalo skomigniti z rameni. V primeru lisic, ki lovijo sentientne zajce ... bomo pač morali prebiti njihove ščite in spraviti stvari v red.

Vendar jasno je, da bo vsak izračunal, kaj sme in česa ne, da ga drugi ne bodo zgrabili in poservisirali. Če že zaradi sebe ne.

Torej, marko-Odinov program morda je tisti minimum (čeprav je hkrati maximum), ki ga izpolnijo drugi, če ga sam ne.

Ravno zaradi te unikatnosti zavesti, ne boš dopuščal prevelikih neumnosti.

Po moje je tako. Kakšne so te invariante, kot bi rekel E. Y., je odvisno od tega, koliko smo sami v Vesolju. Če smo v Vesolju tako sami kot v Galaksiji, potem, kolikor poznam ljudi, bo vse skupaj en sam supersex. Če imamo pa družbo, potem bo licitacija dala nekaj drugega. Marko-Odinov maxpleasure.

Ne vem če je tole glih offtopic in če paše v trenutno debato. Vendar sem enkrat bral neko SCI-FI novelo, kjer so neki znanstveniki skonstruirali en ful velik in zmogljiv računalnik, kjer so simulirali svet, ljudi in civilizacijo.

V simulaciji so prišli do neke točke, kjer so simulurani človečki zgradili simuliran računalnik, da bi simulirali svet.

Vsi operaterji v "realnem" svetu so se spogledali.

> če bi dodali pravilo, da mora bit trenutni scenarij vsaj tako dober kot prejšni, pride slej ko prej do moje verzije.

Nič nimam dodati. Celo če tega pravila ni, do "maxima" slejkoprej pride.

Edini "naravni sovražnik" tega stanja je morebitno zavedanje, da je tak sistem morda bolj ranljiv na kvantne fluktuacije, ki bi pleasure spremenile v pain.

Kej v tem smislu. Mogoče.

Ja, pa invariante moramo postaviti PREJ, kot zaženemo (SEED) SAI. "Invariante postaviti" = "določiti kaj hočemo, da ostane nespremenjeno". Napisati Protokol, po domače.

Še enih 10 let in strah pred smrtjo postane ničen....si kar upa tale Kurzweil

No, en link če se komu ljubi brat: Computer scientists identify future IT challenges

...se grem naprej učit...

Vsi materialni atributi civilizacije, kot so mostovi, nebotičniki, viadukti, letala, sateliti, računalniki ... so posledica evolucije, ki je pripeljala do njih skozi človeka, človeštvo, to je jasno. Pa tudi to, da je to neka sila mogočna veja, za katero je na prvi pogled težko pričakovati, da jo lahko zasenči kakšen nov poganjek. Celo iz te veje same, se zdi, bi težko pričakovali nenaden izrastek, ki bi povsem zasenčil vse doslej narejeno.

Se ne strinjam. Kar lahko pričakujemo kaj takega, v ne povsem oddaljeni prihodnosti. Pa ne samo da zasenči tisto, čemur rečemo civilizacija, tudi tisto, čemur običajno rečemo narava, zlahka ostane nekje daleč zadaj. Če sploh še kaj od tega.

Takoimenovana "Minerva AI", © koda brez stika s svetom, samo gledajoč sama sebe, bi v načelu morda lahko ugotovila, v kakšnem svetu je zrasla in kako ... in ga preoblikovala po vase vgrajenih pravilih. Zelo hitro, pravzaprav.

Če pa obstaja kakšena koda, ki niti ni karantenizirana, pa še toliko lažje, da vso okolico spremeni v programibilno snov. Če je le koda pač taka, da gre v to smer. Izključno vprašanje začetnega programa.

Le da ne vem, če je ralika med prvo in drugo sploh praktično pomembna. Sekunda gor ali dol.

Bodimo realni! Nekaj megabytov (kvečjemu) taprave DNA kode, je v prej kot 4 milijardah let naredilo tole. Od neke točke naprej, pa lahko kašen giga (?) (C) kode, lahko zadeve spremeni še bistveno bolj v bistveno krajšem času.

Zanikanje tega je zelo težavno. Po moje tudi nesmiselno.

Če gledamo pravilno, kaj je bilo posebnega na Zemlji, kakšnih 3,6 milijarde let nazaj? Samo nekoliko, morda samo šele ena, s prostim očesom nevidna replikatorska molekula. Potem se je izračunavalo kam to repliciranje pripelje. Takorekoč stranski produkt tega izračunavanja, je naprimer tudi železje in plastika na Luni, ki so jih tam pustili astronavti Apollo odprav, pa še cel kup avtomatičnih sond. Med drugim.

Toda kdo bi rekel, da morda samo nekaj kilobytov kode (če sploh toliko!), zakodirane v prvih replikatorskih molekulah, lahko ima vpliv na dogajanja na sosednem nebesnem planetu, pa še dlje? Komaj kdo bi tudi rekel, da bo posledica tistih byteov toliko molekularnega kisika v atmosferi, tri milijarde let kasneje. Da ne naštevamo.

Ampak videli smo, da se je to zgodilo in tudi razumemo, da je pravzaprav vse zelo logično. Hkrati vemo, da se igramo z že precej bolj kompleksnimi bitnimi stringi, ki kažejo veliko večjo stopnjo organizacije in napredka, kot so jih morale prve molekule.

Tile bitni stringi so očitno prederminirani, da "grejo čez". Vprašanje je edino, koliko jih lahko kontroliramo. Včasih se zazdi, da niti ne. Po moje bomo videli, če lahko zaustavimo viruse in podoben maleware (gledano z naše perspektive maleware), ali ga ne moremo. Če ga ne bomo mogli, potem je očitno, da bodo stvari šle po svoje. Zelo hitra evolucija bitnih stringov - kaj pa so virusi drugega? - je neizogibna. Samo mora še priti v "resonanco" s snovjo.

Vseeno pa mislim, da jih bomo kontrolirali. Oziroma, da se nas ne bodo mogli znebiti. Smo že preveč izračunani, da bi kar odpadli. Če bi, bi že prej. Najbrž, ni nujno.

Zanimiva tema, zanima pa me v kolikšnem času(vsaj okvirno) bo prišlo do realizacije protokola kot ga opisuje Thomas in kako bo protokol prišel do energije potrebne za njegovo delovanje?

Naprimer Novamente.

It designed to be a pure learning machine, with the capability to learn how to perceive, cognize, act and interact based on experience -- and ultimately to learn to modify itself beyond its creators' wildest dreams.

Voss.

> kolikšnem času

IMO - manj kot 20 let še.

> kako bo protokol prišel do energije

Energije je masa Vesolja krat kvadrat svetlobne hitrosti, ni pa najbrž možno porabiti čisto vse. Nekaj desetin pa že.

Bom jaz povedal kaj mislim(beri moj prejšni post);
- programje je že napisano v veliki meri, vendar ne poznamo realne slike, ker nimamo dovolj računske moči.
Analogija z evolucijo - se prepočasi dogaja, da bi lahko na enostaven način(kratki časovni interval) opazili.

Glede tega, kolko se politični vrhi zavedajo, vem le, da je Clinton bral The age of spiritual machines, pa da ni vzel kaj preveč resno.

Ko nekdo "dopušča možnost", da bo v največ nekaj desetletjih "njegova koda kontrolirala vse atome v Osončju", je s tem dal besedi "megalomanija" čisto nov pomen. To presega vsa megalomanstva v zgodovini, za mnogo velikostnih razredov. Neprimerljivo!

Samo taki ljudje se tega najbrž ne bodo ustrašili.

Lahko pride tudi kdo in reče: "Poslušte, a ste že slišali za drugi zakon termodinamike, po katerem kaj takega sploh ni možno?! Nasprotuje naravnemu zakonu in zategtelj je čisto utopično!"

Ampak spet se ne bojijo nič. Ker 2LoT sicer velja, toda odvečno entropijo je mogoče sproti izsevati s fotoni iz sistema ven. Sploh ni res, da bi ne mogli kontrolirati skoraj poljubnega števila atomov, le da "se redno plačujejo entropične davščine". V obliki infrardečega sevanja iz sistema ven, naprimer.

Potem spet pridejo tretji in rečejo: "Heisenbergov princip vam preprečuje kontrolirati atome!".

Spet se transhumanisti ne uklonijo. Rečejo: "Jah, sej jih ne mislimo kontrolirati povsem natanko. Toliko, kot so vezani (in tako kontrolirani) v kristalnih rešetkah kovin naprimer - s toliko kontrole se mislimo zadovoljiti. Telesa rastlin in živali shajajo s še manj, toda ne bomo tratili!"

Četrti rečejo: "Nezaslišano diktaturo mislite vzpostaviti! Adijo svoboda in adijo prelestna narava, če vam uspe!"

Na to je odgovor: "Svobode bo kvečjemu več, vsaj v racionalnem smislu te besede, nekaj najprelestnejšim naravnim vzorcem se pa doda še mnogo prelestnejših."

---------------------------

Trditi, da "nekako v 10 letih bomo lahko tam", ima dvojno funkcijo. Nasprotnikom sporoča: "Sej vidite, da ne moremo biti resni, ko klatimo takšne!". Zaveznikom pa pravi: "Sodeluj v teh projektih po svojih najboljših močeh, da ne boš prepozen, ker take priložnosti ne bo nikoli več!"

V bistvu je vse skupaj (kolosalno veliko in težavno) logistično vprašanje, kako tistih 10⁵⁷ atomov Osončja segnati na tak kup, kot nam bo všeč.

Čebelji panj pohendla v letu dni kakšnih 10²⁷ atomarnih transportov, vendar z ne preveliko preciznostjo. Človeštvo je lahko bistveno natačnejše in tudi število atomov je večje in razdalje so večje.

Še en in pol tak skok v kvaliteti in kvantiteti, kot je od čebeljega panja do človeštva, pa pomašinamo Osončje. Jasno, s Soncem in Jupitrom in vsem ostalim vred.

Jasno, ampak ali lahko pride do takega skoka s pomočjo samo enega superračunalnika, z dostopom do osnovne nanotehnološke enote?

Zame je odgovor nedvoumni - seveda! Debata, če lahko potem ASAP še Galaksijo (in naprej) - pa precej odveč.

Če pa lahko (super)računalnik kar sam razvije nanotehnološko enoto - recimo kar v procesorju - si pa še nisem na jasnem. Po eni strani se mi zdi povsem možno. Po drugi strani pa lahko, da je to res nemogoče.

Dvomim, da bi to šlo, če ne pomagamo malo. Recimo na x86 arhitekturi si ne predstavljam, kako bi se stvar razširila "ven". Scenariji v smislu "bager je imel po naklučju vgrajen bluetooh sprjemnik in firmware z hudo varnostno luknjo ..." so precej za lase privlečeni.
Nekaj povsem drugega pa je, če priklopimo gor dobesedno vse od štedilnika dalje in gledamo kaj se bo izcimilo. To bi šlo, v to sem prepričan, ker potemtakem princip je enak kot pri podganah-avtopilotih.

Zanimivo.
Bolj kot možnost nastanka pod vprašaj postavljam obstoj. Pri današnjih frekvencah in tehnologijah izdelave je RAM ali procesor precej "viharen ocean" neko povsem nepredvideno porajajočo lastnost.

Matter becomes something akin to software - infinitely malleable and precisely obedient. In the future, manufacturing may join mathematics and software as an enterprise where true, literal perfection is not only possible but easy and quick.

Citat z linka. Tako pustimo fulnano tam, kjer so danes kamnite sekire, koščene igle in čuvanje ognja, da ne ugasne.

Mene veseli, da sem (smo) v Sloveniji zadevo že toliko popularizirali. Še bolj me veseli, da je kvaliteta razumevanja tako visoka. Per capita šišamo po moje vse države na svetu.

Kaj bolj populariziral pa jest ne bi. Nimam pa nič proti, če to delate drugi, seveda.

------------------------------

Dvojne skrbi imam trenutno. Eno je Mirror Minds. Še bolj čudna stvar, kot je obravnavana v "Treh sobah". Druga so pa tile bitni stringi in njihova (hipotetična) zmožnost, da inkorporirajo okoliško snov za svoje potrebe.

Se bom razpisal o tem kaj v prihodnjih dneh ali konec tedna.

Razumel si zelo prav. Le da je zadosti končno podobna kopija, z atomi znotraj premera ... recimo kilometra. Takih kopij je ogromno in meni je stvar sila anoying. Se trudim še dokončno razumet.

Sicer je enkrat zelo podobno zadevo dala na ponk že Maria ...

zadosti končno podobna kopija

in ker je podobnost "skupna različnost" lahko rečemo, da ni prav veliko različnih misli na svetu. Seveda, če verjamemo, da lahko obstajajo še orenk bolj drugačne misli.

Ma ja, men tut čist seka tale mem ki se širi po svetu. Koristen sem pa lahko tolko, da čakam da se aplowdam.