Forum » Znanost in tehnologija » Protokol
Protokol
Temo vidijo: vsi
nicnevem ::
Kolikšen je največji pleasure, ki ga lahko dosežemo? Gre lahko velikost pleasurja proti neskončnosti?
Če ostanemo ljudje, ali ob kakih radikalnih spremembah?
(S tem ko sem rekel 'ljudje' mislim tudi uploade. Navsezadnje je zamenjal se substrat, kognitivna arhitektura pa je še vedno človeška.)
Če že ugibam (in mislim da kaj dosti več danes ne moreš dobiti od nikogar), mislim da pri ljudeh lahko dosežemo samo neko relativno majhno stopnjo užitka, preden se nam um ne disintegrira. Pri poljubnih spremembah arhitekture pa so stvari seveda drugačne, ampak o tem pa sploh ni mogoče reči česa konkretnejšega...
Na primer, da je razmerje 3xpleasure : 1xpain enako kot 30xpleasure : 3xpleasure in enako kot 300xpleasure : 30xpleasure. Kje se torej določi meja, koliko pleasurja bi radi? Višje gremo, bolj se manjši pleasure zdi kot pain. Pleasure in pain sta namreč ZELO relativna. Jesti skorjo 5 dni starega kruha bi se nam večini zdel kot neke vrste PAIN, toda nekomu, ki hrane nekaj dni ni konzumiral, se to zdi velik PLEASURE.
Ja, tole kar pišeš drži. Kakšno rešitev bi ti ponudili tisti, ki jim je užitek edina svetinja? Kak manjši tweak, ki bi odpravil relativnost užitka, če je le mogoč. Sicer pa pač transformacija v 'užitkovne centre'...
nicnevem ::
Če stopimo korak nazaj, vidimo, da so Protokol, Orgazmium in drugi predlagani scenariji naši odgovori na vprašanje: "how should the future unfold?", oz. "what is the right way to proceed?". Gre za osnovno moralno vprašanje in naše utopije so odsev odgovorov, ki jih upoštevamo pri njihovi konstrukciji.
Moralni sistem si lahko predstavljamo kot množico matematičnih aksiomov in pravil izpeljav, ki implicitno določajo vse kar je prav, vse kar imamo za dobro, pravično...
Iz te analogije sledi, da vrednote niso arbitrarne (kljub temu, da niso zapisane 'nekje zunaj'). Odgovori na vprašanje 'what is right?' so s tem lahko napačni. Orgazmium je že en tak primer, enako velja za Protokol in tudi druge meni znane utopije. V vseh najdemo kako napako ali pomankljivost. Ali to pomeni, da je prava utopija nemogoča? Mislim da ne in da CEV ponuja dobro možnost, da jo najdemo.
S tem ko se tule pregovarjamo o tem, katera Singularnost nam je všeč in katera ne, se odvija nek podoben proces, kot iskanje resničnih trditev v omenjenem formalnem sistemu. Naša morala se razvija kot drevo teoremov, argumenti podpirajo njegove veje, protiargumenti jih sekajo... in tako se zmanjšuje naša moralna negotovost, smo nekoliko bliže odgovoru na 'what is right?'.
(hm, tale formalni sistem ne temelji na predikatnem računu, temveč probabilistični logiki)
CEV naj bi ta proces prenesla na Friendly AI.
Kakšno vlogo pa ima Fun Theory pri konstrukciji Friendly AIja ali pa kje drugje?
Naj bi na njenih osnovah zgradili utopijo?
Mislim da ne. V sami teoriji je še vedno veliko negotovosti - predstavlja pač nek best-gues, tako da jo imamo lahko le za ohlapno vodilo pri ocenjevanju rezultatov, ki pa jih dobimo s CEV... in tako naprej. Bom raje nehal in si v prihodnje omislil blog. ;)
Moralni sistem si lahko predstavljamo kot množico matematičnih aksiomov in pravil izpeljav, ki implicitno določajo vse kar je prav, vse kar imamo za dobro, pravično...
Iz te analogije sledi, da vrednote niso arbitrarne (kljub temu, da niso zapisane 'nekje zunaj'). Odgovori na vprašanje 'what is right?' so s tem lahko napačni. Orgazmium je že en tak primer, enako velja za Protokol in tudi druge meni znane utopije. V vseh najdemo kako napako ali pomankljivost. Ali to pomeni, da je prava utopija nemogoča? Mislim da ne in da CEV ponuja dobro možnost, da jo najdemo.
S tem ko se tule pregovarjamo o tem, katera Singularnost nam je všeč in katera ne, se odvija nek podoben proces, kot iskanje resničnih trditev v omenjenem formalnem sistemu. Naša morala se razvija kot drevo teoremov, argumenti podpirajo njegove veje, protiargumenti jih sekajo... in tako se zmanjšuje naša moralna negotovost, smo nekoliko bliže odgovoru na 'what is right?'.
(hm, tale formalni sistem ne temelji na predikatnem računu, temveč probabilistični logiki)
CEV naj bi ta proces prenesla na Friendly AI.
Kakšno vlogo pa ima Fun Theory pri konstrukciji Friendly AIja ali pa kje drugje?
Naj bi na njenih osnovah zgradili utopijo?
Mislim da ne. V sami teoriji je še vedno veliko negotovosti - predstavlja pač nek best-gues, tako da jo imamo lahko le za ohlapno vodilo pri ocenjevanju rezultatov, ki pa jih dobimo s CEV... in tako naprej. Bom raje nehal in si v prihodnje omislil blog. ;)
Double_J ::
Pleasure je po definiciji, tisto kar je dobro. Tu se ni kaj jit skrivalnic.
Dve šivanki...
nicnevem ::
One more thing: sem na hitro preletel nekaj prejšnjih postov in opazil, da Thomas straši s tem, da naj bi do konca časa dokazovali teoreme, če se uresničijo sanje Yudkowskega in nekaterih drugih singularitancev. Dokler ne pobrcamo od utrujenosti. ;)
Kaj naj rečem... kogar zanima kakšne so v resnici njihove ideje, naj si prebere kaj na Bostromovi domači strani in na blogu Overcoming Bias in si sam ustvari svojo interpretacijo.
Kaj naj rečem... kogar zanima kakšne so v resnici njihove ideje, naj si prebere kaj na Bostromovi domači strani in na blogu Overcoming Bias in si sam ustvari svojo interpretacijo.
nicnevem ::
Pleasure je po definiciji, tisto kar je dobro. Tu se ni kaj jit skrivalnic.
Pesek je po definiciji užitna goba. Ti ga postrežem kot prilogo?
Sori za tako kratek odg., samo res ne utegnem... mogoče kasneje.
Zgodovina sprememb…
- spremenilo: nicnevem ()
lymph ::
Pleasure je po definiciji, tisto kar je dobro. Tu se ni kaj jit skrivalnic.
Odvisno od tega, kaj misliš z besedo "dobro". Dobro, kot "užitek", ali dobro kot "koristno".
Če ciljaš na "užitek", potem se strinjam s tabo.
"Belief is immune to counter example."
Thomas ::
CEV je fatamorgana. Slika oaze nad prepadom.
Največ, kar lahko storimo je (zelo intenziviran) občutek sreče, zadovoljstva, spokojne mirnosti, jasna zavest ... vse skupaj ofrajhano s celo paleto užitkov.
Pa obračaj kolikor hočeš.
Transcendenca, ali tisto kar je temu blizu, je konec, smrt.
Naša kongitivna, emocionalna in sploh psihična struktura je - kuriozum, ne neskončno adaptibilen. Iz tega lahko narediš pravo umetnino, ki jo je veselje gledati od znotraj in od zunaj. Če apliciraš "čudež" na vse skupaj, se verjetno razbliniš v nič.
Največ, kar lahko storimo je (zelo intenziviran) občutek sreče, zadovoljstva, spokojne mirnosti, jasna zavest ... vse skupaj ofrajhano s celo paleto užitkov.
Pa obračaj kolikor hočeš.
Transcendenca, ali tisto kar je temu blizu, je konec, smrt.
Naša kongitivna, emocionalna in sploh psihična struktura je - kuriozum, ne neskončno adaptibilen. Iz tega lahko narediš pravo umetnino, ki jo je veselje gledati od znotraj in od zunaj. Če apliciraš "čudež" na vse skupaj, se verjetno razbliniš v nič.
Man muss immer generalisieren - Carl Jacobi
T-h-o-r ::
Pleasure je po definiciji, tisto kar je dobro. Tu se ni kaj jit skrivalnic.
kaj pa če kdo hoče tudi tisto, kar je slabo?
ne predstavljam si večjega dolgčasa kot popolne 100% dobrote
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
T-h-o-r ::
hočem tudi pain, ne samo pleasure
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
Saladin ::
Naša kongitivna, emocionalna in sploh psihična struktura je - kuriozum, ne neskončno adaptibilen. Iz tega lahko narediš pravo umetnino, ki jo je veselje gledati od znotraj in od zunaj.
Perfektno povedano.
Ampak
Če apliciraš "čudež" na vse skupaj, se verjetno razbliniš v nič.
Kdo tukaj govori o "čudežu"?
Hočemo trajno inovativnost. Kar je jasna, preizkušena in dokazana predispozicija za pleasure racionalnih sentienc.
"Ti" si tisti, ki zavrača dokazane postavke in jih zamenjuje z nedokazanimi predlogi. Vsiljena enoličnost/dolgčas dokazano vodi v pogubo (v realnem svetu se je vedno šlo za lonec, ki je v takem primeru eksplodiral in privedel do sprememb - ti pa govoriš o loncu, kjer pritisk narašča do neskončnosti).
Na tebi je, da dokažeš nasprotno. Do takrat si "ti" tisti, ki predlagaš "čudež".
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Thomas ::
Neskončna rast je idealistični koncept. V končnem vesolju se slejkoprej neha.
Kaj boš potem? Prerasel Vesolje? In vsako naslednje?
To ni realistična predpostavka. Niti preveč razumna.
V končnem svetu je slejkoprej relativna statičnost edina opcija. Tega se niti ni potrebno bati. Če smo od nekod sneli idejo, da je dovolj dobro samo nenehno napredovanje, ima to v zelo nepopolnem svetu nek smisel. V dovolj izboljšanem pa zanesljivo ni nobene potrebe in sčasoma tudi nobene možnosti.
Ideja, da mora biti vsak naslednji trenutek boljši od prejšnjega in nekaj povsem novega ... je mau nervozna.
Kaj boš potem? Prerasel Vesolje? In vsako naslednje?
To ni realistična predpostavka. Niti preveč razumna.
V končnem svetu je slejkoprej relativna statičnost edina opcija. Tega se niti ni potrebno bati. Če smo od nekod sneli idejo, da je dovolj dobro samo nenehno napredovanje, ima to v zelo nepopolnem svetu nek smisel. V dovolj izboljšanem pa zanesljivo ni nobene potrebe in sčasoma tudi nobene možnosti.
Ideja, da mora biti vsak naslednji trenutek boljši od prejšnjega in nekaj povsem novega ... je mau nervozna.
Man muss immer generalisieren - Carl Jacobi
Saladin ::
V dovolj izboljšanem pa zanesljivo ni nobene potrebe in sčasoma tudi nobene možnosti.
(Pre)hitro obupavaš.
Težava je v tem, da ti zgolj z izborom "pleasurjev" omejuješ vse možne variable.
Kar je po eni strani dobro - saj določenih variabel v nobenem primeru nočemo.
Ampak vsaka dodatna variabla (zobobol, starostna hiba, ...) v sistemu takoj odpre ogromno eventov, ogromno priložnosti, ogromno potencialov in ogromno dogodivščin, ki jih drugače nikakor ne bi mogel doživeti.
Vsaka nova variabla z sabo prinese ogromno količino časa brez dolgčasa.
Če v tak sistem vključiš celo variiranje pleasurja določene sentience, nastanek novih in možnost (prostovoljne) smrti drugih sentienc, se da vkomot urediti sistem, kjer lahko do konca vesolja ne izkusimo dolgčas.
Ideja, da mora biti vsak naslednji trenutek boljši od prejšnjega in nekaj povsem novega ... je mau nervozna.
Dokaži mi nasprotno.
Pokaži mi en takšen primer (z racionalno sentienco), ki se ne bi izrodil, tudi če bi ga uspel vzdrževati večno na istem nivoju.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Zgodovina sprememb…
- spremenil: Saladin ()
Double_J ::
Ravno to se zagotovo ne izrodi. En 10sekundni loop ponavljaš v neskončnost.
Pri tem je najmanj možnosti za napako.
Pri tem je najmanj možnosti za napako.
Dve šivanki...
Thomas ::
Točno tako je. Loop dolg 10 sekund ali 100000000 sekund, ali 1 sekundo .... ni po definiciji nikoli dolgočasen, če ni dolgočasen že prvič. Potem tudi milijontič ni.
Res mislim, da je treba gledati skrajno racionalno in se vprašati - v kateri loop bi bilo dobro iti? Do konca časa. Sej, lahko jih maš tud milijon različnih, ampak vsak se ponovi lahko milijardokrat in je vedno kot prvič.
Racionalni sklep.
Res mislim, da je treba gledati skrajno racionalno in se vprašati - v kateri loop bi bilo dobro iti? Do konca časa. Sej, lahko jih maš tud milijon različnih, ampak vsak se ponovi lahko milijardokrat in je vedno kot prvič.
Racionalni sklep.
Man muss immer generalisieren - Carl Jacobi
Saladin ::
Loop dolg 10 sekund ali 100000000 sekund, ali 1 sekundo .... ni po definiciji nikoli dolgočasen, če ni dolgočasen že prvič. Potem tudi milijontič ni.
Po tej logiki je sendvič, ki ti je prvič dober - vedno dober.
ALi pa seks z isto lepotico na isti način.
Ali ista pijača.
Ali isti fiks.
...
Pa če je to 10x ali 100000000x zaporedoma.
Pa kje vam je logika tukaj?
Edino delovanje sistema je tukaj zagotovljeno - zagotavljanje pleasurja pa še zdaleč ni, ker ni sprememb. Pravzaprav se z vse daljšim časim efekt spreminja v kontra smer.
Prvo vse manjši užitek, potem indiferenca, potem pa vse večje trpljenje - celo do neznosnih mer.
Potrebna je bodisi sprememba sistema bodisi sprememba sentience.
Preden postanem zombi raje vidim en drug sistem.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Thomas ::
Logika nas zelo dobro služi, hvala lepa.
Sex z isto lepotico 10000000000 na Zemlji ti ni všeč, ker ti geni pravijo, da še mau diverzificiraj potomstvo. Pa ker se 99999-tič spomniš, da je bilo 999-tič isto, pa ti geni pravijo, da morš mau varirat, takisto iz genetskih razlogov.
Tukaj delamo prevrat, če še niste opazili. Gospodarje gene mislimo subvertirati in se ne uklanjati njihovim muham in kapricam. Pobrati smetano, sirotko pa izliti proč. Vzeti krmilo v svoje roke, bolj kot bi bilo genom všeč. Genom in tudi mnogim genom lojalnim umom!
Mi smo meme(plex), mi smo transgenom. Zraven pa še tolk nesramni in predrzni, da smetano pa najbrž bomo posneli. Kdo si bo zmišljal čisto nove zaplete? Sej ne da je težko, ampak nam je nekaj tegale všeč in bomo vzeli s sabo v večnost. Ampak samo tisto, kar nima kakšnega kavlja.
The best 100000 loops po 100 let. Vsak je na sporedu poljubnokrat. Ali pa samo eden. Stvar praktičnih odločitev.
Sex z isto lepotico 10000000000 na Zemlji ti ni všeč, ker ti geni pravijo, da še mau diverzificiraj potomstvo. Pa ker se 99999-tič spomniš, da je bilo 999-tič isto, pa ti geni pravijo, da morš mau varirat, takisto iz genetskih razlogov.
Tukaj delamo prevrat, če še niste opazili. Gospodarje gene mislimo subvertirati in se ne uklanjati njihovim muham in kapricam. Pobrati smetano, sirotko pa izliti proč. Vzeti krmilo v svoje roke, bolj kot bi bilo genom všeč. Genom in tudi mnogim genom lojalnim umom!
Mi smo meme(plex), mi smo transgenom. Zraven pa še tolk nesramni in predrzni, da smetano pa najbrž bomo posneli. Kdo si bo zmišljal čisto nove zaplete? Sej ne da je težko, ampak nam je nekaj tegale všeč in bomo vzeli s sabo v večnost. Ampak samo tisto, kar nima kakšnega kavlja.
The best 100000 loops po 100 let. Vsak je na sporedu poljubnokrat. Ali pa samo eden. Stvar praktičnih odločitev.
Man muss immer generalisieren - Carl Jacobi
Double_J ::
Po tej logiki je sendvič, ki ti je prvič dober - vedno dober.
Sendvič vedno prvič ješ, če gre za loop. Kako to ne razumeš.
Dve šivanki...
nicnevem ::
@Thomas
Morda kak razlog za ta zaključek? Slutnjo? Karkoli?
... in nato še razmišljanje o tem, kako bi vstopili v nek loop in ga poganjali do konca časa.
To naj bi bila usoda inteligentnega življenja v vesolju?! Da se spremenimo v ponavljajoče vzorce!? Komaj verjamem, da lahko kdo resno zagovarja kaj takšnega. Me kar zmrazi.
Da naj bi bil to edini racionalni zaključek? Kje so v tej prihodnosti nova odkritja, kje vznemirjenje, ki jih prinašajo novi izivi!? Skrivnosti obstoja ostajajo nerazrešene, radovednost zatrta ali pa izbrisana iz vesolja, svobodna volja niti spomin...
Ko sem bral knjigo The Player of Games v kateri je predstavljena napredna civilizacija Culture (v katero naj bi se v tem fantazijskem vesolju razvilo človeštvo) se mi je na žalostno jasen način prikazala bedna podoba današnjega sveta. Vendar ko takole preberem kakšne namene imate nekateri z usodo človeštva, današnje stanje niti ne izgleda več tako zelo turobno... :(
CEV je fatamorgana. Slika oaze nad prepadom.
...
Transcendenca, ali tisto kar je temu blizu, je konec, smrt.
Morda kak razlog za ta zaključek? Slutnjo? Karkoli?
Največ, kar lahko storimo je (zelo intenziviran) občutek sreče, zadovoljstva, spokojne mirnosti, jasna zavest ... vse skupaj ofrajhano s celo paleto užitkov.
... in nato še razmišljanje o tem, kako bi vstopili v nek loop in ga poganjali do konca časa.
To naj bi bila usoda inteligentnega življenja v vesolju?! Da se spremenimo v ponavljajoče vzorce!? Komaj verjamem, da lahko kdo resno zagovarja kaj takšnega. Me kar zmrazi.
Da naj bi bil to edini racionalni zaključek? Kje so v tej prihodnosti nova odkritja, kje vznemirjenje, ki jih prinašajo novi izivi!? Skrivnosti obstoja ostajajo nerazrešene, radovednost zatrta ali pa izbrisana iz vesolja, svobodna volja niti spomin...
Ko sem bral knjigo The Player of Games v kateri je predstavljena napredna civilizacija Culture (v katero naj bi se v tem fantazijskem vesolju razvilo človeštvo) se mi je na žalostno jasen način prikazala bedna podoba današnjega sveta. Vendar ko takole preberem kakšne namene imate nekateri z usodo človeštva, današnje stanje niti ne izgleda več tako zelo turobno... :(
nicnevem ::
@Double_J
Prej nisem imel časa, da bi pojasnil, v čem je problem zg. trditve.
Če trdiš, da nekaj velja 'po definiciji' in to počenjaš izven matematike, si skoraj zagotovo na napačni poti. Definicije besed ne morejo spremeniti strukture realnosti. Če imajo stanja sveta, ki so moralno gledano dobra, večinoma drugačne lastnosti od stanj, v katerih neizmerno uživamo (in le uživamo), potem zagotavljanje, kako je užitek po definiciji dober, ne bo spremenilo te relacije.
Več o tem: Arguing "By Definition"
In zakaj mislim, da užitek ni 'all we ever need'? Kot sem že večkrat omenil, naš moralni sistem je zapleten in - če malo poenostavim - funkcija, ki določa kako dobro je neko stanje, vsebuje poleg užitka še mnoge druge postavke. Če te niso izpolnjene imamo distopijo. Čisto preprosto.
Sem že dal pred časom te linke, pa mislim da ne bo nič narobe, če jih objavim še enkrat (morda jih bo le kdo prebral).
Not for the Sake of Happiness (Alone)
"For all value to be reducible to happiness, it's not enough to show that happiness is involved in most of our decisions - it's not even enough to show that happiness is the most important consequent in all of our decisions - it must be the only consequent. That's a tough standard to meet."
Thou Art Godshatter
We are a "thousand shards of desire"...
Pleasure je po definiciji, tisto kar je dobro. Tu se ni kaj jit skrivalnic.
Prej nisem imel časa, da bi pojasnil, v čem je problem zg. trditve.
Če trdiš, da nekaj velja 'po definiciji' in to počenjaš izven matematike, si skoraj zagotovo na napačni poti. Definicije besed ne morejo spremeniti strukture realnosti. Če imajo stanja sveta, ki so moralno gledano dobra, večinoma drugačne lastnosti od stanj, v katerih neizmerno uživamo (in le uživamo), potem zagotavljanje, kako je užitek po definiciji dober, ne bo spremenilo te relacije.
Več o tem: Arguing "By Definition"
In zakaj mislim, da užitek ni 'all we ever need'? Kot sem že večkrat omenil, naš moralni sistem je zapleten in - če malo poenostavim - funkcija, ki določa kako dobro je neko stanje, vsebuje poleg užitka še mnoge druge postavke. Če te niso izpolnjene imamo distopijo. Čisto preprosto.
Sem že dal pred časom te linke, pa mislim da ne bo nič narobe, če jih objavim še enkrat (morda jih bo le kdo prebral).
Not for the Sake of Happiness (Alone)
"For all value to be reducible to happiness, it's not enough to show that happiness is involved in most of our decisions - it's not even enough to show that happiness is the most important consequent in all of our decisions - it must be the only consequent. That's a tough standard to meet."
Thou Art Godshatter
We are a "thousand shards of desire"...
lymph ::
Saladinu in nicnevem je raziskovanje in razvijanje najvišja vrednota - najvišji užitek. Mar res ne vidita povezave tukaj?
Karkoli si želiš od Protokola, Singularnosti, vse se zreducira na neke osebne cilje - ki pa so temu posamezniku pod do PLEASURA.
Sam cilj raziskovanja in razvijanja ni nič drugega kot pot do UŽITKA. Ko si enkrat Upload, je tvoja esenca programibilna - ni več tako rigidna kot sedaj. Popolen užitek/ultimativen cilj tako ne bo več samo RAZVOJ ali pa NOVE IZKUŠNJE, ampak lahko tudi večen 1 sekunden loop.
Tudi tisti, ki je rekel da hoče pain, je naredil logično napako. Nihče na temu svetu noče paina... Hočemo pa pleasure, ki je lahko vezan na ta pain. Subjektivnost je hudič, ja.
Karkoli si želiš od Protokola, Singularnosti, vse se zreducira na neke osebne cilje - ki pa so temu posamezniku pod do PLEASURA.
Sam cilj raziskovanja in razvijanja ni nič drugega kot pot do UŽITKA. Ko si enkrat Upload, je tvoja esenca programibilna - ni več tako rigidna kot sedaj. Popolen užitek/ultimativen cilj tako ne bo več samo RAZVOJ ali pa NOVE IZKUŠNJE, ampak lahko tudi večen 1 sekunden loop.
Tudi tisti, ki je rekel da hoče pain, je naredil logično napako. Nihče na temu svetu noče paina... Hočemo pa pleasure, ki je lahko vezan na ta pain. Subjektivnost je hudič, ja.
"Belief is immune to counter example."
CaqKa ::
hočem tudi pain, ne samo pleasure
em.. jaz nevem kaj eni tolko bluzite... pleasure je tukaj mišljeno kot nekaj kar ti ugaja. in če tebi bolečina ugaja, boš jo pač dobil. če jo neboš dobil pa bo to nekaj kar ti ne ugaja, torej pain.
konec koncev če se prave signale pošlje na prava mesta lahko tudi drek ješ, pa ti signali stimulirajo prave centre in boš mislo da je to tista zadeva ki si jo že vedno htel jest. sej se spomnite tistega odlomka iz matrixa ko oni papca oni steak, ko sta skupaj z agentom na kosilu.. pa kaj reče tam.
CaqKa ::
Po tej logiki je sendvič, ki ti je prvič dober - vedno dober.
ALi pa seks z isto lepotico na isti način.
Ali ista pijača.
Ali isti fiks.
...
Pa če je to 10x ali 100000000x zaporedoma.
Pa kje vam je logika tukaj?
logika je ta, da je naša percepcija odvisdna od zunanjih dejavnikov. ka bom jutri jedel enak sendvič, je sonce drugače sije, je smrad v lokalu je nevem kaj še drugega...
pol pa greš na matrix in uploadaš enake zunanje dejavnike kot so bili prvič in sendvič je naenkrat spet enako slasten kot prvič.
Double_J ::
No saj, pa tudi izbriše se ti lahko, da si ga kdajkoli že jedel in je tako vedno prvič.
Nicnevem, celotna morala in etika je odvisna od p/p. To je vidno v družbah, ki sledijo utilitaristični miselnosti. Zakaj pa so zakoni, oziroma bi morali biti, točno zato da minimizirajo pain ter spodbujajo pleasure.
Nicnevem, celotna morala in etika je odvisna od p/p. To je vidno v družbah, ki sledijo utilitaristični miselnosti. Zakaj pa so zakoni, oziroma bi morali biti, točno zato da minimizirajo pain ter spodbujajo pleasure.
Dve šivanki...
Zgodovina sprememb…
- spremenil: Double_J ()
T-h-o-r ::
torej vi želite, da bi bili v večnem time loopu užitka? rather primitive...
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
Saladin ::
Po tej logiki je sendvič, ki ti je prvič dober - vedno dober.
Sendvič vedno prvič ješ, če gre za loop. Kako to ne razumeš.
O, pa še kako razumem:
Edini izhod za ohranitev svobodne zavesti je morda njen "reset" (ko se enkrat zavest začne dolgočasiti, ker je že dolgo časa prežvečila vse možne izkušnje - se spomini le teh izbrišejo in zavest začne doživljat vse te izkušnje znova).
Sem misli, da govorite o loopu resetiranj stimulanta/simulacije. Če govorimo tudi o loopu resetiranj osebnosti, pa se odpira cel kup novih vprašanj.
Nejbolj pereče IMHO je videti smisel v velikem številu ponavljajočih se ciklusov, ko v vsakem osebnost preživlja eno te isto. Nobene razlike ni med preživljanjem enega kompletnega ciklusa ali 1000 ponovitvijo - slednji je zgolj nepotrebna poraba sredstev.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Thomas ::
Rather primitive je pestovati eno bolečino in jo vleči s sabo. To je primitive. Biti tako globoko odvisen od neugodja, da ga smatraš za nekaj dobrega.
Kar se tiče scenarija ki ga zagovarjajo nicnevem, Yudkowsky, Bostrom ... pa tkole. Če želijo tako polno in raziskovalno življenje, imajo prostor samo v matematiki in raznih igrah, kot je šah, go, poker ... predvsem s čisto teoretične strani. Preostane jim samo dokazovanje teoremov, ker fizikalnih pustolovščin zmanjka. Iti kot astronavt na planet ki ga ni več, ker jib predelan v useware, ni mogoče. Lahko pa na krake Mandelbrotove zvezde. Tam je prostora še precej. A to vse zahteva precej CPU.
Takole situacijo smo že imeli. Ko sta davni prednik Thomas in nicnevema, recimo da jima je bilo ime enako kot njunima potomcema, imela takole debato:
nicnevem: Zdaj ko bomo imeli kmetijstvo, namesto lovstva nabiralništva, bomo kmetijo vsako leto selili na nove poljane.
Thomas: Ne. Kar na istem mestu bo. Pognojili bomo s kravjim in kozjim gnojem, pa bo stalno raslo.
nicnevem: Bljek, to se mi pa gnusi! Jaz bi rad selil kmetijo z vsemi živalmi, kot se selimo zdaj, ko smo še nomadi in nikoli več ne prišel nazaj na staro.
Thomas: Zaradi končnosti Zemljine plošče, ki jo obliva Ocean, to ne bo mogoče. Boš videl, nič ne bo narobe s statično kmetijo in gnojenjem vedno istih njiv. Poleg tega, tu so še drugi.
nicnevem: S tem bomo izgubili svojo svobodo.
Thomas: Že mogoče, a bomo manj lačni in bistveno bolje nam bo, kakor nam je danes.
Razvoj kot ga poznamo zadnje čase, je samo faza.
Kar se tiče scenarija ki ga zagovarjajo nicnevem, Yudkowsky, Bostrom ... pa tkole. Če želijo tako polno in raziskovalno življenje, imajo prostor samo v matematiki in raznih igrah, kot je šah, go, poker ... predvsem s čisto teoretične strani. Preostane jim samo dokazovanje teoremov, ker fizikalnih pustolovščin zmanjka. Iti kot astronavt na planet ki ga ni več, ker jib predelan v useware, ni mogoče. Lahko pa na krake Mandelbrotove zvezde. Tam je prostora še precej. A to vse zahteva precej CPU.
Takole situacijo smo že imeli. Ko sta davni prednik Thomas in nicnevema, recimo da jima je bilo ime enako kot njunima potomcema, imela takole debato:
nicnevem: Zdaj ko bomo imeli kmetijstvo, namesto lovstva nabiralništva, bomo kmetijo vsako leto selili na nove poljane.
Thomas: Ne. Kar na istem mestu bo. Pognojili bomo s kravjim in kozjim gnojem, pa bo stalno raslo.
nicnevem: Bljek, to se mi pa gnusi! Jaz bi rad selil kmetijo z vsemi živalmi, kot se selimo zdaj, ko smo še nomadi in nikoli več ne prišel nazaj na staro.
Thomas: Zaradi končnosti Zemljine plošče, ki jo obliva Ocean, to ne bo mogoče. Boš videl, nič ne bo narobe s statično kmetijo in gnojenjem vedno istih njiv. Poleg tega, tu so še drugi.
nicnevem: S tem bomo izgubili svojo svobodo.
Thomas: Že mogoče, a bomo manj lačni in bistveno bolje nam bo, kakor nam je danes.
Razvoj kot ga poznamo zadnje čase, je samo faza.
Man muss immer generalisieren - Carl Jacobi
Thomas ::
slednji je zgolj nepotrebna poraba sredstev.
To je po DEFINICIJI tako, da ni nepotrebne porabe sredstev, če gre za pleasure sentience. Vse ostalo so nepotrebne porabe sredstev.
Ni višjega smisla, kot dobro zavesti. Niti nižjega. Nobenega, samo ta smisel je. Definicija.
Man muss immer generalisieren - Carl Jacobi
poweroff ::
Pleasure je po definiciji, tisto kar je dobro. Tu se ni kaj jit skrivalnic.
Ne nujno. Eni recimo trdijo, da je za Palestince dobro, da jih bombardirajo. Pa dvomim, da je Palestincem to v velik užitek...
sudo poweroff
nevone ::
Eni recimo trdijo, da je za Palestince dobro, da jih bombardirajo.
Kdo to trdi?
Kar se pa tiče večje svobode v Protokolu. Kako boš omejil, da se ta svoboda ne bo razvila v negativno smer? Kaj bo tisto vrhovno vodilo, ki bo to preprečevalo? Ali pa bomo v imenu "svobode" tvegali negativen izid?
o+ nevone
Either we will eat the Space or Space will eat us.
Saladin ::
To je po DEFINICIJI tako, da ni nepotrebne porabe sredstev, če gre za pleasure sentience. Vse ostalo so nepotrebne porabe sredstev.
"ČE" gre zgolj za pleasure sentience.
Kar ti poskušam dopovedati je, da obstaja realna možnost, da se takšen pleasure lahko izrodi:
Bodisi sčasoma postane pain bodisi je potrebno zavest zdegenerirat - ničesar od tega nočemo.
EDIT:
Osebnostni in simulacijski loop se tema problemoma izogne - ostane pa altruistično vprašanje: Ali imaš ti pravico "večno" ponavljat svoj pleasure loop na račun pleasarja (ali celo egzistence) drugih sentienc?
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Zgodovina sprememb…
- spremenil: Saladin ()
Thomas ::
Kot je rekel Double_J. Če je loop, je loop. Vedno je enak in enako dober. Nobene zunanje spremembe ni, ki bi naredila loop drugič zate kaj drugačen, kot je bil prvič.
Idealistična predpostavka, da "človek že nekako" ve, je napačna. Nič "dodatnega" ne ve. Samo tisto, kar je videl že n-tič, vidi tudi n+1-tič. Vključno z lastnimi spomini, ki so obakrat enaki.
Welcome to loops!
(To, da zdaj loopov ne poznamo, ni pomembno. Te pa bega.)
Idealistična predpostavka, da "človek že nekako" ve, je napačna. Nič "dodatnega" ne ve. Samo tisto, kar je videl že n-tič, vidi tudi n+1-tič. Vključno z lastnimi spomini, ki so obakrat enaki.
Welcome to loops!
(To, da zdaj loopov ne poznamo, ni pomembno. Te pa bega.)
Man muss immer generalisieren - Carl Jacobi
Thomas ::
Ali imaš ti pravico "večno" ponavljat svoj pleasure loop na račun pleasarja (ali celo egzistence) drugih sentienc?
Odgovor je v Beli, Zeleni in Modri sobi.
Man muss immer generalisieren - Carl Jacobi
Saladin ::
Ali imaš ti pravico "večno" ponavljat svoj pleasure loop na račun pleasarja (ali celo egzistence) drugih sentienc?
Nisi odgovoril na moje vprašanje:
Ali ima omejeno število sentienc pravico v večnosti ponavljat svoj loop (ena te ista doživetja) na račun števila in kvalitete egzistenc drugih sentienc?
Vzemimo primer:
Ena sentienca je prevkar preživela en svoj loop - vse kar si je zaželela, je tudi doživela in sedaj se začenja dolgočasiti.
Ti bi verjetno hotel da ob tem treutku dolgočasenja, da se avtomatsko začne nov loop užitka. Da posmaeznik sploh ne ve, da je v simulaciji in da je v enem izmed takih loopov.
Sam pa bi dal takemu posamezniku izbiro. Ob začetku(ali po nekem času) dolgočasenja bi mu simulacija razložila situacijo.
Da je pač sentienca znotraj enega pleasure loopa.
Potem pa mu da na voljo (recimo) 3 možnosti:
-Simulacija sentienci izbriše spomine, tako da začne na novo doživljat celoten loop
-Simulacija sentienci dovoli izbiro/stvarstvo nove sentience (recimo naslednika). Na račun svojih komputacijskih sredstev (svojega pleasurja) dovoli soobstoj dodatne sentience.
-Simulacija dovoli tej sentienci umreti, če le ta želi ustvariri prostor za novo sentienco.
Predvidevam, da bi veliko sentienc takoj izbralo 1. varijanto. Ampak, nekatere morda ne bi.
Še več.
Dajmo narediti tako, da na koncu vsakega loopa simulacija razloži sentienci realno situecijo in delovanje loopov. In potem mu pokaže, kolikokrat je že bil v tem istem loopu.
Pa bo nekdo videl cifro 1000, 10000, miljon,... in si mordsa mislil: Glej, saj sem že vse tolikokrat doživel, prejšnjih doživetij pa se sploh ne spomnem (niti se nimam potrebe spominjati, saj so povsem enaka sedanjim).
Morda bo potem hotela ven iz tega. Morda si bo zaželela manj pleasurja ali celo paina. Morda celo smrti.
AMpak ni važno kaj izbere - važno je, da ima ta sentienca na voljo to izbiro. Loop, katerega se ne zavedaš, to pač ni.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
nevone ::
Kar ti poskušam dopovedati je, da obstaja realna možnost, da se takšen pleasure lahko izrodi:
Bodisi sčasoma postane pain bodisi je potrebno zavest zdegenerirat - ničesar od tega nočemo.
Nič ne more zdegenerirat, ne smeš mu niti pustiti tega. Daš mu okvire in ven ne sme, samo to je možno samo če se odrečeš neke višje svobode, ki bi pa to vseeno dovoljevala.
Ali se morda tudi bojiš, da bi ti kalkukator, ki ga imaš trenutno na mizi nekega dne izračunal, da 2+2=10?
o+ nevone
Either we will eat the Space or Space will eat us.
nevone ::
Ti bi verjetno hotel da ob tem treutku dolgočasenja, da se avtomatsko začne nov loop užitka. Da posmaeznik sploh ne ve, da je v simulaciji in da je v enem izmed takih loopov.
Dolgočasja ne vprogramiraš. Posameznik v simulaciji se lahko zaveda, da je v simulaciji in tudi lahko se zaveda razloga, zaradi katerega nima popolne svobode. In se s tem strinja.
o+ nevone
Either we will eat the Space or Space will eat us.
Saladin ::
Nič ne more zdegenerirat, ne smeš mu niti pustiti tega. Daš mu okvire in ven ne sme, samo to je možno samo če se odrečeš neke višje svobode, ki bi pa to vseeno dovoljevala.
"Odrekanje višje svobode" tukaj pomeni bodisi riskiranje norosti ali zombifikacijo zavesti, da mu stalna enoličnost ne bi smetala (če zanemarimo loope).
Ali se morda tudi bojiš, da bi ti kalkukator, ki ga imaš trenutno na mizi nekega dne izračunal, da 2+2=10?
Moje filozofske debate se vrtijo okoli objektivnega iskanja "resnice".
Ne zanima me toliko delovanje znotraj simulacije (kjer je zaradi mene lahko 1+1=Saladin na Triglavu) kot pa sama narava (substrat, vzrok) take simulacije.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Saladin ::
Ti bi verjetno hotel da ob tem treutku dolgočasenja, da se avtomatsko začne nov loop užitka. Da posmaeznik sploh ne ve, da je v simulaciji in da je v enem izmed takih loopov.
Dolgočasja ne vprogramiraš. Posameznik v simulaciji se lahko zaveda, da je v simulaciji in tudi lahko se zaveda razloga, zaradi katerega nima popolne svobode. In se s tem strinja.
o+ nevone
Dolgočasja ne vprogramiraš.
Ena beseda: Zombifikacija.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
nevone ::
"Odrekanje višje svobode" tukaj pomeni bodisi riskiranje norosti ali zombifikacijo zavesti, da mu stalna enoličnost ne bi smetala (če zanemarimo loope).
Se pravi če ti enoličnost (ki v resnici sploh ni enoličnost, ali pa bolje definiraj, kaj je zate enoličnost) ne smeta, si nor ali pa zombi? Nisi pa nor, če dopustiš, da te na račun večje svobode sistema požre sistem sam.
o+ nevone
Either we will eat the Space or Space will eat us.
nevone ::
Ena beseda: Zombifikacija.
Tri besede: Uporništvo brez razloga.
o+ nevone
Either we will eat the Space or Space will eat us.
Saladin ::
Se pravi če ti enoličnost (ki v resnici sploh ni enoličnost, ali pa bolje definiraj, kaj je zate enoličnost) ne smeta, si nor ali pa zombi? Nisi pa nor, če dopustiš, da te na račun večje svobode sistema požre sistem sam.
Enoličnosti se lahko izogneš na naslednje načine:
-Z stalnimi novostmi (morda nemogoče zaradi omejitve časa in sredstev)
-Z odstranitvijo zavedanja, da ni več nobenih novosti (zombifikacija)
-Z loopi, kjer izbrišeš spomine in stalno ponavljaš eno končno simulacijo
Za kakršnokoli doseganje stalnih novosti moraš dopustiti tudi prostovoljen pain in prostovoljno smrt.
Vsaka racionalna zavest se bo po dovolj časa dovolj enoličnosti začela dolgočasiti. In dovolj dolgo vsiljeno dolgočasenje privede, po domače, h norosti.
Omejeni loopi so energetsko kot moralno potratni. Če je vsak loop povsem enak prejšnjemu (in če se spomini ne ohranjajo) - kje je potem energetski in moralen "point" vsemu temu ponavljanju? Če je ena (maksimalno izkoriščena) simulacija povsem enaka milijonim pred njo - zakaj jo potem sploh ponavljati?
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
nevone ::
Vsaka racionalna zavest se bo po dovolj časa dovolj enoličnosti začela dolgočasiti. In dovolj dolgo vsiljeno dolgočasenje privede, po domače, h norosti.
Dolgočasja ni. Zakaj tako vztrajaš pri tem, da mora dolgočasje obvezno biti?
Kot bi vztrajal na tem, da moraš v hiši nujno imeti ognjišče za odprti ogenj, da se ti kadi po celem prosotru, in da le na ta način lahko preprečiš, da bi te zeblo.
o+ nevone
Either we will eat the Space or Space will eat us.
Saladin ::
Dolgočasja ni. Zakaj tako vztrajaš pri tem, da mora dolgočasje obvezno biti?
No ja...
Obstaja možnost, da je simulacija morda dovolj obširna, da ob končni razporeditvi simulacijskih sredstev in parametrov sentienca v njej (v času trajanja Vesolja) ne doseže vseh njenih potencialov.
Da sentienca v tem času ne doživi vseh pleasurjev v njej ali pa se ti ponavljajo tako redko, da ne pride do dolgočasja.
Ampak ob vseh teh omejitvah, ki jih mislite vpeljati v simulacijo (in ob spodobnem številu sentienc oz. simulacij) imam občutek, da se bo začelo dogajati prav to.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Saladin ::
...kar me privede do enega zanimivega vprašanja:
Ali se je možno "igrati" z subjektivnostjo osebnega dojemanja časa?
A je možno nekako "raztegniti" osebno dojemanje trajanja plesaurja v neskončnost, tudi če sama simulacija traja končno časa in zavzame končno sredstev?
Podobno kot se dogaja v črni luknji ali v hipotetičnem "Big crunchu" vesolja?
Ali se je možno "igrati" z subjektivnostjo osebnega dojemanja časa?
A je možno nekako "raztegniti" osebno dojemanje trajanja plesaurja v neskončnost, tudi če sama simulacija traja končno časa in zavzame končno sredstev?
Podobno kot se dogaja v črni luknji ali v hipotetičnem "Big crunchu" vesolja?
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Phil ::
Obstaja možnost, da je simulacija morda dovolj obširna, da ob končni razporeditvi simulacijskih sredstev in parametrov sentienca v njej (v času trajanja Vesolja) ne doseže vseh njenih potencialov.
Zakaj neki bi simuliral neko super kompleksno okolje in s tem tratil resorse?
Dolgčas je samo eden od mehanizmov pridobljenih skozi evolucijo in ob SAI zgubi ves smisel. Zakaj tebi neki "stalno napredovanje" pomeni pleasure mi ni jasno. Sej znotrej simulacije pogrnutal gotovo ne boš nič novega, za to bo SAI.
T-h-o-r ::
v čem je smisel obstoja v večnem loopu (pa čeprav se ti tega ne zavedaš)
meni se to zdi nesmiselno, rajši trpim tukaj kot pa tam živim v raju, ki se vedno ponovi
meni se to zdi nesmiselno, rajši trpim tukaj kot pa tam živim v raju, ki se vedno ponovi
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
nevone ::
Ali se je možno "igrati" z subjektivnostjo osebnega dojemanja časa?
Seveda, saj to se ti tudi v možganih ves čas dogaja.
A je možno nekako "raztegniti" osebno dojemanje trajanja plesaurja v neskončnost, tudi če sama simulacija traja končno časa in zavzame končno sredstev?
Ne, ker neskončnosti ne moreš izkusiti, ker je preslabo definirana. Ampak ne bom 100% trdila, da ni možno proizvesti občutka neskončnosti, če jo prav definiraš.
v čem je smisel obstoja v večnem loopu (pa čeprav se ti tega ne zavedaš)
Sej se zavedaš, to je ključno. Ne rabimo loopov, v katerih se ne zavedamo.
o+ nevone
Either we will eat the Space or Space will eat us.
nevone ::
Ne rabimo loopov, v katerih se ne zavedamo.
Rabimo jih kvečjemu zato, da medtem, ko smo mi v loopu, v katerem se zavedamo, laufajo loopi ki delajo za nas, pa ni nujno da se zavedajo.
o+ nevone
Either we will eat the Space or Space will eat us.