Protokol

Pleasure ni dovolj.
Zgolj maksimalen pleasure (ki vključuje določen pain) je "good enough".

S stališča zatečenega stanja že mogoče. Ampak, ko si enkrat postavljen v situacijo, ko se lahko odločiš za pleasure brez paina, ali pa obdržiš status quo, se boš odločil za pleasure.

Tudi tisti, ki danes stavijo na pain, si bodo premislili. Ves razvoj človeštva temelji na zmanjševanju paina. Tega ne moreš zanikati. Tudi tisti, ki preizkušajo meje svojih zmožnosti z bolečino, se trudijo bolečino premagati, ne jo povečevati.

Tisti, ki hodijo po žerjavici, ne hodijo zato, da bi jih bolelo, ampak da bi bolečino premagali. Enako tisti, ki ležijo na žebljih in podobni pain preizkuševalci.

Naša želja sploh ni pain, to je naša realnost.

o+ nevone

Vrat v pain ne bo, niti vrat v skakanje v vrelo olje ali vrat v vzajemno lupljenje kože s telesa.

To je ... otročje sploh jemat v obzir.

Jaz sem nobody. Ampak če me slučajno usoda zanese v situacijo, da bom napisal Protokol, potem paina ne bo. Niti kaj preveč nagnusnege po mojem zdajšnjem/tedanjem okusu. Samo The best so far, multiplied for a (large?) factor.

Ampak kakšna verjetnost pa sploh je za kaj takega?

Svobodna volja, pain in ribji mehur ... to je povsem neuporabno za reševanje morebitnih advanced problemov v H+ civilizacije.

Svobodna volja, pain in ribji mehur ... to je povsem neuporabno za reševanje morebitnih advanced problemov v H+ civilizacije.

Torej po tvojem bi sentience morale biti ne zgolj izjemno omejene (brez svobodne volje znotraj simulacije), temveč tudi poneumljene (in tako neprimerne za sodelovanje v bilokakšnem globalnem procesu).

A mi sploh lahko ponudiš kako varovalko tukaj, ki NE vključuje 100% zanašanje na pravilnost programiranja, delovanja in prihodnjosti te simulacije?

torej, ka pa če bo protokol napisal nekdo, ki se mu gnusi npr. seks? potem ga pač prepovedal? in nihče ne bo imel možnosti uživat?

Mi to ne bomo. Če bo kdo? Ne vem.

pomembno je gledati okuse VSEH

Okus je editibilen.

o+ nevone

Lahko recimo narediš, da se Protokol ustavi, kadarkoli je prišlo do kakršnegakoli paina. Lahko narediš, da se razstreli, ker pač je šlo nekaj narobe.

Upam, da se šališ.

Morda bo takole jasneje:
Smisel Protokola mora biti, da se prilagodi našim željam in našim sentiencam.
Nikakor pa ne sme biti njegov smisel, da Protokol prilagodi nas, našo sentienca, zavoljo "optimiziranja resursov in enostavnosti".


Me pa res zanima:
Kaj te tako moti v dopuščanju povsem zavestnega, prostovoljnega, izoliranega in globalno neškodljivega paina v posamezni instanci?

Edini pomislek iz moje strani je morebitna izguba morale posameznika - ampak tebe morala tukaj nikoli ni brigala.

Posebno tole zgodbo o Otrokožerih, Ljudeh in Uživačih. Ne vem kako misli on tole speljat, ampak je zelo dobro in ilustrativno. Ko to prebereš ... te mau pa že šokira.

Odlična in primerna zgodba, res.

In tudi tam je jasno ilustrirano, da vprašanje paina ni tako črno-belo, kot si ga predstavljaš.

V ta zadnji Mladini je intervju z Nickom Bostromom - direktorjem Oxfordskega inštituta za prihodnost človeštva in transhumanistom. Naslov intervjuja je "Znanstveni prerok".

Za razliko od večine udeležencev te teme tip dejansko ve kaj govori. In govori smiselno.

Tipu se pozna da je filozof in ne fantast.

It's not the matter of IF, It's the matter of WHEN :)

http://www.nickbostrom.com/

Da ne boš govoril v prazno. Ni on ravno "nedolžna ovca" in "zmernež".

http://www.nickbostrom.com/posthuman.pdf

Samo da še enkrat poudarim "sivo" območje med painom in pleasurjem.

Eni zagovarjajo maksimalen pleasure
Drugi maksimalno svobodo.

Maksimalen racionalen pleasure zahteva maksimalno svobodo.
Maksimalna racionalna svoboda zahteva pain.

- Enostavno ne moreš imeti maksimalen racionalen pleasure brez maksimalne svobode in s tem tudi paina.
-Imaš kvečjemu lahko določeno, iracionalno (ignorantsko, lobotimizirano) mero pleasurja z nekaj svobode in brez paina.

Z slednjo varianto se nikakor ne morem strinjati. Edino nedosegljivost prve in velik rizik izumrtja človeške vrste oz. intelekta lahko upraviči slednjo, inferirorno varianto.

NIKAKOR pa ne smemo stremeti h tej drugi, preprostejši rešitvi (razen seveda, če je le ta prostovoljno zasimulirana, začasna in reverzibilna).
Bolj jasen ne morem biti.

Ne mislim sklepati _nobenega_ kompromisa, z o tem drugače mislečimi.

Si prepričan, da je dobro biti tako tog pri tako dolgoročnih odločitvah?

Vedno je potrebno upoštevati določeno mero margina of errorja, določeno mero neznanja in nepredvidljivosti.

Mar aksiome ne bo postavljal SAI, ki bo odočal kaj je "najbolje" za nas?

In če je tako bi bilo pametno že vnaprej vedeti, kaj naj bi to "najbolje" bilo.

Se popolnoma strinjam.

Ampak zanimivo - v bolj preteklih straneh te teme sem imel občutek, da zagovarjaš popolno zaupanje SAI, da sam izbere najboljšo odločitev za nas, še preden (če sploh) se zavemo kaj ta odločitev sploh je.

Da smo ljudje preveč razdvojeni in omejeni, da lahko sami izberemo optimalno rešitev.


AMpak OK - tukaj se strinjava - ljudje se moramo odločit, kaj točno hočemo.
Kar je obenem problem, kot vidiš.

Vsak scenarij ima svoj A in svoj B. V Protokol zapišemo Z=2*A+B?

In kako boš kvantificiral užitek (utopijo) A in užitek (utopijo) B?

Odloča B in samo B, v resnici. A je le za niveliranje B-ja.

Mimo tega ne moreš, kakor čudno se že to sliši.

Verjetno si mislil prav obratno (če sem te prej prav razumel).

Izračunajte kolikšna je verjetnost, da se zgodi najpomembnejši dogodek v vesolju, za časa našega življenja (100)let, glede na celotno življensko dobo vesolja. Recimo 10^100let.

Če se vam številka še ne zdi dovolj majhna, lahko vključimo tudi pogojno verjetnost, kako verjetno je, da za ta dogodek vnaprej vem, za tiste ki pravijo, da vedo.

Še tako sigurni?

Za nekaj, kar je dejstvo nima smisla računati verjetnost. Kako verjetno je, da je tisti kamen pred mojo hišo točno tak ravno sedaj, ne pa kak drug?

Ko pa napovedujemo dogodke je pa druga pesem. Kako verjetno je, da se bo najbolj svetleč kamen v celotnem vesolju pojavil pred mojim vhodom za časa mojega življenja in bom jaz v naprej to vedel?

Ko že tako poudarjam svobodno voljo...

Maks. svoboda bi bila tudi izbira med raznimi vrstami Singularnosti, ki bi (morda) delovale vzporedno.

Recimo nekje en Orgazmatron na biološki podlagi (recimo en reverzibilen "Matrix" style, ampak samo z pleasurjem in drogami), na drugem mestu pa pravi Upload zavesti z popolno izgubo biološkega substrata.

Zakaj kompliciram?
Tudi če se z demokratično (51%) večino odločimo za določeno vrsto Singularnosti - kaj bo z vsemi ostalimi, ki tega nočejo?
Nekateri bodo hoteli druge vrste Singularnosti, nekateri pa bodo kategorično zavračali vse vrste "napredka".

Jih boš prisilno vrgel, kamor si ne želijo? Jih boš brainwashal?...

Kakorkoli obrneš - Singularnost bo bila postopen proces (oz. to hočemo - vse ostalo je hitro vsiljevanje sistema brez možnosti upora). Prvo bo nekaj ljudi šlo notri, potem verjetno vse več...
Ampak kako ohranit stabilnost delovanja nekega Uploada, ko pa imaš potencialne ekstremiste zunaj hardwara, ki ga lahko kadarkoli (vključno s tabo) razbijejo?

Kaj pa je dejstvo? Tvoje kalkulacije o starosti in velikosti Vesolja vzameš za dejstvo?

Ja privzamem in tudi ne računam verjetnosti za dejstva. Iz nekih privzetih dejstev računam verjetnosti. Lahko vključimo še kakšna dejstva po potrebi.
Samo vprašanje koliko so bistveni argumenti tipa; "avtomobili se vse bolj razvijajo, poleg tega pa vemo, da so prav tako kot možgani, sestavljeni iz atomov, torej bo kmalu..."

Samo ti jih ne, zato tvoj "izračun" ni argument. Na isti način bi lahko pred poletom na Luno - "kako verjetno je, da bo po vseh milijardah let, ravno jutri prvi človek na Luni". Ali pa "kako verjetno je, da živim ravno v generaciji po prvem obisku Lune". Itd. Tega je "neskončno", imenuje se doomsday argument in zasluži posebno obravnavo.

Ja pa čakej, kaj pa je to posebnega. Da bo nek človek oddaljen od nas za več kot kadarkoli do slej? To se že stalno dogaja od začetka človeške vrste.

Kako to primerjaš z nekimi procesi, kot je nenadno ugašanje vseh zvezd in celo galaksij, ko vemo na kakšnih časovnih skalah se dogajajo dogodki povezani z zvezdami? Tu gre za najpomembnejši dogodek po big bengu, ne?

Kaj pa je ta posebnost s kozmološkega stališča? Mešanje osnovnih delcev, kot pri vsakdanjem delovanju Vesolja. Nič posebnega.

Zato je ta "najbolj posebni dogodek" slabo definiran in kot tak sploh nima vstopa v enačbo.

Kar vidimo je eksponentna rast (ineligence), ostalo so logične posledice. Nobene nuje ni, da gledamo ravno iz tistega vidika "posebnosti". Fizika ostane, kakor je ostala po nastanku življenja, ista kot je bila.

Kar se bolečine tiče, napovedujem svoj veto. Bomo videli, če bo kaj pomagal.

Nobene potrebe ni ne za bolečino, ne za slabo volje in ne za slabo estetiko. Potreba je po eliminaciji vsega tega.

Potreba za bolečino je samo alarm za nadaljne poškodovanje, v sedanji zevoluirani biološki situaciji. Vsaj za nas, ljudi.

Je pa tega mehanizma zvrhan koš, ker deluje "velikodušno", tudi ko nevarnosti več ni, ali pa celo kar tako, brez tapravega haska.

Po definiciji bolečina ljudem ni všeč in trpijo zaradi tega. Je pa pri nekaterih stvar taka, da so prekletstvo začeli zamenjevati z blagoslovom in skušajo prešvercati "blagodati" paina naprej. So nekako dvakratne žrtve.

Abolicija vseh, od bolečine in trplenja, je zame imperativ.

Torej govorimo o poškodbah in smrti.

Kako bi torej izgledala simulacija, ko bi se vozil z avtomobilom in doživel težko prometno nesrečo?

-Nesreča se nikoli ne bi mogla zgoditi
-Nesreča se zgodi, ampak avto in ti prideta ven, kot da bi zadela v zgolj ogromno mehko peno (čeprav si se zaletel direktno v nasproti vozeč tovornjak)
-Nesreča se zgodi, avto se zdrobi, ti ostaneš zdrobljen v avtu brez vsake bolečine dok te ne osvobodijo
-Nesreča se zgodi, avto se zdrobi, ti pa prideš ven nepoškodovan (oz. te simulacija teleportira ven, saj v zmečkanini ni prostora za tvoje truplo) in brez vsakega občutka bolečine.
-"Nekaj" začutiš ob vsem tem (pred očmi se ti izpiše beseda "pain!, pain! da imaš "kao" neko referenco)", ampak ne moreš umreti in se gre zgolj za nek tretji feedback feeling, nekakšno nelagodje.
-Nekaj tretjega....

Res me zanima.