Protokol

kaj pa, če bomo nekoč (preden se uploadamo)imeli odgovore na vsa vprašanja in pravzaprav naš obstoj ne bo več imel nekega smisla :)

in kaj se bo zgodilo, ko bo cel svet enako razvit in bodo hoteli vsi na počitnice? nekdo bo mogel še vedno delat....

Pri Slovencih ta sistem ne bo deloval, ker smo srečni le takrat, kadar smo nesrečni.
(prosto po Hudečku)

Nespremenljivo ni nič, to je menda jasno.

Samo, če ptiča spremeniš v psa, to ni več isto. Ni več ptič, ampak pes, torej nekaj drugega. Ali je zdaj kaj "boljši" je pa že drugo vprašanje.

Da rezimiram. Jaz (in še mnogi tukaj), se zavzemamo za vzpostavitev obveznega Protokola, znotraj katerega bo življenje (zelo) ugodno. Ta Protokol bo imel kar precej znamenj človeške vrste in naše današnje kulture, hkrati pa bo neverjetno advanced in enhanced. Hiperidealizirani mi, v hiperidealiziranem svetu. Cena - vse Vesolje, kar ga je.

Drugi, kot Yudkowsky, še ne vejo kaj točno bi. Bi pa nekaj "manj pritlehnega", kot je enostavna drastična ekstrapolacija human mindseta.

Ostala večina ... se kvečjemu čudijo, kaj teli bluzijo.

@lymph

Saladinu in nicnevem je raziskovanje in razvijanje najvišja vrednota - najvišji užitek.

Kot prvo, ne vem katera vrednota je pri meni najvišja niti nisem prepričan, da je to sploh smiselno vprašanje. Naš motivacijski sistem ni zasnovan tako čisto, da bi v njem nujno obstajala hierarhija vrednot z jasno ločenimi nivoju. Lahko imamo preferenčno ureditev oblike U1 > U2 > ... > Un > U1 ali pa kako drugo nekonsistentno obliko ureditve v kateri je pojem najvišje vrednote nedefiniran.

Nadalje, užitka in vrednot ne moreš enačiti. Ni vse, kar imamo za dobro, reducibilno na užitek. Užitek seveda cenimo visoko, tako da je ena izmed naših vrednot. So pa tudi druge...

Pri raziskovanju cenim tako užitek, ki ga prinaša (torej svoja subjektivna stanja), kot samo dejavnost raziskovanja. (to je lepo pojasnjeno v članku, ki sem ga linkal zgoraj). In ko sem že ravno pri tem, mnogo bolj uživam v drugih dejavnostih kot pa pri študiju (kar naj bi po hedonistični teoriji morale močno znižalo vrednost študija), vendar kljub temu cenim dejavnosti z nižjim užitkom višje! Kar pa samo pokaže, da je hedonizem pomankljiva teorija...

Karkoli si želiš od Protokola, Singularnosti, vse se zreducira na neke osebne cilje - ki pa so temu posamezniku pod do PLEASURA.
Sam cilj raziskovanja in razvijanja ni nič drugega kot pot do UŽITKA.

Mi je prav žal, motiš se. Ni samo užitek tisto, kar me zanima.

Recimo da bi enak ali boljši subjektivni izzid lahko dosegel z magično tabletko, za kar bi sicer potreboval dolge mesece raziskovanja. Poenostavljeno: enako bi užival, le da brez truda. Bi vzel takšno tabletko? No way.

(ta primer in daljša razlaga v že n-krat omenjenem članku)

Sicer se pa že ponavljam in ker loopanja ne maram, bom raje nehal. Kdor želi razumeti naj si prebere kaj o etiki in različnih moralnih teorijah - poleg povzetkov, ki jih je Yudkowsky objavil na overcomingbias. Kdor pa želi še naprej ponavljati kako je p/p princip vse kar lahko rečemo o človeški morali... well, me ne zanima. Imamo kupe knjig o etiki, o različnih opisnih in normativnih teorijah morale in kdor je pripravljen vse to pomesti pod preprogo nekega preprostega principa... se odmika daleč od resnice.

Najprej povej svojo definicijo morale, preden lahko sploh debatiramo. Brez tega ne bo šlo, zavedanje da o tej tematiki piše veliko knjig ne bo zadosti. Torej?

@Thomas

Rather primitive je pestovati eno bolečino in jo vleči s sabo. To je primitive. Biti tako globoko odvisen od neugodja, da ga smatraš za nekaj dobrega.

S tem se celo sam strinjam. ;)

Čisto resno, to sledi vzorcu po katerem ljudje v umiranju vidijo nekaj dobrega. Ubogi zavedeni ljudje...

Kar se tiče scenarija ki ga zagovarjajo nicnevem, Yudkowsky, Bostrom ... pa tkole. Če želijo tako polno in raziskovalno življenje, imajo prostor samo v matematiki in raznih igrah, kot je šah, go, poker ... predvsem s čisto teoretične strani. Preostane jim samo dokazovanje teoremov, ker fizikalnih pustolovščin zmanjka.

Kar se tiče raziskovanja imamo kup nerazrešenih filozofskih in drugih znanstvenih problemov in nič ne kaže da bi teh kaj hitro zmanjkalo, tudi ob povečevanju naše inteligence. Poleg tega pa moja medla predstava utopije ne vsebuje le 'večnega študija'. Imamo še ustvarjanje umetnosti in drugih lepih ter uporabnih stvari, seveda pa ne manjka tudi poležavanje na plaži, smučanje in kak sprehod v čudovite gore, dokler se tega ne bi naveličal. Ključna pa je rast kognitivnih kapacitet, izboljševanje v klasičnem transhumanističnem smislu. Sčasoma bi rad zrastel v superinteligenco.
Je pa seveda še mnogo drugega. Prava utopija je kompleksna, ker je pač odsev naših vrednot. Paperclip maximizer si želi le čimveč sponk, mi pa pač nismo tako preprosti.

Takole situacijo smo že imeli. Ko sta davni prednik Thomasa in nicnevema, recimo da jima je bilo ime enako kot njunima potomcema, imela takole debato ...

Zabavno (čeprav zgrešeno). :)

Ok, kako je s svobodo v Protokolu? V Orgazmiumu je očitno ni, ker ljudi niti v medlih obrisih ni več. V Protokolu pa... so stvari zapletenejše.

Moja vizualizacija Protokola je nekako takšna, da obstaja v njem nek podsistem, ki ne dovoljuje dejavnosti, ki ne prinašajo neke minimalne zahtevane količine užitka, preprosto rečeno. Sicer pa gre za bolj ali manj enak svet kakršen je sedaj (seveda brez bolezni, umiranja, lakote ipd.). Naše ostale vrednote so vključene vanj s tem ko prenesemo svoj politični/pravni sistem s seboj v simulacijo.

Če želim v tem svetu na sprehod v gore, mi bo to dopuščeno ali me bo kar teleportiralo na vrh, da ne bi slučajno preveč trpel po poti?

Takšne situacije se zlahka najdejo, za odgovor nanje bi pa potrebovali natančnejšo specifikacijo Protokola.

Je pa problem globji kot se zdi. Temelj transhumanizma kot moralne filozofije je izboljševanje naših kapacitet. S tem ko preidemo na drug substrat, naredimo pomemben korak v to smer, vendar v bistvu nič korenitega. Naše kognitivne arhitekture še vedno nosijo podpis evolucije - kar sicer ne pomeni, da je vse skupaj zanič, marsikaj pa bi bilo vseeno dobro spremeniti. Sčasoma naj bi s tem postali mogočna bitja precej daleč od ljudi ali bogov starih Grkov...

Bi bila takšna transformacija v Protokolu mogoča? Če samo pogledamo, kaj bi naredil modul za ocenjevanje užitka, ustrojen po meri ljudi. Bi ta bitja, v katera bi zrastli, čutila užitek na takšen način kot mi? Bi imela nek ekvivalent temu? Ne vem...

Užitek je tesno prepleten z reinforcement learningom, na katerem temelji del naše kognitivne arhitekture. Z radikalnejšimi spremembami arhitekture, bi pojem užitka lahko postal zelo drugačen in s tem neviden modulu za njegovo ocenjevanje v Protokolu.

Poleg tega pa bi morda Protokol prepovedal takšen razvoj dogodkov zaradi drugih razlogov. Recimo, lahko bi ocenil, da bi s tem odžrli preveč sredstev, kar bi znižalo pričakovani užitek drugih sentientov.

Se bojim da Protokol ne dopušča ogromne množice dejavnosti, ki jo štejem kot nujno za utopično življenje. Bojim se tudi, da bi to lahko ugotovili (če bi sistem sploh pustil) šele kasneje, ko bi bili temelji sistema že nepremično na mestu.

Ah, vi kar imejte svoj Protokol. Saj vas bom kaj obiskal čez nekaj tisočletij in rešil iz zagate. ;)

Ok, samo še tole:

@Double_J

To, da nekaj ceniš je samo vrsta pleasurja. V protokolu lahko nič ne študiraš, vendar imaš stalno občutek kako zelo ceniš svojih milijon let posvečenih študiju.

Poleg užitka ob študiju je pomemben tudi sam študij. Samo pozitivni občutek ni dovolj, da bi bila moja želja izpolnjena. Poleg subjektivnega potrebujem še objektivno. Imaš pa to pojasnjeno tudi na enem izmed linkov, ki sem ti jih dal - sem pa napisal nekaj o tem tudi lymphu malo višje.

Poleg užitka ob študiju je pomemben tudi sam študij. Samo pozitivni občutek ni dovolj, da bi bila moja želja izpolnjena. Poleg subjektivnega potrebujem še objektivno. Imaš pa to pojasnjeno tudi na enem izmed linkov, ki sem ti jih dal - sem pa napisal nekaj o tem tudi lymphu malo višje.

Tvoja želja je izpolnjena, če imaš občutek, da je izpolnjena. To, da potrebuješ še objektivno, je spet nov občutek. Ker ga nekateri ostali skoraj gotovo prekašajo, tega občutka verjetno ne bomo jemali s sabo.

Ja, jaz nočem, da je prihodnost preveč piflarska. Nočem niti, da je preveč "multikulturna". Ne verjamem, da bi pristal, da se v Protokolu časti kakšnega boga.

Tisti filmček, ki si ga dal, v bistvu na nezavedni ravni zelo lepo opiše Protokol.

Predvsem scena, kjer tipček kao dirigira tistim "robotom", ki potem vsi enakega izgleda recitirajo iste stavke. Analogija s totalitarizmom in pranjem možganov je popolna.

Tudi sicer razen tipčkovih besed od Protokola ni še nič konkretnega. Tipček se navdušuje in hvali zadevo, ki je sploh še ni, ki je totalno oblakih. Ne da niti prototipa ni, še ideja ni do konca izdelana. Ostane le verjetje oz. - vera. Analogija z religioznim dogmatizmom in nekakšnim obljubljanjem nebes nekoč v daljni (megleni) prihodnosti je tudi popolna. Gre zgolj za neoprijemljivo idejo, ki sicer ima neko notranjo logiko, vendar "od zunaj" ni podprta z nikakršnimi dokazi (podobno kot imajo notranjo logiko klasične religije, ko pa jih pogledaš od zunaj, sistem ne sloni na ničemer drugem, kot (slepem) verjetju. "Raji" torej ne preostane drugega kot verjeti samooklicanim "duhovnom", ki pač vidijo v prihodnost.

In če se vrnem na čaščenje Boga. Kljub temu, da ima verovanje v Protokol vse elemente religije, gre za "prosvetljeno" religijo. Nekakšnega Boga "razsvetljenci" pač ne priznavajo. Pozabljajo pa, da so ga nadomestili z Protokolom.

Protokol je tako zgolj visokotehnološki nadomestek za Boga.

P. S. Zanimive vzporednice je mogoče vleči tudi s komunistično religijo. Tudi komunizem ni priznaval Boga, ga je pa nadomestil z "Idejo". In bil je toliko prosvetljen, da se je oprl na lastne človeške sile - ne nek zunanji Bog, sami so bomo zgradili Raj na Zemlji. Enako poslušamo tudi od Protokolistov.

Tudi sicer razen tipčkovih besed od Protokola ni še nič konkretnega.

Normalno, da se najprej pojavi ideja, potem raziskave in razvoj in šele nato stvar zaživi, če zaživi.

o+ nevone

Kar se mene tiče je Protokol v osnovi sistem zasužnjevanja človeštva. Sicer zasužnjevanja z užitkom, a vseeno. Človek bo postavljen na raven domače živali, ki bo lahko odločal zgolj o tem ali ima raje Whiskas ali Kitekat, kot se je lepo izrazil gani-med v neki drugi temi.

O ničemer pomembnem ne bo človek več odločal, to pa zato ne, ker bodo njegovi možgani sprani do te mere, da bo živel samo še za užitek. To v končni fazi pomeni spremembo bistva človeka. Človekovo bistvo je danes determinirano z delom, razmišljanjem in tudi trpljenjem. Človek, ki ne bo izkusil nič od tega pa bo fizično sicer še vedno človek, duhovno ali duševno pa ne več.

Seveda je odveč tudi poudariti, da bo za užitek pripravljen storiti karkoli.

To velja, če bo kdaj Protokol sploh zaživel. Do takrat pa lahko vidimo, da ima singulartizem močne elemente religije in pranja možganov. Ampak ker imamo pri nas svobodo veroizpovedi lahko vsaj verjame v kar hoče. Celo v Cerkev Svetega Googla.

Sej edini tapravi spor, bolje disout, je tukaj MED Singularitanci.

Grupo, ki jo predstavlja nicnevem na eni strani in med grupo, ki jo predstavljam jaz na drugi strani. Zelo zoprno mi je udrihati po nicnevemu, ker on je, kot sem enkrat že rekel, name napravil vtis enega najbolj pozitivnih ljudi, kar sem jih kdaj srečal.

Ampak tako pač je, da se tukaj ne strinjamo. Yudkowsky, Bostrom, Anissimov, nicnevem in drugi, bi radi stvar odprto. Zaprto samo toliko, da mi še obstanemo.

ČE potem obstanemo. V tem se pa jaz in z mano večina tukaj - z njimi ne strinjamo. Če sistem ne bo zaprt, smo doomed. Pa čeprav smo z zaprtjem "99% potenciala vrgli v luft", smo pač vrgli.

Protokol ni drugega, kot je v prejšnjem postu napisal WarpedOne. Ena taka pravila, ki nas edina lahko ohranijo pri življenju v okolju (bližnjega ali ne tako bližnjega, vseeno) ultratecha.

Ubeljavitev teh pravil medsebojnih odnosov, je vsak dan bolj nujna. Sicer bomo videli, kaj to pomeni taprava Vojna. Današnja pravila ne bodo več zadostna, ko bo nekdo poslal roj nanobotov nad policijo, vojsko in sodišča.

Plus 1000 še bolj verjetnih situacij bo nujno pokriti s pravili. Dati Ustavo ravnanj in jo uveljaviti.

Protokol je poskus zagotavljanja principa 'tvoje pravice se končajo tam, kjer se pričnejo moje' v svetu ultramočnih bioloških in nebioloških osebkov.

Ja če nočeš da te pojebe nek upload šimpanza, ki si je izboril kontrolo nad lastnim substratom in hitro pridobiva resource.

Naprimer.

@ Mathai:
Tvoj strah po mojem izhaja iz napačnega razumevanja človeka. Človek je že sedaj "suženj užitka" oz. svojih hotenj. Temu se ne izogneš nikakor, tudi če si asket, mazohist ali skrajni racionalist. Vsi motivatorji za kakršno koli ravnanje so izven sfere racionalnega in vsi so prek užitka ali bolečine.

"Človekovo bistvo, ki je determinirano s delom, razmišljanjem in trpljenjem", je tudi malo čudna izjava. Če misliš, da je naš um evolucijsko tako prilagojen delovanju v suboptimalnih okoliščinah, da je sreča v optimalnih nemogoča, potem imaš mogoče prav in je bilo to že precej debatirano v tej temi. A to je vprašanje o vsebini protokola, ne njegovem obstoju ali etičnosti.

"Človek, ki ne bo izkusil nič od tega pa bo fizično sicer še vedno človek, duhovno ali duševno pa ne več." Transhumanisti verjamejo v ohranjanje uma, ne telesa. Fizično torej ne boš človek, le duševno, za "duhovno" pa ne vem kaj pomeni...

P.S. Jaz osebno še vedno ne razumem transhumanizma, ker imam probleme z identiteto zavesti. O tem sem se pogovarjal s Thomasom par let nazaj, se odločil da bom malo razmislil in prebral, a še nisem na cilju :).

Večina naj raje samo bere in se "smeje norcem".

To se pa ne strinjam. Naj povedo svoje strahove in pomisleke. Tako jih lahko razjasnimo tudi komu, ki se sicer ne oglaša, ampak tudi vpraša ne.

To da naj se oglašajo samo "tapametni" je piflarska logika, ki praviš, da ji nisi zelo naklonjen.

o+ nevone

Čeprav mislim, da naj o tem odprejo drugo temo, ampak vendarle.

Hja, lih za vsak ugovor ne moreš odpirat nove teme. Ta tema je koncipirana tako, da je treba v njej razčiščevati tudi dileme, ki bi sicer bolj pasale v Probleme človeštva.

Edino, kar po moje ne paše zraven je zatrjevanje, da to itak ni mogoče. Lahko se trdi, da ni mogoče, a mora takšen ugovor vsebovati vsaj zametke argumentirane debate.

o+ nevone

Torej, je moralnost, etika in ustvarjalnost nekaj, za kar je vredno občasno trpeti?

Koliko?

V kakšen namen so sploh moralnost, etika in ustvarjalnost? So same sebi namen, ali imajo višji smoter?

Točno tako. S svojim razmišljanjem smo danes zelo vezani na trenuten način zagotavljanja preživetja. Ko enkrat preživetje ni več pod vprašajem, se slika spremeni.

Če pa seveda ne verjameš, da je možno kakšno drugačno "življenje" kot biološka oblika, ki jo poznamo danes, potem je še kako prav, da razmišljaš na način, na katerega razmišlja večina.

o+ nevone

Smo pač bio-roboti oziroma ena vrsta njih (najbolj sofisticirana med njimi). To bo sicer šlo v nos večini ljudi, ki se oklepa ideje nekakšne 'duhovnosti' in podobnega crapa.
Ideja o 'duhovnem svetu' je le posledica premajhnega poznavanja detajlov delovanja možganov, ki je sicer povsem fizično-biološka funkcija. Tech pa bo slejkoprej rešil tudi to uganko.

Matthai > Užitek v splošnem vodi v pasivizacijo.

IMO je (praktični) problem drugje: v dolgi evoluciji je bilo pač tako, da je bil užitek le trenuten.
Kruta 'mačeha Narava' je pač neizprosna in dokler ne pride do dovolj techa (njegova razvitost in dosegljivost) in vsak uspeh (uspešno pridobivanje hranil/razmnoževanje/zavetje) je bila le kratkotrajna zmaga v neskončni bitki preživetja. Zato se je um moral razviti na tak način, da je vedno pričakoval vsako sekundo novo sranje, ki ga bo treba reševati. Zato po vsaki zmagi pogosto nastopi anksioznost v smislu "kaj pa zdaj - trenutno mi je fino, ampak ziher me za nsalednjim vogalom spet čakajo težave". Do razvoja techa so ti psihološki mehanizmi sicer bili nujno potrebni za preživetje.

V sodobni praksi zato večina ljudi, tudi če je uspešna (ima dovolj denarja) razvije nekakšno psihotičnost/nevrotičnost - ne more se otresti starih mehanizmov, ki prišepetujejo "to je samo prehodno, kmalu spet pride sranje" in morajo venomer nekaj prčkat, tudi če ne bi bilo treba.
Tukaj je pač en hardwiring, ki ga bi lahko poštukali in te mehanizme skenslali - podobno kot bi veljalo ukiniti fizično bolečino, ki z razvojem medical tech vedno bolj izgublja svoj pomen (samo)diagnostičnega instrumenta.

Matthai!

Aha. A to pomeni, da so te tri zadeve zdravilo proti neoliberalizmu, ki je zlo sam po sebi?

Ali pa neoliberalizem povzroča kaj drugega slabega in so trojica "moralnost, etika in ustvarjalnost" inhibitor tistega še večjega zla, ki ga neoliberalizem generira?

Kako se potem tisto zlo imenuje?

username, nevone!

Jaz bi rekel, da je ugodje KOMPENZACIJA za trud. Ni treba nagrajevati niti truda, niti rezultata. Samo poboljšati p/p tako, da človek skoči v mrzlo vodo po leščurja in ga speče.

Brez da je pečen leščur dobrega okusa in brez tega, da lakota ni huda, bi človek kar umrčkal. Ne bi skakal v vodo sploh.

To je ljubezen Mačehe Narave do svojih otrok.

Jaz bi rekel, da je ugodje KOMPENZACIJA za trud. Ni treba nagrajevati niti truda, niti rezultata. Samo poboljšati p/p tako, da človek skoči v mrzlo vodo po leščurja in ga speče.

To je načeloma seveda res. Ampak kompenzacija pride samo, če je bil trud uspešen - če je dal željeni rezultat.

Rezultat truda je torej glavna zvezda tukajle.

Ker če skočiš v vodo in ne uspeš dobit leščurja - ni kompenzacije, ni užitka.

Če skačeš v vodo zaradi samega veselja ob skakanju v vodo - ti je že to kompenzacija.
Pa tudi če greš za zabavo tauhat leščurja, in tvoj motiv ni hrana in ga po uspešnem 'ulovu' daš nazaj - si še vedno dosegel cilj, ki si si ga zadal, čeprav nisi jedel leščurja.
In prav tako nisi dosegel užitka, če ti je v tej 'športni' varianti spodletelo - čeprav tudi potencialen ulov tega leščurja nima vpliva na tvojo prehrano in fizično preživetje in bi bilo glede tega vseeno. Ampak ti si si pač zadal tak športni cilj in merilo je doseganje tega cilja. Samo če je bilo tauhanje uspešno, doživiš ugodje.
Seveda bo kdo porekel 'poleti na morju je že samo tauhanje užitek, tudi če niti ne vidiš nobenega leščurja' - ja, to je res, ampak vseeno si tudi v tem primeru bistveno bolj zadovoljen, če dejansko kakšnega stauhaš...

Sicer vedno bolj zapletam, ampak upam da se vidi poanta..

Kako je evolucijsko prišlo do dojemanja in potrebe za pleasurjem/painom, je relativno jasno.

Ampak kako bi popolna eliminacija paina in določenih svobod vplivala na racionalno zavest, pa definitivno ni jasno.

Predpostavimo, da lahko v simulaciji popolnoma eliminiramo pain in maksimiramo užitek.
Sam si take simulacije sploh ne morem predstavljat (oz. si lahko - ampak to vsekakor ne bi bila "nebesa")

V simulaciji bi tako prijel žarnico - pa te ne bi spekla. Namerno bi se zapikoval z nožem, pa ti ne bi bilo nič. Skočil bi v raztaljeno kovino "terminator/golum" style, pa ne bi občutil ničesar (morda le še neko varijanto očitno izmišljenega pleasurja, da zapolni praznino v občutenju).

ALi pa manj očitne stvari. Kje bi bila meja med nežnim in "grobim" dotikom med ljudmi? Kje bim bila meja med nežnim in strastnim... whatever? Če ni paina (in smrti) bi lahko vzel macolo, udarjal ženo po glavi (ki se ne bi hotela raztreščit) pa bi tako ti in žena pri tem občutila zgolj praznino (ali povsem izmišljen pleasure).

Ko bi to enkrat sentience dojele, ko se enkrat popolnoma izgubi vsaka zadržanost, vsa pravila socialnega obnašanja, vsa zmernost, ...

Kako temu lahko rečeš "raj", meni ni jasno.

Zato spet porečem - imaš potreben pain in nepotreben pain. Celo v simulaciji, kjer sis ama nalogija Boga, potrebuješ določen pain.