Bela, zelena in modra soba

To je kontrapropaganda, BW. Tko ti zastopiš, to vem.

Ampak SAI te lahko prepriča v karkoli.

To jest po eni strani vem, da je tako.

Po drugi strani pa tudi razumem marka in Odina, ki se jima zdi škoda komplicirat. Oziroma, ki kompliciranje jemljeta kot suboptimalno.

Po moje, bo ravno zaradi večinskega mnenja, ki ga tukaj zastopata Valentin in Timor, BO potrebno zakomplicirati. What the heck!

Ja. Jest sem za (friendly) upload, ne za reload.

Ker če sem jest recimo še dovolj korajžen, da bi skočil tudi v reload, bi taka strategija preveč zmanjšala verjetnost uspeha projekta.

Bomo že zato rajš nekoliko pokomplicirali. To stay on the safe side.

Ja, jest sem ga bil že omenil. Ne vem, če ga je v tem smislu že kdo pred mano. Mislim, da ne. Ampak ni važno.

@BigW

Marsikomu je ideja že danes privlačna.

In kaj je alternativa:

Ker vemo da vas zanima samo zdaj in tukaj, vam predlagamo, da se ne obremenjujete z vprašanji o prihodnosti.
To da Zemlji grozi smrt in s tem tudi vam oz. človeštvu, je postranskega pomena za vaš moto. Za to bodo poskrbeli drugi, ki pa jih nikar preveč resno ne jemljite, saj utegnete naleteti na probleme, ki vas bodo samo obremenjevali, ker jih ne boste mogli ali pa hoteli razumeti.

Privlačno, a ne?

o+ nevone

BW:
Če bi razumel, bi vedel, da sploh ne potrebujemo vernikov.
Sploh pa noben nebo silil nobenega za vstop v Protokol, niti SAI.
Bo dovolj prostovoljcev. Dovolj je načeloma eden.

V osnovi bi bilo tudi povsem dovolj, da se naredi copy/paste ene same instance self.exe (ali pač tistih nekaj arhetipskih, ki sestavljajo bazen človeških Jazov) v toliko izvodih, kolikor jih ima SAI za potrebno. Pa imam nekako občutek, da je človekov zevoluiran gon po preživetju (ki kakopak ne upošteva nobenih inštanc) še vedno dovolj močan, da bo v AI vstavljen kak safeguard pred tem.

Pa tudi sicer se mi, _marko, tvoj pogled ne zdi kaj preveč optimalen. Precej preprosteje bi bilo vsak memory direktno nalotat na max pleasure, pa naj bo ta spomin seks z Andželino Džoli, zloraba s strani duhovnika v otroštvu ali pa dvajsetletno neprestano mučenje medieval style. Dokler ti vse prinaša max pleasure je itak vseeno, za kaj se gre. S tem bi se izognil porabi procesorskega časa (pa čeprav minimalni), namenjenega za računanje optimalnega spomina, dosegel bi praktično isti učinek, pa še precej bolj heterogeno populacijo uploadanih self.exejev bi imel. Kar bi bil, če ne drugega, bil rahel edge v primeru, da bi karkoli šlo narobe.

Iz istih razlogov tudi ne vidim razloga za kakršnokoli modifikacijo memplexa v primeru deviantnosti od mainstream normativov, kar zagovarja Thomas. Dokler ne moreš komurkoli zadejati paina in če od vsake akcije dobiš optimalen pleasure je prav vseeno, če si dobri samaritan, pedofil ta hujše vrste ali množični samomorilec. Samo toliko, da se vsi miselni pretoki prevežejo na največji možen užitek.

Čeprav bi vse tole verjetno bolj spadalo v Protokol. Oh, well. :)

Thomas, jaz imam pa eno tako preprosto vprašanje - zakaj ne bi vsak upload obstajal enostavno v svojem svetu izoliranem od drugih in imel pač nasimulirano kakršnokoli dogajanje za max. pleasure (če že ne tisto o čemer sem enkrat zadnjič govoru, namreč enostavno umetno ustvarjen pleasure na principu droge)? .

(no upam da nisem čist mim usekal)

> Itak, da se bo zaradi človeške narave prej zgodil vaš način, ki je meni trenutno popolnoma zadovoljiv.

Ja. Ampak prej kot v milijardi let bo pa potem po tvoje.

Jest vem, da se ti ne greš nobene propagande, da se ti gre za resnico. Propagando se grem jest.

Po domače rečeno - jest vem, da midva sva SL4 - ampak jest sem tud machiavelist, ki ne bi razburjal SL3-.

Med nama rečeno.

Moje osebne preference? Mr. Darcy.

Zakaj bi dal človeku toliko svobode pri izbiri tega, kar je najboljše zanj?
Sam veš, da bo to izbral v takem stanju kot je danes suboptimalno. (zagotovo slabše kot SAI)

S tem smo potem že globoko v (nesmiselnem?) vprašanju smisla našega obstoja. Če ta je, po vsej verjetnosti kopiranje zavesti in še marsikaj drugega ne bo delovalo, drugače, čemu bi se potem trudil z varovali, češ Oskrbnik nas ne sme izklopiti in porabiti dobljeno računsko moč za boljše zvočne učinke pri partiji 17-dimenzionalnega šaha s še 4 instancami samega sebe?
Saj je vendar bolj pameten od nas. Skratka takšno mišlenje je protislovno, izvira iz prevelike želje po popolnosti (ki je zapeljala že mnoge). Sistem bomo postavli mi in kot takšen bo odseval vsaj nekatere naše predispozicije. Precej bolj koherenten sistem dobiš, če aksiome izeplejš iz opazovanj našega obnašanja, kot da si mi spišemo le peščico božjih zapovedi, s katerimi skušamo preseči sebe.

SAI je dvorezen meč, še več, ročaja precej manj kot rezila.

> Jaz ne zaupam popolnoma človeku pri tej zadevi.

Tudi jest ne. SAI je bolj zanesljiv svat od človeka. Po vsej verjetnosti. Magari bil jest sam ta človek.

V primeru da bi upload hotel posvetit nekomu, ki je še out pa...ne bi bil rad v njegovi koži

NE, ni mogoče.
Napaka na uploadu, takojšne popravilo s strani SAI.

Mišljenje, da bi se moral maščevat vrjetno ni preveč zanimivo ter ne prinaša dovolj užitka.
Torej spet ne gre...

Opažam, da vidim precej drugačno sliko Protokola kot večina...

Opažam, da vidim precej drugačno sliko Protokola kot večina...

Ja, ti si preveč pogolten, zato imaš zelo nepredvidljiv sistem. Kar se mene tiče, ne bi polagal svojega nadaljnega obstanka v protislovno situacijo, niti ne bi bil rad "porabljen" za višje cilje. To sta najbolj verjetna poteka dogodkov, če nekaj aksiomov postaviš sam, z vso svojo nepopolnostjo in subjektivnostjo, ostalo pa je povsem racionalno.
Vsakemu svoj peskovnik brez pretiranih posegov je povsem zadosti.

Tudi jest ne. SAI je bolj zanesljiv svat od človeka. Po vsej verjetnosti.

SAI lahko išče luknje v našem aksiomatskem sistemu in simulira mogoče razplete. Poseben SAI, ki ima za nalogo, da nas uniči, ampak mora upoštevati pravila igre.

Ja, ti si preveč pogolten, zato imaš zelo nepredvidljiv sistem.

V tem primeru daš SAI testirat sistem, za določen subjektiven čas.

Owca:
Praviš, da je moj sistem nepredvidljiv, jaz pravim, da je tisti sistem, ki dovoljuje preveliko vmešavanje človeka v izdelavo Protokola nepredvidljiv.

Razloži kaj se tebi zdi najbolj pametno.

Praviš, da je moj sistem nepredvidljiv, jaz pravim, da je tisti sistem, ki dovoljuje preveliko vmešavanje človeka v izdelavo Protokola nepredvidljiv.

Razloži kaj se tebi zdi najbolj pametno.

Meni se zdi najbolj pametno imeti sistem, ki je za varovance nespremenljiv, naj se optimizira le ogrodje. Pri takem pristopu ni nobenih presenečenj onkraj kvantnih fluktuacij, enostavno poženemo simulacijo in v dnevu ali letu iztrebimo vse ščurke.

SAI naj bi "vedela vse" kar mora vedeti, da preživi v katerikoli situaciji, da postane neuničljiva.

Uničljiva, vsej naj bo uničljivo, samo da mi ne trpimo.

akšen computing bo pa izvajala v dobro zavesti bomo morali definirati prej, ali pa pustiti odprto za modifikacije.

Prej.

Kdo dejansko te modifikacije potem potrjuje je sedaj težko rečt. Ali mi ali SAI, ali pa med nami sploh ni več razlike.

Če dopustiš modifikacije efektivno ni več razlike, saj nam lahko SAI vsadi svoje motive. To je zelo resna nevarnost. Še posebaj, če bi si pustili popolno kontrolo nad aksiomi.

>Če dopustiš modifikacije efektivno ni več razlike, saj nam lahko SAI vsadi svoje motive. To je zelo resna nevarnost. Še posebaj, če bi si pustili popolno kontrolo nad aksiomi.

Nevarnost ni, da nam vsadi svoje motive, saj so lahko boljši od naših. To se dogaja že danes med ljudmi, da si vsajamo motive. In če nam je kakšen všeč, ga z veseljem sprejmemo. Bolj neugodno je, da se zgodi napaka in nas enostavno poradira. Še bolj nevarno pa je da nas opremi z pain qualijo. Zato je treba pain komponento iz količnika p/p umaknit. Potrebujemo samo pleasure in variacije na to temo. To da je danes nekaterim pleasure tisto, kar je drugim pain, je problem tega sistema. SAI bi morala imeti vgrajeno zagotavljanje samo pleasurja. Da ne bi prihajalo do navzkrižnih interesov, bi moral vsak pred vstopom v upload na dekontaminacijo. Kar sistem zavrne, je treba popraviti in nadomestiti z nečem drugim. Seveda bi moral imeti vsak možnost, da te vrste dekontaminacijo zavrne, samo potem ga sistem ne spusti naprej. Je pa vprašanje, če bi sploh kdo zavrnil dekontaminacijo, če bi bila dobro narejena.

o+ nevone

Nevarnost ni, da nam vsadi svoje motive, saj so lahko boljši od naših.

SAI mora biti brez takšnih motivov, torej nam jih ne more vsajat.
Zakaj gledaš na SAI kot na nekega človeka z svojimi motivi. To ne sme obstajat.

Da ne bi prihajalo do navzkrižnih interesov, bi moral vsak pred vstopom v upload na dekontaminacijo. Kar sistem zavrne, je treba popraviti in nadomestiti z nečem drugim

Sej pravim, nepotrebno kompliciranje.
Enemu bi to odstranili, drugemu spet drugo...
Bistvo=zavest se naj pusti, drugo pa naj SAI nam določi.
Vi se stem ne strinjate, ampak sčasoma pridemo do tega, logična posledica.
Bistveni varneje, bistveno boljše. IMO.

Kje ti tu vidiš nestabilnost jaz nevem.(mogoče v tem delu, kjer mi določimo osnovne axiome?)

Če nas ne spreminja, nikoli, niti ob uploadu ne, potem nestabilnosti bolj ali manj ni. Čim, pa pustiš SAI preveč (recimo korak onkraj razlikovanja med instancami je iz našega vidika že tak) proste roke, imaš probleme (seveda le iz našega gledišča, ampak kar se mene tiče, je to zadosti). Lahko se igramo z abstrakcijo in redukcionalizmom zavesti, ampak tu se skriva velika nevarnost. Že omenjeno vprašanje smisila obstoja, ki je nesmiselno in nikoli ne sme prideti pred SAI.
Kaj potrebujemo za zavest? Nek samozavedajoči se proces. Koliko bitov in računanja je za to potrebnega? Ne pretirano. Smo turingov stroj. Torej lahko problem poljbno prenašamo med turingovimi stroji. Recimo, da si zberem H-atom (predpostavimo, da je površina v planckovih piksilh zadostna). Ugodje definiram kot čim nižje energetsko stanje. Nato večino vesolja predelamo v H-atome. Še vedno blesteče sledimo vsem zapovedim. Je to še vedno dobra rešitev za nas? Logična verjetno je.

SAI nam ne more vsiljevat svojih motivov! Nevem kako si to predstavljaš, sej sam veš, da če nima motiva, ki ji pravi, da nam mora vsilit svoje motive tega nebo storila...

Verjetno bo imela motiv, da naj zoptimizira svoje delovanje. Če pride kakšna takššna modifikacija v navzkriž z našim dobrobitom, ki je pogojen z našimi motivacijami, lahko to težavo, potencialno protislovnost, odpravi tako, da nam spremeni motive, če ji pustimo, da nas spreminja. Vse to izvira izklučno iz zasnove sistema.

To da je danes nekaterim pleasure tisto, kar je drugim pain, je problem tega sistema.

Toliko kot je sobopleskarju problem, da imajo nekatere stranke rade modro spalnicu, druge marelično oranžno.

Da ne bi prihajalo do navzkrižnih interesov, bi moral vsak pred vstopom v upload na dekontaminacijo.

Če me ne spremeniš, odkrito priznam, da nimam takšne domišlije, da bi s svojo zahtevnostjo ogrozil sistem, niti je vsi skupaj nimamo. Podati se na zelo tanek led, samo zato, da bomo morda namesto miljardokrat bolje stomiljardokrat bolje živeli je pohlep.

Seveda bi moral imeti vsak možnost, da te vrste dekontaminacijo zavrne, samo potem ga sistem ne spusti naprej.

To prinese kopico novih težav, ampak to je bolj tema za Protokol.

Verjetno bo imela motiv, da naj zoptimizira svoje delovanje. Če pride kakšna takššna modifikacija v navzkriž z našim dobrobitom, ki je pogojen z našimi motivacijami, lahko to težavo, potencialno protislovnost, odpravi tako, da nam spremeni motive, če ji pustimo, da nas spreminja. Vse to izvira izklučno iz zasnove sistema.

Hja, spet ne drži.
SAI naj ima motiv, da zoptimira svoje delovanje, vendar ne preko vrhovnega axioma, da naše zavesti ne spreminja! In ne preko vrhovnega axioma, da nam povzroča pain ali manjša pleasure. -> sledi, da nam ne more vsiljevati svojih ali novih motivov ali pa da nam te spreminja, saj teh axiomov ne more spreminjat, le držat se jih je vedno dolžna.
Torej je ta tvoj strah odveč.

Podati se na zelo tanek led, samo zato, da bomo morda namesto miljardokrat bolje stomiljardokrat bolje živeli je pohlep.

Jaz vseeno mislim, da je tvoj led tanjši od mojega! Sploh se tu ne gre za pohlep, ampak je dejansko varneje naredit na ta način.

SAI naj ima motiv, da zoptimira svoje delovanje, vendar ne preko vrhovnega axioma, da naše zavesti ne spreminja! In ne preko vrhovnega axioma, da nam povzroča pain ali manjša pleasure. -> sledi, da nam ne more vsiljevati svojih ali novih motivov ali pa da nam te spreminja, saj teh axiomov ne more spreminjat, le držat se jih je vedno dolžna.

Zgrešil si poanto. Ne gre za to, da bi en aksiom prevladal, ampak da bi prišlo, do nam preveč tuje interpretacije, kot je prej omenjena redukcija na H-atom, ki je še vedno povsem konformna.

Jaz vseeno mislim, da je tvoj led tanjši od mojega! Sploh se tu ne gre za pohlep, ampak je dejansko varneje naredit na ta način.

Zakaj?
Če vsakdo dobi svoj peskovnik, ne more priti, do navzkrižja interesov.
Medtem, ko ti ne moreš dokazati, da je tvoj pristop varen, ker ne boš nikoli imel dovolj računske moči, da bi lahko samooptimiziranje Protokola simuliral hitreje, kot se bo dogajalo za njega celotni obstoj. In pomembna je vsaka sekunda, saj lahko subjektivno traja zelo dolgo.

Človek ima varovala, ki jih mislimo implementirati v Protokol, do neke mere že vgrajena, če smo v nevarnosti, vsaj do neke mere tudi trpimo (ni nujno, da le-to prevladuje, vsekakor pa je prisotno v večji meri, kot sicer). Da bi odstranitev dodatne varnosti vodila na trši led? Dvomim.

Kaj pa če pride v situacijo, ko ugotovi, da mora za nadaljne delovanje spremeniti kakšen aksiom.

Zato mora biti vedno opcija samoizklop.
Spreminjajoči se aksiomi so nesmiselen koncept.

Zgrešil si poanto. Ne gre za to, da bi en aksiom prevladal, ampak da bi prišlo, do nam preveč tuje interpretacije, kot je prej omenjena redukcija na H-atom, ki je še vedno povsem konformna.

Ja, sej tukaj se razlikujema, še tako tuja interpretacija(to se nam zdi trenutno) ni zgrešena, dokler držijo axiomi. Če smo čist zadovoljni na h-atomih, zakaj tega nebi storili?
Zavest ostane nespremenjena, pleasure je blizu maximuma...
Vse štima!

Spreminjajoči se aksiomi so nesmiselen koncept.

Točno tako!

Če se bodo ti sklepi dali preverit, potem jim bom popolnoma zaupal in bom želel Protokol po tem vzorcu!
Sej vsi ostali načini bodo po določenem času optimizacije postali enaki.

Sej že skozi pravim, da je treba prej dat testirat za nekaj časa.
Slepo ne verjamem nobenemu popolnoma - niti sebi. Smo preveč zmotljivi. SAI pa bo morala bit logično neprotislovna, mi žal nismo.
Če so axiomi pravilno postavljeni pa komot zaupam SAI.
SAI rabimo vedno, saj skrbi za nas v primerih kvantnih fluktacij.

Možnosti, da se nam zgodi kaj slabega oz nepričakovanega so tu minimalizirane.

Ne gre to tako.

Vprašanje na katerega je potrebno odgovoriti je.

Ali možnosti, da se nam zgodi kaj slabega, obstoje ali ne?
Če obstoje, je najmanj kar je potrebno najti odgovor. Zakaj.
Pa še to je premalo.
Terja se namreč naj slepo zaupam/o nekei SAI, za katero niti ne vemo kako se bo v resnici odzivala na zunanje ali notranje probleme-izzive, Posebaj še takrat, ko bo ali bi lahko bil ogrožen njen obstoj.

Dokler nimamo odgovra na ta in takšna vprašanja, je to več kot tvegan "projekt".