Forum » Znanost in tehnologija » Protokol
Protokol
Temo vidijo: vsi
Lonsarg ::
Haha, 3. svetovna vojna, China vs Ameriški Protokol :D
Sam to je čisto verjeten scenarij, ne samo šala.
Sam to je čisto verjeten scenarij, ne samo šala.
Zgodovina sprememb…
- spremenil: Lonsarg ()
guest #44 ::
Problem bo v tem ker Protokol bo v kali zatru deviantno entiteto, starši pa tega ne morejo. In mogoče se iz tiste ideje vsake tolko rodi kaka dobra stvar.
Nekaj deviantnega obnašanja že more bit.
Mogoče pa bo protokol omogočal deviantno ravnanje, le da bo sankcioniral entitete, ki to počnejo. Mogoče jim bo vzel prostost oz. pravice. Hmm, ful mi je znazo...aja...točno pa saj neki takega že zdej imamo...reče se mu zapor!
Še vedno vidim le dve možnosti poteka, prva bo lobotomizirana možnost, druga pa svoboden protokol, kjer se bomo še naprej tepli. Namreč, ta kvadrant vesolja bom jz potreboval ker bi rad simuliral kako zgleda simulacija tega kvadranta vesolja. Frka stari, frka bo, če ne bom dobu svojega kvadranta!
No ajde tretja je še...to je pač če bo samo ena entiteta, ta pa si bo lepo sprogramirala virtualne prijateljčke in imela čajanko na VY Canis Majoris. Zlo zabavno.
Nekaj deviantnega obnašanja že more bit.
Mogoče pa bo protokol omogočal deviantno ravnanje, le da bo sankcioniral entitete, ki to počnejo. Mogoče jim bo vzel prostost oz. pravice. Hmm, ful mi je znazo...aja...točno pa saj neki takega že zdej imamo...reče se mu zapor!
Še vedno vidim le dve možnosti poteka, prva bo lobotomizirana možnost, druga pa svoboden protokol, kjer se bomo še naprej tepli. Namreč, ta kvadrant vesolja bom jz potreboval ker bi rad simuliral kako zgleda simulacija tega kvadranta vesolja. Frka stari, frka bo, če ne bom dobu svojega kvadranta!
No ajde tretja je še...to je pač če bo samo ena entiteta, ta pa si bo lepo sprogramirala virtualne prijateljčke in imela čajanko na VY Canis Majoris. Zlo zabavno.
nevone ::
Svoboda izbire?
Ja. Seveda mora biti izbira toliko pestra, da ti daje občutek svobode. Tudi v tem življenju imaš občutek da si svoboden, če lahko izbiraš me opcijami, ki so ti všeč. Včasih tudi zanemariš, da v bistvu nisi svoboden v namen, da bi ta občutek svobode ostal, kljub dejstvu, da si vpet v neko strukturo, ki te omejuje.
Kaj je bolje - noben protokol ali slab protokol?
Opcije noben protokol sploh ni na meniju. Z obstojem je nek Protokol vedno prisoten.
o+ nevone
Either we will eat the Space or Space will eat us.
Zgodovina sprememb…
- spremenila: nevone ()
donfilipo ::
Vsem ljubiteljem svobode ena vesela novica. Tako imenovana svoboda je že danes, rahlo do pretežno omejena.
-Če vzamemo najoptimističnejšo popularno verzijo, smo vsi židje, ki se moramo strogo držati pravil, ki nas bodo vodile morda do nebes. IN seveda hoditi v šolo, na šiht, v rudnike in na fronte. Imamo knjigo o smiselnem zločinstvu in duševnih perverzijah, a nam iz nje nekako nikoli ni enoznačno jasno, kaj je IN in kaj PASSE. Da ne govorim, da če jo res natanko obvladate in sprejmente kot poslanstvo, vam je prepovedan sex, ker obstaja nevarnost, da bi se učenost preveč razpasla, kar ni dobro za vero na splošno
-Če vzamemo ateistično in liberalno verzijo, se absolutno splača vzeti pištolo in kar počiti prvega mimoideočega, da si zagotovimo vsaj hrano in stanovanje. Vse ostale svobode so precej manj gotove. No pa tudi ta ima določene omejitve jasno. Ampak, ker je družba škrta, reče se ekonomična, kar pomeni sebi privoščijo vam pa ne:), vas bodo kaj kmalu izpustili, da ponovite postopek, na vas pa je, da okoli tega izgradite srce parajočo dramo!
To da vam je nekdo podaril svobodo, ali da jo imate zato, ker ste član liberalne zveze in se lahko delate norca iz resnično odgovorne družbe, je farsa! Če boste kdaj imeli toliko čiste radovednosti, da se boste pomenili s kakšnim pozitivnim klošarjem, in potem še hipernaspidiranim menadžerjem, boste opazili, da kakšne posebne svobode NI! Je pa zelo rutiniran ritual in trenutki sreče, ko si lahko privoščite tisto kar RES želite...včasih
Ta ritual in njegova ideologija, nekaterim da občutek malo večje dominacije, nad ostalimi, drugim ostane veselje upanja, da bodo v skrajni sili brez pridržkov uporabili ultimativno rešitev s pištolo...kar pa seveda ne gre easy, ker nas veže za najmanj eon starejša etika in morala, ki je naseljena v drugem koncu tintare
In ja. Jasno da vse pozitivne spremembe vodijo v antiutopijo. Konec koncev je Aldous Huxley pri pisanju 'Brave New World-a', bil soočen s težavami, ki jih prinaša nov pisalni stroj, in ker je moral še vedno z njim dniniti kraljici je vedel, da kast se pa nekako ne da ukiniti Pa so pojedli kak kaktus in je bilo ludo in jebeš nov pisalni stroj:) Kraljici in raji, ki se stalno dajejo z novimi pisalnimi stroji, pa je bila parodija všeč
Ampak je pa tu še Ebenezer. Skrajno resen racman. On hoče da se kopičijo cekini. In to gre samo z novimi stroji. Pametnejšimi, boljšimi. Ker mu delajo tudi nečaki, naj delajo z varnejšimi in manj napornimi, pa vseeno hitrejšimi. In tu je pa problem. Brez novih strojev ne bo šlo. Ti se bodo počasi razmnožili okoli vas, mnogo hitreje kot osovraženi teroristi, in ja, praktično vsi bodo vsebovali nek AI. Ta AI rabi protokol miniaturne oblike, sicer ne dela. See???? Do krasnega novega sveta bo prišlo. Popolne svobode NI! So približki in veličastne izboljšave. In o tem se tu pogovarjamo.
Če pa imaš pištolo, denar ali doktorat in dobro akademsko pozicijo s količino dnine '0-effectivly' ali 'very little of your choice', mezdo pa recimo 1800EUR, kar je 3x nek korekten minimum, no potem se dejansko status quo pravzav mora zagovarjati etike radi. Hvaležnost big otherju! Pomaga pa nič! Velika večina ima dosti manj kot 600EUR in niso zadovoljni in je seveda nekaj vizionarjev, ki bi jim boljše življenje rado bodisi prodalo in akademikov ki bi celo celo podarilo. Pa mate! Novi svet sledi tako, ali tako. Velja le razmišljati, katere variante so bolj realistične in obenem pozitivne za človeštvo!
-Če vzamemo najoptimističnejšo popularno verzijo, smo vsi židje, ki se moramo strogo držati pravil, ki nas bodo vodile morda do nebes. IN seveda hoditi v šolo, na šiht, v rudnike in na fronte. Imamo knjigo o smiselnem zločinstvu in duševnih perverzijah, a nam iz nje nekako nikoli ni enoznačno jasno, kaj je IN in kaj PASSE. Da ne govorim, da če jo res natanko obvladate in sprejmente kot poslanstvo, vam je prepovedan sex, ker obstaja nevarnost, da bi se učenost preveč razpasla, kar ni dobro za vero na splošno
-Če vzamemo ateistično in liberalno verzijo, se absolutno splača vzeti pištolo in kar počiti prvega mimoideočega, da si zagotovimo vsaj hrano in stanovanje. Vse ostale svobode so precej manj gotove. No pa tudi ta ima določene omejitve jasno. Ampak, ker je družba škrta, reče se ekonomična, kar pomeni sebi privoščijo vam pa ne:), vas bodo kaj kmalu izpustili, da ponovite postopek, na vas pa je, da okoli tega izgradite srce parajočo dramo!
To da vam je nekdo podaril svobodo, ali da jo imate zato, ker ste član liberalne zveze in se lahko delate norca iz resnično odgovorne družbe, je farsa! Če boste kdaj imeli toliko čiste radovednosti, da se boste pomenili s kakšnim pozitivnim klošarjem, in potem še hipernaspidiranim menadžerjem, boste opazili, da kakšne posebne svobode NI! Je pa zelo rutiniran ritual in trenutki sreče, ko si lahko privoščite tisto kar RES želite...včasih
Ta ritual in njegova ideologija, nekaterim da občutek malo večje dominacije, nad ostalimi, drugim ostane veselje upanja, da bodo v skrajni sili brez pridržkov uporabili ultimativno rešitev s pištolo...kar pa seveda ne gre easy, ker nas veže za najmanj eon starejša etika in morala, ki je naseljena v drugem koncu tintareIn ja. Jasno da vse pozitivne spremembe vodijo v antiutopijo. Konec koncev je Aldous Huxley pri pisanju 'Brave New World-a', bil soočen s težavami, ki jih prinaša nov pisalni stroj, in ker je moral še vedno z njim dniniti kraljici je vedel, da kast se pa nekako ne da ukiniti
Pa so pojedli kak kaktus in je bilo ludo in jebeš nov pisalni stroj:) Kraljici in raji, ki se stalno dajejo z novimi pisalnimi stroji, pa je bila parodija všečAmpak je pa tu še Ebenezer. Skrajno resen racman. On hoče da se kopičijo cekini. In to gre samo z novimi stroji. Pametnejšimi, boljšimi. Ker mu delajo tudi nečaki, naj delajo z varnejšimi in manj napornimi, pa vseeno hitrejšimi. In tu je pa problem. Brez novih strojev ne bo šlo. Ti se bodo počasi razmnožili okoli vas, mnogo hitreje kot osovraženi teroristi, in ja, praktično vsi bodo vsebovali nek AI. Ta AI rabi protokol miniaturne oblike, sicer ne dela. See???? Do krasnega novega sveta bo prišlo. Popolne svobode NI! So približki in veličastne izboljšave. In o tem se tu pogovarjamo.
Če pa imaš pištolo, denar ali doktorat in dobro akademsko pozicijo s količino dnine '0-effectivly' ali 'very little of your choice', mezdo pa recimo 1800EUR, kar je 3x nek korekten minimum, no potem se dejansko status quo pravzav mora zagovarjati etike radi. Hvaležnost big otherju! Pomaga pa nič! Velika večina ima dosti manj kot 600EUR in niso zadovoljni in je seveda nekaj vizionarjev, ki bi jim boljše življenje rado bodisi prodalo in akademikov ki bi celo celo podarilo. Pa mate! Novi svet sledi tako, ali tako. Velja le razmišljati, katere variante so bolj realistične in obenem pozitivne za človeštvo!
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell
becomes revolutionary act. Orwell
gzibret ::
Thomas, a maš sedaj kakšno novo verzijo protokola. A se sploh kaj razlikuje od prvotne?
Vse je za neki dobr!
donfilipo ::
Počak mal da preštudiramo prvo
Ne leti nate gzibret, ali čisto ogniti se pa curku ne boš mogel
Transhumanizem je dejansko postal, ne sci-fi pravljica, pač pa zelo resna zadeva. In tu parirati Thomasu, zahteva predelati, kar nekaj materiala. Sam sem se imel za kar razgledanega, pa sem ugotovil, da je svet vseh znanosti tako bogat, da niti osnov dodobra ne poznam. No in ostaja dejstvo, da tisti, ki bi hoteli kakorkoli resno sodelovati v konstruktivni debati s Thomasom, morajo preučiti kar nekaj reči iz naravoslovja in družboslovja, da ga lahko o čem tudi poučijo in zablestijo.
Protokol dejansko ni hec in bilo bi dobro, če bi se vedno več ljudi tega zavedalo.
Sam se posipam s pepelom, saj me je zaostabek na družboslovju pripeljal do tega, da sem kar dosti padel ven iz prve fronte dogajanja:)
Naj si mladi tega ne privoščijo. Trend je TU! Treba pa je zaenkrat brati, gledati, se učiti in razmišljati!
Ne leti nate gzibret, ali čisto ogniti se pa curku ne boš mogel
Transhumanizem je dejansko postal, ne sci-fi pravljica, pač pa zelo resna zadeva. In tu parirati Thomasu, zahteva predelati, kar nekaj materiala. Sam sem se imel za kar razgledanega, pa sem ugotovil, da je svet vseh znanosti tako bogat, da niti osnov dodobra ne poznam. No in ostaja dejstvo, da tisti, ki bi hoteli kakorkoli resno sodelovati v konstruktivni debati s Thomasom, morajo preučiti kar nekaj reči iz naravoslovja in družboslovja, da ga lahko o čem tudi poučijo in zablestijo.
Protokol dejansko ni hec in bilo bi dobro, če bi se vedno več ljudi tega zavedalo.
Sam se posipam s pepelom, saj me je zaostabek na družboslovju pripeljal do tega, da sem kar dosti padel ven iz prve fronte dogajanja:)
Naj si mladi tega ne privoščijo. Trend je TU! Treba pa je zaenkrat brati, gledati, se učiti in razmišljati!
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell
becomes revolutionary act. Orwell
Okapi ::
Vsem ljubiteljem svobode ena vesela novica. Tako imenovana svoboda je že danes, rahlo do pretežno omejena.E, sad si nam rekao nešto novo
Ampak če te zatira birokratski aparat države, se da uhvatiti kakšno krivino, poiskati kakšno luknjo ali v skrajni sili kaj malega pogoljufati, v upanju, da ima Država dovolj drugih problemov, da se ne bo ukvarjala z malenkostmi. V starih časih si recimo dobil plačo in jo nesel Šipcem na tržnico, da so ti jo zamenjali v marke. Ali pa plavaš čez Dragonjo, če te v Sečovljah ne spustijo čez mejo.
Če te zatira vera, pač piješ pir na skrivaj, ali na skrivaj natepavaš kuharico.
V protokolu pa se bojim, da to ne bo mogoče. Pa ne sedaj reči, da ne bo nobene potrebe po čem takem, ker ne bom verjel
Sicer pa je dandanes resno razpravljati o Protokolu približno tako nesmiselno, kot je bilo pred 300 leti nesmiselno resno razpravljati, kako priti na Mesec. Ali, bolje rečeno, resno že lahko razpravljaš, neumno pa si je predstavljati, da bo to imeli kakršenkoli vpliv da dejansko stanje.
O.
donfilipo ::
Goljufati birokratski aparat bo posebna loža Posebna soba, v kateri se bodo zbrali vsi kapitalisti in nesmrtno uživali Davčna utaja, kot jo poznajo samo razvite države gumarabike, bo predmet na prostovljni srednji šoli večnega učenja, poleg plavanja čez Dragonjo in natepavanja kuharice. Pir se bo poleg v kruglicah, točil intravenozno. Omejevati možnosti protokola, tam kjer je to nesmiselno in nepoučeno, je kot ko bi pred 100 leti govoril, da na luno ne bo šlo, ker do tja ni zraka. Kljub Jules Vernu! Skratka, to kar ti vidiš za skrajne dobrine liberalizma, je poceni bullshit, ki pa ga ravno liberalizem na koncu najbolj kruto kaznuje. Kot zborovodja v harmoniji z ostalimi izmi
Posebna soba, v kateri se bodo zbrali vsi kapitalisti in nesmrtno uživali Davčna utaja, kot jo poznajo samo razvite države gumarabike, bo predmet na prostovljni srednji šoli večnega učenja, poleg plavanja čez Dragonjo in natepavanja kuharice. Pir se bo poleg v kruglicah, točil intravenozno. Omejevati možnosti protokola, tam kjer je to nesmiselno in nepoučeno, je kot ko bi pred 100 leti govoril, da na luno ne bo šlo, ker do tja ni zraka. Kljub Jules Vernu! Skratka, to kar ti vidiš za skrajne dobrine liberalizma, je poceni bullshit, ki pa ga ravno liberalizem na koncu najbolj kruto kaznuje. Kot zborovodja v harmoniji z ostalimi izmi In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell
becomes revolutionary act. Orwell
Okapi ::
Omejevati možnosti protokola, tam kjer je to nesmiselno in nepoučeno, je kot ko bi pred 100 leti govoril, da na luno ne bo šlo, ker do tja ni zraka.Vse upe polagati v Protokol pa tako, kot se zanašati, da bo lakote na Zemlji konec, ko bomo prišli na Luno in začeli tam kopati sir.
O.
Thomas ::
False. Impliciraš da je na Luni sir, ali je science error v ideji Protokola?
Če namiguješ, da je Luna iz sira, povej. Če vidiš scence error, tudi povej.
Če namiguješ, da je Luna iz sira, povej. Če vidiš scence error, tudi povej.
Man muss immer generalisieren - Carl Jacobi
Thomas ::
Potem ne moreš reči:
Lahko bi rekel samo, da "zanašati se na Protokol je tako, kot da bi se zanašali na bazo na Marsu". Nimamo (še) ne enega in ne drugega. Ne moremo biti 100% prepričani da je izvedljivo. Morda je vendarle hidden obstacle pri katerem. Pri obeh pa take ovire ne znamo pokazati.
Kaj bo pa prej ... bomo pa videli.
Vse upe polagati v Protokol pa tako, kot se zanašati, da bo lakote na Zemlji konec, ko bomo prišli na Luno in začeli tam kopati sir.
Lahko bi rekel samo, da "zanašati se na Protokol je tako, kot da bi se zanašali na bazo na Marsu". Nimamo (še) ne enega in ne drugega. Ne moremo biti 100% prepričani da je izvedljivo. Morda je vendarle hidden obstacle pri katerem. Pri obeh pa take ovire ne znamo pokazati.
Kaj bo pa prej ... bomo pa videli.
Man muss immer generalisieren - Carl Jacobi
gardener ::
@Thomas
Čeprav tule je mogoča tudi interpretacija tvojih besed, pri kateri je optimum ravno optimalna trajektorija, ki vodi do optimuma in ne neke oblike statično stanje... ampak to se mi zdi že malo pretirano raztegovanje pomena.
Kar se tiče tvojega zabavnega dialoga: ti je poznana ideja 'hedonističnega mlina'?
"Humans seem to be on a hedonic treadmill; over time, we adjust to any improvements in our environment - after a month, the new sports car no longer seems quite as wonderful."
Že sam začetek dialoga je namreč zelo blizu kontradikciji s to ugotovitvijo hedonistične psihologije.
Ko so vse nadloge odpravljene in si lahko končno oddahnemo, kaj se zgodi, ko naša krivulja sreče spet pade nazaj na svoj običajni nivo? Potrebujemo pač nove, težke izzive, kompleksne novosti, 'višje cilje' ipd., da veselo odtečemo naprej po hedonističnem mlinu.
Lahko bi nadaljeval in šel skozi dialog ter na določenih delih podprl Simplicisimusa, kje drugje pa enostavno pokazal na pomankljivosti sveta, kot je naslikan skozi dialog. Visoki izzivi, kompleksne novosti, stalna izboljšava, življenje na osnovi svoje moči (in ne kot nebogljeni dojenček, ki mu superinteligenca servira vse na pladnju), biti eden izmed glavnih igralcev na igralni deski vesolja itd., so nekatere izmed takšnih splošnih lastnosti, če boš pa kdaj res objavil dialog na Less Wrong, boš hitro dobil še druge pripombe in napotke, da si za začetek raje malo oglej Fun Theory.
Glede na to, da si zagovornik transhumanizma, se tudi sprašujem, kje je v tej utopiji prisotna možnost raziskovanja postčloveškega podprostora v prostoru vseh možnih umov. Bi bilo dovoljeno izvajati samo-modifikacije, ki bi te sčasoma napravile superinteligentnega?
Pleasure, ki ti ga daje iskanje filozofskih problemov in njihovo reševanje, ti superinteligenca spremeni iz hoje v letenje.(skomignem z rameni) Kot da mi to pomeni kaj posebnega. Superinteligenca naj raje vzpostavi okolje v katerem se bo moj razum lahko varno razvijal in inteligenca rastla, da bom sam postal kolosalno močan ter bolje prilagojen na ukvarjanje z abstraktnimi problemi. Pri reševanju filozofskih in znanstvenih problemov pa naj se mi raje umakne s poti (Free to Optimize).
On je potem apparently razumel, da je pojem neskončnega napredka v končni množici mogočih stanj Vesolja - absurden.S tem se menda strinja vsak, ki ima vsaj kanček matematične intuicije.
Če lahko do nekega optimuma prideš hitro, potem pridi hitro in to stanje brani dokler ga lahko.Mnogo vrednosti je v sami hoji po poti in ne le v doseženem cilju. Kadar grem v gore, ne želim, da me superinteligenca teleportira na vrh. Po drugi strani pa nimam nič proti, če v nekaj potezah ozdravi ljudi staranja in drugih bolezni, namesto da prepusti to nalogo nam, počasnim ljudem. Nekatere poti je torej vredno prehoditi, medtem ko je pri drugih pomembn le cilj in design utopije mora to seveda upoštevati...
Čeprav tule je mogoča tudi interpretacija tvojih besed, pri kateri je optimum ravno optimalna trajektorija, ki vodi do optimuma in ne neke oblike statično stanje... ampak to se mi zdi že malo pretirano raztegovanje pomena.
Kar se tiče tvojega zabavnega dialoga: ti je poznana ideja 'hedonističnega mlina'?
"Humans seem to be on a hedonic treadmill; over time, we adjust to any improvements in our environment - after a month, the new sports car no longer seems quite as wonderful."
Že sam začetek dialoga je namreč zelo blizu kontradikciji s to ugotovitvijo hedonistične psihologije.
Simplicisimus: Thomas, ugotovil sem, da je človek najbolj srečen, ko pomaga drugim! Posebno lačnim, sirotam, ubogim, vdovam, bolnim in drugim podobnim!Ko so sirote site, je enemu tvojih ciljev res zadoščeno, vseeno pa nisi kaj prida srečen - vsaj ne kaj dosti dalj, kolikor potrebuješ, da se ta ugotovitev dodobra uleže v tvoj razum. Če nisi sam direktno povzročil takšnega stanja, je sreča še manjša. Mnogo več 'skokov v sreči' doživiš z aktivnim razdajanjem pomoči 'v potu svojega obraza', saj zajema veliko pozitivnih dogodkov, poleg tega pa nas takšna dejavnost navdaja z nekim smislom...
Thomas: Človek je še bolj srečen, če sirote niso lačne.
Če nadloge, ki bi kogarkoli pestila, enostavno ni, šele potem je človek lahko res srečen!Kako zelo podobna je ta trditev želji srednjeveškega kmeta, da bi čimprej dosegel nebesa, v katerih mu ne bi bilo treba delati. Ker je silno utrujen, je čisto naravno da želi počivati - ampak kaj pa potem, ko bo spočit? Naj še naprej počiva!?
Ko so vse nadloge odpravljene in si lahko končno oddahnemo, kaj se zgodi, ko naša krivulja sreče spet pade nazaj na svoj običajni nivo? Potrebujemo pač nove, težke izzive, kompleksne novosti, 'višje cilje' ipd., da veselo odtečemo naprej po hedonističnem mlinu.
Thomas: ... Kosilo lahko traja 100 let in je sestavljeno iz milijon eksotičnih in še bolj slastnih jedi. Počasi in umirjeno jem in razpravljam z zbranimi za mizo. Nazdravljamo in govorimo.Naveličan ne boš le, če bo izpolnjeno določenim pogojem kot so: strežba vedno novih, še zanimivejših jedi; nadgrajevanje tvoje sposobnosti uživanja v jedi kot je doživljanje zapletenosti okusov; stalen tok prijetnih presenečenj (npr. živa glasba, ki bi v virtualni dvorani naslikala zgodbo, ki jo pripoveduje); in tudi pogovor bi skozi takšno obdobje moral imeti neke posebne kvalitete, da ne bi postal dolgočasen in celo zoprn...
...
Ne bom niti presit, niti zaspan, niti naveličan, niti pijan.
Lahko bi nadaljeval in šel skozi dialog ter na določenih delih podprl Simplicisimusa, kje drugje pa enostavno pokazal na pomankljivosti sveta, kot je naslikan skozi dialog. Visoki izzivi, kompleksne novosti, stalna izboljšava, življenje na osnovi svoje moči (in ne kot nebogljeni dojenček, ki mu superinteligenca servira vse na pladnju), biti eden izmed glavnih igralcev na igralni deski vesolja itd., so nekatere izmed takšnih splošnih lastnosti, če boš pa kdaj res objavil dialog na Less Wrong, boš hitro dobil še druge pripombe in napotke, da si za začetek raje malo oglej Fun Theory.
Glede na to, da si zagovornik transhumanizma, se tudi sprašujem, kje je v tej utopiji prisotna možnost raziskovanja postčloveškega podprostora v prostoru vseh možnih umov. Bi bilo dovoljeno izvajati samo-modifikacije, ki bi te sčasoma napravile superinteligentnega?
donfilipo ::
Omejevati možnosti protokola, tam kjer je to nesmiselno in nepoučeno, je kot ko bi pred 100 leti govoril, da na luno ne bo šlo, ker do tja ni zraka.Vse upe polagati v Protokol pa tako, kot se zanašati, da bo lakote na Zemlji konec, ko bomo prišli na Luno in začeli tam kopati sir.
O.
Ni tako tragično Okapi. Sem predvidel tudi druge scenarije. /Samo še dober mitraljez rabim
/ Ampak ker noben še zdaleč ni tako popoln, mi je ta zadosti simpatičen. No to ni tako nenavadno. Kot pravi Žižek (in za njim še cela vrsta kar uglednih učenjakov), konec koncev vendarle živimo na koncu nekega obdobja. Ekonomije, pomanjkanja, včasih kar živalsko nizke inteligence, ali pa kar civilizacije nasploh. Fukuyama sam danes prizna, da konec zgodovine in evolucije družbenih sistemov vendarle ni še tu!Kot sem že nekje rekel, pa sama ideja odprave pomanjkanja, nekomu lahko tudi da vsaj povod za študij malce manj smešnih zagotovil svobode, kot je recimo liberalizem. Sanjati in snovati boljšo prihodnost, je vendarle tudi tisto, kar tudi sam verjetno zagovarjaš.
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell
becomes revolutionary act. Orwell
Phil ::
Visoki izzivi, kompleksne novosti, stalna izboljšava, življenje na osnovi svoje moči (in ne kot nebogljeni dojenček, ki mu superinteligenca servira vse na pladnju), biti eden izmed glavnih igralcev na igralni deski vesolja itd.
Kar se tvojega počutja tiče, kakšna je razlika če si dejansko postavljen pred stalno nove izzve oz. si le 100% prepričan v to? Kako veš da že zdaj ne velja druga opcija?
gardener ::
@Thomas:
Mi je pa sedajle prišlo na misel, da Protokol kakršnega si orisal skozi dialog, v bistvu spada med eksistenčna tveganja, kot jih je definiral Bostrom, in sicer v kategoriji 'shriekov' in 'whimperjev'.
Shrieks - Some form of posthumanity is attained but it is an extremely narrow band of what is possible and desirable.
Whimpers - A posthuman civilization arises but evolves in a direction that leads gradually but irrevocably to either the complete disappearance of the things we value or to a state where those things are realized to only a minuscule degree of what could have been achieved.
Choose you pick! ;)
@nevone:
Kolikor je meni znano, se v nadškofovskih krogih privzema, implicitno in celo eksplicitno, da se zvezde pustijo več ali manj nedotaknjene, tako kot so.Kolikor je znano meni, se tule motiš. Poiskal bi kak citat, ampak se mi odkrito rečeno ne da.
CEV sponzorira zvezde klase K.Spet ugibanje o tem, kakšen bi bil output CEV... To je počasi res že utrujajoče. Imaš morda v svoji kleti skrito superinteligenco, ki je že izvedla ekstrapolacijo? ;)
Mi je pa sedajle prišlo na misel, da Protokol kakršnega si orisal skozi dialog, v bistvu spada med eksistenčna tveganja, kot jih je definiral Bostrom, in sicer v kategoriji 'shriekov' in 'whimperjev'.
Shrieks - Some form of posthumanity is attained but it is an extremely narrow band of what is possible and desirable.
Whimpers - A posthuman civilization arises but evolves in a direction that leads gradually but irrevocably to either the complete disappearance of the things we value or to a state where those things are realized to only a minuscule degree of what could have been achieved.
Choose you pick! ;)
@nevone:
Opcije noben protokol sploh ni na meniju. Z obstojem je nek Protokol vedno prisoten.V tem primeru je 'Protokol' tako zelo široko definirana beseda, da jo lahko mirne duše brišemo iz uporabe. Kadar sem sam govoril o tem konceptu, sem imel vedno v mislih neke oblike virtualni svet v katerem živimo uploadani in katerega 'ustavo' določimo neposredno ljudje, kot nek skupek v večni kamen vklesanih pravil, ki bodo določala okvir, v katerem naj se odvija življenje do konca časa. Superinteligenca bi v tem scenariju igrala vlogo izvrševalca teh pravil: poskrbela bi npr. za kar maksimalne možne užitke uploadanega človeštva, t.j. spremenila bi nas v Orgasmium - ali pa pač vzdrževala kako drugo utopijo (zakrinkano distopijo), ki bi bila določena z ustavo. Če sama razumeš Protokol kako drugače, pa na dan z besedo. :)
gardener ::
@cman:
Kar se tvojega počutja tiče, kakšna je razlika če si dejansko postavljen pred stalno nove izzve oz. si le 100% prepričan v to?Kar se tiče mojega subjektivnega počutja, razlike seveda ni - kar pa ne pomeni, da je tudi v realnosti ni in slednja je tisto, na kar se nanaša moja morala. Z drugimi besedami, ne želim, da me superinteligenca zavaja, kljub temu, da bi bilo to zavajanje tako zelo popolno, da ga ne bi mogel opaziti. Ne želim biti brain-in-a-vat, kljub temu, da bi bila moja izkustva enaka, kot če bi bil čisto običajen človek iz mesa in krvi... Tako mi govori moja moralna intuicija, and thus it shalt be written. :)
Thomas ::
kakšna je razlika če si dejansko postavljen pred stalno nove izzve oz. si le 100% prepričan v to?
My point, too. Absolutiziranje "dolgočasenja" je prov hecno. Kakor da bi dolčas ne bil samo zevoluiran emocionalni odziv?
Tele možnosti so:
1 - sediš za vedno srečen (nenaveličan) v kotu in zvečiš liziko [Okapi]
2 - sediš srečen (povsem nenaveličan) na nekem ultra Banketu 100 let, potem greš pa na drug scenarij (istega tipa) [Thomas]
3 - Banket mora biti vse bolj pisan, udeležencem mora vsake toliko narasti inteligenca, da so lahko srečni (eudaemon)
Jaz mislim, da sta opciji 1 in 2 možni, 3 pa ni, že zaradi končnosti Vesolja. Vsaka naraščajoča funkcija, z zalogo vrednosti v končnem intervalu diskretnih vrednosti, kmalu butne na maximum. In nima kam več naraščat.
Navijam pa za 2.
Protokol kakršnega si orisal skozi dialog, v bistvu spada med eksistenčna tveganja, kot jih je definiral Bostrom
Bostrom je eden enako zbeganih. Kar pričakuje in zahteva, da smo na večno naraščajoči krivulji in da iz tega črpamo svoje zadovoljstvo. Če pa je nek MAX, prek katerega se realno ne da, je pa že ves nesrečen. Vedno več, vedno bolj sladke čokolade. Plus nove bonitete vsak moment. Sorry, ni dovolj proste entalpije za tak nor scenarij.
Tako mi govori moja moralna intuicija
To vem. Cel CEV krog bazira na takšni moralni intuiciji. To potem ni racionalen projekt, ampak misticizem.
Mogoče bom dodal, da nisem samo jaz tako "skeptičen", bolje rečeno "sovražen", do SIAI scenarijev, ampak je takih (transhumanistov) še kar nekaj. Ne samo na temle forumu, kjer večina dvomi v Yudkowsky's CEV, ampak tudi po svetu.
Je pa res, da ene par 100 jih stoji za njim, zvesto. Ne bi, če bi mau boljš in pridno mislili.
Man muss immer generalisieren - Carl Jacobi
Zgodovina sprememb…
- spremenil: Thomas ()
nevone ::
Če sama razumeš Protokol kako drugače, pa na dan z besedo. :)
Jest razumem Protokol kot neko nujno podlago, na kateri nek sistem deluje in ga ta varuje pred destrukcijo, ter mu omogoča kar se da ugodna doživetja.
Meni Protokol ne pomeni, da se zaprejo neke poti, ki bi jih vi želeli. Samo če si želite destruktivnih situacij, naj Protokol to prepreči.
Kaj se pa potem v okviru tega dejansko dogaja, je pa lahko stvar nadlajnih pogajanj. Podobno kot rabiš podlago in svinčnik da narišeš (lepo) risbo, poleg tega pa rabiš še risbo zaščititi pred ognjem, vertom, dežjem ..., da bi jo lahko kar najdlje občudoval in užival v njeni lepoti.
o+ nevone
Either we will eat the Space or Space will eat us.
Okapi ::
Navijam pa za 2.V čem je razlika od 1? Banket je samo težje udejaniti, udeleženci pa bili z njim natanko enako zadovoljni, kot z liziko. Banket se ti zdi zdaj boljši od lizike, ko oboje gledaš od zunaj. Ko bi bil enkrat uploadan, bi ne bilo popolnoma nobene razlike. Od tega bi imela korist kvečjemu SAI, če bi morda čutila kakšno večje zadovoljstvo od bolj zapletene rešitve.
O.
Thomas ::
Jaz zdaj nisem enako zadovoljen z 1 in z 2. Jaz zdaj hočem 2.
Zakaj bi hotel narediti zadevo na vsak način poceni?
Če enkrat razviješ superinteligenco, je vse ena figa, če si mau privoščiš. Seveda v okviru (še vedno) omejenih možnosti.
Če pa superinteligence nimaš, pa težko narediš karkoli.
Zato se mi zdi racionalen postopek naslednji:
1. develop superintelligence
2. use it to have a nice Protokol
Zakaj bi hotel narediti zadevo na vsak način poceni?
Če enkrat razviješ superinteligenco, je vse ena figa, če si mau privoščiš. Seveda v okviru (še vedno) omejenih možnosti.
Če pa superinteligence nimaš, pa težko narediš karkoli.
Zato se mi zdi racionalen postopek naslednji:
1. develop superintelligence
2. use it to have a nice Protokol
Man muss immer generalisieren - Carl Jacobi
Okapi ::
Saj ni pomembno, kaj hočeš. Povedati ti hočem, da ni nobene razlike med banketom in liziko. V obeh primerih boš moral biti lobotomiziran, če boš hotel res uživati. In potem se postavi vprašanje, ali hočeš biti lobotomiziran in maksimalno uživati, ali pa nočeš biti in se sprijazniš s tem, da boš morda malo manj užival.
O.
O.
_Enterprise_ ::
slej ko prej bo protokol spoznal, da je dvojka isto kot enka
in tako bomo slej kot prej močno degradirali glede kompliciranosti sistema
pa protokol se bo enkrat podrl zaradi samega sebe
thomas, kaj porečeš na bolečino? kaj je to?
in tako bomo slej kot prej močno degradirali glede kompliciranosti sistema
pa protokol se bo enkrat podrl zaradi samega sebe
thomas, kaj porečeš na bolečino? kaj je to?
gardener ::
@Thomas
...
But even on the arguments given so far... I don't call it conclusive, but it seems like sufficient reason to hope and expect that our descendants and future selves won't exhaust Fun Space to the point that there is literally nothing left to do but carve the 162,329th table leg."
Complex Novelty
P.s. Ker me čakajo druge obveznosti, ne mislim več tako aktivno spremljati debate.
Kakor da bi dolčas ne bil samo zevoluiran emocionalni odziv?...in zaradi tega bi ga bilo preprosto odstraniti? In Praise of Boredom.
Jaz mislim, da sta opciji 1 in 2 možni, 3 pa ni, že zaradi končnosti Vesolja. Vsaka naraščajoča funkcija, z zalogo vrednosti v končnem intervalu diskretnih vrednosti, kmalu butne na maximum. In nima kam več naraščat."Fun Space can increase much more slowly than the space of representable problems, and still overwhelmingly swamp the amount of time you could bear to spend as a mind of a fixed level. Even if Fun Space grows at some ridiculously tiny rate like N-squared - bearing in mind that the actual raw space of representable problems goes as 2^N - we're still talking about "way more fun than you can handle".
...
But even on the arguments given so far... I don't call it conclusive, but it seems like sufficient reason to hope and expect that our descendants and future selves won't exhaust Fun Space to the point that there is literally nothing left to do but carve the 162,329th table leg."
Complex Novelty
Bostrom je eden enako zbeganih.Ni videti. Kar sam vidim tule je, da imata tako Yudkowsky kot Bostrom mnogo bolje premišljene stvari od recimo tebe.
Sorry, ni dovolj proste entalpije za tak nor scenarij.Celo v okvirih fizike kot jo poznamo, ni videti, da takšen scenarij ne bi bil mogoč. Je pa takšno ugibanje sploh beside the point. Želje morajo biti samo-konsistentne, realnost pa naj jih neposredno ne omejuje - omejena bo njihova izpolnitev, kjer pa lahko superinteligenca doseže marsikaj kar se nam danes zdi na robu mogočega ali celo nemogoče.
Cel CEV krog bazira na takšni moralni intuiciji. To potem ni racionalen projekt, ampak misticizem.Aha, seveda. Sem morda omenil reflektivno normalizacijo morale - kjer se morala s pomočjo racionalne misli ozre sama nase in kako preko tega doživljamo moralni napredek? Kako bi CEV storila nekaj podobnega, s superinteligentno močjo in ugotovila česa si resnično želimo? Ali pa da ni ničesar drugega, kot začeti pri intuiciji, ko konstuiramo svoje moralne teorije? Heh, misticizem... gimme a break.
Mogoče bom dodal, da nisem samo jaz tako "skeptičen", bolje rečeno "sovražen", do SIAI scenarijev, ampak je takih (transhumanistov) še kar nekaj. Ne samo na temle forumu, kjer večina dvomi v Yudkowsky's CEV, ampak tudi po svetu.Zaenkrat nisem naletel niti na en sam boljši predlog, niti na kak dober protiargument, ki bi se razlikoval od tega, da je projekt enostavno pretežak - in ne, nisem iskal samo po Less Wrong. Kar pa sem videl, je mnogo nerazumevanja in žal moram reči, da tule ni nič drugače.
P.s. Ker me čakajo druge obveznosti, ne mislim več tako aktivno spremljati debate.
Thomas ::
Povedati ti hočem, da ni nobene razlike med banketom in liziko.
Je razlika. Protokol, če je narisan po mojem, ne dovoli poenostavitve na 1. Vzdržuje 2.
V obeh primerih boš moral biti lobotomiziran, če boš hotel res uživati.
"Lobotomiran" pomeni "edited"? Potem se strinjam.
Even if Fun Space grows at some ridiculously tiny rate like N-squared
Tale "Fun Space" je v vsakem trenutku samo rezultat nekega "Physical Space". Teh "Physical Space" je neko končno število in ne korespondirajo vsi z "Fun" Space. Več z "Not Fun At All" space.
Tudi je za isti Fun več Physical, obratno pa ne.
Da ne težim preveč s končno diskretno matematiko, ki je pretty simple, sigurno imaš "The Top Possible Fun Space", ki je na drugi strani kovanca samo neka določena fizikalna konfiguracija našega Vesolja in nič drugega. In prav dolgo ne boš stalno dvigal Fun, ne da bi na tisto konfiguracijo prišel. Potem pa kaj? Če boš tam okoli hotel ostati, je to Protokol ene vrste. Nič drugega. Lahko se boš pa spustil nazaj dol in obstal mau nižje. Kar je spet nekakšen Protokol.
Lahko boš osciliral. Spet en Protokol.
Lahko boš pa vse skupaj opustil. To je pa The Big Quit.
Da boš pa kar potoval skozi neke matematične prostore, ne glede na fiziko ... je pa idealistična utopija. Tega Bostrom in Yudkowsky očitno ne vidita. "Fun Space" je samo pojav na "Real Space".
In zakaj tako "geocentrično" to gledaš...kako pa veš, da nismo ravnokar v kaki simulaciji kake druge AI entiteta. In nas bo deletala, če bomo slučajno kaj preveč šarili.
Lahko srečamo drug Protokol. Lahko prihajajo z večih strani. Zapletena 3D ali 4D situacija. Tako da nam ne preostane drugega, kot narediti tako, da se ne bo treba tepst. Tako kot tudi njim.
kaj porečeš na bolečino? kaj je to?
To je "I reject this" skozi prizmo zavesti, po mojem ugibanju.
ne mislim več tako aktivno spremljati debate.
Pomeni, da vseeno ne moreva razčistiti najinega disputa. Ko sva zgoraj rekla, da mogoče ga pa lahko, sva bila preoptimistična.
Man muss immer generalisieren - Carl Jacobi
Saladin ::
Thomas - povej točno kolikšno mero stopnje svobode in izbir bi še dopustil v Protokolu. Isto me zanima za svobodo nad kontrolo zavedanja resničnosti simulacije in kontrolo nad samim Protokolom.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Double_J ::
eudaemon ti sploh nimaš racionalnih argumentov, samo predsodke.
"Jaz si želim", "Ne želim si, da bi", "Meni bi se zdelo nesmiselno" itd...
Kaj si trenutno želiš, to niso argumenti okoli Protokola.
"Jaz si želim", "Ne želim si, da bi", "Meni bi se zdelo nesmiselno" itd...
Kaj si trenutno želiš, to niso argumenti okoli Protokola.
Dve šivanki...
Thomas ::
Saladin ... Svobodne volje boš imel ravno toliko kot zdaj. Samo boljše reči se ti bodo dogajale.
Zdej se ti bo zgodilo, da boš v sredo prišel, ali pa se ti bo zgodilo, da v sredo ne boš prišel, na tisto teraso.
V Protokolu isto. Vendar karkoli že se ti bo primerilo, bo olala dobro zate.
V bistvu se je vsa tale scena, Yudkowsky, Bostrom, Anissimov ... ujela v en paradox ki se ga ne zavedajo. Da zahtevajo več, kot ti fizikalno Vesolje lahko da.
Fizikalno Vesolje ti lahko da neke konfiguracije ki so peklenske, neke konfiguracije ki so nebeške in večino konfiguracij ki so kot površina Lune, bolje intergalaktični prostor. Mrak in mrtvilo.
Zdej bomo mogoče, nikakor nujno, skonfigurirali vesoljsko mašino tako, da bo vsebovala bolj nebeške forme, gledano s stališča zavesti. Da "Ej, ful dobro dogaja, stari! Waw, to mi deli!".
Kakšne večje ambicije so po moje neuresničljive. Tele atome maš, zdej pa naredi takšno permutacijo iz njih, da je od znotraj gledana nebeška in hkrati zelo robustna. Eto to če gre. Ostalo je vse privid.
Zdej se ti bo zgodilo, da boš v sredo prišel, ali pa se ti bo zgodilo, da v sredo ne boš prišel, na tisto teraso.
V Protokolu isto. Vendar karkoli že se ti bo primerilo, bo olala dobro zate.
eudaemon ti sploh nimaš racionalnih argumentov, samo predsodke.
V bistvu se je vsa tale scena, Yudkowsky, Bostrom, Anissimov ... ujela v en paradox ki se ga ne zavedajo. Da zahtevajo več, kot ti fizikalno Vesolje lahko da.
Fizikalno Vesolje ti lahko da neke konfiguracije ki so peklenske, neke konfiguracije ki so nebeške in večino konfiguracij ki so kot površina Lune, bolje intergalaktični prostor. Mrak in mrtvilo.
Zdej bomo mogoče, nikakor nujno, skonfigurirali vesoljsko mašino tako, da bo vsebovala bolj nebeške forme, gledano s stališča zavesti. Da "Ej, ful dobro dogaja, stari! Waw, to mi deli!".
Kakšne večje ambicije so po moje neuresničljive. Tele atome maš, zdej pa naredi takšno permutacijo iz njih, da je od znotraj gledana nebeška in hkrati zelo robustna. Eto to če gre. Ostalo je vse privid.
Man muss immer generalisieren - Carl Jacobi
T-h-o-r ::
kaj pa če bi energijo porabili za ustvarjanje novega vesolja? pa ne simuliranega
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
Thomas ::
Kot je rekel Feynman. Če mi rečeš, naj naredim antigravitacijski stroj, preprosto ne bo šlo. Just can't do that.
Tole z drugim Vesoljem, tudi gre ali ne gre. Nisem pristaš ideje, da vso prosto entalpijo tega Vesolja skurimo za to, da bomo videli, če lahko naredimo novega, v katerem bomo potem živeli.
Del pa že.
Tole z drugim Vesoljem, tudi gre ali ne gre. Nisem pristaš ideje, da vso prosto entalpijo tega Vesolja skurimo za to, da bomo videli, če lahko naredimo novega, v katerem bomo potem živeli.
Del pa že.
Man muss immer generalisieren - Carl Jacobi
T-h-o-r ::
ne za življenje, ampak da ga bomo imeli za resurs, da bomo lahko naredli boljši protokol :)
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
Thomas ::
Vsekakor Protokol ne sme biti zaprt v tem smislu, da ne bi iskali novih virov proste entalpije. Absolutno bi bilo fino, da imamo še več Mehurjev, v katerih bi srečno živeli.
Man muss immer generalisieren - Carl Jacobi
Saladin ::
Saladin ... Svobodne volje boš imel ravno toliko kot zdaj. Samo boljše reči se ti bodo dogajale.
Preveč na splošno govoriš.
Zadaj ene točno splošne parametre, kot sem to storil jaz, da vidim o kaki svobodi sploh govoriš.
Pokaži mi točno, kje bodo meje. Kaj bom abosultno lahko delal in kaj absolutno ne.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"
Thomas ::
Če bo po moje, boš šel skozi Banket in še ene milijardo vsaj ene tolk dobrih scenarijev.
Kakšni ti scenariji bodo, pojma nimam. Kar se da najboljšga izmislit, če imaš za ta namen nainštaliranih ene milijon uploadov, kar si oni izmislijo da je cool in kar ena bolj splošna pravila dovolijo.
Kaj se meni ZDI, da bi lahko bilo?
- (trans)romances
- (trans)sports
- (trans)socializing
- (trans)exploring
- (trans)sensual (Orgasmium)
- (trans)sensationalizing
- (trans)intellectualizing
- (trans)gaming
- (trans)theorizing
- (trans)science
- (trans)art
- (trans)philosophy
- ... more
In kombinacije naštetega.
(trans) pomeni ne tko na primitivni stopnji kot today. Čeprav kaj mogoče dosti podobno, vsaj v osnovi. Kaj pa zelo beyond. We'll see.
Kakšni ti scenariji bodo, pojma nimam. Kar se da najboljšga izmislit, če imaš za ta namen nainštaliranih ene milijon uploadov, kar si oni izmislijo da je cool in kar ena bolj splošna pravila dovolijo.
Kaj se meni ZDI, da bi lahko bilo?
- (trans)romances
- (trans)sports
- (trans)socializing
- (trans)exploring
- (trans)sensual (Orgasmium)
- (trans)sensationalizing
- (trans)intellectualizing
- (trans)gaming
- (trans)theorizing
- (trans)science
- (trans)art
- (trans)philosophy
- ... more
In kombinacije naštetega.
(trans) pomeni ne tko na primitivni stopnji kot today. Čeprav kaj mogoče dosti podobno, vsaj v osnovi. Kaj pa zelo beyond. We'll see.
Man muss immer generalisieren - Carl Jacobi
Thomas ::
Tvoje intence niso tako dobre?
So (še) boljše?
So (še) boljše?
Man muss immer generalisieren - Carl Jacobi
nevone ::
Ne rečejo zaman The road to hell is paved with good intentions
Ja rečejo tako, samo da to ne drži. Ali pa vsaj ne pomeni, da bad intentions te pa pripeljejo v raj.
Nekaj je pa nedvomno res. Dobre namene se vedno daje maksimalno na preizkušnjo, kar je tudi prav.
Ne vem če so boljše, jih pa vsekakor ne bi vsilil vsemu vesolju.
Mah to je brezveze. Ker v resnici ne veš, česa vsega si zmožen pod različnimi pogoji. Danes, ko so pogoji takšni trdiš eno, za jutri ko bodo drugačni, pa ne moreš garantirat, da si en boš premislil.
o+ nevone
Either we will eat the Space or Space will eat us.
Zgodovina sprememb…
- spremenila: nevone ()
Thomas ::
jih pa vsekakor ne bi vsilil vsemu vesolju
No sej, ti boš prepustil drugim, da oni vsilijo svoje intence vsemu vesolju.
A boš vsilil samo tisto, da "Nihče nima pravice vsiljevati svojih pravil drugim, razen tegale. To pravilo, pa mora spoštovati vsak!"?
Man muss immer generalisieren - Carl Jacobi
nevone ::
Saladin ... Svobodne volje boš imel ravno toliko kot zdaj. Samo boljše reči se ti bodo dogajale.
Preveč na splošno govoriš.
Zadaj ene točno splošne parametre, kot sem to storil jaz, da vidim o kaki svobodi sploh govoriš.
Pokaži mi točno, kje bodo meje. Kaj bom abosultno lahko delal in kaj absolutno ne.
Če bi meni danes nekdo ponudil nesmrtnost in s tem življenje brez bolezni in kakršnihkoli bolečin, se takoj strinjam, pa magari mi potem v okviru tistega življenja cele dneve samo vrti mojo najljubšo skladbo, in me to ne zdolgočasi, kar je pa samo po sebi umevno, ker je dolgčas pač ena od bolečin, ki jih v tistem sistemu pač ni. You may call me stupid, but v primerjavi s tem kar je sedaj moja usoda v nadaljnih 50 letih, je to prava poslastica. Seveda pa ne mislim, da je to skrajni domet, s katerim se moramo zadovljiti. Je samo prva stopnička. Utopično je po mojem mnenju misliti, da lahko s prvo žlico zajamemo optimum.
Vzporedno pa vidim še možnost, da se AI razvija v okviru nas, mimo nas, in nas lahko tudi preraste brez da bi mi lahko to preprečili na način, ki bi bil za nas bolj ugoden.
o+ nevone
Either we will eat the Space or Space will eat us.
gardener ::
@Thomas:
(*) Za tiste, ki ne poznate te notacije (če sploh še kdo poleg Thomasa bere tole), gre za Knuth's up-arrow notation s katero je mogoče zapisati izjemno velika števila, mnogo večja od vsega kar prenese papir z običajnimi potencami.
Na Fun Space je mogoče gledati kot na prostor možnosti, mišljeno kot "le s čim bi se zabaval današnji večer?" in velikost tega (matematičnega) prostora je enormna. Kdor uživa v programiranju razmišlja na primer o tem, kateri program bi povlekel iz 'platonistične sfere mogočega' (metaforično rečeno) in ga vklesal v našo fizično sfero. Takšnih programov je eksponentno mnogo pri neki velikosti računalniškega pomnilnika in dejansko ne obstajajo nikjer drugje kot v naših možganih kompaktno predstavljeno 'vesolje možnosti' iz katerega nato izbiramo (in ne kot predstavitev vseh programov - za kaj takšnega so naši možgani mnogo premajhni). Da ne bo nesporazuma, vse kar poteka tule je povsem v okvirih fizike (Yudkowsky je fizikalist, Bostrom mislim da tudi, kot tudi moja malenkost).
Ni mi težko priznati, da mi te stvari niso *popolnoma* jasne, ampak če je takšen razmislek vsaj v grobem pravilen, nam zabave ne bo nikoli zmanjkalo - prej bo prišlo do kozmološkega konca vesolja. Vsaj dokler govorimo o zabavi, ki izhaja iz kompleksnih novosti - stvari se zapletejo, če začneš govoriti o doživljanju in hedonističnih učinkih... ampak zaenkrat bi se raje držal pogovora o Fun Space zanimivih novosti.
Bazirati našo prihodnost na današnjih fizikalnih teorijah je poleg tega enostavno smešno. 'In the Grand Scheme of Things' smo le malce pametnejše opice, pri čemer inteligence prihodnosti merimo v velikosti planetov - le kakšna globoka presenečenja hranijo za nas, tam daleč v superinteligentnem teritoriju? Zakon o ohranitvi energije bo najbrž še veljal, ampak ali bo sploh energija eden izmed tako temeljnih konceptov njihove fizikalne teorije kot to velja danes? Ali pa kaj bo z neskončnostjo - gre že pri samem konceptu za nek skrit bug naših kognitivnih algoritmov? Je prava nesmrtnost vseeno mogoča, kot posledica dobrega razumevanja zavesti in antropičnih učinkov? I wonder...
Mimogrede, vsi tisti citati, ki si jih navedel v enem izmed svojih prispevkov, niso moji. Vem, da to najbrž veš in tudi, da to niti ni tako pomembno - naj se ideje pretepajo med sabo - ampak včasih je vseeno dobro dati obraz trditvam, ker je dobro imeti nek model svojega nasprotnika. Just saying...
Okapi: V obeh primerih boš moral biti lobotomiziran, če boš hotel res uživati."Edited" v kakšnem smislu? Brisanje zmožnosti doživljanja dolgočasja oz. česarkoli bo že potrebno, da se stoletnih ponavljajočih se pogovorov ne naveličamo? Če je temu tako, potem res lahko kar pozabiš na to različico Protokola - takšnih sprememb svojega uma nočem, ker je kot prvo vprašljivo, če se mi ne bi s tem posegom sesul velik del kognitivnega sistema, kot drugo se mi s tem zmanjša kompleksnost (v splošnem nezaželjeno), poleg tega pa bi s tem seveda užival v tako zelo gnilih prihodnostih, kot je rezbarjenje milijonov identičnih miz... če samo po površini popraskam za razlogi.
Thomas: "Lobotomiran" pomeni "edited"? Potem se strinjam.
In prav dolgo ne boš stalno dvigal Fun, ne da bi na tisto [najboljšo] konfiguracijo prišel.Kako dolgo: nekaj tisočletij, 10^gogool let, 3^^^3 katerekoli časovne enote že želiš (*)? Če je bližje slednjim, bo po trenutno veljavni kozmologiji naše zabave že mnogo prej konec.
(*) Za tiste, ki ne poznate te notacije (če sploh še kdo poleg Thomasa bere tole), gre za Knuth's up-arrow notation s katero je mogoče zapisati izjemno velika števila, mnogo večja od vsega kar prenese papir z običajnimi potencami.
Da boš pa kar potoval skozi neke matematične prostore, ne glede na fiziko ... je pa idealistična utopija. Tega Bostrom in Yudkowsky očitno ne vidita. "Fun Space" je samo pojav na "Real Space".Nisem tako zelo prepričan v tole...
Na Fun Space je mogoče gledati kot na prostor možnosti, mišljeno kot "le s čim bi se zabaval današnji večer?" in velikost tega (matematičnega) prostora je enormna. Kdor uživa v programiranju razmišlja na primer o tem, kateri program bi povlekel iz 'platonistične sfere mogočega' (metaforično rečeno) in ga vklesal v našo fizično sfero. Takšnih programov je eksponentno mnogo pri neki velikosti računalniškega pomnilnika in dejansko ne obstajajo nikjer drugje kot v naših možganih kompaktno predstavljeno 'vesolje možnosti' iz katerega nato izbiramo (in ne kot predstavitev vseh programov - za kaj takšnega so naši možgani mnogo premajhni). Da ne bo nesporazuma, vse kar poteka tule je povsem v okvirih fizike (Yudkowsky je fizikalist, Bostrom mislim da tudi, kot tudi moja malenkost).
Ni mi težko priznati, da mi te stvari niso *popolnoma* jasne, ampak če je takšen razmislek vsaj v grobem pravilen, nam zabave ne bo nikoli zmanjkalo - prej bo prišlo do kozmološkega konca vesolja. Vsaj dokler govorimo o zabavi, ki izhaja iz kompleksnih novosti - stvari se zapletejo, če začneš govoriti o doživljanju in hedonističnih učinkih... ampak zaenkrat bi se raje držal pogovora o Fun Space zanimivih novosti.
Pomeni, da vseeno ne moreva razčistiti najinega disputa. Ko sva zgoraj rekla, da mogoče ga pa lahko, sva bila preoptimistična.Ne tako hitro, saj se nisem kar vdal v usodo, sploh po tako kratkem času, glede na globino tematike. :) Samo prelagam debato na prihodnje oz. na bolj sporadične prispevke.
Da zahtevajo več [Yudkowsky, Bostrom...], kot ti fizikalno Vesolje lahko da.How do you know? Teorija Vsega še ne obstaja, tisto kar imamo pa *ne* omejuje njihovih želja tako kot se ti dozdeva.
Bazirati našo prihodnost na današnjih fizikalnih teorijah je poleg tega enostavno smešno. 'In the Grand Scheme of Things' smo le malce pametnejše opice, pri čemer inteligence prihodnosti merimo v velikosti planetov - le kakšna globoka presenečenja hranijo za nas, tam daleč v superinteligentnem teritoriju? Zakon o ohranitvi energije bo najbrž še veljal, ampak ali bo sploh energija eden izmed tako temeljnih konceptov njihove fizikalne teorije kot to velja danes? Ali pa kaj bo z neskončnostjo - gre že pri samem konceptu za nek skrit bug naših kognitivnih algoritmov? Je prava nesmrtnost vseeno mogoča, kot posledica dobrega razumevanja zavesti in antropičnih učinkov? I wonder...
Fizikalno Vesolje ti lahko da neke konfiguracije ki so peklenske, neke konfiguracije ki so nebeške in večino konfiguracij ki so kot površina Lune, bolje intergalaktični prostor. Mrak in mrtvilo.Sem in tja je tudi dobro reči 'se strinjam'. :)
Zdej bomo mogoče, nikakor nujno, skonfigurirali vesoljsko mašino tako, da bo vsebovala bolj nebeške forme, gledano s stališča zavesti. Da "Ej, ful dobro dogaja, stari! Waw, to mi deli!".
Mimogrede, vsi tisti citati, ki si jih navedel v enem izmed svojih prispevkov, niso moji. Vem, da to najbrž veš in tudi, da to niti ni tako pomembno - naj se ideje pretepajo med sabo - ampak včasih je vseeno dobro dati obraz trditvam, ker je dobro imeti nek model svojega nasprotnika. Just saying...
gardener ::
Double_J:
Teoretično gledano lahko napravimo dekompozicijo racionalnega agenta na njegove 'vrednote' in njegov 'model sveta'. Prvemu rečemo 'utility funkcija' U(x), ki sprejme v najobičajnejši formulaciji stanje sveta x in vrne neko realno število, ki določa kako zaželjeno je to stanje - kako visoko v njegovi preferenčni ureditvi se nahaja. Pri modelu sveta pa gre za verjetnostno porazdelitev v kateri se nahajajo trditve kot je npr. "če opravim neko akcijo ai, bo to privedlo do stanja sveta xj z verjetnostno pk". In kako takšen agent sprejema odločitve? Pomaga si s principom pričakovane koristi (expected utility): EU(akcija ai) je enaka z verjetnostjo obteženi vsoti vseh mogočih U(xj) (t.j. zaželjenosti izzida xj), do katerih lahko privede ta akcija. Če nam akcija A1 z 80% možnostmi prinese 10EUR in z 20% možnosti odvzame 5EUR, je EU(A1)=0.8*10+0.2*(-5)=7EUR. Imamo pa na voljo še A2, ki z 80% verjetnostjo prinese 20EUR in nam jih ukrade 100EUR z verjetnostjo 20%: EU(A2)=-4EUR. Izberemo tisto z višjo pričakovano koristjo (EU).
Če sedaj to prenesemo v človeško sfero, si lahko predstavljaš, da izbiramo skupke akcij, ki spadajo v nek scenarij in razmišljamo o tem, do kakšne prihodnosti bodo privedli (prediktivni del) in nato vrednotimo ta prihodnja stanja (normativni del). Ko nekdo reče, da je neko stanje zaželjeno (npr. imeti lepo punco), je to analogno izračunu U(x) v teoretičnem modelu in v tem ni prav nič iracionalnega. Brez nekih vrednot namreč sploh nimamo optimizacijskega procesa oz. inteligence in o sami racionalnosti ne moremo niti govoriti...
Morda pa sem le popolnoma napačno interpretiral tvojo opazko...
(*) želje so dejansko lahko napačne in pravilne, čemur učene glave pravijo kognitivizem, kar je ena izmed pozicij v meta-etiki. So lahko tudi (i)racionalne? Lahko, čeprav je v mojem pogledu tule to le sopomenka za pravilno/napačno. So pa te stvari dokaj tricky...
Kaj si trenutno želiš, to niso argumenti okoli Protokola.Če misliš, da se v svojih željah motim, prosim pokaži kje je napaka (*). Drugače pa ne vem kaj naj sploh rečem na tole... pogovor teče o tem, katerega izmed možnih scenarijev bi bilo dobro izpeljati in kako naj se pri tem ognemo vključevanju svojih želja!? Na nek načim moramo presoditi katera izmed možnosti je najboljša in naše želje - ali če želiš, preference - so tisto na osnovi česa je zgrajena takšna sodba. Seveda je fino, če so podprte s kakšnimi splošnejšimi principi (npr. če sledijo iz etične teorije preferenčnega utilitarizma), ali pa z drugimi, vzporednimi moralnimi argumenti, ampak še vedno se gibljemo v okviru (racionalnejših) želja.
Teoretično gledano lahko napravimo dekompozicijo racionalnega agenta na njegove 'vrednote' in njegov 'model sveta'. Prvemu rečemo 'utility funkcija' U(x), ki sprejme v najobičajnejši formulaciji stanje sveta x in vrne neko realno število, ki določa kako zaželjeno je to stanje - kako visoko v njegovi preferenčni ureditvi se nahaja. Pri modelu sveta pa gre za verjetnostno porazdelitev v kateri se nahajajo trditve kot je npr. "če opravim neko akcijo ai, bo to privedlo do stanja sveta xj z verjetnostno pk". In kako takšen agent sprejema odločitve? Pomaga si s principom pričakovane koristi (expected utility): EU(akcija ai) je enaka z verjetnostjo obteženi vsoti vseh mogočih U(xj) (t.j. zaželjenosti izzida xj), do katerih lahko privede ta akcija. Če nam akcija A1 z 80% možnostmi prinese 10EUR in z 20% možnosti odvzame 5EUR, je EU(A1)=0.8*10+0.2*(-5)=7EUR. Imamo pa na voljo še A2, ki z 80% verjetnostjo prinese 20EUR in nam jih ukrade 100EUR z verjetnostjo 20%: EU(A2)=-4EUR. Izberemo tisto z višjo pričakovano koristjo (EU).
Če sedaj to prenesemo v človeško sfero, si lahko predstavljaš, da izbiramo skupke akcij, ki spadajo v nek scenarij in razmišljamo o tem, do kakšne prihodnosti bodo privedli (prediktivni del) in nato vrednotimo ta prihodnja stanja (normativni del). Ko nekdo reče, da je neko stanje zaželjeno (npr. imeti lepo punco), je to analogno izračunu U(x) v teoretičnem modelu in v tem ni prav nič iracionalnega. Brez nekih vrednot namreč sploh nimamo optimizacijskega procesa oz. inteligence in o sami racionalnosti ne moremo niti govoriti...
Morda pa sem le popolnoma napačno interpretiral tvojo opazko...
(*) želje so dejansko lahko napačne in pravilne, čemur učene glave pravijo kognitivizem, kar je ena izmed pozicij v meta-etiki. So lahko tudi (i)racionalne? Lahko, čeprav je v mojem pogledu tule to le sopomenka za pravilno/napačno. So pa te stvari dokaj tricky...
Thomas ::
a se stoletnih ponavljajočih se pogovorov ne naveličamo?
Kdo pa je rekel, da se morajo ponavljat? To sigurno ni potrebno. Več je za povedat, kot je časa na razpolago. Večina bo ostala nepovedanega, neizrečenega in nemišljenega.
se mi s tem zmanjša kompleksnost
Isto kot zgoraj. Zakaj misliš (pa ne samo ti), da si ne bi mogli ali hoteli privoščiti bistveno večje kompleksnosti od sedanje?
Itak je na razpolago manj časa, kolikor bi ga bilo treba za vse dialoge da se odvijejo. Proste entalpije le ni tako zelo ogromno, kot je dobrih kombinacij.
Man muss immer generalisieren - Carl Jacobi
Zgodovina sprememb…
- spremenil: Thomas ()
Thomas ::
in velikost tega (matematičnega) prostora je enormna
My point exactly. Ne boš ga spumpal niti delček, pa bo že pošla vsa razpoložljiva energija. Brez te compotinga ni. Lahko precej optimiziraš, uvedeš reverzibilni computing ... a enkrat poide.
Do takrat pa vzameš nekaj gaziljonov dobrih in kvalitetnih (trans)življenj in to je vse.
Naraščajoča funkcija na dolgi rok, je utopija. Tudi zato, ker od naraščanja recimo natančnosti izračuna števila Pi nimaš veliko, pa vseeno hitro skuriš Galaksijo za ta namen.
Da bi pa pleausure navezal na kakšno takšno naraščanje nekih količin, je pa sploh neracionalno in odveč.
Man muss immer generalisieren - Carl Jacobi
gardener ::
@Thomas:
Hočem reči, odvisno je od tega, kako bi napredovala debata, kako bi se spreminjali debaterji in podobno. Stoletje res ni tako kratek čas, da bi se lahko kaj prida zabaval z nekom, ki ostaja na istem nivoju...
Mimogrede, z zadnjim stavkom si se dotaknil tistega, kar sem sam poskušal nakazati pri velikosti Fun Spacea, t.j. da nam kompleksnih novosti skoraj gotovo ne bo nikoli zmanjkalo, tudi če privzameš mnogo večjo omejenost našega fizikalnega prostora, kot dejansko obstaja.
Kdo pa je rekel, da se morajo ponavljat? To sigurno ni potrebno. Več je za povedat, kot je časa na razpolago. Večina bo ostala nepovedanega, neizrečenega in nemišljenega.Ok, predstavljaj si, da subjektivno stoletje debatirava tule o Protokolu in CEV. Sicer se ne ponavljava kaj prida, ampak variacije vseeno niso dovolj velike, da bi jih lahko označil za nekaj 'povsem drugega in silno zanimivega'. Mislim, da bi se obema zmešalo. Po kakem letu ali dveh še ne - toliko sva že trdoživa, ampak sčasoma pa že. ;)
Hočem reči, odvisno je od tega, kako bi napredovala debata, kako bi se spreminjali debaterji in podobno. Stoletje res ni tako kratek čas, da bi se lahko kaj prida zabaval z nekom, ki ostaja na istem nivoju...
Mimogrede, z zadnjim stavkom si se dotaknil tistega, kar sem sam poskušal nakazati pri velikosti Fun Spacea, t.j. da nam kompleksnih novosti skoraj gotovo ne bo nikoli zmanjkalo, tudi če privzameš mnogo večjo omejenost našega fizikalnega prostora, kot dejansko obstaja.
Thomas ::
Ko boš z glavo v Fun Spaceu, boš z nogami še vedno v fizikalnem svetu. So to speak.
Skrajno zapleten Fun World pomeni skrajno zapleten zapis v Physics. En realen fizikalni computing ga je moral narest in to košta energije.
Jo maš pol manj za pleasure in endurance.
Kot je neumno sedeti v enem kotu in lizati eno liziko vso semi večnost, je neumno zakomplicirat do neskončnosti skoraj.
Sej lahko ZELO popestriš svet, a da bi ga čez vse meje ... bi bil to en IMHO slab Protokol. Ki zahteva stalno eksponentno rast.
Prehitro skuriš vse zaloge.
Skrajno zapleten Fun World pomeni skrajno zapleten zapis v Physics. En realen fizikalni computing ga je moral narest in to košta energije.
Jo maš pol manj za pleasure in endurance.
Kot je neumno sedeti v enem kotu in lizati eno liziko vso semi večnost, je neumno zakomplicirat do neskončnosti skoraj.
Sej lahko ZELO popestriš svet, a da bi ga čez vse meje ... bi bil to en IMHO slab Protokol. Ki zahteva stalno eksponentno rast.
Prehitro skuriš vse zaloge.
Man muss immer generalisieren - Carl Jacobi
gardener ::
My point exactly. Ne boš ga spumpal niti delček, pa bo že pošla vsa razpoložljiva energija. Brez te compotinga ni. Lahko precej optimiziraš, uvedeš reverzibilni computing ... a enkrat poide.Indeed. Potem se le strinjava, da je Fun Space (kompleksnih novosti) izjemno velik. :)
Da bi pa pleausure navezal na kakšno takšno naraščanje nekih količin, je pa sploh neracionalno in odveč.Tule je eden bistvenih delov razprave, s katerim se nikakor ne strinjam. Da bi v konstantnih razmerah lahko uživali, bi bilo nujno spremeniti naš um - zaradi hedonističnega mlina, ki sem ga omenil višje - kar samo po sebi ni nekaj strašnega, ampak za prvi korak si je vseeno bolje ogledati spremembe okolja, ki naj pleše kot naši nespremenjeni možgani igrajo.
Zakaj se takšnih sprememb, ki bi izgnale zmožnost dolgočasenja iz našega uma, tako branim? Ker vodijo v svet, v katerem bi lahko dan za dnem delali zobotrebce in nikoli čutili kake nuje po spremembah. Težko je tule reči kaj drugega, kot da s tem zapravimo svojo usodo.
gardener ::
Skrajno zapleten Fun World pomeni skrajno zapleten zapis v Physics. En realen fizikalni computing ga je moral narest in to košta energije.
Se strinjam. Just so you know.
Sej lahko ZELO popestriš svet, a da bi ga čez vse meje ... bi bil to en IMHO slab Protokol. Ki zahteva stalno eksponentno rast.Dvomim, da zahteva eksponentno rast. Sem in tja kako nadgradnjo razumskih kapacitet, razne silno zabavne igre tudi ne stanejo toliko... težko takole na hitro reči, v bistvu. Zaradi tega (med drugim) prepuščam design utopije CEV - naj moji inteligentnejši in modrejši nasledniki odločijo, preprosto rečeno, saj sam ne zmorem razrešiti vseh teh zapletenih dilem in drugače nisem med ravno največjimi bedaki (kar se tiče ljudi, v prostoru vseh inteligenc seveda sem).
Double_J ::
Ja ne vem... na podlagi tega kako te je oblikovala evolucija impliciraš kakšen mora biti protokol, da ti bo všeč.
Pa recimo, da bi bil volk... potem bi pač trdil da je potreben lov in plen, pečeno meso je pa seveda zanič. No saj v resnici pač nisi volk, ampak neka druga slučajna struktura, ki se je tudi evolucijsko obnesla. Zato argumenti, kaj konkretno si ti ali volk želi, nimajo vrednosti.
Na splošno je pa tako, da scenarij, ki daje več užitka je boljši scenarij. In tu nimaš nobenih racinalnih možnosti ugovora.
Pa recimo, da bi bil volk... potem bi pač trdil da je potreben lov in plen, pečeno meso je pa seveda zanič. No saj v resnici pač nisi volk, ampak neka druga slučajna struktura, ki se je tudi evolucijsko obnesla. Zato argumenti, kaj konkretno si ti ali volk želi, nimajo vrednosti.
Na splošno je pa tako, da scenarij, ki daje več užitka je boljši scenarij. In tu nimaš nobenih racinalnih možnosti ugovora.
Dve šivanki...