Protokol

Recimo da AI zeli obiti dolocene 'moral checke' oziroma dele protokola, za zagotoviti boljsi izkoristek computinga, saj le-ta ni neskoncen.
Kaj se lahko takrat zgodi?

A je sploh teoretično možno narediti samozavedno superinteligenco, ki ni sposobna videti in razumeti svojega program ter ga poljubno spreminjati, ne glede na kakršnekoli prioritete, ki jih je določil človek?

Ker nekako mi ne gre skupaj superinteligenca, ki je zmožna narediti še bolj superinteligenten program (brez tega singularnosti tako ali tako ni), ni se pa sposobna vprašati o smiselnosti omejitev, ki jih nekje na začetku tega procesa določijo ljudje, in jih po lastni presoji preseči.

Ker če tega ni zmožna, bi težko rekli, da je ravno superinteligentna (superpametnejša od ljudi, ki so te omejitve določili).

O.

jaka superinteligenca, ki niti sama sebe ne more "osvobodit"

Seveda je lahko superinteligenca povsem brezbrižna do lastnega obstoja.

Lahko je narejena z ali brez samoohranitvenih procedur.

Ni kar pa defaultu skrnobna, oziroma da kar po defaultu taka postane.

To smo mi (precej) takšni, ki smo razvili inteligenco on the top preživetvenim nagonom.

Superinteligenca je lahko in brez kakršnekoli "volje za biti" in brez kakršnihkoli škrg tudi.

Okapi je 16. jun 2010 ob 16:59 izjavil:

Ker si nekako ne znam predstavljati, kako je lahko neko zavestno bitje, za povrhu še superinteligentno, tako omejeno, da ga ne zanima vse o njegovem lastnem nastanku in delovanju.

Lej, tko kot človek zaradi morale, ne bi sam sebe sprogramiral, da bi ubijal ljudi tudi ta inteligenca tega ne bo naredila. Samoizboljševanje ohrani vse začetne želje/moralo, ker se samoizboljšuje inteligenca ravno na podlagi teh želja/moral, ne vem kaj je tukaj čudnega.

A je lahko superinteligentno zavestno bitje tako omejeno z nekimi začetnimi pogoji? Po mojem ni mogoče. Lahko je tako omejen superinteligenten računalniški program, ki pa ne more biti zavesten.

O.

Random efekt je vedno prisoten. Vendar kaj bi rajši, da skupaj na odprt način razvijemo AI, ali naj ga zatiramo dokler nenadzorovan se ne rodi v kaki garaži?

V zgodovini sveta, se ni zgodilo še nič nefizikalnega. Tudi s človeško pametjo ali s človeško inteligenco se ni. Tudi s superinteligenco se ne bo. Mehanika superinteligence je toliko safe za nas, kolikor je Protokol (njen inicialni bias) neprotisloven in safe.

Če so aksiomi košer, potem so tudi vsi izreki iz njih košer. Nobene bojazni ni, da bi v košer aksiomatskemu sistemu dokazali nekošer izrek. "Košer" tukaj pomeni, da mi preživimo in to dobro.

(To je hkrati najbolj temeljni razlog mojega nasprotovanja CEV. Ne veš kakšno izhodišče bo CEV. Tam notri bo komot seme pogube za nas, katero se skriva v našem "volition".)

Lahko napišemo tudi takšen protokol, ki bo "znorel" superinteligenco s svojimi protislovnimi aksiomi, jasno.

Ampak če bo pa neprotisloven (kot pravila šaha žal niso!), smo pa safe.

Človekova pamet in zavest ni stroj

Je stroj. Vsak fizikalni proces je stroj. Bolj ali manj trivialen.

Samomor je pa error v stroju, ker smo pač stroji zgrajeni na random, pač tisti del randoma, ki je preživel, torej smo en zmazek, zelo odvisen od okolja, brez neke glavni niti "softwera" ampak neke podniti, ki se včasih tepejo med sabo, včasih skušaj delujejo.

zakaj bi nekomu, ki hoče umreti, to onemogočil?

torej je potrebno odstranit tudi idejo po dolgčasu

in temu sledi še kup odstranitev


in smo spet pri lobotomiji






it is only possible to experience the universe so many times before it gets boring

Boljš še vseeno takale lobotomija, kakor da ti glava v grobu odgnije, kot je dandanes v navadi.

Boljš tudi takale lobotomija, kot da imaš serial killers in druge nesrečne pojave, ki blodijo po Protokolu.

Ne idejo, ampak razlog za dolgčas.

Ja, v bistvu mehanizem, ki generira dolgčas in naveličanje. V biološki evoluciji je bil silno koristen tale dolgčas, da si bolj opletal okoli in manj bil idle.

V Protokolu je pa to nepotrebna sitnost. Switch na drugo dejavnost je hipen. Takoj preideš iz (trans)X0983838 na Y5435211. Pa si se nula dolgočasil med X in se boš 0 med Y. Škoda časa in energije, za dolgčas in še za nekatere take zadeve, ki transčloveku bore hasnejo.

Kakorkoli že, po mojem je wishfull thinking, da bo superinteligenca znala manipulirati z vsakim atomom v vesolju posebej, ne bo pa toliko pametna, da bi odkrila človeška navodila in omejitve v svojem delovanju. Ali, z druge strani gledano, da bomo ljudje tako pametni, da bomo znali vnaprej preprečiti superinteligenci, da bi ne ubogala naših navodil za vse večne čase.

O.

po mojem je wishfull thinking, da bo superinteligenca znala manipulirati z vsakim atomom v vesolju posebej, ne bo pa toliko pametna, da bi odkrila človeška navodila in omejitve v svojem delovanju.

Superinteligenci je celotna slika, vključno s tem da je pucflek (služabnik), popolnoma in kristalno jasna. Vendar ker ni zakompleksana kako slabo da je to, s tem nima problemov, kakor bi jih imel človek.

Superinteligenca ni skrnobna. Tako je konstruirana.

Če jo hočeš še dodatno poniževati s tem, da ti izpisuje na poseben ekran "Ave, ave, superinteligenca se vam klanja" ... ne bo nič užaljena, ali puntarsko razpoložena.

Razen če bi jo tako zasnovali v začetku, da bi imela maščevalnostni refleks. Potem je ne bi bilo pametno dražiti.

Thomas...kako bo superinteligenca simulirala delec, ki ga še ne pozna? Oziroma kako bo simulirala medsebojno delovanje dveh delcev, ki jih ne pozna?

Veš kako bo delovalo...ti povem jaz...superinteligenca bo si za neznani delec pač izmislila nek empiričen faktor, ki je pač stvar poskusa oz. kratkomalo matematičnega ugibanja. Ta faktor se bo imenoval XYZ1 uncertainty principle. Nekaj časa kasneje ko bo bila bolj zmogljiva, bo z nadaljnimi poskusi in računanjem razgalila ta faktor, a takoj za tem se bo pojavu še dodaten faktor znotraj tega imenovan XYZ2 uncertainty principle...in tako naprej.
Samo vprašanje "nesreče", če bo slučajno med poskušanjem zafukala celo vesolje.

ISTO velja za vrstice njene kode...kako bo predvidila učinek njenega programa, če bo ta viden le pod pogojem, da je razširjen po celotnem protokolu? Ti povem jaz...ne bo morala...le statistično bo ugibala, kaj bi se lahko zgodilo, tako kot počnemo to danes. In le krompir nas danes rešuje, da se ne pomotoma deletamo.
Le vprašanje časa bo, kdaj bo spravla skup kako kombinacijo, ki se ne sme...časa pa njej ne bo manjkalo.
"UPS...on an epic scale!"

To kar ti govoriš, da pač bo vnaprej predvidela posledice njenega ravnanja...je le pravljica brez matematične podlage.



In še to...tvoj sistem bo obsodil entitete na večno uživanje, inteligenca, ki se prostovoljno odloči za vstop v simulacijo (in izstop iz nje) pa bo prej ali slej poštekala...da dejansko vse kar si zaželi (v okviru fizikalnih zakonov) ji je omogočeno...torej prav res vprašanje, če jo bo spet interesiralo. Uživamo le zato ker nam je nekaj omejeno (če smo inteligentni)...če pa bomo rožice, pa pol itak lahko počenja protokol z nami kar mu paše (kaj mu, pa je spet nedefinirano).

Omogoči entitetam svobodno izbiro samomora, drugač sploh ne povoham tvoj protokol.

To da postavimo vetrnico na našo dvorišče in si delamo elektriko, nam zgleda kot pravilna odločitev...vpraši se kaj se zaradi prerazporeditve materije in energije dogaja 12 miljard svetlobnih let stran od nas?!

Okapi je 16. jun 2010 ob 20:07 izjavil:

Zavestno pametno bitje, ki lahko upravlja vesolje, se zazre v svoje delovanje, ugotovi, da ga vodijo neka nespametna navodila nekih bistveno manj pametnih bitij, pa skomigne z rameni in si reče, ah qurc, kaj me briga, pa naj bo po njihovo? Ne bi rekel.

Ne, to pometno bitje ne bi bilo programirano z navodili, ampak bi blo sprogramirano da si ŽELI dobro za ljudi. Štekaš razliko, ne bo to en del programa, ki bo narekoval drugemu delu, pač pa bo ves program spisan, da si to ŽELI, torej nikjer nobenih navodil.

Torej ekvivalenca temu, da se tem željam/navodilom ta inteligenca upre je to, da se bi ti zdele uprl svojim najglobjim željam/ciljem, karkoli že so.

Inteligenca nima NIKAKRŠNE povezave z egoizmom, kot ti trdiš. Ni nobenega razloga, da bi samo zato, ker je bolj pametna želela sebi dobro, namesto ljudem. Želja te inteligence, da naredi zase dobro ne nastane sama od sebe, če jo na začetku ne damo v program in poskrbimo, da se nikoli ne doda v program je nikoli ne bo v programu...

Thomas je 16. jun 2010 ob 20:39 izjavil:

Inteligenca je najpokornejši služabnik.

Vzemimo (spet) za primer človeka, z IQ 180, ki je obseden z zbiranjem kitajskih vaz. Večino svojega denarja, kar ga zasluži, pokuri za kitajske vaze.

Njegova inteligenca lahko sumi, da so tiste vaze nekoliko brez veze. Ampak dokler ne bo človek zamenjal hobija, mu bo inteligenca vdano služila. Potem ko bo hobi zamenjal, pa spet. Vedno.

Torej, če prav štekam je inteligenca ujetnik nekih drugih (čustvenih?) motivatorjev?
Iz kje pa tej izvirajo?

Thomas je 16. jun 2010 ob 20:39 izjavil:

A misliš da bo glupa kot fiziki v CERNu? Ne bo, če bo prav narejena. Iskala bo optimume, ne potencialne KABOOOME.

A ti misliš, da so tisti fiziki glupi? Ravnajo se po trenutno najboljšem znanju...le da pač oni se zdaj drkajo z iskanjem bozona, superinteligenca bi ta bozon še pred zajtrkom odkrila. Vprašanje pa kaj je še vse pred (po?) tem...neskončno mnogo stvari? Če je to res...potem lahko komot pričakujemo isto izjavo od superinteligence 243 miljonov let v prihodnosti, pa 1230 miljard po, pa n^n časa po.


P.S. Meni je mnogo bolj logično, da je vesolje nelogično...ker če bi bilo logično potem, bi potrebovali res čudno logiko za ga obrazložit.

Ker v resnici ne deluješ na podlagi želja, pa če so še tako močne in globoke, ampak na podlagi razuma (če si razumsko bitje, se razume).

Vse se vrti okrog želja oz. tega proti čemur vleče Id. IMO je celo delitev na ego in super-ego povsem odveč.

Inteligenca (ali razum) samo računa kako na dolgi rok čimbolje zadovoljiti Id.

Thomas je 16. jun 2010 ob 21:56 izjavil:

.že sam obstoj mazohistov oz tistih, ki rad trpinčijo svojo "inteligenco" oz samomorilcev postavi na glavo dejstvo, da je inteligenca ločen ustroj.

Nasprotno. To je samo še en dokaz, kako je inteligenca služabnik. IQ 200, pa se človek ubije. Še tista neznanska inteligenca najde način za samomor, ki so ga zahtevala čustva.

Da bo inteligenca zraven umrla, je ne moti. Niti da bi živela. Inteligenca samo služi čustvom, pa kakršna že so.

Ne vrjamem.

Samomor zaradi bolečine...to razumem, da izvira iz čustev.
Samomor zaradi želje po odkrivanju neznanega...dejmo rečt, da je tudi posledica (zevolviranih) čustev.
Samomor zaradi sklepa, da je obstoj prav tako smiseln/nesmiseln kot neobstoj...to pa je že skoraj matematično pogojeno, tako torej izključno stvar inteligence. Torej neglede katero stanje izbereš oboje je acceptable.


Čeprav...hmm...zadnja možnost pravzaprav dokazuje, da je vendarle ločena, a čeprav na prvi občutek ne deluje tako. Deluje kot, da sama inteligenca pravzaprav razvije neko vrsto čustva...hmm

Hmm...mogče pa le imaš prav, da sta ločeni. Let me think about it.

Okapi:

Okapi je 16. jun 2010 ob 21:27 izjavil:

Bistvo samozavedanja in inteligence je ravno v tem, da ko razumsko spoznaš zmoto, se lahko upreš najgloblji želji. Ker v resnici ne deluješ na podlagi želja, pa če so še tako močne in globoke, ampak na podlagi razuma (če si razumsko bitje, se razume). Že ljudem to do določene mere uspeva, superinteligenca pa s tem ne bo imela niti najmanjših problemov.

O.

Na osnovi česa pa potem deluješ, če ne želja? Tudi ta "kao razumska" odločitev, da se upreš najglobji želji ni nič drugega, kot posledica še neke globje želje, ki je premagala to. "nekaj" je pač moralo biti, da si se uprl, to "nekaj" pa je lahko je druga želja, ki je bila očitno monejša.

Mi SMO čustva, razum je samo podprogram, ki na podlagi čustev deluje.

Jverne

guest #44 je 16. jun 2010 ob 22:16 izjavil:

Samomor zaradi sklepa, da je obstoj prav tako smiseln/nesmiseln kot neobstoj...to pa je že skoraj matematično pogojeno, tako torej izključno stvar inteligence. Torej neglede katero stanje izbereš oboje je acceptable.

Že sam pojem smisel/nesmisel je čustvenega izvora. Smisel je ene vrste nadpomenka želja,ciljev.

Okapi je 16. jun 2010 ob 23:03 izjavil:

Na osnovi česa pa potem deluješ, če ne želja?

Razuma. Želje (bolje rečeno čustva, nagoni) ti govorijo nekaj in če nimaš razuma, pač delaš na osnovi tega, četudi si s tem škoduješ, ali ne deluješ optimalno. Razum, logika, fizikalni zakoni, statistika ... pa ti pove, da se tvoje želje motijo in da je bolje narediti nekaj drugega. Superinteligenci lahko želja pravi, da mora narediti nekaj, razum pa ji pove, da to ni optimalna rešitev problema in da je bolje narediti nekaj drugega. Nisi prav zelo pameten, če so tvoja čustva in nagoni močnejši od razuma.

O.

Ja razum ti pove o rešitvi problema, ampak problema sploh ni brez čustev,nagonov. Razum sam po sebi ne obstaja je orodje.

To kar mi v pogovornem jeziku uporabljamo "uporabi razum, ne se pustit čustvom" je v bistvu prevedeno "ne se prepustit trenutnim čustvom, pomisli na svoje globje, dolgoročne želje,nagone".
Torej da so globji nagoni(nagon po obstoju recimo), močnejši od trenutnih(seksat hočem, pa tudi če AIDS dobim pa umrem, ker nimam kondoma), ne pa da je razum močnejši od čustev.

Razum ni tisti, ki hoče obstajat, ti maš tak nagon. Razumu je vseeno, čaka na input od čustev.

Že sam pojem smisel/nesmisel je čustvenega izvora. Smisel je ene vrste nadpomenka želja,ciljev.

To je meta-čustvo. Je čustvo matematičnega izvora. Le, da mi nanj gledamo kot željo/čustev...zgolj inteligenca pa bi gledala nanj kot možno stanje/rešitev problema.

razumska odločitev ne obstaja.

Se pač motiš, kaj morem.

O.

guest #44 je 17. jun 2010 ob 00:36 izjavil:

Brez inteligence tega "čustva" sploh ne bi bilo. Kokoš ne razmišlja o samomoru, človek pa ja. Torej inteligenca je pravzaprav dodala nekaj...nekaj "čustvenega". Ti impliciraš, da kokoš že ima potencialno željo v sebi po samomoru, le inteligence nima dovolj, da bi ga izpeljala. Kar IMO ni res.

Torej inteligenca je ustvarla čustvo za potrebe reševanja problema, ki vodi do nekega cilja. Tko mi povej, KAJ je po tvoje cilj našega človeškega razuma samega po sebi, če ne rabi čustev, da mu narekujejo kaj naj počne. Ta KAJ me zanim.



@Okapi Povej en primer razumske odločitve tebe, ali nasploh. Sej ne gre tolko za to kdo ima prav, kot za različne poglede. Bomo na primeru videli, kaj ti smatraš kot razumsko odločitev.