Protokol

Ni mi naredilo! Nimam dovolj CPU za tratit.

Mi je pa naredilo v prilagojeni kodi iz tukaj:

http://www.critticall.com/cache.html

Včeraj zvečer v enih dveh urah.

Potem sem pa prej ustavil in probal še tole:

if (n==1) {sum=1;}
if (n==2) {sum=3;}
if (n==3) {sum=6;}
if (n==4) {sum=10;}
if (n==5) {sum=15;}
if (n==6) {sum=21;}
if (n==7) {sum=28;}
if (n==8) {sum=36;}
if (n==9) {sum=45;}
if (n==10) {sum=55;}
if (n==11) {sum=66;}
if (n==12) {sum=78;}
if (n==13) {sum=91;}

Pčasi ga kleše.

@njok:
To, da je Criticall sam izpeljal algoritem spada v to, kar sem rekel, da je inteligentno bitje. Nikoli nisem trdil nasprotnega. Programerji se niso zavedno ubadali s človeško podobo, ko so programirali Criticall, ampak nezavedno, ker so imitirali človeške možgane. In nas kot take imamo za inteligentna bitja. Hočem reči to, da bo Cyborg na začetku izredno podoben nam (sploh če ga bodo naredili v naši podobi - umetna koža, oči,...). Zelo kmalu pa bi nas prehitel po znanju.

Meni osebno bi bilo izredno zanimivo primerjati našo AI z AI, ki so jo ustvarili nezemljani. In sicer tisto primarno znanje, ki bi ga cyborg obeh ras posedoval t.j. izhodišče ob vklopu v življenje. Ker je to najbrž zelo pomembno za to, kako hitro bo napredoval.

Torej, wikipedia pravi:
A second definition of intelligence comes from "Mainstream Science on Intelligence", which was signed by 52 intelligence researchers in 1994:

a very general mental capability that, among other things, involves the ability to reason, plan, solve problems, think abstractly, comprehend complex ideas, learn quickly and learn from experience. It is not merely book learning, a narrow academic skill, or test-taking smarts. Rather, it reflects a broader and deeper capability for comprehending our surroundings—"catching on", "making sense" of things, or "figuring out" what to do.
Če se omejim samo na to definicijo, potem moram reči, da bo cyborg abnormalno hitro prehitel človeka. In to le zaradi hitrejšega obdelovanja enormnih količin podatkov.

> Ampak Critticall je "samo" evolucijski algoritem

Tako je. Samo random mutacije in nonrandom selekcija. Plus mogoče kakšni šurki.

> In kaki so kej rezultati od tega Critticalla?

Poglej na critticall.com

> Je kaka primejrava z ostalimi podobnimi programi?

AFAIK jih ni.

> Za koliko % je hitrejši od teh drugih programov?

Jih ni.

> Kaj je naslednja stopnja Critticalla(že delate na njej)?

"Don't ask, don't tell" politika.

> Če daš Critticallu en obsežen program(Xpje), da ga spedena

Ne moreš. Ne razume nič bolj kompliciranega kot je tisti oskubljeni C.

> ali potem programer(Xpjev) še spozna svoj prvotni program ali pa vidi le en zmazek od critticall

Lahko mu pa daš kakšen segment kode, ja. Ki ga verjetno razpaca do nerazpoznavnosti.

> in nima pojma več kako kej deluje :) ?

Lahko se pomatra in vidi, oja!

Tega ne bo nikoli.

Prvi detajl je ta, da ste vi že očitno zludani in za vas zemeljski ostanki merjenja časa, kot je naprimer koledar, ne pridejo več v poštev.

V sredo 29.10. imamo slovenski transhumanisti eno tako mini srečanje.

Poslano: 25.11.2006 09:50:30

In pol naj vas ma človk za resne

Uh se opravičujem. Datum je seveda 29.11. proti večeru v Ljubljani!!
Več nas bo bolje bo. Vabljeni vsi, ki sodelujete v tej debati in vsi ostali, ki bi radi vedeli kaj več o transhumanizmu na sploh.
Več info prek zasebnih sporočil.

Paralelna vesolja nimajo veze. Če obstajajo ali pa ne.

->Thomas, zanimivo bi bilo, ce ob priliki naredis nekaksen povzetek/seznam linkov, ki prikazujejo tehnoloski razvoj (v vseh moznih...ali vsaj izredno zanimivih) panogah od casa, ko si napisal prvi post do danes, torej zadnjih sest let...

Zanimivo bi bilo videt kaj se je spremenilo od 2000-2003 in kaj se je spremenilo od 2003-2006. Potem pa ugotavljat koliko krat hitreje se je tehnologija razvijala v zadnih treh letih. No, sej to si mislimo, da bo pač eksponentna rast.

Ali bomo v 2007 naredili več kot prej v 6ih letih?
Mogoče bi na ta način skeptiki malenkost premislili...

Glede na to da nismo vsi doma, se manj pa v Ljubljani, bi bilo lepo ce bi eden od udelezencev tega sestanka navedel kaksno novo, morda uporabno informacijo. Tako da tudi ostali sledimo dogajanju.

Hvala,
Lp

Thomas:

Jaz bi tud imel posnete. Kako jih dobit?
(če bi bil v Sloveniji bi zagotovo prišel na sestanek)

Jaz bi bil tudi zelo vesel, ce bi lahko do posnetka prisel.

Kaj pa kaksni chati so se aktualni?

TH SLO imamo svojo internetno stran (v fazi končne izdelave), ki je dostopna na http://www.transhumanizem.org/ in pa forum na http://forum.transhumanizem.org/ Na strani je kar nekaj uporabnega materiala (prevodov, itn), ki so zanimivi predvsem za tiste, ki ste šele na začetku spoznavanja TH.
Imamo tudi mailing listo in sicer na yahoo groups pod "transhumanizem".

->V večini ljudje mislijo, da je to ena izmed stvari, ki jih računalnik nikoli ne bo znal.

Smo probali enkrat ljubezen na celičnem-biokemijskem nivoju razlagat na tem forumu!
Folk enostavno noče sprejet kako bi stvar naj zgledala...

Danes mi je ena šahistka, ki je bila na E-plus(ali neki podobni oddaji na TV) dala za mislit o ljudski veri o tem "kako računalnik ne bo nikoli tako dober kot človek"... in to v igranju šaha!!! Sicer je sama povedala, da je računalnik pred kratkim premagal aktualnega svetovnega prvaka v šahu Kramnika, ampak 'računalnik nikoli ne bo tako dober igralec šaha kot človek, ker ni intuitiven in ne igra čustveno'.

Kako slab računalnik so tokrat dali računalniškemu programu? Spomnim se enega dvoboja pred leti, ko je računalnik imel 4 ali 8 cpujev. Blah.

Še kakšen go, pa poker(?) in podobne zadeve morajo pasti... in tudi bodo čez čas. Ampak takrat bodo nekateri ljudje videli v teh igrah nekaj več.

Jaz pa sem mislu, da se v šahu igra za zmago (šah mat) :)

Pri šahu iz vsake pozicije izhajajo različni razpleti igre. Nekateri razpleti vodijo v zagotovo zmago, nekateri v zagotov poraz, nekateri pa v remi. Če ima stroj ali človek to sposobnost, da lahko v vsaki situaciji odigra eno od potez, ki vodijo v zmago, potem bo zmagal.

Mene pa zanima, kaj se zgodi, če igrata šah dva, ki vedno povlečeta eno od oprimalnih potez. Je rezultat remi? Ali zmaga tisti, ki začne, ali oni drugi?

Če potegnemo primerjavo z igro TicTacToe, recimo, tam je pri optimalnih potezah rezultat vedno neodločen.

o+ nevone

Ena stvar, ki lahko podaljša čas do Protokola je to, da smo narobe predpostavili količino potrebnega computinga.
Ampak to je imo maximalno plus 5 let.

Kako zanesljivi so podatki o količini potrebnega computinga.

Opažam, da smo redki, ki zastopimo singularnost. Še bolj redki smo pa tisti, ki jo zastopimo, pa nam ni všeč.

Ne ne, jo razumem, jo. Ampak mi ni všeč. Zakaj? Iz dveh razlogov:

1. Sama fascinantnost sedanjega življenja pravzaprav.
Fascinantno se mi zdi, da sem se kar nekako pojavil v tem svetu od nikoder, prej (verjetno) nisem niti nikjer obstajal, tudi potem (verjetno) nikjer ne bom, učim se že celo življenje iz knjig in iz izkušenj pa vendar nič ne vem... svojevrstna paradoksalnost in kompleksnost tega sveta me fascinira. Thomas bi verjetno rekel, da je zgolj navidezna. Pa tudi to, da pravzaprav nikamor popolnoma ne spadam in si tudi ne želim nikamor spadati.

2. Memetska struktura temeljev singularnosti je podobna matematični. Če ji nekaj odvzameš, si s tem vse porušil. Ne morem namreč sprejeti teze, da je vse že vnaprej definirano oziroma da nam je v življenju vse usojeno.

Ni res. Že precej dolgo obstajaš. Zavest na človeku ni nekaj novega.

Hehe, pa smo spet pri zavesti. Jaz nanjo gledam v najširšem možnem smislu, torej da obsega skoraj vso posameznikovo delovanje (razen avtomatskih funkcij telesa - refleksi, hormoni, itd.). Sem jo pozabil omeniti v prejšnjem postu. In kje je problem?

Na kratko povedano:
Če smo vsi ena zavest, zakaj sebe dojemamo kot posameznika, ki nima nobenega stika z zavestjo drugega posameznika? Mar doživimo med v časovnem smislu infinitezimalnimi preskoki iz ene zavesti na drugo amnezijo? Sicer naj tovrstnih preskokov ne bi niti bilo, toda brez te prispodobe si mi ene enotne zavesti ne uspe ravno najbolj predstavljati.

Ali še drugače:
Če se pri sebi vprašaš - kdaj si začel (kot posameznik - če pustimo teorijo o eni zavesti ob strani) obstajati? Sedaj to veš le po tem, da se spomniš nekih dogodkov. Tako veš, da si (kot posameznik) obstajal. Ergo lahko govoriš o obstoju sebe kot posameznika od trenutka, ko si neko živčno povezavo v možganih toliko utrdil, da se tega spomina spominjaš še zdaj. Pa vendar veš (vsak človek brez izjeme se najprej rodi in razvija postopno), da si gotovo moral obstajati že pred tem dogodkom. In si gotovo moral tudi kaj doživljati. Paradoksalno, se ti ne zdi?

Paradoksa na tem svetu ni. Obstaja v naših glavah.

Kako, če ga na tem svetu ni? A naše glave pa niso na tem svetu?

In kaj si ji vzel? Dušo?

Ne, pač pa koherentnost, logičnost. Če bi se v matematiki kakšen izrek izkazal za napačnega, bi ovrgel vse, kar je iz njega sledilo. Tukaj je podobno. Zato zahteva teorija protokola tudi tezo o usodi, kar me moti.

Spomini definitivno niso del zavesti. Kot primer.

So, ko jih prikličeš v zavest.

Zavest je kot program, potrebuje substrat na katerem dela. Nima veze kolikokrat deluje, tako kot ni pomembno koliko Windowsov je na svetu. Na mojem računalniku/substratu bodo še vedno delovali brez komunikacije z drugimi.

Hja, če je to ves smisel - to pa zame poruši vse temelje predstavljanja enotne zavesti. Če ni komunikacije med posamezniki (pa ne zgolj prek čutov oziroma čutil), potem je pojmovanje zavesti kot ene in enotne popolnoma brezveze in brezvezno. Šele sedaj razumem, da je bilo vso to filozofiranje v temi o treh sobah čist brezveze, če si tudi Thomas in ostali "singularci" predstavljajo pojem ena oziroma enotna zavest tako kot ti, _marko. Da ne bo pomote, jaz NE trdim, da zagotovo obstaja še kakšna druga komunikacija med posamezniki kot tista preko čutil, vendar vaše (tvoje) pojmovanje ene zavesti je izumljanje tople vode... Da imamo vsi ljudje zavest, je seveda logično. Toda če privzamemo da je pri vseh posameznikih enaka, potem ne moremo govoriti o zavesti v najširšem smislu, marveč jo omejimo bolj na zaznavno plat, nikakor pa ne moremo vključiti v to pojmovanje zavesti tudi čustev in, kot si rekel, spominov. Slednji dve zadevi sta sami zase in v smislu medsebojne povezave namreč od posameznika do posameznika zelo zelo zeeeeloooo različni.

Sej veš kako je mišljeno.

Nič se sedaj ne izmikaj... Kaj pa če je ravno to ključno za simuliranje zavesti na drugem hardveru? Če imam jaz ali ti v glavi paradoks in želiš najini zavesti (zavesti v najširšem smislu tokrat) simulirati na drugačnem substratu, boš moral zagotoviti, da bo to možno tudi na tem substratu. Drugače se lahko zgodi, da boš dobil ven le spužvo, ker boš namesto zavesti v najširšem smislu (oziroma celo nadgrajenem smislu - v protokolu naj bi lahko človek počel še precej več kot sedaj) simuliral zavest v najožjem smislu, ki bo sposobna zgolj zaznavanja in ne kaj dosti več, in lahko se zgodi, da manjkajočega dela - čustev in spominov ne boš mogel kar enostavno doštukati zraven.

@whatever
Če ti danes res ni všeč ideja, da bi imel ob strani močno inteligenco, ki bi ti pomagala ob raznih težavah, mislim da se bo to spremenilo, ko (če ;)) se boš postaral ali zbolel.

Omenjaš tudi:
> ...svojevrstna paradoksalnost in kompleksnost tega sveta me fascinira.

Zakaj meniš, da v post-Singularnostnem svetu ne bi mogel uživati v doživljanju (še večje količine) teh vzorcev?

Nisem ravno prepričan da razumeš koncept Singularnosti... gre za stvaritev prve inteligence, ki bo presegala človeško. Od motivov, ki jih bomo vgradili vanjo, pa je odvisno kakšne sadove bo obrodilo to naše početje.

P.s. nicnevem < - Tachyon

@marko in.. še kdo
Že pred časom sem obljubil odgovor na vprašanje o tem, kako oblikovati etični sistem AIja, ter pojasnilo svojega pogleda na te zadeve... ok, here it goes.

Etični sistem je algoritem, ki usmerja obnašanje inteligentnih bitij - torej motivacijski sistem. En način, ki se ponuja pri konstrukciji tega sistema, bi bil kar lookup tabela, v kateri so napisana pravila, ki določajo delovanje AIja v vsaki situaciji, na katero naleti (v jeziku primitivnih konceptov, ki jih AI razume). Neizvedljivo.

Če po drugi strani poskušamo, tako kot Asimov, napisati le peščico aksiomov, se pojavi težava njihove uporabe. Pomen, ki ga ljudje razberemo v teh aksiomih je namreč prisoten v kompleksnem (pod)sistemu naših možganov, ki pa ga v takem (bolj naivnem) designu AI ne bo imela.

Zato sem rekel, da moramo prenesti na AI sposobnost etičnega razmišljanja na podoben način, kot to počnejo človeški filozofi. Nekako mora vsrkati vase ta kompleksni podsistem, s katerim se ljudje odločamo. Na tem naj nato gradi.

Vendar različni filozofi imajo svoje etične sisteme zgrajene okoli različnih osnovnih konceptov, principov. Zato imamo hedonizem, "krščansko etiko", mortalizem itd. Kakšen naj bo ta osnovni princip, ki ga bomo vgradili v AI? Povečevanje pleasure/pain kvocienta, kolikor je to mogoče? Zakaj pa ne...

Če želimo določiti, kateri med različnimi principi je boljši, implicitno predpostavimo, da imamo na voljo neko metaetiko, s katero se strinjamo. Jo imamo res?

Metaetiko lahko enačimo z (večinoma) skritimi motivacijami posameznika, ki se odloča, kateri osnovni princip mu je bolj všeč. Marko in Odin si prizadevata za čisti hedonizem, Thomas...se še obotavlja :), nicnevem pa naklada v 3 dni, brez da bi konkretno podal svoje želje. ;)

Jih tudi bom, ampak najprej bi si rad malce razjasnil M&O scenarij.

Kako torej realizirati to idejo?
Naj AI poskuša povečati št. smehljajočih se ust v vesolju?

Naj se v AI vgradi neka definicija qualie užitka in potem naj ta naredi karkoli je pač potrebno za to, da ta qualia postane intenzivnejša, bolj razširjena?
...

Toliko za začetek. Zdajle moram nekam skočit, tako da bom malo kasneje (ali pa jutri) še kaj napisal.

->Zato sem rekel, da moramo prenesti na AI sposobnost etičnega razmišljanja na podoben način, kot to počnejo človeški filozofi. Nekako mora vsrkati vase ta kompleksni podsistem, s katerim se ljudje odločamo. Na tem naj nato gradi.

Jaz pravim naj se AI sama odloči. Ima axiome, ki morajo vedno držati. Tukaj se zavarujemo.


->Vendar različni filozofi imajo svoje etične sisteme zgrajene okoli različnih osnovnih konceptov, principov. Zato imamo hedonizem, "krščansko etiko", mortalizem itd.

Ni tu prostora za današnje etike. Hedonizem in to je to.


->Kako torej realizirati to idejo?
->Naj AI poskuša povečati št. smehljajočih se ust v vesolju?

Kot sem rekel, dati axiome AIju. P/P naj gre k maximumu.
Nočemo etike, kompleksnost je opcija - vendar naj se zbere nekompleksnost, če da višji pleasure in porabi manj komputinga.
Naj bo oskubljena zavest optimalno namnožena v vesollju. Brez spominov, brez vseh navlak kot je npr dolgčas.
Naj bo pleasure loop in to je to.


->Naj se v AI vgradi neka definicija qualie užitka in potem naj ta naredi karkoli je pač potrebno za to, da ta qualia postane intenzivnejša, bolj razširjena?

DA.


To je to, na hitro napisano. Upam, da nisem česa spustil.

Kaj sploh je "pleasure"? Kako ga definirati? Je to le odostnost bolečine ali nelagodja?
Nisem prebral celotne teme - je kak kratek odgovor na to?

@Saladin
> Kaj sploh je "pleasure"? Kako ga definirati? Je to le odostnost bolečine
> ali nelagodja?
> Nisem prebral celotne teme - je kak kratek odgovor na to?

Ne. Če definiraš nek pojem z enako kompleksnim (užitek z nelagodjem) nisi naredil nič.

@marko
>> Zato sem rekel, da moramo prenesti na AI sposobnost etičnega razmišljanja na podoben način, kot to počnejo človeški filozofi.
> Jaz pravim naj se AI sama odloči. Ima axiome, ki morajo vedno držati.

Če želimo naj se AI sama odloči, mora sploh imeti to sposobnost in če želimo da se odloči kolikor toliko v skladu z našimi vrednotami, potem mora imeti na voljo mehanizem podoben tistemu, ki obstaja v nas.

> Hedonizem in to je to.

Ok. Samo dvomim, da ga je možno speljati na takšen način kot predlagaš.

Problema sta najmanj dva: tehnološki in filozofski. Pri prvem gre za to, da niti današnji ljudje s specializiranim hardwareom za modeliranje drugih ljudi nismo sposobni optimalno ocenjevati, katera naša dejanja bodo vodila k povečanju užitka drugih, kaj šele AI brez tega...

Poleg tega, če bi rad odstranil spomine in ostalo šaro tako, da ostane samo zavest v kateri na nek način induciraš pozitivno qualio, rabiš superinteligenco (kako bo sicer AI razumela, kaj naj bi bila pozitivna qualia in spreminjala informacijske procese na tak način, da bo ta qualia v njih dosegla nek maksimum). Od mladega AIja do superinteligence je sicer časovno lahko kratek korak, v smislu sprememb pa precej dolg. Tako dolg, da na poti izbriše človeštvo. In za to vmesno obdobje potrebujemo primeren etični sistem.

Drugi problem pa je najlaže demonstrirati s preprosto metaforo. Imamo neko bitje, recimo bobra, v katerem se občasno pretaka določena qualia, ki mu je všeč. Želi si intenzivnejše qualie, zato zgradi stroj, ki na nek način transformira bobre (z okolico) v takšne zgoščene vzorce (recimo majhne črne luknje, na katerih se odvija computing), da je ta qualia izjemno "močna". Ne gre za povečanje kompleksnosti, ampak "pretoka" qualie. Zavest ostane enaka kot prej. Ne doseže človeškega nivoja, kaj šele kaj zanimivejšega. Užitek ostane enakega "okusa".
Vsaj tako si predstavljam M&O scenarij, ki sicer (glede na moje vrednote,jasno) nikakor ni slab, ampak kljub temu si želim nečesa drugega.

In kako rešiti ta problema?

Namesto da se spopadamo s težavami kot je prva (kako podati AIju definicijo pozit. qualie, ki jo bo razumel in kako naj sploh ve, s svojo na začetku omejeno inteligenco, kako ravnati), ga lahko naredimo tako, da bo deloval kot svetovalec in uresničevalec želja. S tem se odstrani tudi drugi "problem". Seveda pa morajo biti na množici želja določene omejitve (izbris drugih ljudi npr. ne pride v poštev, ipd.).

Ker ljudje doživljamo užitek ob izpolnitvi kakega (ali več) svojega cilja, je taka strategija hedonistična, vendar ne tako radikalno kot M&O sc. Ker si lahko posameznik zaželi spremembo v kako drugačno bitje, se rešimo filozofskega "problema", pri katerem bi sicer za vedno ostali na enakem nivoju kompleksnosti qualie/zavesti. Tukaj pride tudi do tega, da se zavesti začnejo razlikovati in tako "tri sobe" ne veljajo več...

Obstaja torej še kak drugačen sistem vrednost kot ta, ki ga predlagata marko in Odin. Poleg samega užitka, visoko cenim ravno tisto, kar naj bi ležalo v središču transhumanizma: željo po tem, da prerastemo svoje omejitve. Če nekdo želi postati oblak naj le izvoli, če inteligenca, ki ima popolnoma drugačno arhitekturo od človeške (in s tem tudi izkustvo, zavest), tudi prav, ali pa kaj tretjega, kar si danes ne moremo niti zamisliti. AI naj nam "le" omogoči vse to.

Upam, da je vsaj za silo jasno kar sem želel povedati.