Protokol

->ki je v bistvu nekaj zelo matematičnega

Tu si se IMO ujel. Še vedno je to matematično bistvo nekam "vgravirano" (v realen fizikalni svet) in zato se lahko to zgodi. Tako kot npr zavest "vgravirana" v možgane.

->Ujel? Ne, mogoče premalo striktno izrazil.

Nisem tebe mislil

Samo vseeno.

Tole poudarjanje, da gre že pri vsakem "navadnem" računalniškem programu V BISTVU za nek fizikalni proces, ni nikoli odveč.

Tega se je zdravo močno zavedati NONSTOP. Potem se nam ne zdi tako čudno, da iz ene molekule DNA po slabih 4 milijardah let pride do "avionov ki režejo zrak, stopinj na Luni ..." itd.

Ker s fizikalnimi procesi imamo jasno izkušnjo, da iz povsem nedolžnega iskrenja v kemijskem detonatorju vodikove bombe, zelo hitro lahko nastane impresiven KABOOOM. Pa še mnogi primeri so. Zakuriš cigaret nekega vročega poletnega dne, pa pogori Azurna obala ali Dalmacija.

Če gledamo tako, se nam razširitev enega rekurzivngea self enhancinga na celo Osončje in naprej, sploh ne zdi več tako čudno.

V primeru DNA evolucijo fura sončeva svetloba. To je bil resours za stopinje na luni in za "jeklene ptice". Če bi sonce nekje na pol poti ugasnilo, nebi bilo s tistimi stopinjami nič.

Danes se je DNA naučila tudi izkoriščati energijo supernove, ki se je zgodila nekje davno nazaj (jedrske elektrarne). Če bi sonce ugasnilo in bi človeštvo obstalo pri življenju zaradi pridobivanja JE, bi pač bil resours tista eksplozija, ko bi le-tega zmanjkalo, bi bilo konec (če nebi prej pogruntali kaj drugega).

Za evolucijo algoritma v čipu je pa resours elektrika. Brez nje tisti algoritem ni vreden piškavega oreha.

->Yudkowsky pa mi se sekiramo samo še zaradi tega, kaj postaviti temu procesu za svetinjo, v katero ne bo podvomil.

To mora delovati po istem principu kot mi ne 'podvomimo' nikdar, da želimo z vsakim dejanjem dobit največji možen pleasure v danem okolju.
Nemogoče je spremenit ta axiom pri človeku, nimamo torej zmnožnosti za kaj takega.
Tako je tudi AI nebi smel imeti.

->verjetno nebom najbl zadeu teme, ker nism prebrau vseh 58 strani
Jah, to je prva napaka..., da nisi prebral. Smo že to obdelali.

->da bi ta superracunalnik, ki bi varoval svojo energijo
Nebi apriori varoval svoje energije, ampak naš zavedujajoč pleasure.

->nasledna stvar bi bla iskanje novega vira energije. recimo sosednja osoncja. ker bi se zavedal, da v takem stanju tja nebo prisel, bi se zacel spreminjati v gromazansko vesoljsko "plovilo", ki bo lahko doseglo nove vire energije.

heh. Malo maš napačno predstavo. Računalnik nebo zgledal kot kakšna kišta, ki ti danes stoji ob mizi. Niti se nebo spremenil v kakšno Enterprise. Širil se bo pa že od vsega začetka s skoraj c na vse strani osončja.
Predstavljaj si compoturium priklopljen direkt na fiziko tega sveta. NE bo obstajalo nič druga kot le računalnik, ki bo simuliral zavest.

->bistvo tega je, da nam bi uslo iz nadzora in bi ogrozilo nas obstoj. lahko pa recemo, da ugradimo varovalen mehanizem,

Se lahko ti odločiš, da boš storil nekaj česar nočeš?
NE, ne moreš.
Tako tudi AI nebo kršila osnovnih axiomov(treba se je zavarovati tudi zaradi kvantnih fluktacij ).

->bistvo tega, kar sm napisu, da ce bi postavl tak racunalnik, bi ga bilo skoraj nemogoce drzati pod nadzorom.
Sej načeloma ga ne rabiš, naj dela vse po svoje dokler izpolnjuje axiome, ki so mu bili dani. pleasure/pain+1=x->inf

In kateremu znanstvnemu-fizikalnemu procesu nasprotuje?
Me veseli, da se vsaj tebi zdi tole enostavno, si najbrž prvi

Preberi temo, da se nebomo ponavljali.

Jah, o našem zagotovo dolgo neboš več mogel govorit.
Potem je tud DNA življenje, ker gre za samoreplikativno molekulo. (edit: ni tukaj zdaj mišljeno kompleksno živalsko, rastlinsko itd življenje)
Življenje so tud virusi, pa nanomotorček, pa ...

Definiraj življenje.

_marko - če življenje definiramo kot samoizboljšujoči rekurzivni algoritem, ki teži k samoohranitvi, potem lahko govorimo tudi, da je takšen algoritem živ. Zakaj pa ne. Stvar definicije.

Lahko pa ga definiramo drugače (življenje). Za živega lahko smatramo katerikoli samoreplicirajoči element s sposobnostjo variabilnosti in mutabilnosti, ki se izboljšuje skozi proces selekcije....

Lahko še drugače. Saj za življenje ni neke splošno sprejete definicije. Vsaj jaz ne vem za njo.

Mi je pa tisto zgoraj prišlo na misel, tako, na hitro. Tak algoritem bi hitro popapal vse resourse. Sicer pa tudi vse bakterije težijo k temu. Pa kobilice tudi

Men se zdi dobra primerjava tole: (sem jo sicer že omenil, a je nobeden ni zagrabil)

AI mora delovati na tak način v dobro nas, kot to delamo mi. Noben od nas NE more nikdar naredit tega česar sam ne želi in izračuna, da je najboljše za njega v danem momentu.
AI pa naj ima ta axiom napisan v smislu, da naj vse naredi za nas in ne zase. Delovali bi potem po istem principu.


>Tak algoritem bi hitro popapal vse resourse.

Sej je namen dobrega algoritma, da popapa vse resourse.

> AI mora delovati na tak način v dobro nas, kot to delamo mi. Noben od nas NE more nikdar naredit tega česar sam ne želi in izračuna, da je najboljše za njega v danem momentu. AI pa naj ima ta axiom napisan v smislu, da naj vse naredi za nas in ne zase. Delovali bi potem po istem principu.

Samo poboldam:

AI mora delovati na tak način v dobro nas, kot to delamo mi. Noben od nas NE more nikdar naredit tega česar sam ne želi in izračuna, da je najboljše za njega v danem momentu. AI pa naj ima ta axiom napisan v smislu, da naj vse naredi za nas in ne zase. Delovali bi potem po istem principu.

Pomeni, da nismo izbrali stabilnega algoritma za svoje vozilo, katerega edini koristni tovor smo mi.

To je ena od stvari, na katero je treba biti pozoren - da je RSEA stabilen. Druga stvar je ta, da je pleasure za sentiente nedotakljiva invarianta zanj.

ah ne...sam kdr nucas cs, ga ni, kdr je pa dougcajt je pa casa na pretek.
se ena pomankljivost v nasem algoritmu :D

Možganska urica?
Nisem vedel, da to obstaja. A lahko bolj razložiš.

Verjetno ti kakšen skupek nevronov meri čas. Verjetno! Sej tudi možganski valovi delajo v ciklih.

Nekaj takega imam v mislih:

Pri British telecom ... "so na liniji".

Razmišljajo tkole:

c. By 2015 we'll be starting to get prototypes of the first computers which are roughly as intelligent as people.

Počasi se torej zadeva seli v mainstream.

Za 50 let se motijo - stavim gajbo pira (oz. kapučina ali karkoli že protokolisti pijete ;))

Nekaj let nazaj je Thomas napisal tole:

Dovolj razvita tehnologija pa vse to in še dosti več lahko zagotovi. Ker je razvoj znanosti in tehnologije eksponenten in celo pospešeno eksponenten, bo po prepričanju mnogih v par desetletjih (lahko da celo pred 2020) prišlo do tehnološke singularnosti - hitro bomo praktično vsemogočni.

> Mnenje futuristov pa itak ne jemljem resno, ker so to bolj filozofi
> kot pa kaj drugega (vsaj zgodovina je tako pokazala).

Mislim da nobenega ne moti tvoje prepricanje.

Ciljal sem na AI, ki bi prestal (ali skoraj prestal) Turingov test, do leta 2020.
Ni šans ;)

Digitalizacija res poteka izjemno hitro. Ampak, a se še kdo spomni napovedi prihodnjosti, ki so jih zastavili ob prvih robotih in prvih računalnikih?
Povsod leteči avti, kilometer visoki nebotičniki, roboti kot nadomestek slug,...
Po njihovem je to bilo samoumevno do leta 2000, pa vidimo, kjer smo sedaj.

Saj smo ponekod napredovali tudi veliko več od napovedanega - tam, kje smo ta napredek pričakovali, pa gre kar nekako počasi.

> Ciljal sem na AI, ki bi prestal (ali skoraj prestal) Turingov test, do leta 2020. Ni šans ;)

Lahko verjamemo tebi in tvojim občutkom ali po drugi strani Kurzweilu in njegovi ekipi (nekje 10 ljudi sem enkrat bral), ki zbirajo raznorazne podatke in delajo predvidevanja za prihodnost.

No glede Turingovega testa pa sam menim podobno kot Thomas. Ko bo kakšen računalnik zares komuniciral kot človek... bo kmalu zatem mnogo mnogo pametnejši kot človek.

Lahko verjamemo tebi in tvojim občutkom ali po drugi strani Kurzweilu in njegovi ekipi

Lahko pa verjamete meni in ducatu drugih kredibilnih futurologov, ki trdijo, da AI v tem času še ne bo sposoben razmišljati kot človek.
Pa ne me zdej matrat z linki - vem, da jih je vsaj toliko :)

Anyway, moja stava je na mizi. Čez 20 let jo lahko uveljavljaš. Upajmo, da bo takrat pivo še na voljo v tekoči obliki in ne v kakih tabletkah.

Če zmagamo mi, noben nebo hotel tvojega piva

Onda j...š tako singularnost

Imamo kje znanstveno podlago za skorajšnje samozavedanje računalnika, ali pa smo le še na stopnji vere v nek hipotetičen preskok tehnologije, ki bi se naj v teh nekaj letih zgodil?

@snow:
> Mimogrede... ve kdo kako kaj Ben s svojim Novamente napreduje?

Pred nekaj meseci je omenjal 6 let. Komentar te številke je pa napisal tule...

Turingov test je v resnici precej nepomemben (razen kot sredstvo za prepričevanje raznih nevernikov ). Če pogledamo analogijo z letalom v bistvu zahteva, da bi gradili takšna letala, da jih ne bi mogli ločiti od ptic.

Stroj lahko zelo učinkovito razmišlja/vpliva na svet, brez da bi nas znal pretentati, da je eden izmed nas. Res pa je, da moraš v tem primeru izumiti neko drugo definicijo oz. mero za inteligentnost...

Ti lahko razumeš hrčkove želje, interese in hotenja, ne da bi "razmišljal kot hrček".

Enako velja za človeka ali karkoli. Posnemanje ni nujno najboljši način razumevanja tistega.