Forum » Znanost in tehnologija » Protokol
Protokol
Temo vidijo: vsi
.:joco:. ::
(
Glede mozganov. BBC - brain story - 6 delov.
Vsi pogledat! Velik zalogaj vprasanj o zavesti, svobodni volji ipd. je ze odgovorjenih.
)
Glede mozganov. BBC - brain story - 6 delov.
Vsi pogledat! Velik zalogaj vprasanj o zavesti, svobodni volji ipd. je ze odgovorjenih.
)
"Is science true?"
You don't get it.
Science is the process of trying to find out what's true.
You don't get it.
Science is the process of trying to find out what's true.
nevone ::
Nekaj za intermezzo.
o+ nevone
o+ nevone
Either we will eat the Space or Space will eat us.
Zgodovina sprememb…
- zavarovalo slike: OwcA ()
nevone ::
Takole smo se pa trudili posamezniki:
o+ nevone
Postov Znakov Z/P Avtor Postov Znakov Z/P Avtor
969 873290 901 Thomas 3 5887 1962 Franci1965
118 68753 582 OwcA 3 3509 1169 Matthai
118 51507 436 xhx 3 1445 481 smash
85 33498 394 _marko 3 1201 400 hatch
65 151789 2335 Aggressor 3 940 313 jetam
60 20246 337 Odin 3 535 178 City
53 27326 515 Marjan 3 478 159 G-man
51 32664 640 TESKAn 3 382 127 MRB0rYS
50 23835 476 BigWhale 2 6294 3147 skorc_norc
49 28094 573 nevone 2 5060 2530 BlazP
48 30981 645 Barakuda1 2 4223 2111 svit
39 13023 333 Maria 2 3406 1703 TBR
38 19866 522 snow 2 2877 1438 blackfang
33 16561 501 Grey 2 2463 1231 AtaStrumf
33 10354 313 Sergio 2 1666 833 tigrr
28 26266 938 Tachyon 2 1650 825 j3st
28 22812 814 ThePlayer 2 1153 576 TuXterrestrial
27 19532 723 Primoz 2 1120 560 Satanized
25 5079 203 moderator 2 1028 514 PhenixBird
23 5563 241 njok 2 768 384 celica
21 13068 622 burekar 2 612 306 Daedalus
21 13050 621 Valentin 2 476 238 PicNiK
20 14195 709 ahac 2 469 234 Medved
19 26295 1383 encyber 2 455 227 noraguta
19 12349 649 cman 2 451 225 zaj_tam
18 16765 931 jeti51 2 449 224 Elemen_T
18 11613 645 DarkSite 2 350 175 msmiha
15 14754 983 Nemenej 2 348 174 mpetek1
15 10325 688 cyer^3d 2 293 146 Lucifer Tanatos
15 9336 622 gzibret 2 268 134 CCfly
15 4422 294 Saša 2 261 130 [-GanJA-]
15 4166 277 Nico 2 230 115 asteroidk
14 10017 715 Gh0st 2 127 63 Rott-von-weiler
14 5997 428 EssEncE 2 108 54 McHregec
14 4300 307 drejc 2 88 44 Sfinga
14 3517 251 _MiKeNi_ 2 14 7 XtX
13 8864 681 Crimson_Shadow 1 2699 2699 rasta
12 23912 1992 Mir 1 2153 2153 luke-whiz
12 13008 1084 OrlyTM 1 2022 2022 T|mor
11 18687 1698 Eschelon 1 1648 1648 madonch
11 12892 1172 tsh2 1 1550 1550 Exilian
11 9976 906 trillian 1 1260 1260 Loki
11 8153 741 Jeronimo 1 1127 1127 marko7782
11 8082 734 Dax 1 837 837 OverDoze
11 2933 266 DixieFlatline 1 764 764 Hairy
10 13405 1340 Timor 1 568 568 ++
10 12173 1217 LuiIII 1 562 562 Hypno
10 7193 719 Gemm 1 530 530 Tjulenj
10 5346 534 .:joco:. 1 438 438 Luka Veliki
10 4834 483 Zavo 1 383 383 zetko
10 3535 353 mchaber 1 352 352 BaRtMaN
10 2158 215 Simko 1 339 339 alien-w
8 6416 802 GaPe 1 336 336 hubertfast
8 4913 614 luni 1 335 335 JustMe
7 9649 1378 kyon 1 331 331 .:noir:.
7 2482 354 Yohan del Sud 1 312 312 whatever
7 1660 237 Cr00k 1 282 282 MadManMato
6 13289 2214 klimax 1 276 276 segi
6 8032 1338 blabla 1 273 273 maddog
6 6309 1051 Nadezhda 1 272 272 jaBo
6 5144 857 Sci-Fi 1 272 272 ALIEN3001
6 4951 825 tejka 1 236 236 zeko_
6 1946 324 xbite 1 217 217 Cosmo
6 1623 270 hruske 1 213 213 Thorvald
5 8367 1673 spelic 1 195 195 StratOS
5 4477 895 HEKO 1 171 171 Alexius Heristalski
5 1713 342 Tomi 1 147 147 MoDeR
5 528 105 koko 1 147 147 hanuman
4 4740 1185 Bajo1 1 135 135 romci
4 3983 995 Lucas 1 128 128 blue96
4 3618 904 Koci 1 122 122 zlickon
4 3242 810 ts 1 120 120 sifu
4 3206 801 rookie 1 108 108 G[e]c
4 1932 483 rooster 1 98 98 robo
4 1865 466 asPeteR 1 86 86 Pisk
4 1364 341 Zipper 1 70 70 Kryx
4 1362 340 Gandalfar 1 63 63 LordWorm
4 797 199 keber 1 57 57 Justy
4 651 162 Tr0n
4 616 154 CaqKa
4 581 145 billy
o+ nevone
Either we will eat the Space or Space will eat us.
THOMPSON ::
No kej tazga, se mal pa boste za guinnessovo knigo rekordov. thomas zanima me, ali si si, ko si postavil tole temo, predstvaljal da bo dosegla take razseznosti:)
The best theory is not ipso facto a good theory.
The solution to a problem changes the nature of the problem.
Thomas ::
Ja, ja sem. V začetku sem bil v dilemi, če naj bom raje kar tiho. Potem sem le spregovoril in čakal, kaj se bo zgodilo, saj sem bil direktno izzvan s strani Lunija v temi "Prihodnost Interneta". Hehehe ...
Se je pa medtem ko sem to pisal, tudi kaj zgodilo. Pisati so začeli tudi drugi, po drugih državah. Nekateri so pa seveda že pred mano.
Jest sem začel pravzaprav omenjati stvari leta 1998 na CNN forumu, ki ga ni več. Previdno, pa še to sem požel viharne odzive. Daljnih 7 let nazaj.
Še vedno imamo status Jehovcev, kar je po eni strani dobro, celo odlično. V Sloveniji pa je par deset ljudi, ki kapirajo. Večina preko tega foruma.
Se je pa medtem ko sem to pisal, tudi kaj zgodilo. Pisati so začeli tudi drugi, po drugih državah. Nekateri so pa seveda že pred mano.
Jest sem začel pravzaprav omenjati stvari leta 1998 na CNN forumu, ki ga ni več. Previdno, pa še to sem požel viharne odzive. Daljnih 7 let nazaj.
Še vedno imamo status Jehovcev, kar je po eni strani dobro, celo odlično. V Sloveniji pa je par deset ljudi, ki kapirajo. Večina preko tega foruma.
Vesoljc ::
> 25 5079 203 moderator
hehe
i think i found a bug :)
hehe
i think i found a bug :)
Abnormal behavior of abnormal brain makes me normal...
nevone ::
Cenjenemu moderatorju Vesoljcu se opravičujem za to nerodnost. 
Torej: moderator=Vesoljc
p.s.:
Sem jest vidla tegale moderatorja, ko sem tole delala, pa se mi je čudno zdel, da bi mel nekdo tak nick. Samo nisem šla raziskovat kaj je narobe. Program sicer hendla nazive, vendar samo tiste, ki imajo oznako Globalno. Tale moderator se mi je pa nekako izmuznil.
Hvala za opozorilo, Vesoljc.
o+ nevone
Torej: moderator=Vesoljc
p.s.:
Sem jest vidla tegale moderatorja, ko sem tole delala, pa se mi je čudno zdel, da bi mel nekdo tak nick. Samo nisem šla raziskovat kaj je narobe. Program sicer hendla nazive, vendar samo tiste, ki imajo oznako Globalno. Tale moderator se mi je pa nekako izmuznil.
Hvala za opozorilo, Vesoljc.
o+ nevone
Either we will eat the Space or Space will eat us.
snow ::
Japonci bi/bodo meli petaflop computer : http://www.kurzweilai.net/news/frame.html?main=/news/news_single.html?id%3D4553
Random mutation plus nonrandom cumulative natural selection - Richard Dawkins
Thomas ::
2011?
Moram rečt, da nisem preveč impresioniran. To so štiri podvojevanja od danes, podvojevanje pri superračunalnikih je pa na leto.
2009!
Samo bi pa rad, da gre podvojevanje dol na 6 mesecev. Wishing ...
Moram rečt, da nisem preveč impresioniran. To so štiri podvojevanja od danes, podvojevanje pri superračunalnikih je pa na leto.
2009!
Samo bi pa rad, da gre podvojevanje dol na 6 mesecev. Wishing ...
DixieFlatline ::
Nč bat thomas, verjetno bo šlo takrat(2010) za nekaj petaflopov računske zmogljivosti, vsaj tko pravjo Japonci v tej novici.
Novica
Novica
The sky above the port was the color of television, tuned to a dead channel.
Thomas ::
Kul! Kul, kul ...
Upam samo, da se bodo Amerikanci tudi zmigali po svoje. Drugi niso v igri, trenutno.
Upam samo, da se bodo Amerikanci tudi zmigali po svoje. Drugi niso v igri, trenutno.
gzibret ::
Koliko Pflopov pa rabiš za neko spodobno simulacijo možgan oz. človeka na atomarnem nivoju? A obstaja sploh ocena?
Vse je za neki dobr!
Gracija ::
A ne obstaja noben povzetek vsega skupi (oprostite za offtopic), sem šele na peti strani pa ne mislim prej spamat predno ne preberem vsega (jao preveč)
pa ne mislim prej spamat predno ne preberem vsega (jao preveč) _marko ::
Heh, se spomnim ko so nekateri govori, da je preveč branja pa je bilo napisanih komaj 20 strani. Zdaj jih je že 54!
klik...
klik...
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.
gathers knowledge faster than society gathers wisdom.
ThePlayer ::
Za to stran pa nisem vedel, da obstaja. Predvidevam, da je avtor (prevajalec) iz teh krogov?
nicnevem ::
ONNIE CHUNG INTERVIEWS ELIEZER
Mike Deering
I think that once the Singularity hits CNN, people like Ben, Eliezer, Ray, and Verner are going to be media celebrities. Then I had this crazy idea about Eliezer being interviewed by Connie Chung, so I wrote it down.
Technician: "Sound check Connie."
Connie Chung: "Tonight we have one of the foremost experts on the Singularity, and Head researcher for...Eli, should that be Chief researcher?"
Eliezer: "I think, 'Lead Researcher' would be better."
Connie Chung: Oh, very good. Now don't be nervous."
Eliezer: "I never am."
Technician A to technician B: "She always says that to the guests. It puts them on guard, makes them easier to ambush."
Technician B to technician A: "I don't think it's going to work with this guy, he looks pretty chill."
Technician: "Live in three...two...one..."
Connie Chung: "Tonight we have one of the foremost experts on the Singularity and Lead Researcher for the Singularity Institute for Artificial Intelligence and author of numerous papers on the Singularity, Eliezer Yudkowsky. Eli, could you tell us a little bit about the work you are doing at the Singularity Institute for Artificial Intelligence?"
Eliezer: We are very excited about our recently begun Singularity Project. We have five full-time software engineers..."
Connie Chung: "I know, the whole industry is very excited about the Singularity Project."
Eliezer: "Really? I'm surprised that knowledge of it is so widespread."
Connie Chung: "Oh yes. It's the only thing anyone in Hollywood has talked about since it began."
Eliezer: "Well, yes. Since Ray Kurzweil's book, the Singularity has gotten a lot more attention in the media."
Connie Chung: "I have a little secret I'd like to share with you on national television."
Eliezer: "And what would that be?"
Connie Chung: "I just got off a conference call with Steven Spielberg, and Tom Cruise is playing you. Isn't that great?"
Eliezer: "Playing me? What are you talking about?"
Connie Chung: "Tom Cruise is playing your part in the movie."
Eliezer: "What movie?"
Connie Chung: "THE SINGULARITY"
Eliezer: "You can't make a movie about the Singularity. The Singularity is by definition unpredictable."
Connie Chung: "I know. The security is really tight over there at DreamWorks."
Eliezer: "The Singularity is the point, in the history of mankind, that the human level of intelligence is surpassed. We are talking about, in the Institute's case, a computer with superhuman intelligence."
Connie Chung: "That's what I've heard. Their budget for computer generated special effects is astronomical."
Eliezer: "No! No! Let's get one thing straight right now. I don't know anything about this movie you are talking about. The Singularity is not a movie. It is the single most significant event in human history. It is the creation of greater-than-human intelligence. We at the Singularity Institute have recently started an artificial intelligence project to do just that."
Connie Chung: "I'm sorry. I thought I was interviewing you about the movie project."
Eliezer: "No, the 'real' Singularity Project. Which I would like to point out, will have a bigger impact on your audience than the movie."
Connie Chung: "I'm surprised you didn't know about the movie since the screenplay is being written by a friend of yours."
Eliezer: "Really? Who's that?"
Connie Chung: "Mike Deering."
Eliezer: "Oh my God! This is going to be a disaster."
Connie Chung: "Why would you say that?"
Eliezer: "I want to state, 'for-the-record', I have never met Mike Deering, and he is in no way associated with the Singularity Institute for Artificial Intelligence or the Singularity Project. And whatever he has written in his screenplay probably never happened."
Connie Chung: "Eli, how do you respond to the criticism that you are merely a fictional character in Mike Deering's writings?"
Eliezer: "That is absurd. I am a real person who existed before and apart from any libelous depiction of me in his stories, and I wish he would stop doing it. I should warn you about him. His writing quality isn't very good, and he seems to be a bit unstable."
Connie Chung: "It doesn't sound like you get along very well with him."
Eliezer: "Frankly, I have more important things to think about than Mike Deering."
Connie Chung: "Who knows, maybe after you see the movie you'll change your mind."
Eliezer: "I doubt it."
Connie Chung: "Well, that's it for tonight. And I just want to remind our viewers not to miss tomorrow night's show, when I interview John Galt from Atlas Shrugged."
Eliezer: "Oh my God."
------------------------------------
...namesto da bi se učil...
Mike Deering
I think that once the Singularity hits CNN, people like Ben, Eliezer, Ray, and Verner are going to be media celebrities. Then I had this crazy idea about Eliezer being interviewed by Connie Chung, so I wrote it down.
Technician: "Sound check Connie."
Connie Chung: "Tonight we have one of the foremost experts on the Singularity, and Head researcher for...Eli, should that be Chief researcher?"
Eliezer: "I think, 'Lead Researcher' would be better."
Connie Chung: Oh, very good. Now don't be nervous."
Eliezer: "I never am."
Technician A to technician B: "She always says that to the guests. It puts them on guard, makes them easier to ambush."
Technician B to technician A: "I don't think it's going to work with this guy, he looks pretty chill."
Technician: "Live in three...two...one..."
Connie Chung: "Tonight we have one of the foremost experts on the Singularity and Lead Researcher for the Singularity Institute for Artificial Intelligence and author of numerous papers on the Singularity, Eliezer Yudkowsky. Eli, could you tell us a little bit about the work you are doing at the Singularity Institute for Artificial Intelligence?"
Eliezer: We are very excited about our recently begun Singularity Project. We have five full-time software engineers..."
Connie Chung: "I know, the whole industry is very excited about the Singularity Project."
Eliezer: "Really? I'm surprised that knowledge of it is so widespread."
Connie Chung: "Oh yes. It's the only thing anyone in Hollywood has talked about since it began."
Eliezer: "Well, yes. Since Ray Kurzweil's book, the Singularity has gotten a lot more attention in the media."
Connie Chung: "I have a little secret I'd like to share with you on national television."
Eliezer: "And what would that be?"
Connie Chung: "I just got off a conference call with Steven Spielberg, and Tom Cruise is playing you. Isn't that great?"
Eliezer: "Playing me? What are you talking about?"
Connie Chung: "Tom Cruise is playing your part in the movie."
Eliezer: "What movie?"
Connie Chung: "THE SINGULARITY"
Eliezer: "You can't make a movie about the Singularity. The Singularity is by definition unpredictable."
Connie Chung: "I know. The security is really tight over there at DreamWorks."
Eliezer: "The Singularity is the point, in the history of mankind, that the human level of intelligence is surpassed. We are talking about, in the Institute's case, a computer with superhuman intelligence."
Connie Chung: "That's what I've heard. Their budget for computer generated special effects is astronomical."
Eliezer: "No! No! Let's get one thing straight right now. I don't know anything about this movie you are talking about. The Singularity is not a movie. It is the single most significant event in human history. It is the creation of greater-than-human intelligence. We at the Singularity Institute have recently started an artificial intelligence project to do just that."
Connie Chung: "I'm sorry. I thought I was interviewing you about the movie project."
Eliezer: "No, the 'real' Singularity Project. Which I would like to point out, will have a bigger impact on your audience than the movie."
Connie Chung: "I'm surprised you didn't know about the movie since the screenplay is being written by a friend of yours."
Eliezer: "Really? Who's that?"
Connie Chung: "Mike Deering."
Eliezer: "Oh my God! This is going to be a disaster."
Connie Chung: "Why would you say that?"
Eliezer: "I want to state, 'for-the-record', I have never met Mike Deering, and he is in no way associated with the Singularity Institute for Artificial Intelligence or the Singularity Project. And whatever he has written in his screenplay probably never happened."
Connie Chung: "Eli, how do you respond to the criticism that you are merely a fictional character in Mike Deering's writings?"
Eliezer: "That is absurd. I am a real person who existed before and apart from any libelous depiction of me in his stories, and I wish he would stop doing it. I should warn you about him. His writing quality isn't very good, and he seems to be a bit unstable."
Connie Chung: "It doesn't sound like you get along very well with him."
Eliezer: "Frankly, I have more important things to think about than Mike Deering."
Connie Chung: "Who knows, maybe after you see the movie you'll change your mind."
Eliezer: "I doubt it."
Connie Chung: "Well, that's it for tonight. And I just want to remind our viewers not to miss tomorrow night's show, when I interview John Galt from Atlas Shrugged."
Eliezer: "Oh my God."
------------------------------------
...namesto da bi se učil...
Zgodovina sprememb…
- spremenilo: nicnevem ()
Thomas ::
Prav je, ne NUJNO je, da se lahko smeši in kritizira projekt Singularity. Zakaj ne?
Mike Deering ga v svojih pisanjih slavi (in kritizira), kot noben drug. Singularnost jemlje resno, Singularitancev pa ne toliko. Čisto prav, če se mene praša.
Mike Deering ga v svojih pisanjih slavi (in kritizira), kot noben drug. Singularnost jemlje resno, Singularitancev pa ne toliko. Čisto prav, če se mene praša.
DixieFlatline ::
Ibm bo skupaj s Švicarji začel simulirat možgane(najprej le del) na Blue Gene superračunalniku. Projekt se imenuje Blue Brain, verjetno pa se bo raztegnil na vsaj 10 let, do popolne simulacije človeških možgan "in silico".
Blue brain project
Novica iz New Scientista
Mogoče še najbolje spisana novica o tem:
Hop
Blue brain project
Novica iz New Scientista
Mogoče še najbolje spisana novica o tem:
Hop
The sky above the port was the color of television, tuned to a dead channel.
Zgodovina sprememb…
- spremenil: DixieFlatline ()
_marko ::
Dovolj CPUja imajo za spodnjo Moravčevo mejo...
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.
gathers knowledge faster than society gathers wisdom.
Thomas ::
Na zadevo sem zadnjič enkrat, poskušal gledati z antropološkega stališča. Moj zaključek je bil tisti "Uploadaj čimpa, pa boš drug dan imel polno Zemljo bananovcev!"
Oziroma, "Uploadaj človeka, pa se bo Vesolje spremenil v francosko posteljo s posadko, katera točno ve kaj hoče!"
Mogoče se ne zavedam, ampak a bi me, ko bi prišel do gumba za Singularnost, v podzavesti skrit subprogram ustoličil za Cezarja?
I don't trust (even) myself! To pa je paranoja da se reče, a?
Je mogoče Yudkowskemu zaupati, da ne bo on postal Cezar? Prej kot meni, če sem iskren. Na žalost pa je "mojim" teorijam zaupati (še) bolj kot "njegovim". Na žalost jih vsaj v bistvu pozna še vsaj 100 ljudi. Na žalost bo na cilj pridirkal (samo) najodločnejši.
Na žalost?
Glede končnega rezultata je čisto vseeno kdo, to smo videli. Le da je takšno (najbrž neogibno) soliranje precej tvegano.
Hm ...
Oziroma, "Uploadaj človeka, pa se bo Vesolje spremenil v francosko posteljo s posadko, katera točno ve kaj hoče!"
Mogoče se ne zavedam, ampak a bi me, ko bi prišel do gumba za Singularnost, v podzavesti skrit subprogram ustoličil za Cezarja?
I don't trust (even) myself! To pa je paranoja da se reče, a?
Je mogoče Yudkowskemu zaupati, da ne bo on postal Cezar? Prej kot meni, če sem iskren. Na žalost pa je "mojim" teorijam zaupati (še) bolj kot "njegovim". Na žalost jih vsaj v bistvu pozna še vsaj 100 ljudi. Na žalost bo na cilj pridirkal (samo) najodločnejši.
Na žalost?
Glede končnega rezultata je čisto vseeno kdo, to smo videli. Le da je takšno (najbrž neogibno) soliranje precej tvegano.
Hm ...
nicnevem ::
> Mogoče se ne zavedam, ampak a bi me, ko bi prišel do gumba za Singularnost, v podzavesti
> skrit subprogram ustoličil za Cezarja?
Pomoje če bi takoj ko bi bilo mogoče svojo arhitekturo osebnosti spremenil tako, da bi tisto lestvico, kjer sex zaseda najvišje mesto, primerno priredil, bi se verjetnost za "Cezarja" precej zmanjšala.
Sex bi na primer nadomestil z "eternal light for all sentients" - in imeli bi friendly AI. Mislim, no.
Če imamo uploada ki "lebdi v svoji spirali užitkov" (mišljeno kot sex, drugs & rock'n'roll), je prav mogoče, da izgubi v tem tudi vsakršno željo po nadaljevanju dela (npr. razvoj kakih nanotehnoloških strojčkov), prav tako pozabi mem "dobrobit ostalih jazov". Imamo neuporabnega uživača, pri katerem je problem, da v trenutku ko bi to našo misel izvedel, bi naslednji trenutek prav mogoče ležali vsi mrtvi.
Kakšne sploh so alternative? Uploading namreč prihaja...Blue Brain pravijo da naj bi zalaufal čez 10 let...
> skrit subprogram ustoličil za Cezarja?
Pomoje če bi takoj ko bi bilo mogoče svojo arhitekturo osebnosti spremenil tako, da bi tisto lestvico, kjer sex zaseda najvišje mesto, primerno priredil, bi se verjetnost za "Cezarja" precej zmanjšala.
Sex bi na primer nadomestil z "eternal light for all sentients" - in imeli bi friendly AI. Mislim, no.
Če imamo uploada ki "lebdi v svoji spirali užitkov" (mišljeno kot sex, drugs & rock'n'roll), je prav mogoče, da izgubi v tem tudi vsakršno željo po nadaljevanju dela (npr. razvoj kakih nanotehnoloških strojčkov), prav tako pozabi mem "dobrobit ostalih jazov". Imamo neuporabnega uživača, pri katerem je problem, da v trenutku ko bi to našo misel izvedel, bi naslednji trenutek prav mogoče ležali vsi mrtvi.
Kakšne sploh so alternative? Uploading namreč prihaja...Blue Brain pravijo da naj bi zalaufal čez 10 let...
Thomas ::
Upload je plonkarski način, kako narediti SAI. Žal uploadaš tudi reči, ki niso inteligenca, lahko da celo prevladujejo. Pri čimpu bi gotovo.
Jest sem za povsem sintetično AI, izraslo iz enormne količine computinga. TO se mi zdi še najlažje in najmanj tvegano. Seveda, če je prav narejeno. Če ne, je ista figa.
Hkrati pa mislim, da v 10 letih bo computinga za proč metat! Tako, da to bi se lahko izšlo.
Jest sem za povsem sintetično AI, izraslo iz enormne količine computinga. TO se mi zdi še najlažje in najmanj tvegano. Seveda, če je prav narejeno. Če ne, je ista figa.
Hkrati pa mislim, da v 10 letih bo computinga za proč metat! Tako, da to bi se lahko izšlo.
_marko ::
->Če imamo uploada ki "lebdi v svoji spirali užitkov" (mišljeno kot sex, drugs & rock'n'roll), je prav mogoče, da izgubi v tem tudi vsakršno željo po nadaljevanju dela (npr. razvoj kakih nanotehnoloških strojčkov), prav tako pozabi mem "dobrobit ostalih jazov". Imamo neuporabnega uživača, pri katerem je problem, da v trenutku ko bi to našo misel izvedel, bi naslednji trenutek prav mogoče ležali vsi mrtvi.
Good enough for me :)
Naj se le razmnoži po vesolju.
Se pa strinjam, da je sintetična AI precej bolj varna, če ne že boljša.
Good enough for me :)
Naj se le razmnoži po vesolju.
Se pa strinjam, da je sintetična AI precej bolj varna, če ne že boljša.
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.
gathers knowledge faster than society gathers wisdom.
nicnevem ::
Hmm...
Imamo dve potencialni možnosti: unfriendly uploada ali pa unfriendly sintetično AI. Če prvi naseli celo vesolje (kot je marku všeč :), pri čemer instance, ki smo trenutno tu pošlje pod rušo, res ni kake hude zadrege. Ni ravno optimalna rešitev, ampak se ne bi v tla metal zaradi tega.
Problem bi bil, če je tale upload sadistične sorte, in nam raje kot rušo simulira pekel, pri čemer spregleda paralelnost zavesti.
Če govorimo o sintetični SAI se mi to (simulacija pekla) zdi praktično nemogoče, pri uploadu pa...malo manj. Kar me bega je, če bi lahko bil upload tako trd, da ne bi opazil da muči "sebe v drugi preobleki". Mnogo ljudi je, ki v stotih življenjih ne bi skapirali tega. Raje se pač posvečajo drugim rečem. Res pa bi upload imel pooptimizirane določene miselne procese. Hmm...
Po drugi strani pa ne vem ali sintetična AI, ki procesira dovolj infomacij na časovno enoto, kar pomeni, da se v njej zbudi zavest. Pomojem sploh ni nujno. Če torej zašuštramo pri postavljanju njenih motivov (in še marsičem), smo spet doomed. Res pa ni niti približno tako hudo kot bi lahko bilo v peklu.
Zavita so pota do rajske postsingularnosti...
Btw, Peter Voss je začel s projektom Aigo (potencialna sintetična SAI), ki naj bi bil končan avgusta 2008. Me zanima če bo kaj nastalo iz tega. Aja, link :)
Imamo dve potencialni možnosti: unfriendly uploada ali pa unfriendly sintetično AI. Če prvi naseli celo vesolje (kot je marku všeč :), pri čemer instance, ki smo trenutno tu pošlje pod rušo, res ni kake hude zadrege. Ni ravno optimalna rešitev, ampak se ne bi v tla metal zaradi tega.
Problem bi bil, če je tale upload sadistične sorte, in nam raje kot rušo simulira pekel, pri čemer spregleda paralelnost zavesti.
Če govorimo o sintetični SAI se mi to (simulacija pekla) zdi praktično nemogoče, pri uploadu pa...malo manj. Kar me bega je, če bi lahko bil upload tako trd, da ne bi opazil da muči "sebe v drugi preobleki". Mnogo ljudi je, ki v stotih življenjih ne bi skapirali tega. Raje se pač posvečajo drugim rečem. Res pa bi upload imel pooptimizirane določene miselne procese. Hmm...
Po drugi strani pa ne vem ali sintetična AI, ki procesira dovolj infomacij na časovno enoto, kar pomeni, da se v njej zbudi zavest. Pomojem sploh ni nujno. Če torej zašuštramo pri postavljanju njenih motivov (in še marsičem), smo spet doomed. Res pa ni niti približno tako hudo kot bi lahko bilo v peklu.
Zavita so pota do rajske postsingularnosti...
Btw, Peter Voss je začel s projektom Aigo (potencialna sintetična SAI), ki naj bi bil končan avgusta 2008. Me zanima če bo kaj nastalo iz tega. Aja, link :)
Thomas ::
Pravzaprav bi uploadu moralo postati jasno, koliko je ura. Najverjetneje.
Še kar nekaj let iamo, da preigravamo tele variante. Potem jih bodo dosti hitreje preigravali uploadi.
Če bi bil jest upload, bi si pleasure najprej nahookal na kreativnost. Ker bi vedel, da else kmalu nimam nobene kontrole več. Bi večina uploadov tako razmišljala? Najbrž bi ...
Hm ...
Še kar nekaj let iamo, da preigravamo tele variante. Potem jih bodo dosti hitreje preigravali uploadi.
Če bi bil jest upload, bi si pleasure najprej nahookal na kreativnost. Ker bi vedel, da else kmalu nimam nobene kontrole več. Bi večina uploadov tako razmišljala? Najbrž bi ...
Hm ...
_marko ::
->Če bi bil jest upload, bi si pleasure najprej nahookal na kreativnost. Ker bi vedel, da else kmalu nimam nobene kontrole več. Bi večina uploadov tako razmišljala? Najbrž bi ...
Ja no, jaz poznam vsaj dva, ki ga nebi
(če bi štel še AI bi bili trije :))
-> Problem bi bil, če je tale upload sadistične sorte, in nam raje kot rušo simulira pekel
Tu mi ni povsem jasno.
Kaj bi to pomenilo za zavest? Ali pleasure ali pain?
... Instanca prijključena na pekel = zavest_pleasure. Ne moreš napram p/p, torej delaš kaj ti paše. Če je v danem trenutku to pekel je le iz trenutnega(našega) vidika in ne dejansko.
Ja no, jaz poznam vsaj dva, ki ga nebi
(če bi štel še AI bi bili trije :))
-> Problem bi bil, če je tale upload sadistične sorte, in nam raje kot rušo simulira pekel
Tu mi ni povsem jasno.
Kaj bi to pomenilo za zavest? Ali pleasure ali pain?
... Instanca prijključena na pekel = zavest_pleasure. Ne moreš napram p/p, torej delaš kaj ti paše. Če je v danem trenutku to pekel je le iz trenutnega(našega) vidika in ne dejansko.
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.
gathers knowledge faster than society gathers wisdom.
_marko ::
->Kar me bega je, če bi lahko bil upload tako trd, da ne bi opazil da muči "sebe v drugi preobleki".
Od kod naj mi vemo kaj paše zavesti? Lahko vemo le, kaj nam paše kot kompleksu instanca+zavest.
IMO ni razlike pri mazohistu in pri normalnem človeku. Torej ne more mučiti sebe v drugi preobleki.
IMO je zavest precej zreducirana in nima univerzalnega koda za vršitev paina in pleasurja.
... jutri dalje, ker je že skoraj prepozno.
Od kod naj mi vemo kaj paše zavesti? Lahko vemo le, kaj nam paše kot kompleksu instanca+zavest.
IMO ni razlike pri mazohistu in pri normalnem človeku. Torej ne more mučiti sebe v drugi preobleki.
IMO je zavest precej zreducirana in nima univerzalnega koda za vršitev paina in pleasurja.
... jutri dalje, ker je že skoraj prepozno.
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.
gathers knowledge faster than society gathers wisdom.
Thomas ::
10 milijard božjih imen, Arthur C. Clarke
Remake by Thomas
"Torej potrebujete cluster 512 PS III, z Linux OS in Windows emulatorjem?" - je profesionalno trgovsko vprašal srednji oficir upstarterske garažne firmice. "Zakaj Windows emulator?"
"Windows emulator!" je lakonično zahtevala stranka. "Potrebujem tudi tehnično ekipo, ki bo vse to instalirala na moji lokaciji in še vsaj en mesec skrbela za to, da me ne bo inštalirana krama kaj zafrkavala. To potrebujem. Lahko plačam največ 100 tisoč dolarjev in bom šel drugam, če vi za to ceno morete dobaviti."
"Kvečjemu 128 enot za ta denar, gospod ..."
"200 tisoč in 512 Play Stationsov!"
"No prav, bom vprašal svojega šefa ... "
-----------
Ekipa dveh inštalaterjev, od katerih je bil eden tudi voznik večjega kombija, je prišla po makadamski cesti na višino 1200 metrov nad morjem, pred nekakšen v hišo obnovljen mlin ob mali hidroelektrarni, kar s precejšnjo težavo. Od poslednje nevihte poškodovana cesta bi ju kmalu stala valjanja po pobočju z IVECO Daily firmskim tovornim kombijem polnim PS mašinc in ostale neobhodne opreme. Vsaj dokler ju ne bi ustavile prve bukve ali smreke.
Kmet ki ju je pričakal, je bil očitno zadovoljen s samim seboj in svojim rančem, pa tudi razgledom na dolino in sploh nad vsem. "Aha, ne samo da prodajate, tudi sami poskrbite za inštalacijo?" - je rekel šoferju, ki je bil zadnjič v vlogi trgovca.
Naročnik jima je dal generalni ključ za vsa vrata in dovoljenje, da se paseta v polnem hladilniku. Potem je sedel v avto in se kot želva počasi spustil v dolino. Rekel je, da se bo vrnil čez en teden, da do takrat naj priključita malo hidroelektrarno na Peese, da ne bo voda odtekala skoraj povsem vnemar v dolino. Potem bo plačal še preostalo polovico.
Robert, prodajalec, šofer, hardveraš in direktor firmice, ekskluzivnega zastopnika Japoncev, se bo zdaj s svojim bratom lotil dela. Zadnjič, ko sta z naročnikom šla na kosilo, mu je ta razlagal, da bo na tem superračunalniku za smrtnike stekla Goedlova mašina. Da je to nekaj, kar bo pomenilo konec Osončja kot ga poznamo, da bo ta program preusmeril vse dogajanje na bolje in da bo nazadnje zmašinal - kot se je bil izrazil - celo Galaksijo. En norec več pač, vendar 100 kilo dolarjev je že dal. Naslednjih 100 bo čisti profit. To pa je bistveno.
Baje naj bi šlo za nek program, ki zna izboljševati samega sebe, je pravil. Pa da lahko v nekem trenutku začne posegati v samo strukturo hardwarea in potem še v vso okoliško snov. Take nakladancije. Robert je točno vedel, da so nemogoče. Sicer bi ne bil pripravljen narediti inštalacije za ta denar. Za noben denar. Verjetno.
Delo jima je šlo dobro od rok. Spala sta dobro in tudi skuhala sta si zvečer kaj. Mobitel je v tej grapi celo vlekel in naročiti sta morala še nekaj komponent iz doline, da je peti dan emulator Windowsow končno stekel na vseh 512 procesorjih spodaj. 256 vsaj jih je bilo s tem zamorjenih, kar je bilo za Roberta še zadnje zagotovilo, da ta stranka v resnici nima pojma. Ekscentrik.
Po bregu gor se je vlekla cela kolona vozil. Najprej gospodarjeva kripa, potem še en kombi čistilnega servisa, ki je imel, kot sta kmalu videla, samo eno nalogo. Počistiti za njima. Tako rekoč razkužiti njuno umazanijo. Nekoliko poniževalna ekscentričnost tegale bedaka. No, sej pričakovano. Potem so bili pa še eni ljudje. Horda gospodarjevih prijateljev ali sodelavcev. Težko rečt. Neka ženska jima je ponudila dogovorjeni šop bankovcev in jima naročila, da skupaj s čistilnim servisom odideta v dolino. Važič pa je že sedel v pripeljanem naslonjaču za velikim ekranom in nekaj nalagal oziroma pretakal na sistem. Očitno se je kar znašel, čeprav bi človek rekel, da nima preveč pojma.
Robert je spravil zajetni profit v notranji žep svoje usnjene jakne in sedel za volan. Proti zahajajočemu Soncu sta se odpeljala v dolino, zaslužila sta svoj tretji večji denar. Prva dva so požrli dolgovi.
"Misliš, da je to res konec sveta? Bo prišel reklamirat mašino, ker ga ne bo?" Smejala sta se temu. Robert je vozil, zato ni videl, kar je zagledal brat. Steber svetlobe v nebo iz bivše gorske kmetije. Zato pa je Robert videl, kako ugaša Sonce in kako se prižigajo druge, drugačne luči nad zahodom.
p.s.
pozna ura.
Remake by Thomas
"Torej potrebujete cluster 512 PS III, z Linux OS in Windows emulatorjem?" - je profesionalno trgovsko vprašal srednji oficir upstarterske garažne firmice. "Zakaj Windows emulator?"
"Windows emulator!" je lakonično zahtevala stranka. "Potrebujem tudi tehnično ekipo, ki bo vse to instalirala na moji lokaciji in še vsaj en mesec skrbela za to, da me ne bo inštalirana krama kaj zafrkavala. To potrebujem. Lahko plačam največ 100 tisoč dolarjev in bom šel drugam, če vi za to ceno morete dobaviti."
"Kvečjemu 128 enot za ta denar, gospod ..."
"200 tisoč in 512 Play Stationsov!"
"No prav, bom vprašal svojega šefa ... "
-----------
Ekipa dveh inštalaterjev, od katerih je bil eden tudi voznik večjega kombija, je prišla po makadamski cesti na višino 1200 metrov nad morjem, pred nekakšen v hišo obnovljen mlin ob mali hidroelektrarni, kar s precejšnjo težavo. Od poslednje nevihte poškodovana cesta bi ju kmalu stala valjanja po pobočju z IVECO Daily firmskim tovornim kombijem polnim PS mašinc in ostale neobhodne opreme. Vsaj dokler ju ne bi ustavile prve bukve ali smreke.
Kmet ki ju je pričakal, je bil očitno zadovoljen s samim seboj in svojim rančem, pa tudi razgledom na dolino in sploh nad vsem. "Aha, ne samo da prodajate, tudi sami poskrbite za inštalacijo?" - je rekel šoferju, ki je bil zadnjič v vlogi trgovca.
Naročnik jima je dal generalni ključ za vsa vrata in dovoljenje, da se paseta v polnem hladilniku. Potem je sedel v avto in se kot želva počasi spustil v dolino. Rekel je, da se bo vrnil čez en teden, da do takrat naj priključita malo hidroelektrarno na Peese, da ne bo voda odtekala skoraj povsem vnemar v dolino. Potem bo plačal še preostalo polovico.
Robert, prodajalec, šofer, hardveraš in direktor firmice, ekskluzivnega zastopnika Japoncev, se bo zdaj s svojim bratom lotil dela. Zadnjič, ko sta z naročnikom šla na kosilo, mu je ta razlagal, da bo na tem superračunalniku za smrtnike stekla Goedlova mašina. Da je to nekaj, kar bo pomenilo konec Osončja kot ga poznamo, da bo ta program preusmeril vse dogajanje na bolje in da bo nazadnje zmašinal - kot se je bil izrazil - celo Galaksijo. En norec več pač, vendar 100 kilo dolarjev je že dal. Naslednjih 100 bo čisti profit. To pa je bistveno.
Baje naj bi šlo za nek program, ki zna izboljševati samega sebe, je pravil. Pa da lahko v nekem trenutku začne posegati v samo strukturo hardwarea in potem še v vso okoliško snov. Take nakladancije. Robert je točno vedel, da so nemogoče. Sicer bi ne bil pripravljen narediti inštalacije za ta denar. Za noben denar. Verjetno.
Delo jima je šlo dobro od rok. Spala sta dobro in tudi skuhala sta si zvečer kaj. Mobitel je v tej grapi celo vlekel in naročiti sta morala še nekaj komponent iz doline, da je peti dan emulator Windowsow končno stekel na vseh 512 procesorjih spodaj. 256 vsaj jih je bilo s tem zamorjenih, kar je bilo za Roberta še zadnje zagotovilo, da ta stranka v resnici nima pojma. Ekscentrik.
Po bregu gor se je vlekla cela kolona vozil. Najprej gospodarjeva kripa, potem še en kombi čistilnega servisa, ki je imel, kot sta kmalu videla, samo eno nalogo. Počistiti za njima. Tako rekoč razkužiti njuno umazanijo. Nekoliko poniževalna ekscentričnost tegale bedaka. No, sej pričakovano. Potem so bili pa še eni ljudje. Horda gospodarjevih prijateljev ali sodelavcev. Težko rečt. Neka ženska jima je ponudila dogovorjeni šop bankovcev in jima naročila, da skupaj s čistilnim servisom odideta v dolino. Važič pa je že sedel v pripeljanem naslonjaču za velikim ekranom in nekaj nalagal oziroma pretakal na sistem. Očitno se je kar znašel, čeprav bi človek rekel, da nima preveč pojma.
Robert je spravil zajetni profit v notranji žep svoje usnjene jakne in sedel za volan. Proti zahajajočemu Soncu sta se odpeljala v dolino, zaslužila sta svoj tretji večji denar. Prva dva so požrli dolgovi.
"Misliš, da je to res konec sveta? Bo prišel reklamirat mašino, ker ga ne bo?" Smejala sta se temu. Robert je vozil, zato ni videl, kar je zagledal brat. Steber svetlobe v nebo iz bivše gorske kmetije. Zato pa je Robert videl, kako ugaša Sonce in kako se prižigajo druge, drugačne luči nad zahodom.
p.s.
pozna ura.
snow ::
I like it! A lot! :)
Random mutation plus nonrandom cumulative natural selection - Richard Dawkins
nicnevem ::
Aha! Thomas, pozna ura te je izdala!
Da mu ne bi kdo slučajno prodal tistih playstationov... :P
Sicer pa je taka goedlova mašina tako ali tako "perpetuum mobile na sl4 način", tako da me ne skrbi kaj preveč. Recimo, no. ;)
Da mu ne bi kdo slučajno prodal tistih playstationov... :P
Sicer pa je taka goedlova mašina tako ali tako "perpetuum mobile na sl4 način", tako da me ne skrbi kaj preveč. Recimo, no. ;)
Thomas ::
Tole sem napisal zavestno in iz parih razlogov. Ne bom izdajal recepta, kako se taka A-bomba (oh, kakšno podcenjevaje!) naredi. Samo pravim, da je scenarij ekstremno verjeten. Tisti ki mislite da ni, da bluzim - no teh sem se vas iznebil na precej eleganten način.
To je Scila, da do tega pride na nek nekontroliran način.
Karibda je, da pride bolj pozno kot je treba. Da bo zastonj umiralo in umrlo še milijarde sentientov. Umrlo se da popravt - computational resurrection - umiralo se ne da. Nepotreben pain je bil. Še bo, z naše perspektive gledano.
Ali smo zdaj obsedeni s tem, da se ne bi zadeva sfižila v "Paperclips Universe", ali celo v kaj slabšega ... ali pa nič drugega. Mogoče to, da ne bi nepotrebno dolgo štrikali, preden vzamemo vse atome Osončja pod programsko kontrolo. Samo toliko atomov je treba kontrolirati, kolikor fotonov že kontroliramo. Oziroma, celo samo kakšnih milijon atomov spraviš pod upravo programa, ter jim topot naročiš, naj asimilirajo še vse okoliške. Not so big deal, trust me!
Torej, napisal sem zato, da se tega zaveste. Da ne "pobegnete" v zavetju kakšne Smaylejeve zakletve o "lepljivih prstih" ali Searlove "Kitajske sobe". Tista zavetja so povsem (utterly) neučinkovita. Kot da tečete proti mitraljezu z materino dušico v gumbnici, ker vam je nekdo rekel, da potem se bodo pa krogle spreminjale v vodo. Zelo podobne primeri smo že imeli.
V realnosti pa Edisonova osvetlitev New Yorka z elektriko z Niagare funkcionira. Čeprav stare tete tega niso verjele še ob dveh popoldne na dan, ko se je zvečer prvič zgodilo.
Realnost ima svoj realni pomen. Zdravorazumski pomen realnosti je pa irelevanten. Spomnite se starih tet ali pa moonhoaxarjev. Njihova "modrost" naj vam bo v svarilo. Na drug način tale moja cela tema.
To je Scila, da do tega pride na nek nekontroliran način.
Karibda je, da pride bolj pozno kot je treba. Da bo zastonj umiralo in umrlo še milijarde sentientov. Umrlo se da popravt - computational resurrection - umiralo se ne da. Nepotreben pain je bil. Še bo, z naše perspektive gledano.
Ali smo zdaj obsedeni s tem, da se ne bi zadeva sfižila v "Paperclips Universe", ali celo v kaj slabšega ... ali pa nič drugega. Mogoče to, da ne bi nepotrebno dolgo štrikali, preden vzamemo vse atome Osončja pod programsko kontrolo. Samo toliko atomov je treba kontrolirati, kolikor fotonov že kontroliramo. Oziroma, celo samo kakšnih milijon atomov spraviš pod upravo programa, ter jim topot naročiš, naj asimilirajo še vse okoliške. Not so big deal, trust me!
Torej, napisal sem zato, da se tega zaveste. Da ne "pobegnete" v zavetju kakšne Smaylejeve zakletve o "lepljivih prstih" ali Searlove "Kitajske sobe". Tista zavetja so povsem (utterly) neučinkovita. Kot da tečete proti mitraljezu z materino dušico v gumbnici, ker vam je nekdo rekel, da potem se bodo pa krogle spreminjale v vodo. Zelo podobne primeri smo že imeli.
V realnosti pa Edisonova osvetlitev New Yorka z elektriko z Niagare funkcionira. Čeprav stare tete tega niso verjele še ob dveh popoldne na dan, ko se je zvečer prvič zgodilo.
Realnost ima svoj realni pomen. Zdravorazumski pomen realnosti je pa irelevanten. Spomnite se starih tet ali pa moonhoaxarjev. Njihova "modrost" naj vam bo v svarilo. Na drug način tale moja cela tema.
Zgodovina sprememb…
- spremenil: Thomas ()
nicnevem ::
> Upaš.
No, kar _res_ upam je da gospoda, ki bo štartala tale projekt, ne bo zafrknila pri friendliness.
Nekje (verjetno na SL4, ali pa kje na SIAI siteu) sem pred časom zasledil eno zanimivo, in po eni strani zastrašujočo misel:
Medtem ko se računska moč vztrajno povečuje, skupaj z njo raste tudi verjetnost za uspeh nekega AGI projekta, po drugi strani pa ta, da bo tisto kar "zraste" prijazno, ostaja bolj ali manj konstantna.
Yudkowsky in še nekateri sicer vztrajno iščejo metode s katerimi bi jo potisnili kar se da blizu 1, vendar jo vleče navzdol množica potencialnih, "neizkušenih" ljudi, ki jim z morjem CPU-ja, ki prihaja, postaja vse lažje pognati nekaj, kar verjetno ne bo ravno friendly. IMHO.
Nemogoče se mi recimo ne zdi niti da Critticall (oziroma kak temu podoben tool AI) zaradi enormne količine CPU-ja iznajde nek način, kako vklučiti dodatno okoliško snov, da bo hitreje evoluiral nek algoritem. Sledi pač "osnovnemu motivu" (se sploh lahko tako reče?)...in nas pri tem lahko mimogrede "povozi".
No, vsaj js tako razumem.
...
> Not so big deal, trust me!
Kaj pa vem...js ne bi nikakor podcenjeval problema. Če zajebemo, bo šel tisti samozavedajoči vzorec "papa" pri tej asimilaciji.
Hm, kakšna je razlika me Goedlovo mašino in Seed AI?
Takole na hitro se vsaj koncept zdi enak.
No, kar _res_ upam je da gospoda, ki bo štartala tale projekt, ne bo zafrknila pri friendliness.
Nekje (verjetno na SL4, ali pa kje na SIAI siteu) sem pred časom zasledil eno zanimivo, in po eni strani zastrašujočo misel:
Medtem ko se računska moč vztrajno povečuje, skupaj z njo raste tudi verjetnost za uspeh nekega AGI projekta, po drugi strani pa ta, da bo tisto kar "zraste" prijazno, ostaja bolj ali manj konstantna.
Yudkowsky in še nekateri sicer vztrajno iščejo metode s katerimi bi jo potisnili kar se da blizu 1, vendar jo vleče navzdol množica potencialnih, "neizkušenih" ljudi, ki jim z morjem CPU-ja, ki prihaja, postaja vse lažje pognati nekaj, kar verjetno ne bo ravno friendly. IMHO.
Nemogoče se mi recimo ne zdi niti da Critticall (oziroma kak temu podoben tool AI) zaradi enormne količine CPU-ja iznajde nek način, kako vklučiti dodatno okoliško snov, da bo hitreje evoluiral nek algoritem. Sledi pač "osnovnemu motivu" (se sploh lahko tako reče?)...in nas pri tem lahko mimogrede "povozi".
No, vsaj js tako razumem.
...
> Not so big deal, trust me!
Kaj pa vem...js ne bi nikakor podcenjeval problema. Če zajebemo, bo šel tisti samozavedajoči vzorec "papa" pri tej asimilaciji.
Hm, kakšna je razlika me Goedlovo mašino in Seed AI?
Takole na hitro se vsaj koncept zdi enak.
OwcA ::
Hm, kakšna je razlika me Goedlovo mašino in Seed AI?
Vsaka Seed AI je Goedlov stroj, ampak hkrati zahteva še samorazumevanje.
Čeprav, dejansko bi lahko imeli tudi Seed AI, ki bi iskal boljše rešitve verjetnostno, to bi potem ne bil več Goedlov stroj, saj ta zahteva matematičen dokaz izračunljiv v nekem končnem času.
Otroška radovednost - gonilo napredka.
Zgodovina sprememb…
- spremenilo: OwcA ()
Thomas ::
Ja dobro je tole pojasnil OwcA. Goedlova mašina je vsaj prvotno mišljena kot neprobabilistična. Ergo se popravlja samo toliko in tam, kjer z matematično gotovostjo dokaže napredek.
SEED pa lahko označuje tudi guess work sistem. Kjer stopimo občasno tudi na manj gotova tla. Ko recimo vzamemo nekaj za praštevilo, že če približni test tako pokaže.
To sta dva koncepta ja. Jest navijam za drugega. Prvi pozabi, da se ti strogi matematični dokaz lahko tak samo zdi. Nepotrebno picajzljanje je tole vztrajanje na "matematični strogosti". Ni realne potrebe, niti realne možnosti.
SEED pa lahko označuje tudi guess work sistem. Kjer stopimo občasno tudi na manj gotova tla. Ko recimo vzamemo nekaj za praštevilo, že če približni test tako pokaže.
To sta dva koncepta ja. Jest navijam za drugega. Prvi pozabi, da se ti strogi matematični dokaz lahko tak samo zdi. Nepotrebno picajzljanje je tole vztrajanje na "matematični strogosti". Ni realne potrebe, niti realne možnosti.
snow ::
Tukaj še en vote za SEED AI. Tak evolucijski SEED AI.
Random mutation plus nonrandom cumulative natural selection - Richard Dawkins
rh^ ::
Šele zdaj sem prebral Thomasovo zgodbico in moram rečt da je ful všeč :). Konec pa me spominja na Asimovov stil pisanja.
stealth ::
Oziroma, celo samo kakšnih milijon atomov spraviš pod upravo programa, ter jim topot naročiš, naj asimilirajo še vse okoliške. Not so big deal, trust me!
Dej razlož ti tole men mal, kako misliš...
Kak si ti predstavlaš da bojo atomi "asimilirali" druge? Kolikor jaz vem atomi sami od sebe niso inteligentni.......
Thomas ::
Atomi, ki sestavljajo DNA, ki "sami od sebe niso inteligentni...", rezultirajo s čedalje več drugih atomov v DNA formi.
Torej, DNA je strojček, molekula, ki se replicira. Replikatorska molekula. Nastala je v nekih kemičnih procesih toliko milijard let nazaj in se potem self replicirala do sem, kjer smo. Giga tone DNAja je.
Če ti mašina izračuna kakšna molekula je dobra za computing, hkrati pa je to replikatorska molekula, ki jo je moč inducirati na mašini dostopen način (nanolab ali kar s sprožanje kvantnih efektov po RAMUu, naprimer), potem bo taka mašina relativno hitro pretvorila Zemljo v computornium.
Če bo seveda glavni (ali tudi stranski) cilj programa ki se izvaja - More CPU power!.
Molekul je možnih vesolje, v primeri s količino, ki obstaja. Ker nekatere - VEČINO PERSPEKTIVNIH - je samo težko prvič narediti, potem gre kar samo. Problem computinga, izračunat postopek sinteze, jasno.
Tako lahko pride go Gray GOOja, kot posledice algoritma ... v naslednjih 2 desetletjih, se mi zdi.
Če se pa ti v tem GOOju dobro počutiš, potem pa rečeš - Singularnost je bila!
Ja?
Torej, DNA je strojček, molekula, ki se replicira. Replikatorska molekula. Nastala je v nekih kemičnih procesih toliko milijard let nazaj in se potem self replicirala do sem, kjer smo. Giga tone DNAja je.
Če ti mašina izračuna kakšna molekula je dobra za computing, hkrati pa je to replikatorska molekula, ki jo je moč inducirati na mašini dostopen način (nanolab ali kar s sprožanje kvantnih efektov po RAMUu, naprimer), potem bo taka mašina relativno hitro pretvorila Zemljo v computornium.
Če bo seveda glavni (ali tudi stranski) cilj programa ki se izvaja - More CPU power!.
Molekul je možnih vesolje, v primeri s količino, ki obstaja. Ker nekatere - VEČINO PERSPEKTIVNIH - je samo težko prvič narediti, potem gre kar samo. Problem computinga, izračunat postopek sinteze, jasno.
Tako lahko pride go Gray GOOja, kot posledice algoritma ... v naslednjih 2 desetletjih, se mi zdi.
Če se pa ti v tem GOOju dobro počutiš, potem pa rečeš - Singularnost je bila!
Ja?
Man muss immer generalisieren - Carl Jacobi
Zgodovina sprememb…
- spremenil: Thomas ()
Thomas ::
Nikakor pa ni program (dinamično se spreminjajoči bitni stringi) nujno omejen na molekularni nivo. Kaj pa vem, morda obstoja (izračunljiv, jasno) subatomski exploit. Ne bom rekel, da ne. Ne bom rekel niti da ja.
Quantum exploit bi pa lahko izgledal tako, kot oddajanje radijskih signalov, ki jih bo ujela kakšna molekula v ozračju ali na Zemlji, jih reabsorbirala in spet oddala. Ker vedno ko se to zgodi, je taka (vsaka!) molekula izvršila nek algoritem, quantum way. Kako daleč je potem do transformacije v bolj moderno in učinkovito mašino? Mislim, da ne zelo.
Vprašanje je torej, obstaja quantum exploit, ki pretvori Zemljo v Goo, ki optimalneje izvaja nek arbitrarni computing, kot ga trenutna konfiguracija? V computornium?
Če imaš computinga lačen proces, katerega cilj je povečevanje svoje učinkovitosti, si v pozitivno povratni zanki, ki ima za posledico eksponentno rast, katera se z nekaj sreče ustavi šele, ko je Zemlja pomašinana. Za trenutek se ustavi, preden gre naprej.
Ne vem. Prej bi rekel da ja, kot da ne, da je tole povsem realno. Vprašanje je samo, kako ostati živ in zdrav pri tem in takem quantum leapu.
Quantum exploit bi pa lahko izgledal tako, kot oddajanje radijskih signalov, ki jih bo ujela kakšna molekula v ozračju ali na Zemlji, jih reabsorbirala in spet oddala. Ker vedno ko se to zgodi, je taka (vsaka!) molekula izvršila nek algoritem, quantum way. Kako daleč je potem do transformacije v bolj moderno in učinkovito mašino? Mislim, da ne zelo.
Vprašanje je torej, obstaja quantum exploit, ki pretvori Zemljo v Goo, ki optimalneje izvaja nek arbitrarni computing, kot ga trenutna konfiguracija? V computornium?
Če imaš computinga lačen proces, katerega cilj je povečevanje svoje učinkovitosti, si v pozitivno povratni zanki, ki ima za posledico eksponentno rast, katera se z nekaj sreče ustavi šele, ko je Zemlja pomašinana. Za trenutek se ustavi, preden gre naprej.
Ne vem. Prej bi rekel da ja, kot da ne, da je tole povsem realno. Vprašanje je samo, kako ostati živ in zdrav pri tem in takem quantum leapu.
Man muss immer generalisieren - Carl Jacobi
Zgodovina sprememb…
- spremenil: Thomas ()
Barakuda1 ::
Pišem skripto, ki me bo nadomestila.
Večini človkov je to ratalo v postli in so pr tem še uživali
Thomas ::
"Me" je tukaj mišljen bolj široko. "Nas". Nemodestnostni singular, bi lahko rekli temu.
No, hočem samo, da skripta opravlja moje delo in vsa dela drugih ljudi. Da me (nas) nadomesti na dolžnosti. Avtomatizacija.
Človek ima pač neko inherentno vrednost (po moje), ki ne izhaja iz dela, pač pa iz tega, da je. Ne razmišljam tako kot nekateri o "odvečnih ljudeh v tovarnah", samo o "odvečnih delavcih v tovarnah".
Gre za projekt ločevanja sentientov od paina, pa če ga povzroča delo ali karkoli. Pa tudi pleasure ob delu je luksuz, ki si ga v resnici ne moremo privoščiti. Lahko da rad šofiraš, vendar bo glede tega treba nekaj ukreniti. Tovornjaka lahko bolje prepelje (vprašanje časa kdaj točno) robot, kot človek. Človek se lahko kvečjemu še pretvarja, da šofira. Lahko si fejka ta užitek, zares je neekonomično in tudi prenevarno. Mora bdeti neka zanesljivejša roka nad tem.
Torej, ločevanje ljudi od dela je pomembna reč in ob naraščajoči avtomatizaciji se šele začenja to vprašanje poznati.
Otroci naj pa delajo kar želijo. Ne da kopirajo iste fajle po istih mrežah kot ata. Ane?
No, hočem samo, da skripta opravlja moje delo in vsa dela drugih ljudi. Da me (nas) nadomesti na dolžnosti. Avtomatizacija.
Človek ima pač neko inherentno vrednost (po moje), ki ne izhaja iz dela, pač pa iz tega, da je. Ne razmišljam tako kot nekateri o "odvečnih ljudeh v tovarnah", samo o "odvečnih delavcih v tovarnah".
Gre za projekt ločevanja sentientov od paina, pa če ga povzroča delo ali karkoli. Pa tudi pleasure ob delu je luksuz, ki si ga v resnici ne moremo privoščiti. Lahko da rad šofiraš, vendar bo glede tega treba nekaj ukreniti. Tovornjaka lahko bolje prepelje (vprašanje časa kdaj točno) robot, kot človek. Človek se lahko kvečjemu še pretvarja, da šofira. Lahko si fejka ta užitek, zares je neekonomično in tudi prenevarno. Mora bdeti neka zanesljivejša roka nad tem.
Torej, ločevanje ljudi od dela je pomembna reč in ob naraščajoči avtomatizaciji se šele začenja to vprašanje poznati.
Otroci naj pa delajo kar želijo. Ne da kopirajo iste fajle po istih mrežah kot ata. Ane?
Man muss immer generalisieren - Carl Jacobi
nicnevem ::
Najprej hvala OwcAi, in Thomasu za pojasnilo :)
> Tukaj še en vote za SEED AI. Tak evolucijski SEED AI.
Pomojem bi bila najboljša kombinacija obeh pristopov. Vsaj pri nekaterih delih arhitekture bi vseeno najraje videl na delu matematično "gotovost", oziroma, hm..
Kako lahko zagotovimo, da se nam evolucijska Seed AI ne izrodi? Verjetno bi moral biti del sistema izjemno dobro zastavljen - v smislu neprotislovnosti, predvidljivosti rezultata (da ne bi slučajno skrenila s poti prijaznosti) itd., in ta del bi na nek način nadzoroval evoluiranje. IMO bi bilo fajn, če bi bile njegove lastnosti "perfektno" matematično dokazane. (Perfektno v smislu, kolikor zmoremo s pomočjo "neumnih" AI, in še čim. stoprocentna gotovost se nam pomoje izmika zaradi možnosti že kake napake v osnovnih aksiomih...)
Hm...enkrat bom moral prebrati CFAI, ker takole on the fly razmišljanje mi ne nese kaj daleč...
...
Thomas, se mogoče tisti "quantum exploit" nanaša tudi na teleportacijo v takem smislu, da tu oddamo neke radijske valove ki potem nekje drugje vplivajo na snov na tak način, da se ta sestavi v nanoasembler, s pomočjo katerega pač sestavljamo naprej kar nam pade na pamet? Je to sploh mogoče?
> Tukaj še en vote za SEED AI. Tak evolucijski SEED AI.
Pomojem bi bila najboljša kombinacija obeh pristopov. Vsaj pri nekaterih delih arhitekture bi vseeno najraje videl na delu matematično "gotovost", oziroma, hm..
Kako lahko zagotovimo, da se nam evolucijska Seed AI ne izrodi? Verjetno bi moral biti del sistema izjemno dobro zastavljen - v smislu neprotislovnosti, predvidljivosti rezultata (da ne bi slučajno skrenila s poti prijaznosti) itd., in ta del bi na nek način nadzoroval evoluiranje. IMO bi bilo fajn, če bi bile njegove lastnosti "perfektno" matematično dokazane. (Perfektno v smislu, kolikor zmoremo s pomočjo "neumnih" AI, in še čim. stoprocentna gotovost se nam pomoje izmika zaradi možnosti že kake napake v osnovnih aksiomih...)
Hm...enkrat bom moral prebrati CFAI, ker takole on the fly razmišljanje mi ne nese kaj daleč...
...
Thomas, se mogoče tisti "quantum exploit" nanaša tudi na teleportacijo v takem smislu, da tu oddamo neke radijske valove ki potem nekje drugje vplivajo na snov na tak način, da se ta sestavi v nanoasembler, s pomočjo katerega pač sestavljamo naprej kar nam pade na pamet? Je to sploh mogoče?
OwcA ::
Thomas, se mogoče tisti "quantum exploit" nanaša tudi na teleportacijo v takem smislu, da tu oddamo neke radijske valove ki potem nekje drugje vplivajo na snov na tak način, da se ta sestavi v nanoasembler, s pomočjo katerega pač sestavljamo naprej kar nam pade na pamet? Je to sploh mogoče?
Bolj gre za vprašanje smiselnosti. Ko znaš snov tako natančno kontrolirati, da boš lahko s kvantnimi pojavi prenašal toliko koherentne informacije, si pa ja lahko spomneš kaj boljšega kot je teleport.
Ampak ja, teoretično bi šlo (torej da se prožiti pojave, ki so dovolj deterministični, da lahko glede na njihovo obnašanje skujemo komunikacijski protokol. Teoretično.
). Otroška radovednost - gonilo napredka.
nicnevem ::
No, seveda, če želim uživati v plesu snežink meglenih gora je verjetno manj potratno simulirati prelep razgled, mrzel veter, in ostalo kar paše zraven, kot pa teleport nekam na Kavkaz. :)
Vendar po drugi strani...kaj pa uporaba pri kolonizaciji vesolja? S pomočjo EM valov sestavimo nekaj nanomašin na oddaljenih planetih, te nam pa nato služijo za že znan scenarij.
Vendar po drugi strani...kaj pa uporaba pri kolonizaciji vesolja? S pomočjo EM valov sestavimo nekaj nanomašin na oddaljenih planetih, te nam pa nato služijo za že znan scenarij.