Protokol

Spomnim se, kako sem leta 1999 preklinjal pri samem sebi, "2000 bo, pa še ne vemo kako delajo možgani! Pojma nimamo, kako narediti HALu podobno mašino! Porkazlomka!"

Leta 2004 sem glede tega popolnoma pomirjen. Precej vseeno mi je, kako delajo možgani - no, zanima me že, vendar se mi ne zdi več odločilno - zdaj sem prepričan (absolutno prepričan), da thinking=simulating in da sploh ni resne ovire pred nami. Na "mašini razreda M, Singularnost lahko sprožimo danes". Masovne simulacije na njej bi zaznavno pospešile morfing sveta.

Mašina razreda M v 10 letih bo in do takrat bomo še na peš izboljšali nekatere naše prijeme.

To je moj pogled. Lahko ga neumorno branim in razlagam. Razlagam ne do 100%, tega niti nočem. Samo držim pa to stališče s prijemom morskega psa. Močno in divje.

_{Mislim da sem do tega radikalnega pogleda prišel v zadnjem času. Manj kot leta.}

Ja ne, ne. Za 2010 pa nisem bil nikoli. Tudi zdaj ne. Ker to je pa le premalo časa.

jest brez tocnega datuma ne verjamem nic...

ce bi pa stavil... 20.2.2021

Torej lahko leta 2025 pričakujemo da nas bo "posrkalo" v singularnost?

Dobro. Če vzamemo za možnost, da se naredi "umetno inteligenco" katera bo vsaj toliko sposobna kot človeški možgani, potem moramo tudi vzeti za možnost, da ne bo nič bolj sposobna. Ljudje smo za enkrat v nekaterih stvareh dojemanja bolj racionalno umsko usmerjeni k rezultatu kot računalnik. Če računalniku dodamo logiko in vse človeške atribute kdo nam garantuira, da ne bo ta "veleum" tudi tako omejen kot človeški možgani? Če se postavimo sedaj v umetno inteligenco (hipotetično) in gledamo naše možgane se lahko samo čudimo neverjetni kreativnosti ljudi in možnost sklepanja ... ipd.
Umetna inteligenca naredi preskok v izobraževanju, ter postane vsaj toliko "pametna" kot ljudje, ali pa če predpostvaimo, da bolj pametna - in naekrat postane (za naše razmere) inteligentna, lahko tudi bolj inteligentna kot ljudje, to še vedno ne pomeni, da bo lahko v trepljaju uča izboljšala samo sebe v neskončnost. Naši možgani tega ne morejo, pa so pred zdajšno računalniško inteligenco. Singularnost predvideva, da karkoli bo bolj inteligentno od nas, je zmožno narediti singularnost. Ne vidim razloga da bi superiorno bitje (naprimer umetna inteligenca) hotelo samega sebe razvijat v nedogled. Za to ne bo potrebe, kajti bo že superiorna in ne bo potrebe po izboljšanju samega sebe. In tudi če predvidevamo da bo umetna inteligenca začela singularnost ...... od kje nam ideja, da mi z našimi omejenimi možgani lahko razvijemo takšno umetno inteligenco, ki je to sposobna???? Če bi mi res bili tako "inteligentni" da bi to lahko razvili, ne vidim razloga, da človeški možgani ne razvijejo sami po sebi singularnosti. Kajti če naredimo stroj, ki bo naredil singularnost je to še vedno samo medij naših možganov, zatorej pravzaprav za singularnost ne bi potrebovali strojev. Iz česar sledi, da singularnosti z našimi produkti ne moremo doseči, kajti, če bi singularnost lahko dosegli z njimi, potem bi prej singularnost dosegli brez njih.

LP

tole vprasanje me ze nekaj casa muci. ko protokol nastopi in se nas vecina ze upload-a, sai pa ze laufa na luni. kaj se zgodi z clovesko naravo razmnozevanja? z otroci namrec? jih bomo/bodo se imeli? ali bodo preprosto generirani? jim bomo sploh hoteli, glede na to, da nam bodo verjetno odzirali resourse?

ohh look, a baby upload! isn't that sweet...

Kaki otroci? otroci bodo samo se ena instanca classe clovek, atome tvojega telesa se bo pa ponucalo za data storage... ;)

Mene me zanima kako razlago imate protokol-guruji o temu:
Po moje je vprašanje časa kdaj se bodo začeli v takem velikem sistemu naprimer virusi razvijat kar sami od sebe. Pa tudi druge "zveri" ki bodo prežale na nekaj kar naša simulirana osebnost ima. Torej dvomim, da bo tale protokol en sam zabaviščni park brez meja in nevarnosti.

kwa bos pa naredu ce bo imel privatn copy constructor?

Eto, kaj me zanima.

Kdaj bi imeli singularnost, če bi obstajal zgolj sovjetski blok in drugega nič.

Da vidimo, kolikšna je razlika.

Po moje do 2200 enkrat ravno tako. Komunistični sistem ni bil povsem antitehnološki in antiznanstven, pač pa dostikrat celo obratno.

Skozi sicer zelo neučinkovit sistem, bi se napredek vseeno zvlekel. Bolj počasi, ampak bi se. Tako vsaj mislim.

Če bi pa prevladal kakšen tradicionalizem, potem bi ljudje prav lahko izumrli, podobno kot so neandertalci. V nekaj tisoč letih, bi jih preprosto več ne bilo.




To oboje ob predpostavkah, da bi komunizem ali tradicionalizem sploh mogla dolgo trajati.

Ma ti se delej norca BW, če ti tko paše, tukaj se vsaj ne bojim, da boš še brisal zraven. Ampak jest jemljem tvoje vprašanje resno.

Singularnost bi lahko naredili tudi na drevesih. Morda bi trajalo bistveno dlje, celo dlje kot nam Sonce še sploh daje časa, vendar povsem nemogoče ni, da bi do nje počasi prišle .... čebele. Potem bi Galaksijo spremenile v rožni vrt ... nekaj takega. Inteligenco panja ne gre podcenjevati.

V Future is Wild so zadnjič pokazali termite, ki čez 200 milijonov let med drugim znajo narediti tudi nekakšna stekla na svojih termitnjakih, da gojene alge v notranjosti lahko uspevajo.

Ni neke meje med "čisto biologijo" in "umetno tehnologijo". Oboje evoluira v isto smer. Vprašanje hitrosti samo.

Tudi vprašanje "protokola in vsega" je ob današnjem razvoju še vedno precej filozofsko

(kajti nobena juha se ne poje tako vroča kot se skuha - pregovor, ki vedno velja)

BW,

Egalitarnost virov je en, samo pozitivna qualia pa drug princip. V okviru tega naj se pa SAI znajde kakor ve in zna, da stvar realizira, materializira. Vprašanje protokola - od tod naslov topica.

keber,

Tako zgleda, vendar videz je varljiv. Runaway computing bo zaradi eksponentnega razvoja mogoč prej, kot si večina predstavlja.

Nico,

Čakamo lahko še milijon let, da pridemo k sebi. Nima smisla, raje popravimo napake sami, kot da pričakujemo svojo zrelost, ki jo od nikoder ne bo.

Danes je blo prvic, da sm se spravu brat ta ogromen thread o PROTOKOLU, ceprav vem ze zelo dolgo da obstaja. Najbrz se bo nekaterim tole zdelo cist offtopic, ker nima direktne zveze s PROTOKOLOM ampak z gledanjem na celo idejo.

Na zacetku sem bral vse kar je bilo napisano, potem pa sem zacel spuscati posamezne poste in na koncu po cele strani. Pa ne zaradi tega, ker me stvar ne bi zanimala. Nasprotno! Sama ideja mi je zelo zanimiva, zacelo pa mi je iti mocno na zivce odnos nekaterih do same ideje in njihovo uokvirjanje le-te v (ne)zmoznosti izpeljave. V glavnem sem dobil obcutek, da vsi ko hocejo negirati celo idejo PROTOKOLA jo na vsak nacin hocejo spraviti v okvir DANASNJEGA CASA. To je tehnoloske razvitosti (kak bi bilo to (ne)zmozno zgraditi z danasnjo znanostjo oziroma z znanostjo naslednjih par let,desetletij), ekonomskega stanja NA ZEMLJI DANES, cloveskega razmisljanja in medsebojnih odnosov DANES, itd itd itd. Vcasih so tud ljudje bili prepricani da se zvocnega zidu ne da prebit, pa tudi ce imas spolne odnose s sorodniki. Tudi so bili ljudje prepricani, da je Zemlja ravna, ker so vse "meritve" in opazovanje v tistem casu in dognanja o svetu(kolikor so pac ze bila omejena) kazala na to. Prav tako je vse kazalo na to, da je Zemlja sredisce vesolja, ker ni bilo dokazov da je mozno tudi kaj drugega. Ce za nekaj ne vemo, se ne pomeni da NE obstaja. Nekdo naprimer je nakazoval na potrebo po neskoncni energiji za "napajanje" Uraniuma, ker je "tak vlka stvar ki se siri". Saj je ze sam Thomas nakazal, da je zadeva koncna zato ne rabimo neskoncne energije. In kdo pravi, da poznamo ze vse oblike energije ki obstajajo. Pred 20 leti so znanstveniki napovedovali, kako bo zmanjkalo naravnih virov surovin in energije(nafta ipd) cez manj kot 20 let pri taki uporabi kot je sedaj, pa se moj fotr se vedno fura z avtom na bencin okol, pa najbrz se marsikdo drug. Takrat pac niso upostevali, da se bojo nasli novi viri.
Bilo je tudi govora o financiranju cele zadeve in da ljudje pac ne razmislamo na tak nacin in da pravila ekonomije ne bi dovoljevala , da bi bila stvar mozna. Lahko da cez toliko pa toliko desetletij noben ne bo vec denarja uporabljal ali podobnih financnih sredstev, ki danes omejujejo izpelajovo taksnih projektov. Bilo je tudi ogromno govora o psihologiji ljudi. Ce bi povprecne Americane in Ruse 30 let nazaj postavu v zaprt prostor bi se gledal grdo kot pes pa macka, danes bi pa najbrz celo kako lepo debato uzgal. Stvari se spreminjajo, ljudje z njimi. Ce nekaj ni mozno zaradi cloveskih pravil DANES, to se ne pomeni, da ne bo mozno jutri. In zakaj ne bi eni ljudje hoteli stopiti skupaj in ustvariti necesa takega? Taki ljudje, ki ne gledajo na celo zadevo s financne koristi. Danes je takih mogoce zelo malo, kdo pa pravi da jih bo v prihodnosti glih toliko. Lahko da jih bo vec, lahko da jih bo manj. Ampak moznost se vedno obstaja, da se stvar izpelje. Kljub temu bi radi eni takoj v osnovi zabili idejo, prepricali da to nikakor ni mozno, ker obstaja nekaj pesimisticnih varjant, ki nakazujejo na neuspeh. Namesto kakih konstruktivnih idej gledam vecinoma "argumente", da "na stvar moras gledati kriticno" to pomeni, da obstaja veliko veliko scenarijev v katerih stvar ni mozna, namesto da bi iskali take, kjer se to da izpeljati.
Eni tukaj hocejo ovreci idejo, ker v svojem znanju in poznavanju ne vidijo moznosti uresnicitve ideje oziroma sama ideja ne pada v okvir znanosti kot jo poznamo DANES, gledanja na svet kot ga poznamo DANES in gledanja ne cloveske sposobnosti v prihodnosti kot ga poznamo DANES. In ce je oni ne vidijo, potem po defaultu naj ne bi resitev obstajala. Naprimer pred 100 leti se folku sanjal ni, da bi LAHKO obstajal neki takega kot je tranzistor, in da bo ta stvar tako vplivala na svet, nase zivljenje, nas napredek in zmoznosti cloveka, ki so se s tem odprle.
Lahko bi se pisal in pisal o tem negativnem odnosu in iskanju izgovorov in argumentov, zakaj naj bi bilo vse skupaj nesmiselno...

Poznam ogromno ljudi, ki bi lahko nekaj bili, in nekaj dosegli, pa so ideje(ki so jih imeli nekoc pred nosom) spustili mimo v stilu "eh to ne more bit tak, mors se na kej druga tuki zravn gledat...ka pa ce se to zgodi...". Pa poznam jih tudi nekaj, ki so stvar zagrabili, se podali v neznano, zaceli razmisljati, kako bojo izpeljali idejo(kljub ocitnim omejitvam sredstev, casa, moznostim neuspeha), so za idejo garali in usvarili nekaj, kar se nobenemu drugemu ni zdelo mozno!

They said that humans were far too heavy to fly and in any case lacked feathers.

lepa zgodba...

> Saj se že tisoče let izpopolnjujemo pa še vedno nismo v protokolu.

Izpopolnjujemo svojo civilizacijo in svoja znanja in prepričanja. Do izboljševanja (biološke) mašinerije katero pilotiramo skozi življenje - do tega pa še nismo prav prišli. Ko pa enkrat (kar kmalu) bomo, se bomo spremenili zelo hitro in korenito.

> Če pa sem ujel motiv, gre za boj dobrega proti zlu - nas proti nam sovražnemu.

Gre za abolicijo od smrti.

> Da bi se celotno človeštvo v kratkem času popolnoma pobotalo med sabo - je po moje neumnost.

Beri začetek tega posta! Vse je samo tehnološko vprašanje. Nobenih drugih problemov ni, kot le tehnološki. S tem pristavkom mogoče, da tehnologija nasprotujoča znanosti ni možna. Tehnologija nasprotna "zdravi pameti" pa seveda je.

Me zanima kaksen procent jih razume dovolj dobro anglesko da so razumeli zgodbo. Z veseljem bi to prevedel, ce bi vedel da jih 30% ni razumelo.
Mogoce je cas za kaksno anketo glede tega(kolko slo-techovcev bere brez problemov v anglescini).


Sicer pa kaj se zgodbe tice pa se bojim, da v realnosti noben king ne bi rekel "Let's do it"...IMHO seveda

Praviš Whale, da zmaja bi mogoče še znali ubiti, svojega razmnoževanja potem ne bi zmogli ustaviti? Oboje.

Meni se zdi, da bi bilo najboljš uploadat raso med njenimi vsakdanjimi opravki. Rahlo prednost imajo tisti na intezivni negi, na rakavem oddelku, AIDSarji na infekcijski kliniki ...

Koliko je pa tvoj scenarij drugacen od scenarija enega terorista, ki bi cel svet, ki ne sledi njegovim nacelom v zrak pognal?

Prav nic. Tvoj je samo malo bolj hinavski. :)

Ampak noben upload tega ne bo resil. Aja, poeditirat bi blo treba vse uploade, da bodo po standardih, jasno.

Za tak restart lahko samo ene par vodikovih bomb vrzemo. Se bo ze restartalo. :) Kar pojdi na ulico in reci nekomu, da bo svet lepsi, samo prej ga moras malo lobotomirat. Popravit njegov profil. To je isto kot upload, samo malo bolj mesarsko.

Ce bos pa z uploadom resil ljudi sedanjih bolezni, se bodo pa nasle nove. Ne? Zakaj ne? Saj evolucija gre naprej, pa ce je to 'digitalna' ali pa 'analogna'.

Pa ne zdaj rect, da bo pa 'the computer' perfect. Kaj pa ko ga en meteor zadane? Perfect ne obstaja. Tako kot neskoncnost ne. :)

PS: Do sedaj se ni nasel se nihce, ki bi ustavil evolucijo oziroma jo ukrotil. Zdaj pa jo bomo mi? Sanja svinja kukuruz...

Think deeper, bolezen v stilu racunalniskega virusa. Nasih teles ni vec, remember? Foolproof sistema ni, hm, zelo verjetno ga tudi nikoli ne bo.

Foolproof sistem je možen. Gre za kreiranje neprotislovnega aksiomatskega sistema.

Sicer dlakocepim, ampak kaj pa kvantne fluktuacije, te se ne menijo kaj dosti za logično stanje sistema.

Future eternal = Pain eternal

Kaj noben fizikalni zakon ne preprečuje future eternal?