Forum » Znanost in tehnologija » Protokol
Protokol
Temo vidijo: vsi
_marko ::
AI bo začela vse pretvarjat v velik computorium.
Kaj se bo zgodilo, da naletimo na neko drugo inteligentno civilizacijo?
Jim bo spremenil planet v velik computorium? jih uničil? povabil v protokol?
Kaj se bo zgodilo, da oni nimajo prijatleskih namenov in nas želijo uničit?
Kaj vse bi AI pretvorila v velik računalnik?
LP marko
Kaj se bo zgodilo, da naletimo na neko drugo inteligentno civilizacijo?
Jim bo spremenil planet v velik computorium? jih uničil? povabil v protokol?
Kaj se bo zgodilo, da oni nimajo prijatleskih namenov in nas želijo uničit?
Kaj vse bi AI pretvorila v velik računalnik?
LP marko
Thomas ::
Recimo, da je povprečna oddaljenost med supercivilizacijami milijarda svetlobnih let. Pa da mehurček začne rasti na vse strani, povprečno pol milijarde let za sosednim. Ko trčita, ima eden že 27 krat večji volumen kot drugi. Toda tudi tamali je impresiven, saj zlahka vsebuje milijon (predelanih) galaksij. Antipodna točka pol milijarde svetlobnih let daleč, pa še beži s svetlobno hitrostjo proč in je ni mogoče ujeti. Tudi če je svetlobno hitost mogoče preseči, najbrž ne, ker potem lahko toliko hitreje beži.
Torej kaj je edino možno narediti ob trku? Pregledati in primerjati Protokole.
Potem imamo pa naslednje možne situacije:
1 - obe Singularnosti sta bad
2 - večja Singularnost je good
3 - manjša Singularnost je good
4 - obe sta good
Če 1, se bosta na stičišču in potem v notranjost začeli uničevati. Druge good ju bodo srečale in asimilirale. Podobno kot Singularnost asimilira Evolucijo v začetku.
Če 2, je z ene strani bad Singularnost blokirana. Vprašanje časa je, kdaj bo še z ostalih strani "pripeljala intervencija".
Če 3, isto kot 2. Večja je bad Singularnost, na več nasprotnih bo naletela, ki jo bodo nazadnje asimilirale prav tako, kot asimilirajo zvezde in planete.
Če 4, postaneta ena velika Singularnost. Nekoliko obogatena samo.
Torej kaj je edino možno narediti ob trku? Pregledati in primerjati Protokole.
Potem imamo pa naslednje možne situacije:
1 - obe Singularnosti sta bad
2 - večja Singularnost je good
3 - manjša Singularnost je good
4 - obe sta good
Če 1, se bosta na stičišču in potem v notranjost začeli uničevati. Druge good ju bodo srečale in asimilirale. Podobno kot Singularnost asimilira Evolucijo v začetku.
Če 2, je z ene strani bad Singularnost blokirana. Vprašanje časa je, kdaj bo še z ostalih strani "pripeljala intervencija".
Če 3, isto kot 2. Večja je bad Singularnost, na več nasprotnih bo naletela, ki jo bodo nazadnje asimilirale prav tako, kot asimilirajo zvezde in planete.
Če 4, postaneta ena velika Singularnost. Nekoliko obogatena samo.
Man muss immer generalisieren - Carl Jacobi
Valentin ::
Thomas
Ali se bo Singularnost lahko širila s svetlobno hitrostjo?
S tako hitrostjo lahko prenesemo informacijo (uploade), toda na cilju že mora biti sprejemnik (AI) in nanoroboti.
Torej je treba najprej prenesti na cilj tehnologijo.
Za prenos materije s hitrostjo blizu svetlobne, pa bo verjetno potrebna ogromna energija in vesoljske ladje.
Oziroma kako si ti to razlagaš?
Ali se bo Singularnost lahko širila s svetlobno hitrostjo?
S tako hitrostjo lahko prenesemo informacijo (uploade), toda na cilju že mora biti sprejemnik (AI) in nanoroboti.
Torej je treba najprej prenesti na cilj tehnologijo.
Za prenos materije s hitrostjo blizu svetlobne, pa bo verjetno potrebna ogromna energija in vesoljske ladje.
Oziroma kako si ti to razlagaš?
Thomas ::
Ne ravno s svetlobno hitrostjo, pač pa recimo z 0.999 c.
Recimo, da pošljemo 2040 sondo proti Andromedini galaksiji.. Tako, nekaj tisoč ton težko. Polno replikatorskih nanorobotov, katerih edina naloga je spremeniti celo Andromedo v useware.
Da doseže hitrost 0.9999 c v enem letu ni noben poseben problem. Tudi to, da so nanoboti popolnoma "pokorni Protokolu" in da da po dobrih dveh milijonih let sonda prispe tja in naredi mrežo Uraniumov iz tistih nekaj sto milijard zvezd, ni čisto nič nemogoče.
Tačas je naša galaksija tudi že vsa porihtana in upload se lahko prekopira tja.
Od zvezde do zvezde v naši Galaksiji (ali kjerkoli drugje) gre pa takole:
- sonda do prvega ozvezdja
- tam se zasidra na "prvem kamnu" in naredi 100 duplikatov, ki gredo naprej.
- znotraj osončja se razmnoži v nekaj tednih in začne z dekompozicijo tistega osončja.
Tako, ali pa kakšna izvedenka iz tega scenarija, zagotavlja praktično svetlobno hitrost razširjanja.
Recimo, da pošljemo 2040 sondo proti Andromedini galaksiji.. Tako, nekaj tisoč ton težko. Polno replikatorskih nanorobotov, katerih edina naloga je spremeniti celo Andromedo v useware.
Da doseže hitrost 0.9999 c v enem letu ni noben poseben problem. Tudi to, da so nanoboti popolnoma "pokorni Protokolu" in da da po dobrih dveh milijonih let sonda prispe tja in naredi mrežo Uraniumov iz tistih nekaj sto milijard zvezd, ni čisto nič nemogoče.
Tačas je naša galaksija tudi že vsa porihtana in upload se lahko prekopira tja.
Od zvezde do zvezde v naši Galaksiji (ali kjerkoli drugje) gre pa takole:
- sonda do prvega ozvezdja
- tam se zasidra na "prvem kamnu" in naredi 100 duplikatov, ki gredo naprej.
- znotraj osončja se razmnoži v nekaj tednih in začne z dekompozicijo tistega osončja.
Tako, ali pa kakšna izvedenka iz tega scenarija, zagotavlja praktično svetlobno hitrost razširjanja.
Man muss immer generalisieren - Carl Jacobi
Thomas ::
Tako, še en dan smo bliže Singularnosti. Nekateri bi sicer rekli smrti, kar me pa spomni na današnji pogovor na pokopališču.
Jih bomo po Singularnosti šli gor budit? Prepričan sem, da bi jih lahko, nisem bil pa tako prepričan, da jih bomo res. Nisem bil. Poglavitna ovira sem bil jest sam - oziroma bolj tista moja ideja o "eni zavesti", ki je skrajno težko prebavljiva sicer, v moji glavi pa dobro usidrana že dolgo. No ne osebno jest, ampak tista ideja je bila ovira. Torej kaj češ delat še ene koinkarnacije, saj jih je že tako dovolj?
Toda po drugi strani spet - zakaj pa ne! Saj bi lahko. Itak se Eliezer gotovo moti, ko pridvedeva da imamo kakšne "višje cilje" na oni strani. Ni drugega kot Fun field z druge strani - jasno. Torej zakaj naj bi ne priredili v Zemlji ležečim enega Vstajenja? Za začetek po njihovih predstavah, potem jih pa augmentiramo počasi. Da se zavejo da so državljani Utopije in ne podložniki Boga. Tudi bi bla to kar zanimiva služba, se s tem ukvarjat. Greš kot kurir, ki pred bitko na Somi odpokliče vojaka v "štab", kjer mu počasi vse razložiš. Potem gre domov in tam je "Singularnost 1917". Informacije o tistih vseh dogodkih so shranjene v okoliški snovi.
Tako enega za drugim, vseh 100 milijard mrtvih pospremiš v življenje nazaj. En tak mikrosmisel - mar ne? 
Jih bomo po Singularnosti šli gor budit? Prepričan sem, da bi jih lahko, nisem bil pa tako prepričan, da jih bomo res. Nisem bil. Poglavitna ovira sem bil jest sam - oziroma bolj tista moja ideja o "eni zavesti", ki je skrajno težko prebavljiva sicer, v moji glavi pa dobro usidrana že dolgo. No ne osebno jest, ampak tista ideja je bila ovira. Torej kaj češ delat še ene koinkarnacije, saj jih je že tako dovolj?
Toda po drugi strani spet - zakaj pa ne! Saj bi lahko. Itak se Eliezer gotovo moti, ko pridvedeva da imamo kakšne "višje cilje" na oni strani. Ni drugega kot Fun field z druge strani - jasno. Torej zakaj naj bi ne priredili v Zemlji ležečim enega Vstajenja? Za začetek po njihovih predstavah, potem jih pa augmentiramo počasi. Da se zavejo da so državljani Utopije in ne podložniki Boga. Tudi bi bla to kar zanimiva služba, se s tem ukvarjat. Greš kot kurir, ki pred bitko na Somi odpokliče vojaka v "štab", kjer mu počasi vse razložiš. Potem gre domov in tam je "Singularnost 1917". Informacije o tistih vseh dogodkih so shranjene v okoliški snovi.
Tako enega za drugim, vseh 100 milijard mrtvih pospremiš v življenje nazaj. En tak mikrosmisel - mar ne?
Man muss immer generalisieren - Carl Jacobi
darh ::
cel žur... sam ne.... protokol spremljam... prvih 200 in zadnjih 200 postov... vmes sem sam ono "zgodbico" prebral.. tko da sue me če je že kdo vprašal...
Imamo neko končno število potencialnih osebkov za v Protokol, ane? Thomas, ti si tole množico z možnostjo "obujanja" mrtvih pravkar povečal... Kaj pa naši potomci? Ko bom enkrat v protokoli nihče več ne mogu bit dejansko MOJ otrok al kako?
Imamo neko končno število potencialnih osebkov za v Protokol, ane? Thomas, ti si tole množico z možnostjo "obujanja" mrtvih pravkar povečal... Kaj pa naši potomci? Ko bom enkrat v protokoli nihče več ne mogu bit dejansko MOJ otrok al kako?
Excuses are useless! Results are priceless!
Thomas ::
xbite
To s potomci je tako kot s predniki. "Neznosno lahko" se je odločiti kakorkoli že. Čista arbitrarnost. Kakor bi se zmišljeval pravila nove igre. Veže te samo en moralni imperativ - da je igra dobra, kozmično dobra - ostalo je v naših rokah.
Torej če bi nekako vpletli še potomce (svojih vnukov) - zakaj pa ne?! Do 1050? sentientov je še precej prostora na barki.
Naredimo lahko karkoli, samo megastično dobro mora biti!
To s potomci je tako kot s predniki. "Neznosno lahko" se je odločiti kakorkoli že. Čista arbitrarnost. Kakor bi se zmišljeval pravila nove igre. Veže te samo en moralni imperativ - da je igra dobra, kozmično dobra - ostalo je v naših rokah.
Torej če bi nekako vpletli še potomce (svojih vnukov) - zakaj pa ne?! Do 1050? sentientov je še precej prostora na barki.
Naredimo lahko karkoli, samo megastično dobro mora biti!
Man muss immer generalisieren - Carl Jacobi
darh ::
Ja.. pa dej mi povej.. do katere meje je nekdo moj potomec? Če se jest spomnim da bi ga imel in se v protokolu zgnerira skupek bitov, ki ga predstavljajo - to ne bo to. Seveda me lahko protokol najbrž prepriča da je vse v najlepšem redu ipd... Samo marsikomu to ne bo ušeč...
Excuses are useless! Results are priceless!
Thomas ::
Tvoj biološki potomec je, kdor ima 50% tvojih genov.
Potem si gre pa gene izboljševat. Noče recimo tistega, za tako vsebnost holesterola v krvi. Ti si pa menjaš kakšen drug gen. Kmalu si nista več v biološkem sorodstvu. Ta definicija se začne krhati že z genetskim inženiringom. Da bi se do Singularnosti čisto skrhala.
Samo da tam lahko na novo definiraš. Verjetno povsem zadovoljivo. Lahko tudi kako eklektično. S povezavo nazaj. Gotovo se da kej zmislit.
Potem si gre pa gene izboljševat. Noče recimo tistega, za tako vsebnost holesterola v krvi. Ti si pa menjaš kakšen drug gen. Kmalu si nista več v biološkem sorodstvu. Ta definicija se začne krhati že z genetskim inženiringom. Da bi se do Singularnosti čisto skrhala.
Samo da tam lahko na novo definiraš. Verjetno povsem zadovoljivo. Lahko tudi kako eklektično. S povezavo nazaj. Gotovo se da kej zmislit.
Man muss immer generalisieren - Carl Jacobi
where do a sign? Valentin ::
Proteze za poškodovane možgane
Ameriški raziskovalec Theodor Berger iz južne Kalifornije razvija proteze, ki naj bi jih vsadili v poškodovane možgane - elektronski čipi s stikali, ki se obnašajo kot živčne celice.
Berger pravi, da mu pri razvoju nadomestka sploh ni potrebno popolnoma razumeti delovanja nevronov.
Delovanje možganskih celic namreč raziskuje tako, da jih 'obstreljuje' z vsemi mogočimi nizi pulzov in gleda obnašanje celice. Na kocu ve, kako se obnaša v vseh mogočih situacijah in lahko sestavi njenega elektronskega dvojnika.
Ta naj bi, če bo šlo vse po načrtih, v vsakem položaju storil isto.
Sestavili so že čip z nekaj sto nevroni, naslednja generacija jih bo imela na desettisoče.
Več o tem lahko preberete v današnji sobotni prilogi DELA.
Spet en korak na poti do PROTOKOLA ?
Ameriški raziskovalec Theodor Berger iz južne Kalifornije razvija proteze, ki naj bi jih vsadili v poškodovane možgane - elektronski čipi s stikali, ki se obnašajo kot živčne celice.
Berger pravi, da mu pri razvoju nadomestka sploh ni potrebno popolnoma razumeti delovanja nevronov.
Delovanje možganskih celic namreč raziskuje tako, da jih 'obstreljuje' z vsemi mogočimi nizi pulzov in gleda obnašanje celice. Na kocu ve, kako se obnaša v vseh mogočih situacijah in lahko sestavi njenega elektronskega dvojnika.
Ta naj bi, če bo šlo vse po načrtih, v vsakem položaju storil isto.
Sestavili so že čip z nekaj sto nevroni, naslednja generacija jih bo imela na desettisoče.
Več o tem lahko preberete v današnji sobotni prilogi DELA.
Spet en korak na poti do PROTOKOLA ?
Zgodovina sprememb…
- spremenil: Valentin ()
Thomas ::
Valentin
Ta gospod Berg se očitno sploh ne zaveda pomena in globine svojega dela. On nekako misli, da bo "šlo le za proteze". Seveda bodo pa te proteze kmalu boljše od vsakega originala. To kar počne on, so začetki uploadanja Moravec way. Nobene "biološke polovice" ne potrebuješ, ko so enkrat napravice boljše od "naravnega tkiva". Temu so pa že blizu.
Tudi je to kar so opazili, da neuroni sploh niso nevemkako komplicirani, da pač streljajo signale in drugega nič, ter da jih je zlahka nadomestiti z "elektroniko", je zelo v skladu, zelo podpira, gledanje na svet, kakršnega imamo mi - "Mladoturki".
computing substrate + dynamic data = all what matters
Ne pa nevemkaj kaj imanentno skrivnostnega, nedoumljivega, od telesa neodvisna duša, bla bla bla ... kot gledajo Staroturki oziroma Staroslovenci. Ista figa.
Program ki sem jaz, bi rad boljši comp, kot je moje telo in možgani, s katerima moram zaenkrat biti zadovoljen.
Zgleda da dobro kaže, sodeč (tudi) po tem članku. Odreči se je treba le tipično človeških okraskov, kot je tisti o svobodni volji, božji iskrici ki da nam da ustvarjalnost in čustva, "paranormalnim" pojavom ... itd, itd - pa so vse zadeve precej kristalno jasne.
Moram pa priznati, da celo mene rahlo preseneča hitrost, s katero so se zadnje čase začele stvari odvijati. Kurz je pravi.
Ta gospod Berg se očitno sploh ne zaveda pomena in globine svojega dela. On nekako misli, da bo "šlo le za proteze". Seveda bodo pa te proteze kmalu boljše od vsakega originala. To kar počne on, so začetki uploadanja Moravec way. Nobene "biološke polovice" ne potrebuješ, ko so enkrat napravice boljše od "naravnega tkiva". Temu so pa že blizu.
Tudi je to kar so opazili, da neuroni sploh niso nevemkako komplicirani, da pač streljajo signale in drugega nič, ter da jih je zlahka nadomestiti z "elektroniko", je zelo v skladu, zelo podpira, gledanje na svet, kakršnega imamo mi - "Mladoturki".
computing substrate + dynamic data = all what matters
Ne pa nevemkaj kaj imanentno skrivnostnega, nedoumljivega, od telesa neodvisna duša, bla bla bla ... kot gledajo Staroturki oziroma Staroslovenci. Ista figa.
Program ki sem jaz, bi rad boljši comp, kot je moje telo in možgani, s katerima moram zaenkrat biti zadovoljen.
Zgleda da dobro kaže, sodeč (tudi) po tem članku. Odreči se je treba le tipično človeških okraskov, kot je tisti o svobodni volji, božji iskrici ki da nam da ustvarjalnost in čustva, "paranormalnim" pojavom ... itd, itd - pa so vse zadeve precej kristalno jasne.
Moram pa priznati, da celo mene rahlo preseneča hitrost, s katero so se zadnje čase začele stvari odvijati. Kurz je pravi.
Man muss immer generalisieren - Carl Jacobi
Valentin ::
Ja, saj.
Najprej proteza, nato komplet možgani.
Je blo takle razplet kar za pričakovat.
Pa tudi so mi bili Moravčevi načini uploadanja že takoj povsem razumljivi in verjetni.
Najprej proteza, nato komplet možgani.
Je blo takle razplet kar za pričakovat.
Pa tudi so mi bili Moravčevi načini uploadanja že takoj povsem razumljivi in verjetni.
Thomas ::
Tebi, meni, Marjanu, xbiteu, DarkSiteu ... pa še enim 10 drugim tukaj - je to že jasno.
Nekateri ostali se pa začenjajo rahlo praskati za ušesi ...
Nekateri ostali se pa začenjajo rahlo praskati za ušesi ...
Man muss immer generalisieren - Carl Jacobi
DarkSite ::
Thomas, kje si pobral izraz "mladiturki" in "stariturki", ker full seka? 
Iz kakšnega članka ali je pa to plod tvoje domišljije, hehee.
Men se tud nekam zdi, da tempo raziskovanja na možganih predvsem povezovanja z elektroniko teče nekam hitreje kot je bilo predvideno. Mam filing, kot da se bo prvi upload zgodil v naslednjih 10 letih, če ne že prej in ne v 20 letih.
Veliko teh znanstvenikov se igra na področju povezovanja med človeškimi možgani in elektroniko, in samo vprašanje je kdaj jim bo uspelo.
Še eno staro novico imam glede povezovanja: Link
Iz kakšnega članka ali je pa to plod tvoje domišljije, hehee.Men se tud nekam zdi, da tempo raziskovanja na možganih predvsem povezovanja z elektroniko teče nekam hitreje kot je bilo predvideno. Mam filing, kot da se bo prvi upload zgodil v naslednjih 10 letih, če ne že prej in ne v 20 letih.
Veliko teh znanstvenikov se igra na področju povezovanja med človeškimi možgani in elektroniko, in samo vprašanje je kdaj jim bo uspelo.
Še eno staro novico imam glede povezovanja: Link
Thomas ::
Izraz je iz zgodovine. Po prvi svetovni vojni so Mladoturki, kakor so se sami imenovali, ugotovili da je sultanat in Omanski imperij kot je bil, preživet. Da rabijo moderno državo po zgledu Zahoda.
No in zdej bo potrebna še ena bolj korenita sprememba kot je bila katerakoli v zgodovini. Tudi tista, ko so prve živali prišle na kopno.
Ja, kako hitro bi lahko prišlo do uploada?
Kako hitro in po kakšnem redu se bodo zdaj zvrstile ground breaking tehnologije je zelo pomembno vprašanje.
Vsaj tri so v cevovodu.
Glede prve, mi je Marjan poslal en tehten email. Namreč da replikatorska molekula najbrž sploh ni nanosize, pač pa bolj mikro. To bi po teži pomenilo milijardokrat več.
Dajem mu vsaj deloma prav, zatorej nano najbrž ne bo prva in the wild.
SAI ... je ta trenutek verjetno cilj vsaj 100 skupin (morda celo posameznikov) worldwide. Dovolj da uspe ena. Zato bi še pred nedavnim postavljal SAI kot verjetno prvo.
Se pa zna izkazati ja, da upload je "enostaven kot atomska bomba". Potrebna je samo alokacija sredstev, pa projekt lahko uspe presenetljivo kmalu.
No in zdej bo potrebna še ena bolj korenita sprememba kot je bila katerakoli v zgodovini. Tudi tista, ko so prve živali prišle na kopno.
Ja, kako hitro bi lahko prišlo do uploada?
Kako hitro in po kakšnem redu se bodo zdaj zvrstile ground breaking tehnologije je zelo pomembno vprašanje.
Vsaj tri so v cevovodu.
- nano
- SAI
- uploading
Glede prve, mi je Marjan poslal en tehten email. Namreč da replikatorska molekula najbrž sploh ni nanosize, pač pa bolj mikro. To bi po teži pomenilo milijardokrat več.
Dajem mu vsaj deloma prav, zatorej nano najbrž ne bo prva in the wild.
SAI ... je ta trenutek verjetno cilj vsaj 100 skupin (morda celo posameznikov) worldwide. Dovolj da uspe ena. Zato bi še pred nedavnim postavljal SAI kot verjetno prvo.
Se pa zna izkazati ja, da upload je "enostaven kot atomska bomba". Potrebna je samo alokacija sredstev, pa projekt lahko uspe presenetljivo kmalu.
Man muss immer generalisieren - Carl Jacobi
Zgodovina sprememb…
- spremenil: Thomas ()
Thomas ::
Pred nogami nam leži torej tole Vesolje. Kako veliko je?
Najboljši opis velikosti je po mojem:
V naši galaksiji je par 100 milijard zvezd. Vsako stoletje eksplodira v njej v povprečju ena supernova.
V celem Vesolju je kakih 100 tisoč takih eksplozij na dan.
Toliko veliko je Vesolje, ki je le engine bodočega bit worlda, za povrh večjega od trenutnega particle worlda - za mnogo velikostnih razredov.
To nekako, je zmerna, konzervativna ocena vrednosti glavne nagrade.
Trenutna funkcija po kateri raste naša civilizacija je oblike:
m*ek*t
Pomeni, vsake toliko let ali desetletij se podvoji. Čas podvojevanje se pa manjša, ker k in m nista ravno konstanti.
Ta eksponentna, ali celo dvojno eksponentna rast, pa bo praktično takoj po Singularnosti nadomeščena z
K*t3
Volumen (masa) naše (super)civilizacije se bo potisočeril(a) vsakič, ko bo preteklo desetkrat več časa, od Singularnosti naprej. Eksponentno obdobje bo prešlo v polinomsko. Ampak že od neke dosežene točke naprej.
Kaj rabimo, da se to zgodi? Mogoče (dosti) manj kot tono težek stroj, strukturo atomov, seed, makromolekulo, computorium (computronium) - kakor že, kdo želi temu reči.
Zadostovalo bo.
Najboljši opis velikosti je po mojem:
V naši galaksiji je par 100 milijard zvezd. Vsako stoletje eksplodira v njej v povprečju ena supernova.
V celem Vesolju je kakih 100 tisoč takih eksplozij na dan.
Toliko veliko je Vesolje, ki je le engine bodočega bit worlda, za povrh večjega od trenutnega particle worlda - za mnogo velikostnih razredov.
To nekako, je zmerna, konzervativna ocena vrednosti glavne nagrade.
Trenutna funkcija po kateri raste naša civilizacija je oblike:
m*ek*t
Pomeni, vsake toliko let ali desetletij se podvoji. Čas podvojevanje se pa manjša, ker k in m nista ravno konstanti.
Ta eksponentna, ali celo dvojno eksponentna rast, pa bo praktično takoj po Singularnosti nadomeščena z
K*t3
Volumen (masa) naše (super)civilizacije se bo potisočeril(a) vsakič, ko bo preteklo desetkrat več časa, od Singularnosti naprej. Eksponentno obdobje bo prešlo v polinomsko. Ampak že od neke dosežene točke naprej.
Kaj rabimo, da se to zgodi? Mogoče (dosti) manj kot tono težek stroj, strukturo atomov, seed, makromolekulo, computorium (computronium) - kakor že, kdo želi temu reči.
Zadostovalo bo.
Man muss immer generalisieren - Carl Jacobi
svit ::
Pozdravljen Thomas v "tvoji" temi: Sicer spremljam to temo že nekaj časa... pa se mi zdi, da to vprašanje še ni bilo dano... Se opravičujem če je že bilo to vprašano pa vendar:
Nekje na začetku si omenjal, da se bo Protokol širil na tak način, da bo požiral materijo okrog sebe. Zdaj me pa zanima, kaj bi se zgodilo če bi protokol naletel na nevronsko zvezdo? Ali pa na črno luknjo.
Nadalje me zanima, kako bi Protokol ravnal, če bi se recimo na nekem planetu prebivalci uprli uploadanju. Sicer si že govoril o tem, da se vabljenju UI ne da upreti, toda vseeno kaj bi takrat Protokol naredil. Kaj bi "požrl" cel planet ali bi ga pustil na miru?
Naslednje vprašanje: Nekam preprosto smo odpravili vprašanje UI. Sicer si rekel, da naštimamo algoritem (brute force), ki naj bi izboljševal samega sebe. Sicer je algoritem neoporečen, toda tukaj se vzpostavlja vprašanje kakšno kontrolo oziroma kriterije uporabiti. Vseh stvari se ne da matematično izraziti ali prevesti na številke. Govoril si tudi o memplexih, na katerih naj bi gradila UI. Toda nekaj me zanima...kako bo UI reagirala na "posmeh" oziroma "kontekst". Ko je misel izrečena čisto nedolžno, pomeni pa nekaj drugega. Ali pa bo to samo kot nekak mIRC, ki bo posredoval misli drugih...
Kaj bo ob nepredvideni napaki (oziroma bugu). Pri tem ne mislim nekaj nedolžnega ampak recimo sesutje vitalnega dela UI - kontrole "prijaznost do uporabnikov"? To se dogaja... poznan je primer, ko je ameriška vojska dala desetim softwerskim firmam izdelovati računalniško podprti sistem za sestreljevanje nasprotnikovih raket. Vsako podjetje je našlo različne rešitve tega problema, pa vendar so vsi programi "padli" ko je raketa prišla v zračni prostor ZDA pod nekim čudnim kotom in z neko hitrostjo. Vseh deset programov ni sestrelilo rakete, čeprav so imeli različne logične rešitve in implementacije. Sicer pa je bil hit ratio posameznega programa 98%.
Samo to...
LP
Nekje na začetku si omenjal, da se bo Protokol širil na tak način, da bo požiral materijo okrog sebe. Zdaj me pa zanima, kaj bi se zgodilo če bi protokol naletel na nevronsko zvezdo? Ali pa na črno luknjo.
Nadalje me zanima, kako bi Protokol ravnal, če bi se recimo na nekem planetu prebivalci uprli uploadanju. Sicer si že govoril o tem, da se vabljenju UI ne da upreti, toda vseeno kaj bi takrat Protokol naredil. Kaj bi "požrl" cel planet ali bi ga pustil na miru?
Naslednje vprašanje: Nekam preprosto smo odpravili vprašanje UI. Sicer si rekel, da naštimamo algoritem (brute force), ki naj bi izboljševal samega sebe. Sicer je algoritem neoporečen, toda tukaj se vzpostavlja vprašanje kakšno kontrolo oziroma kriterije uporabiti. Vseh stvari se ne da matematično izraziti ali prevesti na številke. Govoril si tudi o memplexih, na katerih naj bi gradila UI. Toda nekaj me zanima...kako bo UI reagirala na "posmeh" oziroma "kontekst". Ko je misel izrečena čisto nedolžno, pomeni pa nekaj drugega. Ali pa bo to samo kot nekak mIRC, ki bo posredoval misli drugih...
Kaj bo ob nepredvideni napaki (oziroma bugu). Pri tem ne mislim nekaj nedolžnega ampak recimo sesutje vitalnega dela UI - kontrole "prijaznost do uporabnikov"? To se dogaja... poznan je primer, ko je ameriška vojska dala desetim softwerskim firmam izdelovati računalniško podprti sistem za sestreljevanje nasprotnikovih raket. Vsako podjetje je našlo različne rešitve tega problema, pa vendar so vsi programi "padli" ko je raketa prišla v zračni prostor ZDA pod nekim čudnim kotom in z neko hitrostjo. Vseh deset programov ni sestrelilo rakete, čeprav so imeli različne logične rešitve in implementacije. Sicer pa je bil hit ratio posameznega programa 98%.
Samo to...
LP
Thomas ::
Welcome, Svit!
> Zdaj me pa zanima, kaj bi se zgodilo če bi protokol naletel na nevronsko zvezdo? Ali pa na črno luknjo.
Na črne luknje bo gotovo naletel. Tudi na nevtronske zvezde.
Kar se tiče teh in še drugih eksotičnih zadev - je vprašanje ekonomike. Črno luknjo se da razstaviti - ampak a se splača? Če se, potem je treba samo povečati njeno rotacijo, da se izsevanje začne. Morda pa je bolje kar njeno Hawkingovo sevanje izkoriščati, dokler črna luknja ne izpari.
Kar se pa tiče nevtronskih zvezd, bi to celo znala biti idealna computorium oblika snovi.
Chronos. (§ 10.3)
Lahko pa tudi, da so (kilogramske) črne luknje še boljši gradnik za idealni computor(ium).
Možno pa, da je še kaj drug(ačn)ega. Anyway - Protokol mora poiskati optimum za nas.
> Kaj bi "požrl" cel planet ali bi ga pustil na miru?
Po mojem mnenju bi ga požrl. V skrajnem primeru oni sploh ne bi tega opazili. Mislili bi, da je še vse lepo po starem naprej.
Vendar še bolj mislim, da bi zvedeli tudi to in bi bili čisto zadovoljni.
Zakaj bi tvegali svojo usodo zaradi nekih trmastih "alien amišev"? Pustiti jih - ni nič bolj etično, kot pustiti samomorilca, da skoči v globino. Ali pa kompulzivnega obsedenca, da naprej dopušča, da ga grizejo psi.
> tukaj se vzpostavlja vprašanje kakšno kontrolo oziroma kriterije uporabiti
Hiearhija zahtev mora biti konstantno spoštovana. Minimal (zero) pain, huge pleasure ...
Kako pa to narediti ... to je tudi problem, pri katerega rešitvi naj sodeluje AI.
> sesutje vitalnega dela UI - kontrole "prijaznost do uporabnikov"? To se dogaja...
TO je najpomembnejše vprašanje in naloga.
Pa ne pretežko, ko je milijardokrat večja inteligenca na voljo - se mi zelo zdi. Zdejšnji naši neumni felerji so razumljivi. Naš IQ je le zelo blizu 0.
> Zdaj me pa zanima, kaj bi se zgodilo če bi protokol naletel na nevronsko zvezdo? Ali pa na črno luknjo.
Na črne luknje bo gotovo naletel. Tudi na nevtronske zvezde.
Kar se tiče teh in še drugih eksotičnih zadev - je vprašanje ekonomike. Črno luknjo se da razstaviti - ampak a se splača? Če se, potem je treba samo povečati njeno rotacijo, da se izsevanje začne. Morda pa je bolje kar njeno Hawkingovo sevanje izkoriščati, dokler črna luknja ne izpari.
Kar se pa tiče nevtronskih zvezd, bi to celo znala biti idealna computorium oblika snovi.
Chronos. (§ 10.3)
Lahko pa tudi, da so (kilogramske) črne luknje še boljši gradnik za idealni computor(ium).
Možno pa, da je še kaj drug(ačn)ega. Anyway - Protokol mora poiskati optimum za nas.
> Kaj bi "požrl" cel planet ali bi ga pustil na miru?
Po mojem mnenju bi ga požrl. V skrajnem primeru oni sploh ne bi tega opazili. Mislili bi, da je še vse lepo po starem naprej.
Vendar še bolj mislim, da bi zvedeli tudi to in bi bili čisto zadovoljni.
Zakaj bi tvegali svojo usodo zaradi nekih trmastih "alien amišev"? Pustiti jih - ni nič bolj etično, kot pustiti samomorilca, da skoči v globino. Ali pa kompulzivnega obsedenca, da naprej dopušča, da ga grizejo psi.
> tukaj se vzpostavlja vprašanje kakšno kontrolo oziroma kriterije uporabiti
Hiearhija zahtev mora biti konstantno spoštovana. Minimal (zero) pain, huge pleasure ...
Kako pa to narediti ... to je tudi problem, pri katerega rešitvi naj sodeluje AI.
> sesutje vitalnega dela UI - kontrole "prijaznost do uporabnikov"? To se dogaja...
TO je najpomembnejše vprašanje in naloga.
Pa ne pretežko, ko je milijardokrat večja inteligenca na voljo - se mi zelo zdi. Zdejšnji naši neumni felerji so razumljivi. Naš IQ je le zelo blizu 0.
Man muss immer generalisieren - Carl Jacobi
Zavo ::
Nekaj časa že spremljam thread o Protokolu, tu pa tam sem postavil kako vprašanje, zdaj pa me vse skupaj malo bolj zanima, zato nekaj vprašanj za THOMASA.
1. Zakaj ustvariti Protokol? Čemu?
2. Kako sprožit znanstveno singularnost?
3. Ali ne drži, da bi za znanstveno singularnost potrebovali celotno energijo vesolja?
4. Če služi protokol za naš pleasure, zakaj potem ne bi kar takoj stimulirali naše možgani s tokom in tako ustvarjali pleasure. Po moje gremo okoli riti v žep!
Ko dobim odgovore na to, zastavim naslednja vprašanja!
Lep večer,
Zavo
1. Zakaj ustvariti Protokol? Čemu?
2. Kako sprožit znanstveno singularnost?
3. Ali ne drži, da bi za znanstveno singularnost potrebovali celotno energijo vesolja?
4. Če služi protokol za naš pleasure, zakaj potem ne bi kar takoj stimulirali naše možgani s tokom in tako ustvarjali pleasure. Po moje gremo okoli riti v žep!
Ko dobim odgovore na to, zastavim naslednja vprašanja!
Lep večer,
Zavo
Thomas ::
Zavo
> 1. Zakaj ustvariti Protokol? Čemu?
Samo zato, ker so razlogi ZA, močnejši od tistih PROTI.
Vsaj v nekaterih glavah, kar bo najbrž dovolj.
Zakaj bi dopustili, da se pojavlja življenje sporadično po Vesolju, dokler ga zvezde ne požgo.
Pa kdo nam garantira, da naslednja civilizacija bi se tudi odrekla transcendenci, četudi bi se že mi?
> 2. Kako sprožit znanstveno singularnost?
Na več načinov. Recimo z uploadanjem nekaj briljantnih umov ali pa z močnim umetnim umom - bo zadeva stekla "sama od sebe". No, vsaj brez "našega" prevelikega truda.
3. Ali ne drži, da bi za znanstveno singularnost potrebovali celotno energijo vesolja?
Po mojem mnenju bi si prisvojili vsak prost atom. Z manj, bi zdržali manj časa. Kar pa, taki kot smo, še bolj pa taki kot bomo, ne bomo hoteli dopustiti. Boljš galaktični cluster užitkov, kot samo ena Himalaja. Pain/pleasure mehanizem, ki si ga ti omenjal, bo deloval naprej.
4. Če služi protokol za naš pleasure, zakaj potem ne bi kar takoj stimulirali naše možgani s tokom in tako ustvarjali pleasure. Po moje gremo okoli riti v žep!
Možgani kot so, niso zelo trajni. Niti ne morejo narediti computinga za en gigapleasure. Vsaj iz teh dveh razlogov.
> 1. Zakaj ustvariti Protokol? Čemu?
Samo zato, ker so razlogi ZA, močnejši od tistih PROTI.
Vsaj v nekaterih glavah, kar bo najbrž dovolj.
Zakaj bi dopustili, da se pojavlja življenje sporadično po Vesolju, dokler ga zvezde ne požgo.
Pa kdo nam garantira, da naslednja civilizacija bi se tudi odrekla transcendenci, četudi bi se že mi?
> 2. Kako sprožit znanstveno singularnost?
Na več načinov. Recimo z uploadanjem nekaj briljantnih umov ali pa z močnim umetnim umom - bo zadeva stekla "sama od sebe". No, vsaj brez "našega" prevelikega truda.
3. Ali ne drži, da bi za znanstveno singularnost potrebovali celotno energijo vesolja?
Po mojem mnenju bi si prisvojili vsak prost atom. Z manj, bi zdržali manj časa. Kar pa, taki kot smo, še bolj pa taki kot bomo, ne bomo hoteli dopustiti. Boljš galaktični cluster užitkov, kot samo ena Himalaja. Pain/pleasure mehanizem, ki si ga ti omenjal, bo deloval naprej.
4. Če služi protokol za naš pleasure, zakaj potem ne bi kar takoj stimulirali naše možgani s tokom in tako ustvarjali pleasure. Po moje gremo okoli riti v žep!
Možgani kot so, niso zelo trajni. Niti ne morejo narediti computinga za en gigapleasure. Vsaj iz teh dveh razlogov.
Man muss immer generalisieren - Carl Jacobi
Zavo ::
Če sprožimo znanstveno singularnost, to pomeni, da se krivulja znanost/čas izgubi v neskončnost!
Torej imamo v posesti vso znanje!
Po moje bi morali zato simulirati še enkrat big bang, torej od prvega atoma naprej (zato bi morali poznati točne pogoje v času T=0) in nato gledati in se učiti kaj se dogaja!
Stvari bi se čisto isto odvijale, gledali bi dinozavre, nato bi gledali kako je Newtonu padlo jabolko na glavo ter kako je Edisonu zasvetila žarnica. Naprej bi gledali sami sebe kako gledamo v ekran, ter tako gledali naprej v prihodnost in si prisvajali znanje!
Ampak zato bi potrebovali več energije, kot jo imamo v Vesolju na razpolago, saj energija vsaj enega atoma bi bila potrebna za simulacijo tega imaginarnega atoma!
Torej bi s tem izčrpali energijo v vesolju in si pridobili znanje!
Drugače si tega ne znam predstavljat!
Nimam dovolj dobre slike o tem!
Torej imamo v posesti vso znanje!
Po moje bi morali zato simulirati še enkrat big bang, torej od prvega atoma naprej (zato bi morali poznati točne pogoje v času T=0) in nato gledati in se učiti kaj se dogaja!
Stvari bi se čisto isto odvijale, gledali bi dinozavre, nato bi gledali kako je Newtonu padlo jabolko na glavo ter kako je Edisonu zasvetila žarnica. Naprej bi gledali sami sebe kako gledamo v ekran, ter tako gledali naprej v prihodnost in si prisvajali znanje!
Ampak zato bi potrebovali več energije, kot jo imamo v Vesolju na razpolago, saj energija vsaj enega atoma bi bila potrebna za simulacijo tega imaginarnega atoma!
Torej bi s tem izčrpali energijo v vesolju in si pridobili znanje!
Drugače si tega ne znam predstavljat!
Nimam dovolj dobre slike o tem!
Zavo ::
Sorry, še nekaj sem pozabil!
Če mora biti razmerje pleasure/pain enako, tako kot vse v vesolju, kam bomo prenesli gigapain?
Sorry, če je glupo vprašanje!
Če mora biti razmerje pleasure/pain enako, tako kot vse v vesolju, kam bomo prenesli gigapain?
Sorry, če je glupo vprašanje!
Thomas ::
Noben stroj ne more popolnoma simulirati samega sebe. Tako tudi Vesolje ne.
Po tej poti, da bi vedeli čisto vse - enostavno ne moremo. Večino podrobnosti bomo morali zanemariti.
Največ kar si lahko želimo in dosežemo je to, da svoje bivanje izboljšamo za kar se da mnogo velikostnih razredov.
Po tej poti, da bi vedeli čisto vse - enostavno ne moremo. Večino podrobnosti bomo morali zanemariti.
Največ kar si lahko želimo in dosežemo je to, da svoje bivanje izboljšamo za kar se da mnogo velikostnih razredov.
Man muss immer generalisieren - Carl Jacobi
Thomas ::
> Če mora biti razmerje pleasure/pain enako
Ja ne razmerje, ne gre za to.
Pač pa nas naš P/P mehanizem sili, da zmanjšamo bolečino kar se le da. To je bilo s strani evolucije poskušeno povsem slučajno in je dalo povsem slučajno dobre rezultate. Evolucija je itak slepa.
Mi smo pa začeli hekat ta P/P mehanizem najprej z alkoholom, mamili, narkozami, zatiranjem bolezni ...
Čedalje bolj obvladamo to - kakor tudi vse drugo - in kmalu bomo lahko dali pain na OFF, pleasure pa na neko zelo visoko vrednost.
Tja nas ta P/P mehanizem (slučajno) sili.
Če bi nas silil v abecedno sortiranje kemičnih elementov, bi se ukvarjali pač s tem.
Vendar nas ne. P/P drive nas stabilno vleče proti maximal pleasure.
Skoraj tako nezmotljivo, kot gravitacija zvezdo skupaj. Nazadnje prevlada.
Ja ne razmerje, ne gre za to.
Pač pa nas naš P/P mehanizem sili, da zmanjšamo bolečino kar se le da. To je bilo s strani evolucije poskušeno povsem slučajno in je dalo povsem slučajno dobre rezultate. Evolucija je itak slepa.
Mi smo pa začeli hekat ta P/P mehanizem najprej z alkoholom, mamili, narkozami, zatiranjem bolezni ...
Čedalje bolj obvladamo to - kakor tudi vse drugo - in kmalu bomo lahko dali pain na OFF, pleasure pa na neko zelo visoko vrednost.
Tja nas ta P/P mehanizem (slučajno) sili.
Če bi nas silil v abecedno sortiranje kemičnih elementov, bi se ukvarjali pač s tem.
Vendar nas ne. P/P drive nas stabilno vleče proti maximal pleasure.
Skoraj tako nezmotljivo, kot gravitacija zvezdo skupaj. Nazadnje prevlada.
Man muss immer generalisieren - Carl Jacobi
Zavo ::
Ker grem počasi spat (jutri delam 
) bi ti zastavil še eno vprašanje!
Ali bi bila ta AI živa?
Če bi bila živa in bi se zavedala same sebe, zakaj bi pustila, da jo izkoriščamo?
Če bi logično razmišljala, bi se nas enostavno znebila!
Ko bi bili uploadani in bi recimo že 100.000 let uživali v gigapleasure, nato pa se nekaj zalomi in nam za sekundo pleasure spusti na 0, po moje bi nam bilo hujše, kot da nam kdo 1000 let kri iz hrbtenice pije!
Thomas poznaš nove študije, da se je mnogokrat težje odreči pleasure, kot pa doživljati pain?
Zato zudi narkomani, ne morejo oz. zelo težko prekinejo umetni pleasure!
Se pravi, ko nas bo AI enkrat navadila na pleasure, bomo postali njeni sužnji, še hujše, postali bomo njene laboratorijske podgane...
Link
) bi ti zastavil še eno vprašanje!Ali bi bila ta AI živa?
Če bi bila živa in bi se zavedala same sebe, zakaj bi pustila, da jo izkoriščamo?
Če bi logično razmišljala, bi se nas enostavno znebila!
Ko bi bili uploadani in bi recimo že 100.000 let uživali v gigapleasure, nato pa se nekaj zalomi in nam za sekundo pleasure spusti na 0, po moje bi nam bilo hujše, kot da nam kdo 1000 let kri iz hrbtenice pije!
Thomas poznaš nove študije, da se je mnogokrat težje odreči pleasure, kot pa doživljati pain?
Zato zudi narkomani, ne morejo oz. zelo težko prekinejo umetni pleasure!
Se pravi, ko nas bo AI enkrat navadila na pleasure, bomo postali njeni sužnji, še hujše, postali bomo njene laboratorijske podgane...
Link
Zgodovina sprememb…
- spremenil: Zavo ()
Thomas ::
AI ... nima po defaultu nobenih motivov.
Če se držim svoje definicije inteligence, je to verjetnost, da v nekem času rešiš problem. Da izračunaš Sqrt(225) naprimer. To je en majhen košček inteligence.
Motivacije za kaj takega pa kalkulator nima, dokler ne pristisneš nekaj tipk.
Strong AI povsem brez motivov je "nemočna" kot HP kalkulator.
Motivi iz PROTOKOLA jo pa naredijo za odličnega služabnika, ki nima svojih interesov.
Bi lahko SAI spremenila te svoje motive?
Ne, če nima motiva za nekaj storiti - potem ne more.
Isto kot mi. Nič ne moremo storiti, za kar nimamo motiva.
Če se držim svoje definicije inteligence, je to verjetnost, da v nekem času rešiš problem. Da izračunaš Sqrt(225) naprimer. To je en majhen košček inteligence.
Motivacije za kaj takega pa kalkulator nima, dokler ne pristisneš nekaj tipk.
Strong AI povsem brez motivov je "nemočna" kot HP kalkulator.
Motivi iz PROTOKOLA jo pa naredijo za odličnega služabnika, ki nima svojih interesov.
Bi lahko SAI spremenila te svoje motive?
Ne, če nima motiva za nekaj storiti - potem ne more.
Isto kot mi. Nič ne moremo storiti, za kar nimamo motiva.
Man muss immer generalisieren - Carl Jacobi
Satanized ::
Heya.
Zanimiva tema. Vsebina nje pa je ena taka zadeva, o kateri razmisljamo dobesedno vsak dan. Jasno je, da se da zelo "zabluziti", in to ste/smo seveda tudi storili. Edino Tomazeva rdeca nit in takojsnja negacija vsakrsnih domnevnih zablod (Kako pa lahko vemo kaj je res in kaj ni res, ko pa nic ne vemo?) je edino kar vas/nas drzi "on track".
Pa eno tako vprasanje, ki se meni zdi umestno:
Zakaj tako zagotovo menite, da tale nasa super umetno inteligenta stvarca ne bo spremenila motivov? A je mozno, da je neka stvar, ki je inteligentna, staticna? Zakaj se torej nebi mogli v njej izroditi motivi, npr.: "Zakaj se jaz mucim za njih, ko pa oni za mene nic ne naredijo. Se bom pa raje malce zabavala." In vzame simulirano uploadano gospodicno ter jo vrze z desetega nadstropja. Tako, cisto trivialno je bilo tole povedato. Dosti čejev inu zakajev se skriva v tem, pa vendar, poskusimo razresiti tole brez kompliciranje.
Torej, in short: Zakaj bi SAI hotela sluziti clovestvu?
lp, jt.
Zanimiva tema. Vsebina nje pa je ena taka zadeva, o kateri razmisljamo dobesedno vsak dan. Jasno je, da se da zelo "zabluziti", in to ste/smo seveda tudi storili. Edino Tomazeva rdeca nit in takojsnja negacija vsakrsnih domnevnih zablod (Kako pa lahko vemo kaj je res in kaj ni res, ko pa nic ne vemo?) je edino kar vas/nas drzi "on track".
Pa eno tako vprasanje, ki se meni zdi umestno:
Zakaj tako zagotovo menite, da tale nasa super umetno inteligenta stvarca ne bo spremenila motivov? A je mozno, da je neka stvar, ki je inteligentna, staticna? Zakaj se torej nebi mogli v njej izroditi motivi, npr.: "Zakaj se jaz mucim za njih, ko pa oni za mene nic ne naredijo. Se bom pa raje malce zabavala." In vzame simulirano uploadano gospodicno ter jo vrze z desetega nadstropja. Tako, cisto trivialno je bilo tole povedato. Dosti čejev inu zakajev se skriva v tem, pa vendar, poskusimo razresiti tole brez kompliciranje.
Torej, in short: Zakaj bi SAI hotela sluziti clovestvu?
lp, jt.
-- is it love or is it faith --
Thomas ::
Strong AI je natanko v isti pasti, v kateri smo tudi mi.
Ni motiva - ni akcije.
Mi imamo pleasure/pain motivator vgrajen - in mu sledimo povsem pokorno.
Tudi SAI ne more in noče in ne želi in ji na misel ne pride, da bi storila kaj, kar ni podprto s kakšnim motivom.
Tako kot mi.
Samo da SAI pleasure/pain mehanizma, za razliko od nas ne bo imela. Mi smo ta blagoslov/prekletstvo staknili v procesu evolucije.
Samo en sam motiv bo njen - da bi le bilo sentientom dobro!
Samo z neverjetnim malfunction bi lahko prišla iz tega - in se zaustavila. Ker checksum ne bi štimal.
Ni motiva - ni akcije.
Mi imamo pleasure/pain motivator vgrajen - in mu sledimo povsem pokorno.
Tudi SAI ne more in noče in ne želi in ji na misel ne pride, da bi storila kaj, kar ni podprto s kakšnim motivom.
Tako kot mi.
Samo da SAI pleasure/pain mehanizma, za razliko od nas ne bo imela. Mi smo ta blagoslov/prekletstvo staknili v procesu evolucije.
Samo en sam motiv bo njen - da bi le bilo sentientom dobro!
Samo z neverjetnim malfunction bi lahko prišla iz tega - in se zaustavila. Ker checksum ne bi štimal.
Man muss immer generalisieren - Carl Jacobi
Thomas ::
Ja bo. Self improving, dokler se da.
Ampak PROTOKOL je pa read only. Pa ne le to. Tudi je edini kriterij te "evolucije", po kateri se razvija SAI.
Zahteva vse večjo inteligenco, manjšo verjetnost napake, podaljševanje življenske dobe Vesolja, še bolj rafiniran pleasure za sentiente ... Novo Vesolje, ce je mogoče ...
Ampak PROTOKOL je pa read only. Pa ne le to. Tudi je edini kriterij te "evolucije", po kateri se razvija SAI.
Zahteva vse večjo inteligenco, manjšo verjetnost napake, podaljševanje življenske dobe Vesolja, še bolj rafiniran pleasure za sentiente ... Novo Vesolje, ce je mogoče ...
Man muss immer generalisieren - Carl Jacobi
_marko ::
ok
Mi uploadamo možgane nekega osebka.
Iz tega se razvije AI.
AI dobi človeške motive?
kako je s tem?
LP marko
Mi uploadamo možgane nekega osebka.
Iz tega se razvije AI.
AI dobi človeške motive?
kako je s tem?
LP marko
Thomas ::
Ja, marko - zelo res.
Če uploadamo človeka (ali šimpanza), potem so njegovi motivi tudi uploadani. Pa kakršni že bili. Vsaj če je uploadee integralna verzija neke "realne psihe".
Potem smo na milost in nemilost prepuščeni uploadanim motivom, ki imajo absolutno oblast nad čedalje večjo (super)inteligenco, naklopljeno na te motive že davno nazaj, tule "v realnosti".
Nek Rus, po imenu Dimitry, je prišel na dan pa s še bolj radikalno možnostjo, ki se meni zdi zelo logična in verjetna.
Da je namreč integralni uploadee, ki ima dostop do svoje kode, popolnoma neuporaben za vsako resno delo. Naredil si bo le neskončni pleasure loop - za ostalo mu pa ne bo mar. Če bi ga hoteli kaj motiti v tem, bi nas samo lepo odstranil. Če nas ne bi že kar preventivno. Zelo narkomanska reakcija. Samo da narkoman propada, uploadee pa bi nasprotno - postajal čedalje mogočnejši.
Zato bo treba za začetek "uploadati samo inteligenco". Brez naravnih motivov in pleasure mehanizma. Najbolje tudi brez zavesti. Če ne, smo lahko v težavah.
Working uploadee, ki ima pooblastila, sme biti motiviran edino s PROTOKOLom. Pleasuring upladee, pa ne sme imeti dostopa do kamorkoli. Sme samo na "potniško palubo".
Če uploadamo človeka (ali šimpanza), potem so njegovi motivi tudi uploadani. Pa kakršni že bili. Vsaj če je uploadee integralna verzija neke "realne psihe".
Potem smo na milost in nemilost prepuščeni uploadanim motivom, ki imajo absolutno oblast nad čedalje večjo (super)inteligenco, naklopljeno na te motive že davno nazaj, tule "v realnosti".
Nek Rus, po imenu Dimitry, je prišel na dan pa s še bolj radikalno možnostjo, ki se meni zdi zelo logična in verjetna.
Da je namreč integralni uploadee, ki ima dostop do svoje kode, popolnoma neuporaben za vsako resno delo. Naredil si bo le neskončni pleasure loop - za ostalo mu pa ne bo mar. Če bi ga hoteli kaj motiti v tem, bi nas samo lepo odstranil. Če nas ne bi že kar preventivno. Zelo narkomanska reakcija. Samo da narkoman propada, uploadee pa bi nasprotno - postajal čedalje mogočnejši.
Zato bo treba za začetek "uploadati samo inteligenco". Brez naravnih motivov in pleasure mehanizma. Najbolje tudi brez zavesti. Če ne, smo lahko v težavah.
Working uploadee, ki ima pooblastila, sme biti motiviran edino s PROTOKOLom. Pleasuring upladee, pa ne sme imeti dostopa do kamorkoli. Sme samo na "potniško palubo".
Man muss immer generalisieren - Carl Jacobi
svit ::
Thomas: Zanimivo... toda še vedno ne bi vedel kako bo UI reagiral na posmeh. Kako bi to matematično izrazil? Mogoče bo imel kakšne mikrofone in potem analizatorje glasa, ki bodo pod določenimi kriteriji presojali ton glasu... Nadalje me zanima, kako meriti inteligenco? Ali bo ta samo matematična? Vemo, da je inteligenc več. Psihologi celo pravijo, da imamo poleg logične tudi ljubezensko, pa socialno... Nadalje me zanima, kako bo z mlajšo populacijo (0-10 let). Ti imajo drugačne motive in tudi veselje. Ali bodo uploadani šele pri določeni starosti? Ali pa bodo lahko prišli v Protokol šele dovolj zreli ljudje? Če bo tako, katere kriterije pri tem uporabiti?
Za konec pa ena majhna misel: ali ni največji užitek, da po "trpljenju" še bolj uživaš (doživiš večji "pleasure"), kot pa da "vse dobiš k riti"? Ko opraviš svinjsko težak izpit (za katerega porabiš mesec in pol učenja), si neprimerno bolj vesel, kot pa da se učiš 2 dni pa si vseeno naredil (z majhno pomočjo sosedov)? Sicer si tudi v drugem primeru vesel, toda ne tako kot v prvem... Kako bo Protokol zagotavljal motivacijo? Ali si bodo ljudje sami izbirali, kaj hočejo? Mislim, da sem tukaj bral, da naj bi si človek sam določil spremenljivke in parametre, Protokol pa bi mu pred začetkom "programa" izbrisal spomin na to, da je človek kdaj določal v kakšnih pogojih hoče živeti. Kaj pa bo, če se bo izkazalo, da je spomin nekaj razpršenega, oziroma da ne obstaja nekakšna "celica", ki je odgovorna za določen spomin. Kaj pa bo, če se bo Protokol izrodil v naš svet (zaradi zgornjega), ker bo UI ugotovil, da dobi največji "pleasure" tako, da najprej malo "muči"?
Ta z drogo je dobra primerjava. Kaj pa bo, če se bodo receptorji v možganih (ki zagotavljajo užitek) izrabili oziroma se bodo možgani navadili na odmerek "užitka"? Sicer je rečeno, da ne bodo, da ne bomo več živeli na organski osnovi, toda če hočemo zgraditi popolen mehanski nadomestek, bo treba tudi to upoštevati? Nekje sem bral, da je dovolj da samo naredimo popolen odtis možganov (recimo prenesemo atom za atomom) in že imamo enake možgane kot prej (kloniramo). Kaj bo Protokol povečeval stimulacijo užitka? Kaj pa če bo pri tem "skuril" možgane? Še nekaj, kaj bo ko se bo človek naveličal (oziroma je preizkusil že vse variante) čez recimo 3000 let?
LP
Za konec pa ena majhna misel: ali ni največji užitek, da po "trpljenju" še bolj uživaš (doživiš večji "pleasure"), kot pa da "vse dobiš k riti"? Ko opraviš svinjsko težak izpit (za katerega porabiš mesec in pol učenja), si neprimerno bolj vesel, kot pa da se učiš 2 dni pa si vseeno naredil (z majhno pomočjo sosedov)? Sicer si tudi v drugem primeru vesel, toda ne tako kot v prvem... Kako bo Protokol zagotavljal motivacijo? Ali si bodo ljudje sami izbirali, kaj hočejo? Mislim, da sem tukaj bral, da naj bi si človek sam določil spremenljivke in parametre, Protokol pa bi mu pred začetkom "programa" izbrisal spomin na to, da je človek kdaj določal v kakšnih pogojih hoče živeti. Kaj pa bo, če se bo izkazalo, da je spomin nekaj razpršenega, oziroma da ne obstaja nekakšna "celica", ki je odgovorna za določen spomin. Kaj pa bo, če se bo Protokol izrodil v naš svet (zaradi zgornjega), ker bo UI ugotovil, da dobi največji "pleasure" tako, da najprej malo "muči"?
Ta z drogo je dobra primerjava. Kaj pa bo, če se bodo receptorji v možganih (ki zagotavljajo užitek) izrabili oziroma se bodo možgani navadili na odmerek "užitka"? Sicer je rečeno, da ne bodo, da ne bomo več živeli na organski osnovi, toda če hočemo zgraditi popolen mehanski nadomestek, bo treba tudi to upoštevati? Nekje sem bral, da je dovolj da samo naredimo popolen odtis možganov (recimo prenesemo atom za atomom) in že imamo enake možgane kot prej (kloniramo). Kaj bo Protokol povečeval stimulacijo užitka? Kaj pa če bo pri tem "skuril" možgane? Še nekaj, kaj bo ko se bo človek naveličal (oziroma je preizkusil že vse variante) čez recimo 3000 let?
LP
Thomas ::
Svit
> toda še vedno ne bi vedel kako bo UI reagiral na posmeh.
Po moje nekako takole:
So emocije asociirane posmehovanju (ironizacijo, sarkazem), lahko del mentalnega konteksta transhumna? Let me think ...
Kakšno sekundo po tem - bo vse jasno!
> Ali bo ta samo matematična? Vemo, da je inteligenc več.
Samo matematična je. Čustvena inteligenca je pač le izračunavanje izidov, oziroma simuliranje za potrebe čustvenega departmenta človeka.
>Nadalje me zanima, kako bo z mlajšo populacijo (0-10 let). Ti imajo drugačne motive in tudi veselje.
Srečno otroštvo dolgo nekaj milijonov let? Zakaj pa ne?
David (robot) iz filma AI, je imel na razpolago samo en dan s "svojo mamico". Zakaj mu jih ne bi dali celo milijardo, preden nenadoma odraste?
> Ali bodo uploadani šele pri določeni starosti?
Ne. Ne bi jih jest puščal v temle svetu brez potrebe.
> ali ni največji užitek, da po "trpljenju" še bolj uživaš (doživiš večji "pleasure"), kot pa da "vse dobiš k riti"?
To je konfiguracija, kakršno je dala človeku evolucija, da bolj uživaš po enem strašnem trudu. Tudi vprašanje, če je to res. Ne glede na to, ni nobene potrebe po takih omejevanjih. Mentalna arhitektura bo lahko zelo impozantna - in brez sence problemčka, ko se enkrat znebimo tele trial/error evolucije.
> ker bo UI ugotovil, da dobi največji "pleasure" tako, da najprej malo "muči"?
Bi pomenilo, da smo v "major malfunction". Pain is forbiden!
> Kaj pa bo, če se bodo receptorji v možganih (ki zagotavljajo užitek) izrabili oziroma se bodo možgani navadili na odmerek "užitka"?
Ne ... to bi spet pomenilo, da smo v "major malfunction". To je verjetno manj, kot da 100 ljudi skupaj narobe zračuna 5+7. Govorimo namreč o Strong AI.
> kaj bo ko se bo človek naveličal
Naveličanje ne bo opcija. Kot nimamo zdej opcije za sprejem TV slike direktno v možgane. Naprimer.
> toda še vedno ne bi vedel kako bo UI reagiral na posmeh.
Po moje nekako takole:
So emocije asociirane posmehovanju (ironizacijo, sarkazem), lahko del mentalnega konteksta transhumna? Let me think ...
Kakšno sekundo po tem - bo vse jasno!
> Ali bo ta samo matematična? Vemo, da je inteligenc več.
Samo matematična je. Čustvena inteligenca je pač le izračunavanje izidov, oziroma simuliranje za potrebe čustvenega departmenta človeka.
>Nadalje me zanima, kako bo z mlajšo populacijo (0-10 let). Ti imajo drugačne motive in tudi veselje.
Srečno otroštvo dolgo nekaj milijonov let? Zakaj pa ne?
David (robot) iz filma AI, je imel na razpolago samo en dan s "svojo mamico". Zakaj mu jih ne bi dali celo milijardo, preden nenadoma odraste?
> Ali bodo uploadani šele pri določeni starosti?
Ne. Ne bi jih jest puščal v temle svetu brez potrebe.
> ali ni največji užitek, da po "trpljenju" še bolj uživaš (doživiš večji "pleasure"), kot pa da "vse dobiš k riti"?
To je konfiguracija, kakršno je dala človeku evolucija, da bolj uživaš po enem strašnem trudu. Tudi vprašanje, če je to res. Ne glede na to, ni nobene potrebe po takih omejevanjih. Mentalna arhitektura bo lahko zelo impozantna - in brez sence problemčka, ko se enkrat znebimo tele trial/error evolucije.
> ker bo UI ugotovil, da dobi največji "pleasure" tako, da najprej malo "muči"?
Bi pomenilo, da smo v "major malfunction". Pain is forbiden!
> Kaj pa bo, če se bodo receptorji v možganih (ki zagotavljajo užitek) izrabili oziroma se bodo možgani navadili na odmerek "užitka"?
Ne ... to bi spet pomenilo, da smo v "major malfunction". To je verjetno manj, kot da 100 ljudi skupaj narobe zračuna 5+7. Govorimo namreč o Strong AI.
> kaj bo ko se bo človek naveličal
Naveličanje ne bo opcija. Kot nimamo zdej opcije za sprejem TV slike direktno v možgane. Naprimer.
Man muss immer generalisieren - Carl Jacobi
Crimson_Shadow ::
Mogoče se bo komu zdelo neumestno, da komaj sedaj posegam v to temo. No sicer pa sem prebral večino teme tako, da vem o čem teče debata. S tabo Thomas se ne strinjam. Razlogi so znani in jih ne bom pisal.
Ko sem bral tisto misel, da nam bo z protokolom dana vsa znanost in vedenje o vsem, mi je prišla na misel o drevesu spoznanja iz biblije. Upam, da veš o čem se gre. To kar bom napisal, sem se domisli že pred nekaj časa. Je le misel in pač, ker mi radovednost ne da, bi rad vedel kaj menite o njej.
Z zaužitjem jabolka iz drevesa spoznanja sta Adam in Eva vedela vse. Videla sta prihodnost, celotno krvavo zgodovino z vsemi vzponi in padci. Videla, čutila, vohala, tipala in slišala sta vse kar lahko, Uzrla sta absolutno resnico in jo spoznala. komentar : nič čudnega, da ju je bilo sram, za vse kar se bo še zgodilo Po bibliji sta bila edina, ki sta vedela za to in glej, tedaj se šele začenja prava človeška zgodovina. Sicer je to le prispodoba in upam, da veš kam ciljam.
Iz tega bi lahko sklepal, da se s spoznanjem absolutnega znanja (in tudi takega, za katerega Thomas pravi, da je neumnost) poruši vse tisto, na čemer si gradil prej, ko si bil še omejen. Vse moraš na novo začeti. Nastane pa problem, pri prenašanju le-tega znanja na naslednje generacije. Absolutno vse bolj postaja relativno in čez 1000 ali več generacij se krog začne znova ali pa tudi ne (Razlago si sami najdite ).
Če prenesem to na protokol. Ko in če AI spozna namen, absolutno znanje in vedenje o nečem, kar presega njo samo, bodo vsi v protokolu "izbrisani", nato pa se AI začne ukvarajti z samo seboj in s tistim kar jo presega.
Še ena misel. Čisto mogoče je, da smo ljudje osnovani na ogljikovem kvantnem računalniku.
Ko sem bral tisto misel, da nam bo z protokolom dana vsa znanost in vedenje o vsem, mi je prišla na misel o drevesu spoznanja iz biblije. Upam, da veš o čem se gre. To kar bom napisal, sem se domisli že pred nekaj časa. Je le misel in pač, ker mi radovednost ne da, bi rad vedel kaj menite o njej.
Z zaužitjem jabolka iz drevesa spoznanja sta Adam in Eva vedela vse. Videla sta prihodnost, celotno krvavo zgodovino z vsemi vzponi in padci. Videla, čutila, vohala, tipala in slišala sta vse kar lahko, Uzrla sta absolutno resnico in jo spoznala. komentar : nič čudnega, da ju je bilo sram, za vse kar se bo še zgodilo Po bibliji sta bila edina, ki sta vedela za to in glej, tedaj se šele začenja prava človeška zgodovina. Sicer je to le prispodoba in upam, da veš kam ciljam.
Iz tega bi lahko sklepal, da se s spoznanjem absolutnega znanja (in tudi takega, za katerega Thomas pravi, da je neumnost) poruši vse tisto, na čemer si gradil prej, ko si bil še omejen. Vse moraš na novo začeti. Nastane pa problem, pri prenašanju le-tega znanja na naslednje generacije. Absolutno vse bolj postaja relativno in čez 1000 ali več generacij se krog začne znova ali pa tudi ne (Razlago si sami najdite
). Če prenesem to na protokol. Ko in če AI spozna namen, absolutno znanje in vedenje o nečem, kar presega njo samo, bodo vsi v protokolu "izbrisani"
, nato pa se AI začne ukvarajti z samo seboj in s tistim kar jo presega.Še ena misel. Čisto mogoče je, da smo ljudje osnovani na ogljikovem kvantnem računalniku.
We create worlds
Thomas ::
Huh ... res ne vem, kaj napisat na tole. Mi je pa všeč tale stavek:
Mogoče se bo komu zdelo neumestno, da komaj sedaj posegam v to temo.
Komu se torej zdi neumestno, da je Crimson_Shadov komaj sedaj posegel v tole temo?
Mogoče se bo komu zdelo neumestno, da komaj sedaj posegam v to temo.
Komu se torej zdi neumestno, da je Crimson_Shadov komaj sedaj posegel v tole temo?
Man muss immer generalisieren - Carl Jacobi
koko ::
Verjetno nas ni malo, ki z zanimanjem spremljamo to temo, čeprav v njej ne sodelujemo. Mogoče v prihodnosti
Thomas ::
Tudi če samo bereš - si dobrodošel koko.
Nekaj off topic nečimrnosti: A sem prvi, ki je zanesel singularnostne ideje (meme) v na Slovensko?
Po moje da ja. Bolj je problem v tem, ker sem še vedno skoraj edini.
Za kateri časopis bi se dalo napisati članek?
Na katerem radiu ali TV bi se dalo nastopiti?
Nekaj off topic nečimrnosti: A sem prvi, ki je zanesel singularnostne ideje (meme) v na Slovensko?
Po moje da ja. Bolj je problem v tem, ker sem še vedno skoraj edini.
Za kateri časopis bi se dalo napisati članek?
Na katerem radiu ali TV bi se dalo nastopiti?
Man muss immer generalisieren - Carl Jacobi
Sergio ::
Thomas, vedno imaš Sobotno Prilogo Dela. Ali so tudi oni zaprt krog dopisovalcev?
Tako grem jaz, tako gre vsak, kdor čuti cilj v daljavi:
če usoda ustavi mu korak,
on se ji zoperstavi.
če usoda ustavi mu korak,
on se ji zoperstavi.
Thomas ::
Ja ... gremo eni štirje flozat v ta klub?
Bi utegnilo biti sila zanimivo.
Samo bi nam verjetno podtaknili kakšno opozicijo - ali kar je še slabše - kakšnega Atlantidarja ali radiostezista, pa bi izpadli skupaj z njim totalno neresno.
Za opzicijo bi jest izbral kakšnega racionalnega nasprotnika ... Franci1965 je že en tak.
Hm ...
Bi utegnilo biti sila zanimivo.
Samo bi nam verjetno podtaknili kakšno opozicijo - ali kar je še slabše - kakšnega Atlantidarja ali radiostezista, pa bi izpadli skupaj z njim totalno neresno.
Za opzicijo bi jest izbral kakšnega racionalnega nasprotnika ... Franci1965 je že en tak.
Hm ...
Man muss immer generalisieren - Carl Jacobi
Thomas ::
Sergio
Vse kar v Sobotni prilogi ni prevod iz tujih cajtngov ... je rahlo čudno.
Slovenska izdaja Playboya - a še živi? - bi bla dost boljš. IMO.
Vse kar v Sobotni prilogi ni prevod iz tujih cajtngov ... je rahlo čudno.
Slovenska izdaja Playboya - a še živi? - bi bla dost boljš. IMO.
Man muss immer generalisieren - Carl Jacobi
DarkSite ::
Jest bi ti poslal za opozicijo:
1) Unga k je trdil da so ga vesoljci odpeljal na njihov planet in sedaj širi to krivo vero
2) Mohoriča
3) Duhovno vodjo(katero koli vere)
Ziher bi dobil enga od teh.
1) Unga k je trdil da so ga vesoljci odpeljal na njihov planet in sedaj širi to krivo vero
2) Mohoriča
3) Duhovno vodjo(katero koli vere)
Ziher bi dobil enga od teh.
Double_J ::
Nekaj off topic nečimrnosti: A sem prvi, ki je zanesel singularnostne ideje (meme) v na Slovensko?
Hja zgleda si imel prvi to srečo, da si nekako zvedel za te stvari a ne?
Ubistvu me zanima, ali si si ti kar sam od sebe začel predstavljati tovrstno prihodnost ter si potem na netu zlahkoto našel, kar si si predstavljal, ali pa si slučajno naletel na te stvari?
Po moje da ja. Bolj je problem v tem, ker sem še vedno skoraj edini.
Hja že samo jz sm jih ene 30-50 informiral.
Pa če jih bo vsak od teh samo 5 je to ogromno. Pa pol spet naprej...
Ni kej enkrat boš priča, da boš nekje v gostilni slišal ljudi, ki se med čakanjem na hrano pogovarjajo o tem.
Boš lahko sigurn, da so to tvoji memi
Čeprav si jih tudi ti samo skopiral seveda.
Sergio ::
Ti najbrž iščeš neko ciljno publiko, ki bo znala prebrati tvoje delo ter ga temu ustrezno oceniti. Playboy se _ne_ kupuje zaradi hiperintelektualne vsebine, ampak zato, ker se neka TinaG tam notri sleče. Sobotna priloga, se mi zdi, bi bila pravšnji cajtng, s katerim bi dosegel svojo ciljno skupino. Podpornikov ter nasprotnikov. Ane?
Tako grem jaz, tako gre vsak, kdor čuti cilj v daljavi:
če usoda ustavi mu korak,
on se ji zoperstavi.
če usoda ustavi mu korak,
on se ji zoperstavi.