Forum » Problemi človeštva » AI quote
AI quote
lymph ::
A paperclip maximizer is an agent that desires to fill the universe with as many paperclips as possible. It is usually assumed to be a superintelligent AI so powerful that the outcome for the world overwhelmingly depends on its goals, and little else. A paperclip maximizer very creatively and efficiently converts the universe into something that is from a human perspective completely arbitrary and worthless.
A paperclip maximizer does not "realize" that all life is precious, despite its intelligence, because the notion that life is precious is specific to particular philosophies held by human beings, who have an adapted moral architecture resulting from specific selection pressures acting over millions of years of evolutionary time. These values don't spontaneously emerge in any generic optimization process. A paperclip maximizer sees life the same way it sees everything else that is made of atoms — as raw material for paperclips.
This concept illustrates how AIs that haven't been specifically programmed to be benevolent to humans are basically as dangerous as if they were explicitly malicious. The use of paperclips in this example is unimportant and serves as a stand-in for any values that are not merely alien and unlike human values, but result from blindly pulling an arbitrary mind from a mind design space. Calling strong AIs really powerful optimization processes is another way of fighting anthropomorphic connotations in the term "artificial intelligence".
Edit: še link http://wiki.lesswrong.com/wiki/Papercli...
Stvar kar da misliti. Tudi če sprogramiramo AI, da ne ogroža inteligentnega življenja, si lahko AI nam nevede prepiše kodo - če pride do zaključka, da je to "pametno" narediti.
IMO je verjetnost bad case scenarija veliko večja od dobrega, ko razvijemo super inteligentno AI ravno zaradi tega, ker je praktično nemogoče nadzorovati nekaj, ki je signifikantno inteligentnejše od nas.
Tako kot šimpanz ne more vplivati na naše odločitve glede smeri tehnološkega razvoja, tako mi ne bomo morali vplivati na AI, ki je lahko tudi samo parkrat inteligentnejša od nas.
Komentarji?
"Belief is immune to counter example."
- premaknilo iz Znanost in tehnologija: antonija ()
guest #44 ::
Sej Thomas&CO. so proti taki verziji AIja.
Sam nekaj mi pravi, da brezveze iščejo pravilno obliko. Ker IMO sprogramirat nekaj neprimerno pametnejšega od tebe je rahlo neizvedljivo.
Mislim, da edini AI ki ga bomo videli, bo samonaučen...in po vsej vrjetnosti bo tudi nas gledal zgolj kot hrano.
Rečt, da mora ohranit sentience razen v primeru, če bi ga ogrožale je bullshit IMO. To je case to case scenario, ne moreš ti napovedat vse scenarije. Pa tud nekega univerzalnega etičnega pravila ni, ker če bi bilo potem vrjetno bi ga že prvi človek poštekal.
Če pa je neka možnost za naredit neko 100% etično pravilo potem je bolje, da pustimo AI naj se sam razvije s tem, da smo mu pravilo vštulili v izvorno kodo...ki ga bo poštekal šele ko bo sposoben sam od sebe.
Sam nekaj mi pravi, da brezveze iščejo pravilno obliko. Ker IMO sprogramirat nekaj neprimerno pametnejšega od tebe je rahlo neizvedljivo.
Mislim, da edini AI ki ga bomo videli, bo samonaučen...in po vsej vrjetnosti bo tudi nas gledal zgolj kot hrano.
Rečt, da mora ohranit sentience razen v primeru, če bi ga ogrožale je bullshit IMO. To je case to case scenario, ne moreš ti napovedat vse scenarije. Pa tud nekega univerzalnega etičnega pravila ni, ker če bi bilo potem vrjetno bi ga že prvi človek poštekal.
Če pa je neka možnost za naredit neko 100% etično pravilo potem je bolje, da pustimo AI naj se sam razvije s tem, da smo mu pravilo vštulili v izvorno kodo...ki ga bo poštekal šele ko bo sposoben sam od sebe.
WarpedGone ::
Celo bistvo protokola je zaščita pred takim scenarijem. Varovalke, ki so jeklene lisice nadaljnemu razvoju ampak vsaj garantirajo no-hell.
Folk tam nikakor ne skapira tega in se plete v čist druge bistveno manj pomembne stvari.
Če mene kdo vpraša me ni strah. Ker po moje AI ne bo skoču ven iz omare ampak bomo male šibke AI vgrajevali v nas same in iz sebe naredil "future SAI".
Čas mnogih individuumov se izteka, vsi skup bomo en sam "augmented SAI" - ala Borg.
Folk tam nikakor ne skapira tega in se plete v čist druge bistveno manj pomembne stvari.
Če mene kdo vpraša me ni strah. Ker po moje AI ne bo skoču ven iz omare ampak bomo male šibke AI vgrajevali v nas same in iz sebe naredil "future SAI".
Čas mnogih individuumov se izteka, vsi skup bomo en sam "augmented SAI" - ala Borg.
Zbogom in hvala za vse ribe
Zgodovina sprememb…
- spremenilo: WarpedGone ()
guest #44 ::
U pa res, jz sem čist pozabu na lastno augmentacijo. Tolk se je govorilo o skoku na upload, da sem pozabu vmesne faze.
Sam ševedno govorimo o inteligenci mnogo močnejši od nas vseh skupaj, o inteligenci, ki je pametnejša z vsakim dodatnim atomom.
Že res, da bomo bili pametnejši z raznimi implanti, ampak to nam bo kvečjemu pomagalo preštudirat kako naredit nek neodvisen AI oz kako nas spravit tja gor.
Za tisto univerzalno pravilo pa pompjem nam ne bo pomagalo, ker IMO če bi bilo mogoče bi bilo že v osnovi preprosto.
Ne razumem kako bo protokol spredvidel, če je nekaj njemu nevarnega že v kali?
Sam ševedno govorimo o inteligenci mnogo močnejši od nas vseh skupaj, o inteligenci, ki je pametnejša z vsakim dodatnim atomom.
Že res, da bomo bili pametnejši z raznimi implanti, ampak to nam bo kvečjemu pomagalo preštudirat kako naredit nek neodvisen AI oz kako nas spravit tja gor.
Za tisto univerzalno pravilo pa pompjem nam ne bo pomagalo, ker IMO če bi bilo mogoče bi bilo že v osnovi preprosto.
Ne razumem kako bo protokol spredvidel, če je nekaj njemu nevarnega že v kali?
Thomas ::
Postaviš superinteligenci arbitraren aksiomatski sistem, pa naj v njegovem okviru dokaže (vse) teoreme. Kaj se to tiče realnosti ali se ne tiče realnosti - v to seveda ne zahaja s svojimi teoremi. Še manj, kakor se šahist ukvarja z alfabetskim urejanjem svojih figur na šahovnici. Še bistveno manj.
Potem si ti, postavljavec axiomov, (nevarna) superinteligenca. Ni nevarnosti iz inteligence per se, iz motivov pride.
(Super)inteligenca je by my book theorem prover. Postavljanje aksiomov vlada. Ko tisti "arbitrarni" sistem nekdo postavi, je to akt cesarovanja.
In to mora biti vklesano v Protokol, kaj lahko in kaj ne.
Potem si ti, postavljavec axiomov, (nevarna) superinteligenca. Ni nevarnosti iz inteligence per se, iz motivov pride.
(Super)inteligenca je by my book theorem prover. Postavljanje aksiomov vlada. Ko tisti "arbitrarni" sistem nekdo postavi, je to akt cesarovanja.
In to mora biti vklesano v Protokol, kaj lahko in kaj ne.
Man muss immer generalisieren - Carl Jacobi
WarpedGone ::
Cel catch 22 je da ne veš kakšni izreki vse sledijo iz nekega seta aksiomov dokler jih ne zračunaš. Če SAI zapreš v kletko in ti izbiraš katere zračunane izreke boš upošteval, katerih pa ne - nisi naredu veliko ker imaš še vedno v rokah končno odločitev kaj ja in kaj ne. Lahko se v okviru svoje "lastne skromne računske moči" odločiš narobe (v svojo škodo). Če pa končno odločanje prepustiš SAI in njeni višji moči odločanja pa nujno na slepo zaupaš da je nek set aksiomov zate benevolenten.
Kakorkoli se obrneš imaš rit zadaj. Sigurnosti v monopolu tukaj ni, ker skačeš v neznano. Še največ neke sigurnosti je v "multi-SAI", da jih je več in konkurirajo ena drugi. Tut če katera katastrofalno zahebe, ne bo zahebala celega stvarstva ampak "le" nesrečnike ki so ji bili podrejeni, srečniki podrejenim drugim SAI pa bodo užival naprej.
Seveda le, če se še pred tem ne zgodi to, na kar jaz stavim da se bo. Borg.
Kakorkoli se obrneš imaš rit zadaj. Sigurnosti v monopolu tukaj ni, ker skačeš v neznano. Še največ neke sigurnosti je v "multi-SAI", da jih je več in konkurirajo ena drugi. Tut če katera katastrofalno zahebe, ne bo zahebala celega stvarstva ampak "le" nesrečnike ki so ji bili podrejeni, srečniki podrejenim drugim SAI pa bodo užival naprej.
Seveda le, če se še pred tem ne zgodi to, na kar jaz stavim da se bo. Borg.
Zbogom in hvala za vse ribe
Thomas ::
Sigurnosti v monopolu tukaj ni, ker skačeš v neznano.
Kakršnekoli šahovske teoreme in domneve mi s svojo igro/postavljanjem že pokaže superšahist, nekaj sem neomajno prepričan. Število figur ne bo nikoli naraslo, nikdar, v nobeni partiji, ob kakršnihkoli potezah.
Če sem se tu zmotil, ali kje analogno, potem sem (dovolj verjetno) - doomed.
A zato imam superinteligenco, da (čisto akademsko/teoretično) išče luknje v mojih dosedanjih teoremih. Kot bi gradil most čez ocean. Če je do te razdalje vse okay, bo verjetno šlo tudi do drugega brega.
Če so temelji dobri, potem bo (lahko) šlo.
Man muss immer generalisieren - Carl Jacobi
ABX ::
DO AI bo prišlo, o temu ne dvomi. Če to jemljem kot resnico, raje vidim da se AI razvije pod nadzorom kot da jo nekdo spiše v neki garaži in nato vrže na Internet.
Je pa res da v zadnjih letih ogromno inovaciji je prišlo prav iz garaž.
Je pa res da v zadnjih letih ogromno inovaciji je prišlo prav iz garaž.
Vaša inštalacija je uspešno spodletela!
guest #44 ::
Ja sam Thomas, ti smatraš da je vesolje ena velika urejena igra šaha. Če je zaprta potem prej ali slej že najdeš vse kombinacije. V vesolju pa maš še heisenbergov princip neodločenosti, pa še mnogo drugih bodočih principov neodločenosti in če eni smatrate vesolje kot future eternal ali past eternal pol je tle neskončno negotovosti.
Kot si sam že omenu...kaj če bo spravu dva delca skupaj, ki nebi smela bit skupaj?
Pa dejmo fizikalne fenomene na stran. Kaj pa razne socialne pojave znotraj protokola? Protokol bi moral to vse simulirat kake daljnosežne in če đkodljive vplive bo to imelo. To pomeni, da za vsako idejo če jo bo hotu do potankosti simulirat to moral ustvarit novo simulacijo simulacije, za katero bo porabu enako veliko energije...torej vso.
Razen, če seveda bodo entitete omejene na primitivno razmišljanje in ne bodo morale komunicirati z protokolom.
Konc koncu so te entitete sama navlaka protokolu, vrjetno se jih bo sam znebil ali pa pomotoma spisal nekaj kar jih bo izbrisalo. oh shi...fuuuu fuuu fuuu
Kot si sam že omenu...kaj če bo spravu dva delca skupaj, ki nebi smela bit skupaj?
Pa dejmo fizikalne fenomene na stran. Kaj pa razne socialne pojave znotraj protokola? Protokol bi moral to vse simulirat kake daljnosežne in če đkodljive vplive bo to imelo. To pomeni, da za vsako idejo če jo bo hotu do potankosti simulirat to moral ustvarit novo simulacijo simulacije, za katero bo porabu enako veliko energije...torej vso.
Razen, če seveda bodo entitete omejene na primitivno razmišljanje in ne bodo morale komunicirati z protokolom.
Konc koncu so te entitete sama navlaka protokolu, vrjetno se jih bo sam znebil ali pa pomotoma spisal nekaj kar jih bo izbrisalo. oh shi...fuuuu fuuu fuuu
Starodavni ::
Osebno bi raje videl AI v obliki Adjutantov iz starcraft 2 - skrbijo za sisteme in na splošno administracijo - informacije, analiza, podatki itd.
Najmanj kar bi rad videl je AI, ki bi preveč prekašala človeško inteligenco in hkrati producirala še močnejše AI, ki bi jo presegle in tako dalje. Praktično sprožiš nepovratno spiralo in k zatonu človeštva zaradi manjše inteligence.
Pa vmesna stopnja, ko se AI in človeški možgani mergirajo in postanejo the one - kiborgi.
Najmanj kar bi rad videl je AI, ki bi preveč prekašala človeško inteligenco in hkrati producirala še močnejše AI, ki bi jo presegle in tako dalje. Praktično sprožiš nepovratno spiralo in k zatonu človeštva zaradi manjše inteligence.
Pa vmesna stopnja, ko se AI in človeški možgani mergirajo in postanejo the one - kiborgi.
ABX ::
Ti bi rad ohranil status quo.
No go.
Časovno gledano predstavljamo en prdec.
No go.
Časovno gledano predstavljamo en prdec.
Vaša inštalacija je uspešno spodletela!
Thomas ::
Šah na 100 krat 100 poljih, z mnogo zanimivih figur in pravil. To lahko gloncaš do konca dni. Superinteligenca pa ne dela drugega, kot da skrbi za optimalno porabo proste entalpije za tiste igre, na katerih in za katere je ves tvoj pleasure.
Nima ne drugih motivov, ne hotenj in ne interesov, da bi karkoli drugega kdaj bilo.
To je en tak closed system, kjer si zdaleč srečnejši kot v temule socializmu ki ga imamo. Ali kakorkoli že imenuješ trenutni regime, v najširšem smislu. Ob tej biologiji in tej geologiji. Pa ti vse ne da tolk, kot bi tisti minimalistični svet dal.
Si je pa komot predstavljati tudi, da je safe. Superinteligenca pa v službi, zvesto, za naše skromne cilje.
Nima ne drugih motivov, ne hotenj in ne interesov, da bi karkoli drugega kdaj bilo.
To je en tak closed system, kjer si zdaleč srečnejši kot v temule socializmu ki ga imamo. Ali kakorkoli že imenuješ trenutni regime, v najširšem smislu. Ob tej biologiji in tej geologiji. Pa ti vse ne da tolk, kot bi tisti minimalistični svet dal.
Si je pa komot predstavljati tudi, da je safe. Superinteligenca pa v službi, zvesto, za naše skromne cilje.
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
Šah na 100 krat 100 poljih, z mnogo zanimivih figur in pravil. To lahko gloncaš do konca dni. Superinteligenca pa ne dela drugega, kot da skrbi za optimalno porabo proste entalpije za tiste igre, na katerih in za katere je ves tvoj pleasure.
Nima ne drugih motivov, ne hotenj in ne interesov, da bi karkoli drugega kdaj bilo.
To je en tak closed system, kjer si zdaleč srečnejši kot v temule socializmu ki ga imamo. Ali kakorkoli že imenuješ trenutni regime, v najširšem smislu. Ob tej biologiji in tej geologiji. Pa ti vse ne da tolk, kot bi tisti minimalistični svet dal.
Si je pa komot predstavljati tudi, da je safe. Superinteligenca pa v službi, zvesto, za naše skromne cilje.
Sam vidiš tole...šah z 100x100 polj in zanimivimi figurami je sicer zlo kompleksen sam je ševedno predvidljiv in zaprt sistem. Jaz osebno ne vrjamem da je vesolje zaprt sistem in v njem je neskončno nepredvidljivega.
Seveda...AI pač usklajuje porabo energije. IMO tu se zna zalomit kej. Dejansko vzdrževanje naše eksistence je precej nesmiselna poraba energije. Why would anyone bother with us? Kaj pa se bo zgodilo v primerih ko bo potrebno preusmerit energijo za simulacijo v energijo za ekspanzijo. A nebi blo bolj smotrno nas zmrznit na 1 stopinjo K in nam dat pong za igrat celo večnost, sej ne bomo poznali kaj boljšega.
Sicer vem, da bi rad naredil tak ukaz, da je protokol primoran nam večat zabavo, sam tu je ketch. Če je vesolje nepredvidljivo potem kakršno koli planiranje odpade in trošenje energije za igrice je toliko bolj nevarno, če se zgodi kaj nepredvidljivega.
Vsekakor bi moral protokol imeti ukaz, da nam lahko zmanjša možnosti v kolikor je njegov obstoj ogrožen. Sam IMO lahko pride do kake situacije kjer je pač preračunal, da dolgoročno je boljše nas imeti zamrznjene, ker je pač tista galaksija tako daleč in tako malo vredna, da pač drugače ne gre.
To sicer bi bil...neke vrste obstoj, ampak precej bogi. Skratka, daleč od tega kar si primarno želimo.
Kako je že tisti quote v Blade runnerju...
The light that burns twice as bright burns for half as long - and you have burned so very, very brightly, Roy. Look at you: you're the Prodigal Son; you're quite a prize!
Thomas ::
Why would anyone bother with us?
Iz istega razloga, kot nam sije Sonce. Nima druge izbire. Nobenega exit channel-a ni, da bi lahko kar nehalo. Isto lahko velja za superinteligenco. Ne sme imeti exit-channela, pa naj se zdi še tako neumno, da nas oskrbuje z energijo in vsem potrebnim, ko mi šahiramo.
Izraba Vesolja za naš šah se zdi komu strahotna zloraba, meni se zdi ena od smiselnih porab virov. Al je šah, al je sex, al so banketi ali pa koktajl iz vsega tega plus še kakšna "malenkost" - je to zelo smiselno. Edino smiselno.
Ostala poraba, kot "pristna narava" in tko naprej, je nesmiselna.
To si je treba v glav razpucat, pa je vse lepo in prav.
Man muss immer generalisieren - Carl Jacobi
Zero0ne ::
Jaz osebno ne vrjamem da je vesolje zaprt sistem in v njem je neskončno nepredvidljivega.
Seveda je zaprt sistem s končno mnogo rešitvami. A velja podobno kot za šah - če bi vsako možno igro lahko zakodiral v en atom, bi za vse možnosti potreboval par galaksij. Torej je za vsa možna vesolja obvezen multivers, ki ga po definiciji ne moremo dokazati oziroma doseči - torej ima z našega stališča vesolje neskončno konfiguracij. Ker v nobeni konfiguraciji ne moremo izračunati njihovega števila.
uname -o
Thomas ::
Zakaj bi pa moral obrniti ravno vsak kamen in vsakemu žužku pod njim, določiti generalije. Spol, starost, vrsta, kaj je nazadnje jedel?
Že da nas nekaj v to sili, a ni potrebno. Niti ni potrebno, da odigramo do konca vse možne šah partije in spimo z vsako žensko na vsakem banketu. Daleč od tega! Dokler traja (dooolgo), traja in to je vse.
Niti ni treba superinteligenci vedeti vsega. Analizirati vsak kos kolma, preden ga vrže pod kotel naše elektrocentrale.
Vzeli bomo samo en (gromozanski) košček torte, ostalo pa vse posvinjali in to je to. Amen. A bi radi 90% izkoristek? Se da pogovarjat. A bi radi čist vse? Pozabite!
Že da nas nekaj v to sili, a ni potrebno. Niti ni potrebno, da odigramo do konca vse možne šah partije in spimo z vsako žensko na vsakem banketu. Daleč od tega! Dokler traja (dooolgo), traja in to je vse.
Niti ni treba superinteligenci vedeti vsega. Analizirati vsak kos kolma, preden ga vrže pod kotel naše elektrocentrale.
Vzeli bomo samo en (gromozanski) košček torte, ostalo pa vse posvinjali in to je to. Amen. A bi radi 90% izkoristek? Se da pogovarjat. A bi radi čist vse? Pozabite!
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
A vesolje je zaprt sistem? Čudno, nisem še slišal da bi kdo dokazal to, kak link za pokazat?
Sicer pa ja...več kot pregledaš boljš je, ker lahk bolj natančno preračunaš nadaljne zmogljivosti. Pa jaz ne govorim samo o temu, da zabeležiš čim več. Govorim o temu, da veš koliko si lahk privoščiš. Ne moreš potrošit vse za zabavo in pustit nič za razmnoževanje, ker IMO boš kr hitro končal na smetišču zgodovine.
Tud ne govorim, da ima ohranjanje nekega kamnja sredi ničesar večji smisel kot ohranjanje nas. Oboje je sicer nesmiselno IMO, raje pa izberem nas če smo že moram nekaj izbrat.
Jaz sem govoru, da če bi protokol se pač odloču da njegove primarne funkcije so bolj pomembne kot ostale. In upam se trditi, da zahteva po razmnoževanju in obstoju je bolj pomembna od poganjanja šaha in banketov.
Sicer pa IMO protokol bo živ...se bo razmnoževal, se bo prilagajal okolju. Mogoče ne bo imel ljubezenska razmerja ali podobno. Sam nikol neveš, če bo bil sposoben se prilagajat situacijam in se sam oblikovat, vprašanje kaj vse si bo izmislil.
To da mu ukažeš naj gre po tisto skalo tam in jo izrabi, potegne za seboj še veliko drugega razmišljanja. Da ne govorimo, če bi slučajno se moral vojskovat z kakim drugim protokolom...bog si vedi kaka obnašanja bo razvil za se spopast s problemom.
Skratka, ja...če hočeš dolgo življenje moreš dobro preračunat kaj počneš. Če pa hočeš kratko ampak bogato pa have a go at it.
Sicer pa ja...več kot pregledaš boljš je, ker lahk bolj natančno preračunaš nadaljne zmogljivosti. Pa jaz ne govorim samo o temu, da zabeležiš čim več. Govorim o temu, da veš koliko si lahk privoščiš. Ne moreš potrošit vse za zabavo in pustit nič za razmnoževanje, ker IMO boš kr hitro končal na smetišču zgodovine.
Tud ne govorim, da ima ohranjanje nekega kamnja sredi ničesar večji smisel kot ohranjanje nas. Oboje je sicer nesmiselno IMO, raje pa izberem nas če smo že moram nekaj izbrat.
Jaz sem govoru, da če bi protokol se pač odloču da njegove primarne funkcije so bolj pomembne kot ostale. In upam se trditi, da zahteva po razmnoževanju in obstoju je bolj pomembna od poganjanja šaha in banketov.
Sicer pa IMO protokol bo živ...se bo razmnoževal, se bo prilagajal okolju. Mogoče ne bo imel ljubezenska razmerja ali podobno. Sam nikol neveš, če bo bil sposoben se prilagajat situacijam in se sam oblikovat, vprašanje kaj vse si bo izmislil.
To da mu ukažeš naj gre po tisto skalo tam in jo izrabi, potegne za seboj še veliko drugega razmišljanja. Da ne govorimo, če bi slučajno se moral vojskovat z kakim drugim protokolom...bog si vedi kaka obnašanja bo razvil za se spopast s problemom.
Skratka, ja...če hočeš dolgo življenje moreš dobro preračunat kaj počneš. Če pa hočeš kratko ampak bogato pa have a go at it.
Thomas ::
Zaenkrat ni videti, da bi imeli na razpolago neskončno virov. Samo končno. In če te namenimo za šah in za bankete, neto, se razume, tara je pa za Protokol, superinteligenco in drugo potrebno infrastrukturo - potem vse v najlepšem redu.
Če se pa pojavijo eni novi viri, smo pa zadeli na loteriji. Tud prov, samo tisto srečko bomo vnovčili, ko in če jo bomo imeli.
Ne more se nič odločit. Kar je napisano, je napisano. Kot če bi se Sonce odločilo in bi več ne sijalo. Kot reče Perry Como - It's impossible, just impossible.
Če se pa pojavijo eni novi viri, smo pa zadeli na loteriji. Tud prov, samo tisto srečko bomo vnovčili, ko in če jo bomo imeli.
če bi protokol se pač odloču
Ne more se nič odločit. Kar je napisano, je napisano. Kot če bi se Sonce odločilo in bi več ne sijalo. Kot reče Perry Como - It's impossible, just impossible.
Man muss immer generalisieren - Carl Jacobi
Zero0ne ::
A vesolje je zaprt sistem? Čudno, nisem še slišal da bi kdo dokazal to, kak link za pokazat?
Termodinamika in ohranitev energije sta po mojem zelo dobra indikatorja v to smer. Bi morali prej vi dokazati, da kaj lahko zapusti vesolje oziroma pride vanj od "zunaj".
uname -o
guest #44 ::
Zaenkrat ni videti, da bi imeli na razpolago neskončno virov. Samo končno. In če te namenimo za šah in za bankete, neto, se razume, tara je pa za Protokol, superinteligenco in drugo potrebno infrastrukturo - potem vse v najlepšem redu.
Če se pa pojavijo eni novi viri, smo pa zadeli na loteriji. Tud prov, samo tisto srečko bomo vnovčili, ko in če jo bomo imeli.
če bi protokol se pač odloču
Ne more se nič odločit. Kar je napisano, je napisano. Kot če bi se Sonce odločilo in bi več ne sijalo. Kot reče Perry Como - It's impossible, just impossible.
Pol sem jaz narobe razumel kako bo protokol deloval?
A ne bo v smislu...nekaj osnovnih hardwired načel, za implementacijo pa naj se sam znajde?
Thomas ::
Protokol je zamišljen kot Ustava, (super)inteligenca pa podložna tej Ustavi. Tako kot tudi vse druge entitete, kakršnekoli.
Protokol so samo obvezna pravila igre za vse. Da ne bi imeli strahotnega kaosa in potem nič.
Protokol so samo obvezna pravila igre za vse. Da ne bi imeli strahotnega kaosa in potem nič.
Man muss immer generalisieren - Carl Jacobi
nevone ::
Protokol so samo obvezna pravila igre za vse. Da ne bi imeli strahotnega kaosa in potem nič.
A pa se da ta pravila narediti obvezna in hkrati odprta za odločanje o novih morebitnih spoznanjih, ki jih AI zgrunta in na podlagi katerih se mora potem odločiti, kako naprej?
o+ nevone
Either we will eat the Space or Space will eat us.
Thomas ::
Neskončno odprta biti ne morejo in ne smejo, ker potem nam tale pesek uide med prsti.
Ne moremo reči, da prečkali bomo vsako mejo, ki se jo bo prečkati dalo. Ker potem nas ni več. Se razblinemo.
Ne moremo reči, da prečkali bomo vsako mejo, ki se jo bo prečkati dalo. Ker potem nas ni več. Se razblinemo.
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
Neskončno odprta biti ne morejo in ne smejo, ker potem nam tale pesek uide med prsti.
Ne moremo reči, da prečkali bomo vsako mejo, ki se jo bo prečkati dalo. Ker potem nas ni več. Se razblinemo.
Že sam, tvoja ustava bo potemkaj velika kot sam protokol, ker bo morala pokrit vsako proceduro, v vseh kombinacijah.
Sicer pa vsa ta tvoja hipoteza temelji, da vesolje je končna množica. Torej v past eternal in future eternal ti ne vrjameš?
Thomas ::
Ne verjamem v nobeno sorto neskončnosti. Čeprav so mi Saladinovi argumenti za past eternal zanimivi, me ne prepričajo.
Mislim tudi, da Vesolje ni neskončno zapleteno. Mislim, da je relativno preprosto, čeprav ne vem, kakšno točno je, jasno.
Zgleda mi kot nek končni avtomat, ki bi se ga dalo "zahekat" in slejkoprej bo to nekdo storil. Ne šele, ko bo stara šola to pripravljena nekako sprejeti, ampak ko še zdaleč ne bo. To je skoraj zmeraj tako.
Mislim tudi, da Vesolje ni neskončno zapleteno. Mislim, da je relativno preprosto, čeprav ne vem, kakšno točno je, jasno.
Zgleda mi kot nek končni avtomat, ki bi se ga dalo "zahekat" in slejkoprej bo to nekdo storil. Ne šele, ko bo stara šola to pripravljena nekako sprejeti, ampak ko še zdaleč ne bo. To je skoraj zmeraj tako.
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
Ne verjamem v nobeno sorto neskončnosti. Čeprav so mi Saladinovi argumenti za past eternal zanimivi, me ne prepričajo.
Mislim tudi, da Vesolje ni neskončno zapleteno. Mislim, da je relativno preprosto, čeprav ne vem, kakšno točno je, jasno.
Zgleda mi kot nek končni avtomat, ki bi se ga dalo "zahekat" in slejkoprej bo to nekdo storil. Ne šele, ko bo stara šola to pripravljena nekako sprejeti, ampak ko še zdaleč ne bo. To je skoraj zmeraj tako.
Že že, sam to ne pomeni da je tako. Tvoja pozicija ni nič bolj validna od kakega past/future eternal, vsaj ne še (in IMO še dolgo ne bo, če sploh).
Skratka, zna bit da dimenzioniraš na napačni predpostavki. Protokol, ki bi bil dimenzioniran na neskončno stanje bi preživel obe opciji. Sam pač slednji bi rabu imet malo bolj proste roke, kar smo že rekli, je lahko nevarno.
Kaj porečeš na heisenberga?
Zgodovina sprememb…
- spremenilo: guest #44 ()
Thomas ::
Za The Infinity Contingency Plan bomo pa skurili nekaj galaksij v dolgovalovno radijsko sevanje, če se problem pojavi. Zaenkrat ga ni na obzorju. Če se pa le prikaže, pa večje število galaksij namenimo samo za computing, za izdelavo študije o možnih strategijah.
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
Za The Infinity Contingency Plan bomo pa skurili nekaj galaksij v dolgovalovno radijsko sevanje, če se problem pojavi. Zaenkrat ga ni na obzorju. Če se pa le prikaže, pa večje število galaksij namenimo samo za computing, za izdelavo študije o možnih strategijah.
Že, sam študija je še vedno študija. Pa poleg tega mislim, da di razumeš neskončno vesolje kot samo dodatne šahovnice. Kaj pa če neskončnost potegne za seboj fenomen, kjer kralj sredi igre čudežno izgine in se pojavi enkrat naključno in to zraven šahovnice.
Zaenkrat ne moreš trdit, da je vesolje konsistentno v vseh pogledih. Dokler je heisenberg še aktualen.
Zgodovina sprememb…
- spremenilo: guest #44 ()
Thomas ::
Sej pravim, ko se bomo soočili z neskončno viri, jih lahko vsako (nes)končno količino uporabimo samo za kalkulacijo - kaj z njimi.
Kar se Heisenberga tiče, ta bo z nami za vedno. Ni pa nič moteč. Tako pač naš svet deluje. Heisenbergov princip, je princip našega sveta. S tem bomo živeli.
Kar se Heisenberga tiče, ta bo z nami za vedno. Ni pa nič moteč. Tako pač naš svet deluje. Heisenbergov princip, je princip našega sveta. S tem bomo živeli.
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
Sej pravim, ko se bomo soočili z neskončno viri, jih lahko vsako (nes)končno količino uporabimo samo za kalkulacijo - kaj z njimi.
Kar se Heisenberga tiče, ta bo z nami za vedno. Ni pa nič moteč. Tako pač naš svet deluje. Heisenbergov princip, je princip našega sveta. S tem bomo živeli.
Pa ravno heisenberg je problem, če bomo hotli kej manipulirat na zlo zlo majhnem nivoju ali ne (in zakaj)?
Thomas ::
Ja, ne verjamem v nujnost možnosti "sub Heisenbergovske" tehnologije.
Sicer ni rečeno, da se absolutno ne da. Morda se celo da. Samo ne bi preveč računal na več, kot so atomi par milijard galaksij. To je granted, takorekoč, ostalo ni.
Če kaj dosti več ni, škoda. Če je, če je celo neskončno, toliko bolje. Ampak ta most bomo prečkali, ko pridemo do njega.
Zaenkrat pa tole z nanotehnologijo, bo za začetek!
Sicer ni rečeno, da se absolutno ne da. Morda se celo da. Samo ne bi preveč računal na več, kot so atomi par milijard galaksij. To je granted, takorekoč, ostalo ni.
Če kaj dosti več ni, škoda. Če je, če je celo neskončno, toliko bolje. Ampak ta most bomo prečkali, ko pridemo do njega.
Zaenkrat pa tole z nanotehnologijo, bo za začetek!
Man muss immer generalisieren - Carl Jacobi
guest #44 ::
Ja to se načeloma strinjam, da za nek začetek bo dovolj nivo, ki ga že sedaj poznamo. Ampak tko če gledamo iz principa.
Če se trinjamo, da vesolje le ni tako predvidljivo potem nekoč bo prišlo do kake nevšečnosti, granted pa bo to res pozno. Toliko o manipuliranju vesolja.
Kaj pa energy managment? Butasto je pričakovati, da bo simulacija vedno na enakem ali večjem energijskem nivoju. Enkrat se že bomo morali zadovoljiti z pong-om ane? Kaj pa spomin na lepše čase, a se bo to takrat izbrisalo, da slučajno ne bomo žalostni in imeli samomorilska nagnjenja?
Spomina raj nebi hotu izgubit, tako dobre kot slabe spomine.
Če se trinjamo, da vesolje le ni tako predvidljivo potem nekoč bo prišlo do kake nevšečnosti, granted pa bo to res pozno. Toliko o manipuliranju vesolja.
Kaj pa energy managment? Butasto je pričakovati, da bo simulacija vedno na enakem ali večjem energijskem nivoju. Enkrat se že bomo morali zadovoljiti z pong-om ane? Kaj pa spomin na lepše čase, a se bo to takrat izbrisalo, da slučajno ne bomo žalostni in imeli samomorilska nagnjenja?
Spomina raj nebi hotu izgubit, tako dobre kot slabe spomine.
WarpedGone ::
Thomas:
Tole mi ne da miru - kakšne študije maš v mislih?
Klasične "grobe" al poskusni izračun v zadnji detajl, kjer je razlika le ta, da simulirani sentienti niso sentient?
Če prvo, maš problem da nekatere stvari ne moreš grobo odsimulirat - dokler jih ne zračunaš v zadnjo decimalko, nimaš načina da oceniš kakšen bo rezultat.
Če pa drugo - kako misliš odsimulirat/naštudirat nesentient sentiente?
Za The Infinity Contingency Plan bomo pa skurili nekaj galaksij v dolgovalovno radijsko sevanje, če se problem pojavi. Zaenkrat ga ni na obzorju. Če se pa le prikaže, pa večje število galaksij namenimo samo za computing, za izdelavo študije o možnih strategijah.
Tole mi ne da miru - kakšne študije maš v mislih?
Klasične "grobe" al poskusni izračun v zadnji detajl, kjer je razlika le ta, da simulirani sentienti niso sentient?
Če prvo, maš problem da nekatere stvari ne moreš grobo odsimulirat - dokler jih ne zračunaš v zadnjo decimalko, nimaš načina da oceniš kakšen bo rezultat.
Če pa drugo - kako misliš odsimulirat/naštudirat nesentient sentiente?
Zbogom in hvala za vse ribe
guest #44 ::
WarpedGone je izjavil:
Thomas:
Za The Infinity Contingency Plan bomo pa skurili nekaj galaksij v dolgovalovno radijsko sevanje, če se problem pojavi. Zaenkrat ga ni na obzorju. Če se pa le prikaže, pa večje število galaksij namenimo samo za computing, za izdelavo študije o možnih strategijah.
Tole mi ne da miru - kakšne študije maš v mislih?
Klasične "grobe" al poskusni izračun v zadnji detajl, kjer je razlika le ta, da simulirani sentienti niso sentient?
Če prvo, maš problem da nekatere stvari ne moreš grobo odsimulirat - dokler jih ne zračunaš v zadnjo decimalko, nimaš načina da oceniš kakšen bo rezultat.
Če pa drugo - kako misliš odsimulirat/naštudirat nesentient sentiente?
Jz sem zadnjič predlagal, da se jih pač simulira in pol pač ukine po nekem času. V vseh primerih pa bo nekdo najebal. Neetično, ampak edino tako se bo protokol nauču.
Thomas ::
Tole mi ne da miru - kakšne študije maš v mislih?
Zdaj razmišljamo o vsem, o čemer pač razmišljamo, z energijo ki jo imamo na razpolago. Če se bomo soočili s problemom ne-končnosti Vesolja, bomo komot žrtvovali magari celo galaksijo samo zato, da bi imeli več computinga za razmišljanje, računanje take prihodnosti.
Če se scenarij spremeni tako, potem imamo virov dovolj.
Ta most bomo lažje prečkali če in ko pridemo do njega, kakor zdaj vse zakompliciriti še s to možnostjo. Potem, ko bo BISTVENO več virov. Če jih bo.
Man muss immer generalisieren - Carl Jacobi
Phil ::
Sam še vedno nisem prepričan če nam bo uspelo sprogramirati neko "sintetično" SAI, ki sama po sebi ne bo imela nobenih motivov. Ne pravim da se ne da, mogoče smo le ljudje premalo inteligentni da bi jo neposredno naredili. V kolikor pa bo SAI rezultat gonjenja evolucije je pa motivacija(preživetje) že inherentno vsebovana. In ti naknadno postavljanje pravil bore malo pomaga oz. imaš podoben problem kot pri "sintetični" SAI...
Zgodovina sprememb…
- spremenil: Phil ()
Thomas ::
To se jaz ne strinjam, da gonjenje evolucije inherentno sproži vsebovanost motivacije za preživetje.
Z evolucijo smo vzgojili sadje brez peška. Preživetje mu je deveta briga, takoj izumre, če ne bi sadjarji skrbeli na svoje načine, da vseeno preživi. Če nehajo, propade.
Na podoben način lahko zadamo fitnes razvoja AI tako, da se še od vsega najraje kar demontira. Druga njena najljubša stvar pa je, da se na request še ne demontira - natančno minuto.
So tudi še boljši fitnesi, vendar je bistvo to, da je možno zevoluirati karkoli. Celo neznosno prijazno AI, Yudkowsky bi ji rekel FAI.
Z evolucijo smo vzgojili sadje brez peška. Preživetje mu je deveta briga, takoj izumre, če ne bi sadjarji skrbeli na svoje načine, da vseeno preživi. Če nehajo, propade.
Na podoben način lahko zadamo fitnes razvoja AI tako, da se še od vsega najraje kar demontira. Druga njena najljubša stvar pa je, da se na request še ne demontira - natančno minuto.
So tudi še boljši fitnesi, vendar je bistvo to, da je možno zevoluirati karkoli. Celo neznosno prijazno AI, Yudkowsky bi ji rekel FAI.
Man muss immer generalisieren - Carl Jacobi
Zgodovina sprememb…
- spremenil: Thomas ()
Phil ::
Vprašanje če ne gre tu za neke vrste začaran krog. Definirati fitnes funkcijo za splošno SAI zna biti zelo kompleksna stvar. Mogoče prekompleksna za nas. Čim večja ohlapnost funkcije tem večja verjetnost da na koncu dobiš eno povsem alien zadevo.
Varovalke z apotozo se sicer zdijo zanimive, premislim do jutri
.
Varovalke z apotozo se sicer zdijo zanimive, premislim do jutri
. Vredno ogleda ...
| Tema | Ogledi | Zadnje sporočilo | |
|---|---|---|---|
| Tema | Ogledi | Zadnje sporočilo | |
| » | Saladin sprašuje - Postinteligenten Bog (strani: 1 2 3 4 5 6 7 8 )Oddelek: Problemi človeštva | 36482 (28988) | Saladin |
| » | The search for life: The Drake Equation (strani: 1 2 3 4 5 6 7 )Oddelek: Znanost in tehnologija | 42296 (38131) | Thomas |
| » | fizikalni zakoni vesolja niso povsod enaki (strani: 1 2 3 4 5 )Oddelek: Znanost in tehnologija | 38170 (33291) | sprasujem |
| » | simulacija vesoljaOddelek: Znanost in tehnologija | 3044 (2007) | antonija |