Protokol

Jst: sem, ampak ne verjamem (bi pa bilo super).

Ker potem bi videli že kak jezikovni prevajalnik, ki se ne spotakne ob osnovne fraze, avto, ki bi bil sposoben sam vozit po mestu (vsaj v simulaciji), program, ki zna povedat kaj je na neki sliki, raketo, ki je "chaffi" sploh ne ganejo itd. Pravijo, da je tehnologija v vojski vsaj 20 let pred civilno, v AI torej ni?

Jaz sicer temu ne nasprotujem, vendar sem mnenja, da bomo pred tem najverjetneje videli več agentov. Ki bodo analizirali dato, dajali odgovore, komunicirali z nami, nadalje komunicirali med seboj in na koncu konvergirali. Tudi to opisano je lahko hard takeoff, pač odvisno kakšno časovno skalo gledaš.

Za hard takeoff je namreč potrebna tehnologija. Lahko, da to tehnologijo razvije AI sama. Ampak Software je vseeno osnova za kaj takšnega. Software v najširšem pomenu besede, ne nujno napisan s človeško roko. To pa pripelje do zgornjega odstavka.

Yudowski pa včasih preveč komplicira ali je prekonzervativen... čeprav teh linkov nisem (še) bral.

edit: Self Improvement is taken for granted.

Recimo da imamo "the last judge", ki pregleda design in se odloči če se požene zadeva ali pa ne.

Kaj je boljše:
izberemo enega prvaka tipa ala Kurzweil
ali
naredimo grupo 20 top znanstvenikov in demokratično pridejo do odločitve z glasovanjem
ali
pa imamo spet grupo ljudi, kjer pa se morajo vsi strinjati o odločitvi (v stilu ameriške porote)

Kaj ti bodo v tem primeru t.i. strokovnjaki, ko pa bo produkt toliko nad njihovim znanjem, da njihova odločitev ne bo nič vredna?

Jaz bi se odločil že prej, preden Sistem sploh obstaja.

Kako se boš odločil vnaprej, ko pa sploh ne veš kaj Sistem ponuja in kako izgleda?

Slepa vera v nek sistem ni nikoli prava rešitev.

Seveda je. Poglej slepo vero v prosti trg in reševanje ameriške avtomobilske industrije.

Ko tvoja vera oz. mazač ne pomaga več - obiščeš pravega zdravnika.

Thomas:
Če potegneš črto skozi zgodovino bi bilo veliko bolje za nas, da sploh nebi obstajali in bi bili vedno "mrtvi". Vrpašanje je, če je bolje, da nas zdaj komet uniči ali ne? Sklepam, da boš odgovoril, da ni boljše, ker je upanje za ultra-tech in normalno življenje za prebivalstvo.

Po drugi strani pa spet, ali je zavest najslabša stvar, ki se nam je zgodila? :)
Definitivno do danes je to res, ampak če je overall pa bomo videli...

To je tako dokaj sporno mišljenje, ampak na logični podlagi ga ne gre kar tako negirat.

Sem ravno mel neko pavzo med delom in se mi je zdelo zanimivo tole napisat.

Markova teza je po moje zelo zanimiva. "Bolečina je zemeljski delež", to ni sporno. Bolečina brez zavesti, pa kot da je ni. Da parafraziram - Zavest nam je vsem v pogubo.

Če se umaknemo s scene, če se zavest umakne s prizorišča, bo vse skupaj kot eno globoko spanje. Ne moremo pa kar tako izginiti in prepustiti dogajanj samim sebi. Slejkoprej spet lahko zevoluira tale nesrečna zavest in spanje bo subjektivno trajalo samo hip. Kako dolgo plezanje skozi bolečo zgodovino nas pa potem spet čaka, je pa lahko kaj neugodno presenečenje. Milijone let, v milijardah instanc - spet.

Torej, če odidemo, moramo pustiti sentinele, ki bodo skrbeli za sterilnost Vesolja, sicer se nam samomor ni posrečil. Ponavljali bomo razred, tudi če kdo zaustavi naše stražarje. Killing artilects bodo morali biti skrajno razviti, sicer bo naš samomor neuspešen.

Če pa naredimo kaj tako zapletenega, pa ni nobenega vzroka, da artilecti ne bi pestovali zavesti, da bi je ne čuvali, ko malo vode u dlanu. Če jo izdatno crkljajo, bodo kasneje tarča kakšne radožive inačice zavestne inteligence. Kozmična vojna pa res ni nekaj, kar bi hoteli.

Dokler je svet okoli nje, zavest nima druge izbire, kot da si ga totalno podredi. Do zadnjega atoma. Če ga pa ima pod sabo, ga pa lahko jezdi - v joy rideu.

Po moje.

Zavest, ki se koplje v morju pozitivne qualie. Za to stanje smo eni pripravljeni podreti Vesolje in ga rekonstruirati v tej smeri.

Ej ... jest tle debatiram z markom, sagom in podobnimi kalibri po mozgu. Tvoji pomisleki se mi zdijo samo distrakcija od teme, boš oprostil.

Hja .. če bi kaj vedel, ne bi preveč okoli razlagal. Če ne bi nič vedel, spet ne bi okoli razlagal. Tako da ne vem, kaj pričakuješ.

Nočem, da se tale teme začini z mistiko nobene sorte. Nočem da se ta tema spremeni v ša eno temo o meni.

To oboje je dolgčas.

: Drugače povedano, v vsakem primeru bo do nekega nivoja ta prehod "a leap into the unknown".

Ni nujno.
Lahko se preverja vsak predvidljiv korak in šele ob konsenzu se naredi nov predvidljiv korak.

IMO je zavest lahko najslabša in hkrati najboljša stvar, ki nam jo je prinesla evolucija

Mene začenja skrbeti, kam ta tema zahaja...

Bojite se, da ste "nerazumljeni", ker hočete po svoje urediti vesolje.

Ne.

"Nerazumljeni" ste, ker hočete eliminirat praktično vse, kar nas naredi za ljudi.
Prvo fiziologijo - sedaj pa še osebnost (ki - hočeš, nočeš - potrebuje zavest).

Če govorito zgolj o problemu "paina" - potem ga imenujte tako. Ne pa ga izenačevat z zavestjo.

No, še logika za tem:

predstavljaj si osebnost kot nek set programov, ki določa kako se oseba obnaša, zavest je pa čisto tretji program, ki mirno ždi v ozadju in le opazuje, kaj se dogaja. Ob enem se pa trudi lastiti zasluge le teh, čeprav nima direktnega vpliva na njih.

Niso niti sanje ampak kinopredstava ob prazni dvorani.
Užitek/pain brez zavedanja je syntax error.

Doslej je večina predstave poteklo brez opazovalca, ker sentienca je relativni novum.

Še zdaj je velika večina prostora sentientom nevidna, ker je Vesolje večinoma prazno in daleč proč od nas.

Od tistega pa kar vseeno gledamo in poslušamo, utiliziramo le majhen del. Majhen del spektra, majhen del velikostnih skal down under...

Velika večina je šlo in gre še vedno mimo.

Pa še od tistega kar se vendar dogaja v "našem zaznavnem kontekstu", je komaj pol dobrega, pol pa slabega in celo zelo slabega. Pomislimo samo na danes 150 tisoč umrlih, po celem svetu. To nekako ni bil njihov dan. Jutri gredo drugi v mesoreznico in bodo pustili drugih milijon užaloščenih za sabo.

To je every day business v našem svetu, face it!

Traparija misliti, da "monkey ki ga pere mrzel dež in prenaša malarijo", ne bo "skočila na poln figovec ki takoj pozdravi vsako mrzlico in kjer sije prijazno sonce, za nameček pa odpadejo še vse bolhe in drugi zajedalci".

To monkey naredi, čim se pokaže možno. To bo naredila cela vrsta, čim bo mogla.

Nekoliko na "višjem nivoju", a pravzaprav v bistvu točno in samo to.

V naslednjem desetletju, v naslednjem stoletju ... ob prvi priliki. rh^ in njemu podobni samo hočemo, da je preskok dobro premišljen. Da bo tam dovolj sadja in vseh drugih priboljškov, da ne bi padli v morje ali v žrelo vulkana. Ali pa v živalski vrt Bankong.

Pa da bo klima na srečnem otoku za vedno mila in nam bo vse všeč.

Paina ne bomo jemali s sabo, če bo po moje. Niti za vzorec, niti v blagi obliki, kakršna je recimo dolgočasenje in naveličanost.

Se ne morem bol ne strinjat s tem kar si napisal, Saladin.

Najprej, če je tebi zdaj videti dolgočasno, v nedogled biti brezmejno srečen in zadovoljen - nikakor ni dolgočasno za tistega, ki to _je_.

Mau manj ali mau več pleasurja, se ne transformira kar samodejno v pain. Če misliš, da je človeška psihologija pa taka - je to samo razlog več, da vanjo posežemo z ultratechom.

To kar smo dobili od evolucije, je nekaj za ponucat, nekaj absolutno ni.

Največjo nevarnost vidim v tem, da v imenu neke "višje moralnosti", vzamemo kakšen pain s sabo. To bi bilo zelo iracionalno, a to mnogi zagovarjate. To je že nekaj, kar se NE sme zgoditi.

To kar sta oba povedala je prav.

Nekje v temi smo mislim, da že debatirali o tistih ljudeh, ki jim je (max)pleasure=(max)pain. No pain sistem (oz. protokol) bi IMO omejeval samo slednje, ki pa so daleč od 150.000 oseb dnevno.

Če sem objektiven in nepristranski, kar sem težko, ampak če vseeno poskusim uganiti, kaj je 10^X let oddaljena prihodnost človeške rase, potem se mi poleg katastrofe, zdi še najbolj verjeten tale izid:

Orgasmium/pleasure-computronium

Mogoče celo precej bolj verjeten kot katastrofa. Vse poti peljejo po moje tja. Sicer najprej več poti pelje do ultratecha, potem pa, če je pod kontrolo kakšnega od Homo Sapiensov ... je najbrž samo vprašanje časa, kdaj se mu tako zrenda, da bi to bilo še najbolje od vsega in reče - Let it be!

Kot je rekel že nekdo pred mano. Ljudje večinoma sovražijo Orgasmium. Vsaj dokler ga ne izkusijo.

Ko pa človek samo nekoliko zabrede vanj, je to najmočnejši atraktor.

Pa čeprav bo vsak tajil, da on pa tega ne bi. Povsem konzistentno s človeško naravo.

Svobodna volja je samo feeling posameznika in v večini primerov neupravičen, ker popolnoma svoboden nisi nikoli. IMO ni prišla z evolucijo kot zavest ampak je del trenutnega (demokratičnega) sistema in spada na seznam top družbenih vrednot.

Pleasure je lahko tudi max svoboda, saj je to od vsakega posameznika odvisno (čeprav smo na koncu vsi enaki).

Ja, ampak nekateri smo za eliminacijo volje, ki bi škodovala drugim in ne za eliminacijo svobodne volje.

Trenutna svoboda, demokracija in kapitalizem sta za to, da lahko postaviš štant in prodajaš svojo kramo. Pa kupuješ kar češ.

Nikogar ne sme/more noben siliti, da tisto kupuje, če je svobode kaj.

For that matter, šola je že izjema od tega načela. Po vseh šolah v Sloveniji te silijo, da študiraš "matematiku i hemiju", pa če te zanima ali ne. Da o še bolj anoying zadevah, kot je glagolsko naklonilo, ne govorim.

Ampak odkar imamo printerje, se je lepopisništvo nekako umaknilo iz izobraževalnega procesa. Tudi tisto, takoimenovano "tehnična pisava". Tudi angleška beseda "calculator" več ne označuje pridnih deklic in špeglastih mladeničev, ampak 20€ technical device.

Dokazovanje teoremov - najbolj visoko čislano dejavnost med egg heads bodo kmalu prevzeli Critticall, Novamente, Mathematica in podobne naprave.

Kaj še ostane čoveku?

IMHO pleasure. Trend je jasen.

Potreba po kupovanju na štantih in s tem povezana svobodna volja se manjša, ker je vedno več reči zastonj. Ko bodo zastonj vse, kakor so najbolj dragocene reči vedno bile, bo povpraševanje po svobodni volji povsem upadlo. In s tem tudi ta, zdaj dragocena iluzija.

Tech je univerzalno družbeno topilo. Melje šege in navade in stare predsodke, ki so ostali brez svoje družbene funkcije.

Kaj nam drugega še ostane, kot

Orgasmium/pleasure-computronium

Po moje, nima realne alternative. IMHO. Pa če se postavi kdorkoli na glavo.

A je res, da če Titanik nebi zaviral, temveč zgolj zavijal, ko so videli goro, bi se ji ognili?

A je res, da če Titanik nebi zaviral, temveč zgolj zavijal, ko so videli goro, bi se ji ognili?

To ne. Ampak preprečili bi rez vzdolž kakšnih 6 prekatov ladje, kar je pomenilo njeno potopitev. Zmečkanje prvih dveh bi ne bilo posebno usodno za njeno plovnost naslednjih 24 ali kaj takega ur.

Zdaj, 100 ket kasneje to vemo. Hipotetični naviti upload na krovu, ali pa kakšna fizikalno cepljena AI, bi to dumela v pol sekunde realnega (1000000 let subjektivnega) časa in overridala iluzijo svobodne volje dežurnega oficirja.

Kar je dobra analogija ne samo za plutje prekooceank, ampak tudi za pot Zemlje z nami na krovu, skozi Vesolje.

"Svobodno voljo", pa je najbolje čimprej prepoznati kot "družbeno koristno psihološko iluzijo v današnjem času" - in nič več.

Nobene realne svobodne volje v metafizičnem smislu ni in je nikoli ni bilo in je nikoli ne bo.

"Svobodna volja" pomeni samo to, da mi fevdalni gospod nima kaj zapovedovati, da mu delam tlako. Da grem lahko čevljariti v mesto, če mi je tako bolj prav.