» »

Protokol

Protokol

Temo vidijo: vsi
««
27 / 182
»»

Marjan ::

Poglejte, predvsem odie!

Transhumanizem nam govori predvsem o obdobju po tehnološki singularnosti. In prav zato je za nekatere tako "čuden" ali celo nesprejemljiv.
Thomas se je v tejle temi odločil, da bo začel folku razlagat kaj se bo dogajalo po TS. Mogoče je to za nekatere en korak preveč naprej.

Zato je treba najprej razumet, da do TS BO prišlo.

Kaj je sploh TS?
To je Obdobje, ki ga doseže inteligentna civilizacija, ko pride (časovno) do nivoja, ko obvlada vse (pomembno) znanje kar ga je.

Zakaj je to mogoče?
Zato ker je znanja v tem vesolju le končno mnogo in mi ga osvajamo čedalje hitreje. To je očitno dejstvo. No in iz tega mora biti tudi očitno približevanje TS. Jaz bi takole na uč rekel, da se bo zgodila celo prej kot 2020, ampak bi bil to pretiran optimizem in neupoštevanje zaviralnih faktorjev.



Ko smo pa enkrat na točki TS, potem pa se začnejo dogajati zanimive stvari. Povsem možno je tudi da bo kakšna štala in bo izumrla vsa civilizacija. To je možno. Možno je celo da nas bo AI zasužnila in mučila. Ni pa npr. možno, da se ne bi zgodilo nič drastičnega.

Varianta, ki jo tukaj opisuje Thomas je najbolj optimistična in upam, da tudi najbolj verjetna.

Grey ::

In kaj to pol vi tuki neki govorite o času po odkritu vse možne tehnologije al kaj? A pol da bi se kr začel dolgočasit in bi se naloadali na komp pa bi tam živeli življenje? A ni to mal blj tko no... Blj bi se npr. slišal da najdeš neke hudobne nezemljane, si izboljšaš telo tako da postaneš napol Cyborg pa se greš mal streljat?

Grey ::

Aja... transhumanizem, kaj je to?

Thomas ::

Man muss immer generalisieren - Carl Jacobi

darh ::

Možno je celo da nas bo AI zasužnila in mučila.

Če predpostavimo, da AI pride do te stopnje da nas prevlada, ne vidim razloga, da bi se posluževala (a je pravilno da dam AI v ženski sklon?) muženja in zasužnejvanja. Mučenje se uporablja zgolj za pridobivanje informacij in lastno zadovoljstvo mučitelja, kali? Informacije, ki bi jih lahko skrivali pred AI na taki stopnji pač ne bo oziroma je pač odvisno od parih trenutkov da dobi AI hitrejši in učinkoviteji način kako izžrpat potreben info. Kar se zasužkevanja tiče... zakaj bi AI uporabljal naša boga delesca za karkoli kar sama lahko naredi učinkoviteje in bolje? Za energijo (Matrix style) pa tudi ne vidim fore -- je stanje nekje isto kot pri mučenju... že sedaj obstajajo veliko učinkovitejši načini pridobivanja energije kot človeško telo > power...
Excuses are useless! Results are priceless!

Thomas ::

Tole mučenje (Hell Singularity) je lahko posledica sila neverjetnih okoliščin in sosledja dogodkov, ki je skrajno malo verjetno.

Ampak ga je treba pa vzeti sila resno. Preveč je na kocki, nič ne smemo prepustiti naklučju.

Oziroma - vse še lahko, samo tega ne. Scenarij slabši od smrti.

:)
Man muss immer generalisieren - Carl Jacobi

Grey ::

Ej thomas, za kaj gre pri transhumanizmu? A da nadomestimo biološka telesa z mehanskimi? Al da postanemo Cyborgi tko kokr v Star Trek Borgi? Jst sm za izboljšave ampak da bi se dau na nek HDD.

Thomas ::

Zdej si še na slabšem, kot na HDD.

Ampak tudi RAID HDD ni nekaj, za kar bi dal človek glavo na tnalo.

Mogoče za diamant, ki je sestavljen iz C13 in C14 atomov. Tam je tvoja essenca v koščku, ki ni viden s prostim očesom. Pa še na mnogih drugih koncih si arhiviran za primer, če greš po gobe.

Deluješ pa po Jupitru, spremenjenem v ogromen diamant, kjer živi civilizacija trdne snovi.

Vse dni preživiš na obali toplega morja, ki ni slano ampak je kot studenčnica. Zrak je nasičen z dišavami, ki jih zaznavaš 1000 krat bolj kot danes. Prav tako je z barvami in podrobnostmi.

Samo to je špekulacija. Kdovekaj vse še si bo izmislila SAI.

:)

Man muss immer generalisieren - Carl Jacobi

Thomas ::

Najboljša prilika o Singularnosti (doslej) je tale:

Nadalje sta znanost in tehnologija podobni zlaganju pasjanse z imenom Klondike. Posamezna odkritja, spoznanja, izumi, inovacije ... so kakor karte položene na pravo mesto. Odkrite nove, še prej neznane karte, nam odpirajo nove možnosti.

Tako igramo (eno samo, prvo igro) že stoletja, če ne tisočletja in milijon ali kaj takega kart je že bilo "rešenih". Smo pa morali ugotoviti pravila in cilj igre kar lepo sami. Razbrali smo jih iz zlaganja kart. Odtlej igramo s še nekaj več veselja in samozavesti.

Smo pa zadnje čase ugotovili še neko nadvse pomembno reč. Namreč, da se po dovolj zloženih kartah (spoznanjih, odkritjih, iznajdbah ...), te začnejo zlagati avtomatsko in z neznansko hitrostjo.

To imenujemo - tehnološka Singularnost.

:)

Man muss immer generalisieren - Carl Jacobi

Zheegec ::

I belive we're all in the Matrix.
Me lahko kdo prepriča drugače?
"božja zapoved pravi; <Spoštuj očeta in mater>,
ne govori pa o spoštovanju sodstva."
Janez Janša, 29.04.2014

Thomas ::

> Me lahko kdo prepriča drugače?

Nobeden. Vsak si lahko zmisli kakšno tako traparijo, iz katere ga ni mogoče izvleči.

Samo tole me zanima: Misliš da si v Matrix ti The One - ali je to pop pevka Marie? Ali je The One le tisti zajec, ki zase trdi, da nima imena, pač pa samo priimek - Pipan?

Oziroma me sploh ne zanima.

:)

Man muss immer generalisieren - Carl Jacobi

Thomas ::

Some excerpts from Congressman Brad Sherman's words in the House Committee on Science hearing on "The Societal Implications of Nanotechnology", Wednesday, April 9, 2003

....

First, I would point out that intelligence is the most explosive thing in the universe. There are those who think fusion is the most explosive thing except when you realize that intelligence gave us that fusion. There was less than a decade between when Einstein wrote to Roosevelt of the possibility of a nuclear explosion and when we had to develop a nuclear non-proliferation regime. Now we are engaged in a regime change as part of that regime.

....

No, seveda so na tem kongresnem odboru imeli Raya Kurzweila, ki jih je "tolažil", da je še 26 let do tja ... ;)

No, bistveno je, da so se te debate, kot jo tukaj vodimo že 2 leti, začele tudi v ameriškem Kongresu.


8-)


Man muss immer generalisieren - Carl Jacobi

Odin ::

Sej res, že skoraj 2leti in pol je ta thread star.

Kako bi povzel dogajanje v tem času?
So "stvari" napredovale po tvojih pričakovanjih? Bolj? Manj?


Jaz imam občutek, da folku res postaja jasno, da se tehnologija nekam sumljivo hitro razvija(računalniki, telefoni...).

Al pa sem preveč tu gori:)) .


A Ray pa se potem ne strija s tabo? napovedal je še 26 let.

Thomas ::

> Kako bi povzel dogajanje v tem času?

V tem času, je bila opravljena več kot polovica vsega izračunavanja na računalnikih. Prej celo zgodovino ne toliko! To je samo en aspekt.

> So "stvari" napredovale po tvojih pričakovanjih? Bolj? Manj?

Rahlo smešno se sliš - ampak zelo po pričakovanjih gre.

> Jaz imam občutek, da folku res postaja jasno, da se tehnologija nekam sumljivo hitro razvija(računalniki, telefoni...).

Ja - zagotovo. Zdej se jim svita že v ameriškem Kongresu.

> Al pa sem preveč tu gori.

Mislim, da ravno prav.

> A Ray pa se potem ne strija s tabo? napovedal je še 26 let.

Jest sem enkrat napisal, da bo Ray zamudil ene 10 let na "Singularity ignition party", če res tako misli.

Yudkowsky ga je pa poklical na nek radio, kjer je Kurzweil razlagal, da "human level intelligence" bomo imeli okol 2020, Singularnost pa 10 let kasneje. Eliezer ga je vprašal, kaj hudiča misli, da bo 10 let počela ta SAI. Kurzweil se je sicer nekaj izgovarjal - ampak jest mislim, da Raymond le noče preveč vznemirjati ljudi.

:)
Man muss immer generalisieren - Carl Jacobi

Thomas ::

Tole je vseeno najbolj primerno mesto, da povem še nekaj o F@H.

Ta (ali pa kateri drug podoben projekt), bo slejkoprej povzročil tehnološko Singularnost. Zakaj?

Ker je pozitivna povratna zanka, limitrana samo s količino snovi in energije v Osončju. Pa še to ni potem "zadnja meja".

V glavnem imamo takole ciklično dogajanje:


Do


    input N paketkov

    izračunavanje

    aplikacija M ( dosti manj od N) paketov v real life

    povprečno dodatno povečanje GDP

    povečana kapaciteta paketke, N raste


Loop


Zadeva nima druge izbire, kot da raste eksponentno. Pa da se vse bolj novi, raznoliki in koristni paketki dodajajo. Ker izračunljivo je itak vse.


To samo toliko, da se ne bi čez leta našel kdo, ki bi trdil, da "tega pa ni nihče zares pričakoval"!

Jest seveda sem, že v nekih postih zgoraj. Le da sem takrat še mislil, da se bo zadeva začela z mašinami IBM Blue Gene leta 2005 in beyond.

Imel sem narobe!

8-)
Man muss immer generalisieren - Carl Jacobi

Thomas ::

Date USD/(Gflop/sec)

Nov 2001 600
Jan 2002 437
Mar 2002 397
May 2002 319
Aug 2002 272
Oct 2002 244
May 2003 212

Tako pada cena computinga. Crossover datum, ko bo computing power ekvivalenten človeškemu cenejši, kot so stroški delavca (v USA), je marec 2008!

Kaj to pomeni, lahko ugiba vsak sam.

:)
Man muss immer generalisieren - Carl Jacobi

snow ::

link :) - ko sem bral tole mi je dalo mislit, da bi lahko nekaj takega imeli za sprožitev AI... pač funkcije oz. organizmi, ki se razvijajo. Kako dolgo še? Mogoče boljše vprašanje je: kako kmalu?

_marko ::

Od česa je bolj odvisen nastanek AI, od CPUja ali od napisanega programja? A lahko AI nastane z malo CPU? Po mojem ja, je pač zelo počasen.
Tako da bi naj bilo pomombnejše programje, ki ga napiše človek.
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.

snow ::

Po moje bolj od CPU-ja :)
Recimo Zemlja je mela pač nek program in potem se je počasi vse skupaj odvijalo... da se je nekaj skupaj spravilo. Če bi vse reakcije, spremembe potekale hitreje, bi dosti prej nastalo življenje. Seveda nastanek AIja je tudi odvisen od programa, ampak program je le začetna faza, hitrost spreminjanja pa odvisna od CPU.

_marko ::

Torej bi danes že lahko imeli AI. Pa čeprav počasno. Po mojem je pa glavni problem programje, ki bo zaštratalo AI. Potem bo pa tako ali tako CPU skokovito narasel.
The saddest aspect of life right now is that science
gathers knowledge faster than society gathers wisdom.

Thomas ::

snow,

Tale link je zanimiv, ja.

Moram pa reči, da Nevone in jest že skoraj eno leto delava predvsem na evolucijskem programiranju.

Po celem kupu enih poskusnih variant, med katerimi je bil tudi programček za reševanje tistega "šahovskega problema", ki sem si ga izmisli in ga je blo možno dljat na Slotechu, pa preveč ambicioznega Predictorja, pa še nekaj reči ... je nastal Critticall.

Ta na evolucijski način obravnava kar algoritme v jeziku C. Izboljšuje jih.

Naprimer, sem mu dal, da izboljša "algoritem ki bubble sorta random tabelo, v kateri so random 0 in 1"!

Čakal sem, kdaj bo poštudiral (zevoluiral) do tega, da lahko samo prešteje 0 in 1 in jih napiše - toliko 0 in potem za njimi še toliko 1.

Beštija je prišel z rešitvijo, po kateri to štetje odpade! Postavi en kazalec na dno, drugega na vrh tabele in ko prištrika skupaj - je zadeva opravljena! To iz najbolj preprostega sorta, napisanega v strict C.

To ni njegov (Critticallov) edini podvig, še nekaj jih je že - ampak ta trenutek se zadeva intenzivno testira za buge. Kmalu pa se bodo ljudje lahko igrali sami. Tudi članek za Slotech sem že davno obljubil.

Meje za evolucijo ni. Evolucija, oziroma EA (evolucijski algoritem) lahko zelo dobro oponaša vsako inteligenco. IMO.

marko,

> A lahko AI nastane z malo CPU? Po mojem ja, je pač zelo počasen.

Correct.

snow,

> Seveda nastanek AIja je tudi odvisen od programa, ampak program je le začetna faza, hitrost spreminjanja pa odvisna od CPU.

Correct again!

:)
Man muss immer generalisieren - Carl Jacobi

DarkSite ::

Poglejte si tale na tejle strani video(Edge Detection ) oz. stran...kakšna so vaša mnenja...

Moje: Če res vse to vidijo danes, kaj bodo šele čez par let...takrat bodo imel še vse v barvi...:))
Jah...zgleda, da se je treba sam na možgane prklopt...hehe

:)

snow ::

Organski možgani v robotu... daj naj kdo članek mi na privat pošlje, tist login mi ni ravno zanimiv tam. Članek pa moje mora biti dost zanimiv...
Random mutation plus nonrandom cumulative natural selection - Richard Dawkins

blabla ::

Za vse. ;) Zgleda kar cool ja. Še posebej, če se bodo možgani kaj sami naprej razvijali.

Wired to the Brain of a Rat, a Robot Takes On the World

By ANNE EISENBERG



THE nerve center of a conventional robot is a microprocessor of silicon and metal. But for a robot under development at Georgia Tech, commands are relayed by 2,000 or so cells from a rat's brain.

A group led by a university researcher has created a part mechanical, part biological robot that operates on the basis of the neural activity of rat brain cells grown in a dish. The neural signals are analyzed by a computer that looks for patterns emitted by the brain cells and then translates those patterns into robotic movement. If the neurons fire a certain way, for example, the robot's right wheel rotates once.


Advertisement


The leader of the group, Steve M. Potter, a professor in the Laboratory for Neuroengineering at Georgia Tech, calls his creation a Hybrot, short for hybrid robot.

"It's very much a symbiosis," he said, "a digital computer and a living neural network working together."

Dr. Potter has been building the system of hardware, software, incubators and rat neurons that constitute the Hybrot since 1993, when he was a postdoctoral student at the California Institute of Technology. He and his group have not only introduced the neurons to the world outside their dish; the team has also closely monitored minute changes that take place in the shape and connections of the neurons as they are stimulated, using techniques like time-lapse photography and laser imaging.

Dr. Potter hopes that close observation of how brain cells behave as they are exposed to a world of sensation will help researchers understand the way small groups of neurons go about learning. "If the network begins to get better at a job," he said, "we will watch what changed within the network to allow it to do that."

Dr. Jonathan Wolpaw, laboratory chief and professor of neuroscience at the Wadsworth Center of the New York State Department of Health and the State University of New York at Albany, said that Dr. Potter's research could yield a simple system for exploring the capacity of neurons and circuits to change based on incoming activity.

"These changes could be analogues of what happens in learning," Dr. Wolpaw said. "You are dealing with neurons, the same tissue as in a brain," although in a different setting and with different circuitry. "Some things presumably are in common, for example, the neuron's capacity for plasticity," he said.

In Dr. Potter's hybrid system, the layer of rat neurons is grown over an array of electrodes that pick up the neurons' electrical activity. A computer analyzes the activity of the several thousand brain cells in real time to detect spikes produced by neurons firing near an electrode.

A silver three-wheeled model of the robot is commercially available through the Swiss robotics maker K-Team (www.k- team.com) for about $3,000 and is about the size of a hockey puck. It trundles along at a top speed of one meter per second.

"We assign a direction of movement, say, a step forward, that is automatically triggered by a pattern of spikes," said Thomas DeMarse, a former member of Dr. Potter's group who is an assistant professor in the department of biomedical engineering at the University of Florida. "Twenty of these patterns, for instance, means 20 rotations of the wheel."

As the robot moves, it functions as a sensory system, delivering feedback to the neurons through the electrodes. For example, Mr. DeMarse said, the robot has sensors for light and feeds electrical signals proportional to the light back to the electrodes. "We return information to the dish on the intensity of light as the robot gets closer and the light gets brighter."

The researchers monitor the activity of the neurons for new signals and new connections. Dr. Potter said that the feedback mechanism was crucial to the functioning of the neural network. In traditional, isolated cultured networks, he said, in which neurons are not connected to a body, the activity patterns of the neurons are largely pathological. "They behave in an aberrant way," he said. "It's a symptom of sensory deprivation, because the neurons are not receiving the input they usually get."

He decided to provide a body for the neurons early in his research, first in computer simulation and then in reality, so that neurons would have feedback. In that way, if the cells learned, he and his group might observe the changes that came about in the network. "People say learning is a change in behavior that comes from experience," he said. "For a cultured network to learn, it must first be able to behave."

There is an analogy to the human nervous system in the feedback loop developed by Dr. Potter, said Nicholas Hatsopoulos, an assistant professor in the department of organismal biology and anatomy at the University of Chicago.

Dr. Hatsopoulos also works on brain-machine interfaces, including ways that brain signals may one day be used to move prosthetic devices.

"Potter's device has sensors that pick up information, and then the signals go back to the dish and stimulate the cells," he said. Similarly, he said, "signals out of the brain control the arm, but there are also sensors in the muscles and skin that send information back, too."

Such feedback loops are necessary to basic research in brain-machine interactions, he said. Researchers need not only to record signals that drive a device but also take signals from sensors and stimulate the nervous system. "Closing the loop will be a key issue in moving this field to the next level, for the feedback presumably helps learning," he said.

Miguel A. L. Nicolelis, a neuroscientist at Duke University, has identified signals generated by a monkey's brain as it gets ready to move, and then used the signals to move a robotic arm. "We are discovering that when animals learn to operate a robotic device, the operation changes the sensory and motor maps of the animal," he said. "Steve is looking for the same thing at the cellular level."

Dr. Potter has not yet demonstrated learning in his network but said he might be able to do so within six months. In experiments, Dr. Potter said he hoped to observe the Hybrot following an object at a certain distance.

"The next step is to watch it to see if it becomes better at following this object," he said. "That would become exciting."

Zgodovina sprememb…

  • spremenilo: blabla ()

Thomas ::

No, sej nafilozofirali smo že precej. Zgleda da so se nekateri lotili zadev praktično.

Meni tole zgleda kot en prototip ... tak, ki jemlje dih.


:)
Man muss immer generalisieren - Carl Jacobi

Double_J ::

No, da povem nekaj resnično pomembnega.:\

Kaj je v tem svetu najbolj srhljivo? Vsekakor bolečine. In da lahko o njih res realno razmišljaš jih moraš tudi v neki meri doživeti. Da si sploh lahko slikovito predstavljaš zakaj gre. In to najbolje precej hude in trajne. Potem pa pomisliš, da čeprav si ti doživel nekaj zares hudega ni to še nič v primerjavi z vsakodnevnimi mučenji, ki se dogajajo. Koliko jih je bilo brutalno mučenih praktično celo življenje? Kar precej nažalost. Pomojem bi bilo tako precej bolje, če sveta sploh nebi bilo. Vse dobro nikakor ni odtehtalo slabega. Resnično slabo, se sploh ne da z ničimer odtehtati.

Ampak to je šele uvod.
Precej huje je to, da ni nobenega zakona, ki bi mi/nam zagotavljal, da nebi neskončno časa praktično neskončno trpel/i. Naprimer, da bi se ob stiskanju vesolja, dalo izkoristiti praktično neskončni computing.
Če obstaja kakršnakoli večja možnost od ničle, da se ta scenarij zgodi, ni upravičeno, da svet še naprej obstaja. Ker takšna stvar je nepopisna. Si je treba zabiti v glavo, da gre za neskončno dolgo obdobje in da si najhujši možen pain še predstavljati ne moremo.;((

Tako, da če izračunamo, da je manjša možnost, da se kaj takega zgodi, če sprožimo vakuumski mehurček, bomo to tudi naredili, pomojem. Ni za tvegati nekaj takega.
Samo kakšna nova kvantna fluktuacija bi lahko ponovno formirala svet. Lahko pa je svet dejansko ogromen in zaradi ogromne množice vesolij, nujno pride v enem od njih do tega, da čuteča bitja praktično neskončno trpijo. To se mi zdi pravzaprav precej verjetno, svet je velik in stvari se pogosto slepo odvijajo. Zakaj se nebi enkrat tudi v tej smeri?

Kaj bi bil torej končen zakjuček? Da je tale svet zagotovo bolan, ker obstaja verjetnost za takšne scenarije. Še hujši pa bi bil matematičen dokaz, da se enkrat dejansko bo nekaj takšnega zgodilo. Da je svet ogromen(vesolij nepopisno veliko) in je časa tudi nepopisno veliko. Da je samo vprašanje kdaj se nekje kaj takšnega zgodi, ali se že dogaja? To bi bilo pa najbolj noro. Nikakor namreč ne moremo ven iz tega programa, samo čakamo lahko.

No kak komentar? Čeprav se mi zdi, da žal razmišljam v pravo smer...
A je koga kaj strah?:) Ta smeško ni upravičen.

Zgodovina sprememb…

  • spremenil: Double_J ()

Thomas ::

Double_J,

My thoughts exactly!

Edinole jest:

- ne verjamem, da je svet dejansko kakorkoli neskončen (neskončnost v tradiciji C.F. Gaussa praktično enačim z magijo)

- ker je svet končen, pa kakor velik je že, je v principu obvladljiv.

Kvantni mehurček, ki se širi na vse strani, morda ne bi rešil kaj veliko. Zaustavil bi se na mejah lokalnega mehurja.

Bi pa vse rešilo stanje, ki se točno ponovi. Če bi zaciklal en dan tako, da naslednjega jutra se začne točno enak dan, potem bi v neskončnost ponavljal tisti dan?

Ne! Vsi ti dnevi bi bili samo en dan. Nobene razlike, nobene označbe ni za dan številka 99927829292. Ekvivalenten je prvemu, samo eden je. Nekakšno izključitveno načelo.

Isto lahko velja za sekundo ali za septiljon let.

Če nam bo kazalo dobro - predlagam septiljon let, če nam bo kazalo pa slabo - potem pa eno nanosekundo.

Misliš, da nam lahko spodleti izračunati 1024*1024?

Ne, če se zadeve lotimo dovolj pazljivo. Verjetnost za pomoto lahko naredimo tako majhno, da v našem končnem svetu dejansko pomeni 0.

Samo malo sreče še rabimo!

:)
Man muss immer generalisieren - Carl Jacobi

OwcA ::

Tole z "neskončnim" (poljubno velikim) trpljenjem si mi zdi rahlo za lase privlečeno. "Neskončno" trplenje narekuje sistem, v katerem dana oblika ni obstojna, torej ni nanj prilagojena. Recimo, da njen propad ("umetno") preprečimo in jo držimo v obstoju. Gleda na to, da trplenje ni neka samostojna danost, temveč le mehanizem, ki določa obnašanje živih bitji, lahko potemtakem pričakujemo, da se naše bitje, ki obstaja v sistemu kjer mu ni obstanka, prilagodilo in bo dano vzrok trplenja odpadel, saj ima očitno na voljo "neskončno" časa. Kajti trplenje (bolečina) opozarja na neko grožnjo za organizem, te pa v primeru "neskončnega" (in trajnega) trplenja ne more biti (v kolikor bi se uresničila, bi organizem propadel), torej lahko tudi bolečino odmislimo.

Se pa strinjam, da se je na vsak način vredno še tako zanemarljivo trplenje odpraviti.
Otroška radovednost - gonilo napredka.

Thomas ::

Na žalost zadeva ni privlečena za lase. Bolečina je evoluirala kot alarm, da je treba pod nujno spremeniti sedanje stanje (užitek pa kot spodbuda, da naj nadaljujemo ali celo poglobimo trenutno stanje) - toda tako je samo nastala.

Nobene principielne ovire ni, da napišemo C program na nekem velikem računalniku in notri se simulira zavest in izvor enormne bolečine, ki niti malo ne pojenja. Vse dokler ne ugasne sonce, ki ta računalnik napaja.

Naredili smo pekel. Lahko kot ponesrečen poskus, da bi naredili nebesa.

Benevolentna SAI mora zato stalno križariti po Vesolju in inšpicirati za kotički, kjer je kaj takega nastalo ali bi lahko nastalo. Kot nesreča, kot namerna svinjarija (kar je tudi svojevrstna nesreča) ali pa kot plod evolucije. Ali celo kvantne fluktuacije!

In intervenirati.
Man muss immer generalisieren - Carl Jacobi

Double_J ::

Thomas in, če obstaja 999^999^999999^999^999..... svetov?

Potem je definitivno zagotovljeno, da se nekje ta stvar zgodi.

Zgodovina sprememb…

  • spremenil: Double_J ()

OwcA ::

@Thomas: ampak, ko smo v šoku (recimo kakšna amputacija), se lahko zgodi, da bolečine ne čutimo, torej jo (oziroma vsaj ta izvor) lahko možgani izklopijo. Če izvor neprestano spreminjamo, bomo s časoma (navoljo imamo "večnost") postali povsem nedovzetni za bolečino.
Kaj si hotel povedati s tem, da je le nastala kot opozorilo? Še vedno ni neka neodvisna bit, temveč le predikat, ki ga naša zavest dodeljuje nekaterim dražlajem. Užitek oziroma trplenje je zelo subjektivna zadeva, ki se kaj lahko tekom življenja spreminja, tako da mislim, da "večno" neprekinjeno in izjemno trplenje ni mogoče (če vse ostalo odpove, bi vsi postali mazohisti :D).
Otroška radovednost - gonilo napredka.

Double_J ::

Owca definitivo ne razumeš.

Naprimer, da ti preuredijo program, ki si ti, da vsako svetlobo interpretira kot izjemno hudo bolečino. Preuredijo ga tudi v tem, da ne zapade v "šok", temveč se kar najbolje zaveda bolečine.

Potem te pa privežejo na kol in usmerijo močan vir svetlobe nate.
Pol pa maš hudiča...tudi če se rešiš je življenje bol malo vredno.

Zgodovina sprememb…

  • spremenil: Double_J ()

Thomas ::

OwcA,

Double_J ima povsem prav.

Double_J,

Moramo pač tja poslati našega agenta, da razturi tamkajšnji sistem. Če že drugega ne bo mogel.

Ampak če obstaja en tak kot, potem je tudi na milijone benevolentnih agentov že na poti tja. Z vsemi sirenami vključenimi, na vseh frekvencah.

:)
Man muss immer generalisieren - Carl Jacobi

OwcA ::

@Double_J: prav dobro razumem, trdim le, da kar ni zajeto v zavesti sami, tudi ni od nje neločljivo (gre le za vprašanje časa).
Otroška radovednost - gonilo napredka.

Thomas ::

OwcA,

Lahko se zdizajnira tako, ta bo ta predikat neločljivo povezan z zavestjo. Da nosilec zavesti ne bo imel prav nobenih možnosti, da kakorkoli odlupi ta predikat proč od sebe.

Lahko se sprogramira tako, da je vsak šok ali navajanje - onemogočeno.
Man muss immer generalisieren - Carl Jacobi

OwcA ::

@Thomas:
Lahko se zdizajnira tako, ta bo ta predikat neločljivo povezan z zavestjo. Da nosilec zavesti ne bo imel prav nobenih možnosti, da kakorkoli odlupi ta predikat proč od sebe.
Lahko, przinam, moraš pa priznati, da je to nadvse za lase privlečen scenarij, kar nas, glej no glej, pripelje na (moje) izhodišče. ;)
Otroška radovednost - gonilo napredka.

Double_J ::

Superinteligenci dej to za glavni motiv. Pol boš pa vidu, kaj je to za lase privlečen scenarij.

Ne zavedaš se nevarnosti.

Double_J ::

Možnost vsekakor je. In pri tako slabem scenariju, tudi zelo majhna možnost, pomeni hudo nevarnost.

Zgodovina sprememb…

  • spremenil: Double_J ()

Thomas ::

OwcA,

Zadeva je res ekstremno malo verjetna - ampak da bi bila pa nemogoča, pa žal ni.

Če je Vesolje iz zelo mnogih mehurjev, potem se v kakšnem kaj takega tudi zgodi. Vsake toliko.

Če je pa mehur samo en - kar JE možno - potem moramo salamensko paziti, da se nam kaj takega ne primeri.


Žal samomor ne pomaga. Če ležeš v grob, potem lahko pričakuješ kvantno fluktuacijo, ki te bo vrgla iz groba ven - prej kot v 10^1030 letih. Kar je tebi samo trenutek, če si tačas res mrtev. Če pa ne, pa tako ni pomagalo. In najbrž prideš v slabši svet kot je tale. V tem smislu slabši, da te z večjo verjetnostjo popelje naprej v Hell scenarij. To pa zato, ker je le plod kvantne fluktuacije in ne evolucije, ki bi ti zasejala strah in obrambne mehanizme. Out of blue lahki padeš v čisto bizaren svet.

:)
Man muss immer generalisieren - Carl Jacobi

Double_J ::

Moramo pač tja poslati našega agenta, da razturi tamkajšnji sistem. Če že drugega ne bo mogel.


Samo naš agent ne more iti v neko drugo vesolje na pomoč. Ker iz tega sveta ne moremo "ven".

Poleg tega, ali je možno da je ta proces nastajanja in izginjanja vesolij neskončen? Da "vedno" ponovno lahko iz niča vznikne novo vesolje. Ker enkrat je že, pa ni bilo za nastanek potrebno prav nič. Torej se lahko to zgodi vedno in ubistvu neskončnokrat.

Samo posledično potem pridejo vsi scenariji na vrsto.

Zgodovina sprememb…

  • spremenil: Double_J ()

Thomas ::

Double_J,

Če obstaja neskončno ločenih mehurjev - potem lahko nekateri zavidajo usodo vsakemu, ki ga nekje v Afriki čaka "ogrlica". (Ni važno, kaj "ogrlica" pomeni.)

Ne verjamem v matematično neskončnost in ne verjamem v totalno fizikalno izolacijo. Zato spim in jem še.

:)
Man muss immer generalisieren - Carl Jacobi

OwcA ::

@Thomas: ampak, v kolikor se že gremo ekstremne primere, potem lahko v dovolj velikem času kvantna fluktuacija tudi povzroči, da povsem dobro delujoč Protokol postane peklenski in obratno. Glede na to, da so verjetnosti za eno kot drugo pribljižno enako majhne (upam si trditi, zanemraljive), se je nesmiselno obremenjevati s takšnimi zadevšlčinami. Priznam cinično, ampak le zaradi absurdno majhnih verjetnosti, ki dovoljujejo katerega koli izmed teh scenarijev.
Ali drugače povedano, izpostavljanje takšnih scenarijev dela transhumanizmu le škodo. Vse premnogim potem zapleše pred očmi Terminator I ali kakšen drug neumen (nesmiselen je premila beseda ;) ) filem, nakar, zavoljo svobode, varnosti, identitete in vrag si ga vedi kaj še, celotno idejo zavrne.
Otroška radovednost - gonilo napredka.

Thomas ::

Ko imaš enkrat ultratehnologijo, se The Hell scenarija lažje obraniš, kot pa če je nimaš. Najprej mora to postati jasno.

Vendar se morda docela te grožnje ne znebiš niti takrat. Čeprav je zelo majhna že zdaj, potem pa izgubi še precej velikostnih razredov - najbrž še zmeraj je. Pa četudi je takrat ni več - zdaj je.

Največje upanje je, da bo bilanca takale:

En ocean medu in ena žlica pelina, ki smo ga ta trenutek večina že popili.

Brez ultratehnologije bi bilo najverjetnejše razmerje ena luža enega in ena luža drugega.

Moramo delati tako, da zadeve zoptimiramo. Nujno.

:)
Man muss immer generalisieren - Carl Jacobi

Double_J ::

Zadeva je res ekstremno malo verjetna - ampak da bi bila pa nemogoča, pa žal ni.


Hja, mislim celo, da ta možnost ni tako zelo majhna.

Zamislimo si naprimer programerja, ki dela na (super)inteligenci. Neke noči pride pijan in razjarjen domov. In butne notr nek človeštvu sovražen motiv ter se še malo s stvarjo igra. In potem zadeva steče.

Okej malo verjetno, ampak bolj verjetno kot da jaz zadanem na lotu.
Torej je stvar že resna grožnja in ne sodi v tisti predal praktično nemogočih kvantnih fluktuacij.

Thomas ::

Po moje nevarnost vseeno precej precenjuješ. Čeprav je to bolje, kot če bi jo malenkost podcenjeval.

Nikakor pa ne bi smeli prepustiti zadeve naklučju. Treba si je izmisliti varen protokol. To trdim že stalno.

Boljš da vsi umremo, kot da nam gre zadeva dobesedno po zlu.

:)
Man muss immer generalisieren - Carl Jacobi

snow ::

When Things Start To Think - Online knjiga, objavljena na www.kurzweilai.net. Zadeva je dolga, si bom moral enkrat čas vzet. Naslov je obetaven :)
Random mutation plus nonrandom cumulative natural selection - Richard Dawkins

Vesoljc ::

@thomas
bi lahk mal razložu uno štrikanje z dvema kazalcema v bitni tabelci?
Abnormal behavior of abnormal brain makes me normal...

Thomas ::

O vesoljc!

Tebe se pa spomnim še, ko je na Slotechu pisalo: "Pozdravljen naš najnovejši član vesoljec!" .. Tko nekako.

Torej Critticall je spesnil tale algoritem. Ga spesni. V nekaj minutah ali urah, odvisno pač od sreče z evolucijskim randomom.

Digital evolution is under way!

o=0;
p=1;
n=11;
j=TAB(o);
while (n!=k) {
    k++;
    l=TAB(k);
    if (j>l) {
      TAB(k)=j;
      TAB(i)=v;
      i++;
    }
    if (l>j) {
      i=k;
      j=TAB(k);
    }
}


Za surovino porabi kar najbolj bukovega vseh sortov - bubble sort. Ali pa kakšnega drugega, saj je vseeno.

To kar dobi (z malenkostnimi variacijami na temo), je nevone takole raztolmačila:


Index k se v vsakem ciklu poveča za 1.
Index i se postavi na mesto k samo če je i-ti element manjši od k-tega in od takrat naprej ima i-ti element vedno vrednost 1. V nadaljevanju z indeksom k "iščemo" ničle in jih nosimo na mesto indexa i, ki ga nato povečamo za 1.

0i 0k 1 0 1 0 0 1 0 1 1 1
0i 0 1k 0 1 0 0 1 0 1 1 1
0 0 1i 0k 1 0 0 1 0 1 1 1
0 0 0 1i 1k 0 0 1 0 1 1 1
0 0 0 1i 1 0k 0 1 0 1 1 1
0 0 0 0 1i 1 0k 1 0 1 1 1
0 0 0 0 0 1i 1 1k 0 1 1 1
0 0 0 0 0 1i 1 1 0k 1 1 1
0 0 0 0 0 0 1i 1 1 1k 1 1
0 0 0 0 0 0 1i 1 1 1 1k 1
0 0 0 0 0 0 1i 1 1 1 1 1k


Seveda ni treba, da bi bilo elementov samo 11, tako kot tukaj. Lahko bi jih bilo poljubno.

Jasno je tudi, da lahko dela vsakršne digitalne algoritme.

Pa tudi, da je to tule pravzaprav on topic.

8-)
Man muss immer generalisieren - Carl Jacobi

Vesoljc ::

in mislš da je ta algo bolši od štetja bitov?
Abnormal behavior of abnormal brain makes me normal...

Thomas ::

Man muss immer generalisieren - Carl Jacobi
««
27 / 182
»»