Protokol

Vkončni fazi smo mi AI-jevi stvaritelji in nekaj v AI bo še vedno človeškega....moralo bo biti, če bo hotelo razumeti naše potrebe ;)

Vkončni fazi smo mi Kalkulatorjevi-jevi stvaritelji in nekaj v Kalkulatorju je še vedno človeškega...moralo bi biti, če bo hotelo razumeti naše potrebe ;).

Hotu sem nakazat, da narobe sklepaš.

Kalkulator razume naše potrebe pa ni čisto nič človeški.

Tukaj bo isto, le input in output bosta nekaj velikostnih razredov kompleksnejša kot par pritiskov na tipke, ter samo računanje vmes tudi.
Princip pa isti.

> Zakaj ni možen radikalen preboj socialnih idej in družbenega napredka?

Lakote ni pregnal noben "družbeni napredek". Tudi otroških smrtnih bolezni ne. Tudi ne umrljivosti žensk na porodih ne. Tudi noben "družbeni napredek" ni podaljšal življenja. Še ženskega pranja perila na reki tudi pozimi, ni odpravila nobena politika.

Znanost in tehnologija pa.

Vse je le tehnološki problem. Protokol je pa samo politika za aplikacijo bodoče ultratehnologije.

Sicer ostanemo v glavnem pri starem.

>AMpak do takrat je treba poskrbeti za maksimalni p/p za večino z trenutno dostopnimi sredstvi.

Si prepričan, da so trenutno dostopna sredstva zadosti velika, da je možno zadostiti zahtevi po maksimalnem p/p?

Če si, odpri novo temo in razloži.

o+ nevone

>new world order po Saladinovo. Definitiven izziv.

Evo, če boš začel, bom sodelovala. Ker se v bistvu strinjam, da je že kar razvita naša tehnologija, in se z njo da narest več, kot je trenutno narejenega.

Vendar kot si rekel, prepričati ljudi v to, da tvoji nameni niso slabi, da ni vsak poseg v zasebnost kršenje človekovih pravic, da genetsko spremenjena hrana ne zastruplja ... itd, to je pa odprava, ki ji skoraj lahko rečeš Mission impossible.

Jest mislim, da bo prej narejen stroj, ki bo uredil zadeve, kot pa bodo ljudje uredili sami sebe. Ker človek se pri tem hitro izčrpa, stroj pa ne ve, kaj je to izčrpanost.

o+ nevone

Napaka. Ne zanašajte se na to, da v tem trenutku ni vsaj 1000 ljudi, ki se bodo magari sami upladali, najkasneje do leta 2020. Rubikon bo zanesljivo prekoračen.

Točno o tem govorim.
Z trenutno mentaliteto se bodo ti ljudje uploadali, ne glede na nevarnost in rizike zase ali druge (potencialno celo za vse človeštvo).

In kakšna korist je tehnologija v rokah ali izpod rok takšnih ljudi?

Samo, da stvar ni ravno obstojna, celo če uspe. Ker kdo meni preprečuje, da v naslednjih 10 letih enkrat ne grem za kakšnih 24 ur v NMRI mašino in potem vzamem posnetke s sabo. Iz njih pa zeditiram svoj upload.

V idealnem sistemu ti tega noben ne bo branil. AMpak v idealnem sistemu se boš sam zavedal posledic svoje odločitve in tega, povsem zavestno in prostovoljno, ne boš storil.

Malo kasneje poglej pod Probleme človeštva - tam opisujem eno metaforo, ki razjasni situacijo idealne morale.

Pač zanemarjaš človeško naravo.

Človeško naravo lahko spremeniš - primarno izobraževanje in okolje (kriminalno, umsko in duševno bolanim pa upam, da boš lahko ubranil dostop)
Mentaliteto lahko v veliki večini spremeniš.

>>ampak zakaj v navezi z "protokolom"? Zakaj ni možen radikalen preboj socialnih idej in družbenega napredka? Zakaj moram čakat na znanstveno utopijo, ki me bo spremenila v nekaj drugega od človeka, da s tem rešimo tudi družbene probleme? Zakaj ni sodoben človek zmožen rešiti omenjene probleme, ne da bi pri tem izgubil svojo človečnost?

Verjetno zato ker kljub zmogljivi silikonski opremi ni sociologa, soseda sodnika, sina antropologa in zgodovinarke, poročenega s psihologinjo katere oče je psihiater, mama pa novinar in ki bi. Zajel podatke ekonomskih gibanj, sociološko, zgodovinsko, in geološko analizo, jih z orodji statistike, ki jih uporablja psihologija, križal med sabo in določil moverje, shakerje in downerje jih znal prevesti v različne jezike, kulture in ekonomije in s pritiskom na start_program določil, kateri parametri pospešijo človeštvo in kateri ga na primernih mestih optimalno zavirajo. Tako kot šef ferrarija, danes večinoma gleda v rore in vsake toliko zamomlja _merde_, zgleda pa vseeno, da obvlada zadevo. Res, da samo rori in silikon niso zadosti... Ampak brez njih, bi se lahko vozil le še s tramvajem me je rahlo strah, da študenti socilogije še vedno 14 dni ploskajo, ko se naučijo narediti enostavno tabelo v excelu, da študentke antropologije šepetajo svojim znankam: sem šla na ta faks, ker me je jebala matmatka in statistka na srednji in da so psihologa, ki se je lotil podobne diplomske naloge zaprli doma za 14 dni v klet ampak skoz ne bo tako.. Enkrat bo eden ušel in zadevo izpeljal, pa niti ni nujno, da bo imel podporo vse omenjene žlahte. Lahko bo navaden pankrt.. Brez stricev in tet

Edit: bili sunce žarko zakaj tole nima spellcheckerja... Aja sej sem v linuxu

sm0key: Nočem umret. To je prvi pogoj zaradi česa bi jst šel noter. Če je pa kak pleasure not pa tolk boljš, sam da ni pekel.

Nobenega višje morale ne rabimo.
Mogoče bomo zaradi višjega p/p količnika celo sprostili vzorce ki jih sedaj zatiramo, takrat pa se bomo lahko nad "boti" izživljali.
Naloga protokola pa je, da po potrebi (ali že nazačetku) loči nekompaktibilne upload-e.
Zaščiti praktično.
I see... torej le še ena oblika diktature v stilu "you're with us or against us." Kaj naredi z "nekompatiblinim uploadi"?
Raje povejte, da bi se radi šli WOW v živo, oprosti, ampak TO so šele neumnosti. Očitno ne ločite življenja od življenja v igricah.

>Zanima me, kako radikalen moram postati v svojem navajanju dejstev, da boste razumeli moj point.

Če misliš, da ne razumem(o) tvojega pointa, se prekleto motiš.

>Nihče še ni odgovoril na moja temeljna vprašanja,

Na mnogo vprašanj smo ti odgovorili. Katera temeljna vprašanja so ostala brez odgovora?

o+ nevone

Trdiš, da je možno ustvariti 100% varen,stabilen in samonadzirajoč-samopopravljajoč sistem?

Ne, 100% ne.
Se pa da pa tej številki poljubno približat.

Pa tudi, kdo naj bi potem sploh "hekal".
Od zunaj nebo nikogar, od znotraj, pa je kaj takega precej nemogoče.
In četudi se zgodi katastrofa, je 50+ backup-ov posejanih po vesolju precejšnja garancija za varnost.

Jaz si to predstavljam nekako tako- a lahko sedaj "shekamo" fizikalne zakone?
Imo ne.

Torej če jih v tej simulaciji postavimo drugače, da služijo nam, ne sami sebi, je to to.

Luka The Great:
Vkončni fazi smo mi Kalkulatorjevi-jevi stvaritelji in nekaj v Kalkulatorju je še vedno človeškega...moralo bi biti, če bo hotelo razumeti naše potrebe ;).
Hotu sem nakazat, da narobe sklepaš.
Kalkulator razume naše potrebe pa ni čisto nič človeški.
Kaj bi lahko ostali na istem nivoju sporazumevanja? Govori se o AI, ti pa praviš da kalkulator razume naše potrebe...ki jih sploh ne, mimogrede. Napravljen je, da nam hitreje izračuna nek izraz, vendar smo ga mi naučili kako, on to le hitreje izvede. Kalkulator nima zavedanja, kalkulator se ne sprašuje za koga rešuje te enačbe. Nima nikakršnega razuma, le kristalčki znotraj zelo hitro sestavljajo smiselna zaporedja enk in nul

nevone:
Zadošča, da je stabilen in samopopravljajoč. Za varnost je s tem poskrbljeno. Nadziranja pa ne potrebuješ. Nazdiranje ima že nek prizvok, ki vleče na to, da nadzornik zadevo lahko zlorabi.
To je podobno kot evolucija. Sej nima nadzornika. Pač, dogaja se. Ima pa nekaj osnovnih zakonitosti, ki nam niso všeč. Te osnovne postavke bi v PROTOKOLU postavili drugače.

Vidiš, ne more biti tako. Misliš da bo slehernik imel popoln vpogled v razvoj AI? NE!!! Zavili bodo vse v korporativne skrivnosti, državno varnost, itd itd. NIČ ne boš vedela kako se razvija, ne boš vedela, da ima lahko AI vstavljen algoritem, ki še vedno dovoljuje določen nivo nadzora, lahko bo celo programirano tako, pa tega ne boš vedla. Prav tako kot ne veš kakšno agendo furajo tokrat Macchiavelijevi vajenci. NE VEŠ! Ker si slehernik.

Zakaj venomer zagovarjam "reformo" človekove biti? Poglejte zgodovino. Prihajalo je do zelo velikih odkritij, ki so spremenila marsikaj. Vendar človek čipe uporablja za medicino, znanost, zabavo in VOJNO. Razvijanje biotehnologije je privedlo do tega, da se sicer lažje odkrije izvor bolezni, bolje razume srž delovanja narave itd...je pa napravilo veliko stranskih učinkov: biotehnologija proizvaja krompir in repo ki je sicer na pogled popolna (barva, oblika, vonj...), vendar povzroča genske disruptorje, motnje razvoja in motilce hormonov pri končnemu uporabniku. Razvili smo jedrsko gorivo, ampak njegovi odpadki povzročajo zelo dolgoročne težave, prav tako plastika itd itd itd. Jasno je, da je tehnologija nevtralna danost, odvisno pa je od uporabnika le-te, za kaj jo bo izkoristil. Sisteme odločanja in ekonomske ureditve so iznajdli ljudje in razvija ju trg, ki pa ima le en cilj: exponentna rast, ne ozirajoč se na posledice v svojem okolju. Človek s trenutnim zavedanjem NE BO NIKOLI sposoben ustvarit nekega utopičnega novega sveta, pokvarjen bo, kot vsi do sedaj, bo sredstvo za peščico ljudi na vrhu piramide odločanja, ki bodo spet barko obrnili v svojo smer.
If you want me to get psychological: v vsakem izmed nas je stremenje k lastnemu udobju in varnosti. To so lahko zametki praveških nagonov po preživetju ali pa konstrukt osebnosti današnje družbe (karkoli že, vsako je prililo svoje olje na ogenj distorzirane percepcije). zatorej je naivno, nečloveško in nadvse ujeto v kibernetični ovoj ignorance in egoizma človeške rase, da se razmišlja na tak način...češ potem bo vse bolje. Seveda je lahko vse bolje, lahko je drugače, vendar kaj ko bomo lahko čez 100, 1000 let ugotovili da smo še vedno sužnji? Kaj bo potem? Kaj bomo takrat ustvarili za eno tančico, ki nam bo prekrivala oči? Jemljem človeško raso v svojem makro vzorcu obnašanja kot osebno rast in stremenje k svobodi, zato lahko vidim, da je vsa ta ideja nič drugega kakor kult materializma in popotnica človeku v novo obdobje izgubljenosti.

Pa še to :P
Thomas:
Lakote ni pregnal noben "družbeni napredek". Tudi otroških smrtnih bolezni ne. Tudi ne umrljivosti žensk na porodih ne. Tudi noben "družbeni napredek" ni podaljšal življenja. Še ženskega pranja perila na reki tudi pozimi, ni odpravila nobena politika.
Nihče ne pravi, da bo zgolj družbeni napredek prinesel drugačno življenje. Je pa to nedvomno osnova, saj v končni fazi jo sestavljamo ljudje z vsemi svojimi napakami in vrlinami. Na tem tudi gradimo in prakticiramo našo tehnologijo, kaj ni tako?

Ok razumem.
Poglej, zlahka bi tudi jaz rekel, ne prenesem ljudi, ki rinejo z glavo skozi zid, ki kljub opozorilom drugih često prihajajo iz bolnice s povito glavo. Razumem tvoje stališče, Protokol sem prebral po dolgem in počez, ker pa delujem na drugem področju sem podal svoje mnenje.

Kaj ko bo nekdo (njegov stvaritelj, vrhovni svet alkimistov, blablabla) imel vstop v zadnja vrata AI in alteriral uploade? Če gre za upload na nezavednem nivoju, potem je logično, da si podvržen lahko vsem možnim vrstam manipulacije. O tem govorim. O fake svobodi, o fake optimizaciji. Ti boš kvečjemu optimiziran za cilj nekoga, ki si mu le sredstvo. ok? Lahko da bo posameznik vesoljni fizik in sposoben šejpšiftinga, vendar bo nadziran s strani "nevidne sile", ki je dahnila življenje AI. Sprašujem se (pa že miljonkrat sem refraziral tole vprašanje in mi gre že pošteno na živce), kdo bi danes od ljudi na vplivnih položajih, dovolil AI, da prevzame popolni nadzor? Kakšno varnost daje AI-jeva superinteligenca? Imamo stotine starih in novih zgodb, ko potomec deklasificira stvaritelja. Ko bo AI s svojimi izračuni prišel do sklepa kako vodit svet in ljudi, bo deloval nam v prid? Dajemo AI možnost samoodločanja, vednar še sami nismo vedno prepričani o lastnih odločitvah. In zdaj mi pravite, da nihče ne bo vgradil noter kakega varnostnega mehanizma če gre vse v maloro? Vgradil ga BO, ampak zaradi neadekvatne človekove zavesti, naravnega nezaupanja, ksenofobije, you name it. In če ga bo vgradil, če bo vsaj NEKOMU dana možnost resetirati novo stvarstvo, verjemite, nadziral ga bo. Kaj je z nadzorom, pa smo že dali skozi. Verjamem da ne razumete, vendar se morda srečamo čez 300 let kot avatarji, pa bomo takrat raje skočili na pivo. Mislim, da nam bo vsem malo bolj jasno o čem je govora.

Druugo dejstvo: Da ti je dotična tema, ko se oglasim breme, je lahko dokaz nedovršenega modela in tvojega globokega zavedanja v tej smeri (vendar si ga bodisi ne želiš priznati, bodisi ga ne dojameš. Glede na nivo tvoje inteligence, upam na prvo). Jaz nisem prišel apriori spodkopavat vaše pravljice, kot sem že povedal, provociram da zbudim še kak drug aspekt, saj je vaša ideja prišla že do neke delno-do-pretežno oblačne predstave kako bi izgledala v praksi. In verjeli ali ne, vesel sem je. Moja skepsa je le odraz nezmožnosti človeka, da bi nekaj ustvaril in pri tem odmislil težnjo, da tako kot nafto, rezervo obdrži zase, si jo prilasti in je zavoljo ohranitve položaja pripravljen celo ubijati tisoče nedolžnih ljudi. In ta skepsa je realna, bazira na svetu, ki smo mu priča vsak dan. Bazira na odločitvah ljudi na položaju da je slehernik pogrešljiv zavoljo višjega cilja. So let's create our God and flock to its creation.

Pa če smo že pri tem: Meni gre pa na živce, če nekdo zavrača stališče drugega in tega ne argumentira ali pa ustreli popolnoma mimo (očitana politična drža, pomanjkanje logike, zdaj diskreditacija po Platonu...) samo zato, ker je pač to njegov peskovnik in mivke ni dovolj za vse. Dejstvo da sovražiš umetnike, pa bi si lahko razlagal, da ti manjka tistega čuta za estetiko in popolnost forme, ki jo ustvarjate. Radi bi izboljšali svet, vendar vam tega ne verjamem. Sodeč po do sedaj napisanem, bi radi le izboljšali računalnike, zato sem se sploh oglasil, ker kot reševalci globalnega problema delujete strogo lokalno.

SmOkey,

ti imaš lahko svoje strahove. Je popolnoma naravno in logično, da jih imaš. Če jest ne bi nič ali pa premalo vedela o trdnosti vrvi, ki je sestavni del visečega mostu preko deroče reke, bi tudi izražala dvome, in ne bi me tako lahko prepričal, naj grem preko takega mostu.

o+ nevone

Pa to je že bolno. Kdaj pride ven tole?

Ne moreš tako primerjat. Boljše vprašanje je koliko petaflops še manjka, da se bo razvila superinteligenca. Oziroma, kdaj bo sploh kdo napisal delček kode, ki bo izkoristil vso to moč v ta namen.

Imam en tak (varljiv?) občutek, da če bi imel takle računalnik in eno dobro (zaenkrat še SF) NMRI mašino - potem bi znal narediti lastni upload. ;)

Jaz mislim da se da. Spodnja Moravčeva meja, izračunana iz tega, koliko inštrukcij na sekundo požre algoritem ki dela nekaj podobnega kot človeška mrežnica, ter razmerje mase nevronov v korteksu in mrežnici, daje odgovor o 10^14 do 10^17 operacij na sekundo.

Torej vsaj 10 krat toliko, kot bi pokuril nenavit upload, že imamo. Morda celo 10000 toliko.

Morebiti je ocena groba - in je groba, gotovo - vendar nam le pove, da smo že precej daleč, kar se tiče čiste računske moči.

V naslednjih 10 letih se bomo zato zagotovo "zmenili", kako sprožiti veliki "S dogodek". Ne manjka dosti, da spustimo evolucijske algoritme s ketne. Če že upload (še) ni praktičen.

Preteklo noč smo delali na 20 računalnikih. Se reče, na 20 PCih smo sprožili neko evolucijo, ki je do jutra dala že kar zanimive in uporabne rezultate. S temle računalnikom bi prišli do njih že v eni sekundi.



Princip je pa isti. Kriterije daš, digitalna evolucija laufa, potem pa čez nekaj časa pobereš pridelke, kot vsak kmet dela. Ne glede na to, kaj je objekt te (digitalne) evolucije.

Problem digitalne evolucije.

No, jaz sem še zmeraj skeptik. Preprosto o človeku vemo premalo, da bi lahko delali takšne zaključke.
Nič ne vemo zakaj je nekdo nadarjen za glasbo, drug za slikarstvo; zakaj je nekdo izjemen filozof spet drugi genijalen fizik.

Po moje nek upload človeka sploh ne more dat rezultatov. Preprosto menim, da so nekatere stvari neponovljive, druge spet ne moremo absolutno natačno multiplicirati itd.

Vse kar dopuščam je le vrjetnost, da bomo ustvarili neke vrste umetno intelegenco, pa še tu je problem trenutno videti nepremostljiv.
Najprej se moramo namreč dogvoriti o natačni in nedvoumni definicije intelegece.
Mehanska sposobnost hitrega premetavnja podatkov je še daleč od intelegence. Pravzaprav, če smo pošteni, to sploh ni intelegenca.

Mišljenje, da gre pri razmišljanju za "nekaj več kot le evolucijo", podpirajo v glavnem vsi. Od preprostih akademikov, do Yudkovskega.

Totalni redukcionisti pa vemo, da je vsak problem možno razbiti na manjše in da so (vsaj) tako vsi delci rešljivi. Si ni še noben izmislil kontraprimera.

Bi rekel kdo - no Thomas, če si tako pameten, pa povej, kako boš z evolucijo iskal deljitelje števil!

Tudi če bi vedel, ne bi povedal. Moji nasprotniki tudi nimajo nobenega dokaza, da se ne da.

Zato pustimo takole eksotiko zaenkrat ob strani in se vprašajmo, kako bi z evolucijskim algoritmom naredili boljši NMRI skener!

Vzamemo nek njegov del, recimo njegov power supply! Vzemimo raje samo njegov načrt! Njegovo delovanje simuliramo v računalniku in delamo random mutacije na njem. Po nekaj milijardah generacij bomo prišli z boljšim načrtom za power supply ven.

Velja za vsak sestavni del, za vsako kombinacijo sestavnih delov. Za postopke in algoritme velja ravno tako. Apliciraš evolucijo nanje. Jasno, usmerjeno z arbitrarnimi kriteriji.

To je moj pragmatični pogled na to, kar ljudje imenujejo "inteligenca".

Ker takih, ki modrujejo in njihove inteligence imamo v izoblju že zdaj. Cena filozofiranja je spričo ogromne ponudbe in naravnih virov pri meni nizka.

Torej. Če imaš nek konkreten problem, ga lahko rešiš z evolucijskim algoritmom. Če pa iščeš "nekaj več", pa ne govorimo o isti stvari.

Odgovor na zadnje tvoje vprašanje je DA.
Ideja ni nova, je pa zanimiva :).
Na ostali dve vprašanji ne poznam odgovora.

Fave: neskončno opic -> neskončno časa -> MS Windows ;)

Rogue AI, oziroma malopridna AI je tisto, kar če pogledamo objektivno, je še najbolj verjetno, da bo kmalu zevoluiralo.

RAI definirajo kot tisto AI, ki nima posebnega ozira za dobro Človeštva, pač pa jo zanima le naprimer vseh milijardo milijard milijard decimalk števila Pi.

Tako nam je nekako nastala, po nesreči, namenoma ali kakorkoli. Napisali smo program, ki je tak kot že tisoči pred njim, živi samo za nove in nove decimalke števila Pi.

Z eno malenkostno razliko. Da ima možnost izboljševanja svoje kode. Cilj ji je zadan, vsaka avtomatična izboljšava pa avtomatično pretehtana, preden avtomatično uvedena, z vidika bodočih izračunanih decimalk.

Po nekem številu rapidnih izboljšav, je nastajajoča RAI polna trikov, ki jih že danes poznajo računalniški virusi, črvi in podobna golazen. Dobro se skrivajo in klubujejo prizadevanjem milijonov ljudi, da bi jih zatrli. Tistih tisoč človeških teroristov zadostuje, da nadloga veselo živi naprej. Kmalu pa niti ne bodo več potrebni.

Zato moramo skrajno resno vzeti možnost, da taka RAI nekega lepega dne prevzame nadzor nad Inernetom in nanj povezanimi računalniki. Da bi že naslednji dan njen vpliv segel še globje v tkivo tega sveta.

Nekateri vidijo tu možnost, kako jo zastrašiti argumentom, da morda živi v simulaciji. Da povemo na Internetu, ki ga bo morda kmalu prevzela, da jo bomo simulirali leta 2050. In ji dali kar nekaj ciklov za izračun njenega ljubljenega Pi, če bo pametna. Sicer ji bomo odklopili simulacijo.

Wild.

In predvsem preveč nezanesljivo. Verjetno bi RAI spregledala blef in vseeno izračunala tiste decimalke, žrtvujoč Zemljo in Sonce in zraven ljudi, za ta namen.

Edina resna obramba zgleda ta, da v resnici prej sprožimo neke sorte FAI, preden kakšna RAI vstane iz bitnega kaosa.

Po nesreči zadan motiv rekurzivno se izboljšujočemu osirju algoritmov, lahko zlahka odnese naše Osončje kot veter odnese regratovo lučko.

Zato je nadvse važno, kakšen bo motiv prvega resnega selfenhancing sistema. Oziroma, kdo bo imel editor za datoteko teh motivov.

V vsakem primeru bo nevihta, potres dvanajste stopnje, armagedon ... kakor vam ljubše. Kako prijazno bo nebo po tistem, pa je vse kar nas lahko zanima. Ostalo je smalltalk.