» »

Protokol

Protokol

Temo vidijo: vsi
««
157 / 182
»»

nevone ::

WarpedGone je izjavil:

Beri moj podpis.


A ti pa veš? Potem bomo komot preprečili.

o+ nevone
Either we will eat the Space or Space will eat us.

BigWhale ::

Z biolosko-kemicnega vidika je tak scenarij zelo malo verjeten.

nevone ::

Z biolosko-kemicnega vidika je tak scenarij zelo malo verjeten.


Ne vem, če imaš dovolj informacij. Recimo za atomsko bombo so bili tudi nekateri prepričani, da ni možna.

Jaz ne želim nevarnosti pometati pod preprogo, samo dramatičnost pri tem, mi gre na jetra, ker ne doprinese k ničemur, razen temu, da so ljudje z manj znanja še bolj prestrašeni in manipulatibilni.

o+ nevone
Either we will eat the Space or Space will eat us.

marS ::

evo tkole bo
...no more heroes...
https://ilbis.com/

BigWhale ::

nevone je izjavil:

Ne vem, če imaš dovolj informacij. Recimo za atomsko bombo so bili tudi nekateri prepričani, da ni možna.

Jaz ne želim nevarnosti pometati pod preprogo, samo dramatičnost pri tem, mi gre na jetra, ker ne doprinese k ničemur, razen temu, da so ljudje z manj znanja še bolj prestrašeni in manipulatibilni.


Pomojem imamo dovolj informacij o tem kako delujejo bakterije/virusi, o tem kako hitro se sirijo okuzbe in kako hitro lahko bakterije prebavljajo druge celice, vemo tudi kaksna energija je potrebna za to, da neko anorgansko molekulo oziroma nek element bakterija predela.

Tudi kuga, ki se je dogajala v v 14 stoletju ni pobila polovice prebivalcev kar cez noc pa se takrat skoraj nihce ni ukvarjal z medicino, kaj sele imunologijo ali epidemiologijo.

Se pa strinjam, da ni stvari za pometati pod preprogo.

WarpedGone ::

A ti pa veš? Potem bomo komot preprečili.


1.1: vem, da nekaj vem
1.2: vem, česa ne vem
2.1: ne vem, da nekaj vem
2.2: ne vem, da nečesa ne vem

Taktiko je potrebno planirat na bazi vseh štirih možnosti, ne samo prvih dveh ali celo samo prve. In tako, da ne zahteva da čisto vsi plani uspejo ampak da zadostuje če uspe le kakšen od njih. Potem je uspeh verjeten, sicer ne.

Izhaja se iz tega kaj je minimalno zadosti za nek rezultat. A mora naš krvnik sploh bit inteligenten? Ne, in najverjetneje sploh ne bo. Sigurno pa ne bo inteligenten po random kriteriju random mimoidočega. Kar nam ne bo pomagalo pri preprečitvi rezanja vratu.

S čim smo premagali druge vrste in nadomestili njihovo premoč v moči in hitorsi?
S pametjo, ki nam je omogočila da z orodji nadomestimo pomanjkanje mišic in hitrosti.

Sedaj delamo orodje, ki nam bo izboljšal pamet. S to težavo, da tega orodja ne zmoremo ornk prijet (obupno počasen in štorast vmesnik) zato je bolj podoben ostremu bumerangu, ki ga zagonmo tja ven in potem leti kot ga pač nese. Še med sabo se ne znamo ornk zmenit za kaj se sploh gre, pa zaupamo da nam bo kolektivno se uspelo dobro (v vseh posameznih priložnostih) se dobro zmenit z orodjem, ki nas bo prekašal po zmožnosti procesiranja date?

Zgodil se je že en ups, sledili mu bodo še mnogi, čezdalje pogosteje in čezdalje manj smešni:
When Facebook designed chatbots to negotiate with one another, the bots made up their own way of communicating.
Zbogom in hvala za vse ribe

jype ::

WarpedGone je izjavil:

Zgodil se je že en ups, sledili mu bodo še mnogi, čezdalje pogosteje in čezdalje manj smešni:
Zakaj je pa to ups?

WarpedGone ::

Še med sabo se ne znamo ornk zmenit za kaj se sploh gre, pa zaupamo da nam bo kolektivno se uspelo dobro (v vseh posameznih priložnostih) se dobro zmenit z orodjem, ki nas bo prekašal po zmožnosti procesiranja date?
Zbogom in hvala za vse ribe

jype ::

Še vedno ne razumem čisto dobro, katerega scenarija, natanko, te je strah.

Ker to, da se nek razvojni oddelek ukvarja s chatboti, v resnici ni grožnja nikomur, ne glede na to, kaj chatboti počnejo.

Še bolj je absurdna ideja, da ker nismo sposobni teči tako hitro kot vozi brzovlak, se moramo bati, da nas bodo vlaki izpodrinili.

Okapi ::

BigWhale je izjavil:

Tudi kuga, ki se je dogajala v v 14 stoletju ni pobila polovice prebivalcev kar cez noc pa se takrat skoraj nihce ni ukvarjal z medicino, kaj sele imunologijo ali epidemiologijo.
Zato ker je bakterija nastala naključno, z evolucijo, in zato ni bila 100% učinkovita. In ker v resnici njen interes ni pobijanje gostiteljev. Z evolucijo se paraziti spreminjajo v simbionte.

Čisto lahko pa si je predstavljati načrtno narejen virus, ki bi iztrebil človeštvo. Naredili bi ga recimo tako, da bi se širil po zraku, kot gripa, pravi učinek (ne nujno smrt, lahko tudi "samo" neplodnost) pa bi se pokazala šele čez nekaj let. Takrat bi bili pa okuženi že vsi ljudje na svetu (morda z izjemo kakšnih Uncontacted peoples @ Wikipedia ) in bi bilo prepozno za ukrepanje.

Zgodovina sprememb…

  • spremenil: Okapi ()

vostok_1 ::

marS je izjavil:

evo tkole bo


Niti ne. Drugi scenariji so bisteno bolj vrjetni.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

WarpedGone ::

Še vedno ne razumem čisto dobro, katerega scenarija, natanko, te je strah.

Točno tega scenarija, v katerem nikomur ni dobro jasno, kaj se dogaja, če sploh kaj, ali kako, ali zakaj.

Zgornji banalni primer chatbotov je le drobtinica v smeri ko avtomati začnejo izvajat precej nepričakovane stvari oz. stvari za katere niso bili direkt zdizajnirani, njiohova samoorganizacija in zgruntanje 'lastnega jezika' je bil 'slučaj'.

Lahko se preklamo ali je šlo za lasten jezik ali ne. Ampak to bo le ilustracija problema - ni nam dobro jasno kaj se je res zgodilo in kje je ta dogodek imel meje, če zadeve nebi ustavili (dokler je to bilo še mogoče?).

Nekaj (nepovezanega?) branja: Software 2.0
Zbogom in hvala za vse ribe

vostok_1 ::

Tko kot tisti chatboti ja. Začela je hvalit hitlerja pa zaničevat temnopolte. Granted, ni bila čisto njena krivda. Zmanipulirali so jo.
Ampak still. Dokler je to en benigen app, se ni za sekirat. Drugo bo, če bo imel resno moč.

Za tiste, ki ne vedo o čem govorim

https://www.theverge.com/2016/3/24/1129...
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

vostok_1 ::

Iz W1 linka

The 2.0 stack also has some of its own disadvantages. At the end of the optimization we're left with large networks that work well, but it's very hard to tell how. Across many applications areas, we'll be left with a choice of using a 90% accurate model we understand, or 99% accurate model we don't.

The 2.0 stack can fail in unintuitive and embarrassing ways ,or worse, they can "silently fail", e.g., by silently adopting biases in their training data, which are very difficult to properly analyze and examine when their sizes are easily in the millions in most cases.

Finally, we're still discovering some of the peculiar properties of this stack. For instance, the existence of adversarial examples and attacks highlights the unintuitive nature of this stack.


Computing of the future will rely on trust.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

nevone ::

Umetno inteligenco se da imeti dobro pod kontrolo.

Vso to nabijanje ima zgolj dramatični učinek.

Brez pomoči človeka bo stvar težko zbezljala, človek pa tega itak ne bo dopustil, če bodo pametni imeli pri tem kaj besede in ne zgolj manipulatorji.

Dokler se bo ta jokarija o strašni nevarnosti nadaljevala, je to samo znak, da imajo manipulatorji glavno besedo.

Največja nevarnost, ki nam preti, je naša nezmožnost dojemanja, da smo v resnici v tako dobri poziciji, kot ni bilo človeštvo še nikoli. Lahko ta trend nadaljujejmo, lahko se pa prepričujemo, kako je človek največja rak rana obstoja in se medsebojno mučimo naprej.

o+ nevone
Either we will eat the Space or Space will eat us.

poweroff ::

Malce analogije s Skynetom...

V resnici danes že imamo sistem, ki ga je v veliki meri prevzela "umetna inteligenca", ta sistem močno vpliva na naša življenja in v resnici ga nismo sposobni izključiti.

To je sistem visokofrekvenčnega borznega trgovanja. Le-to je skoraj izključno algoritemsko vodeno, vpliva na našo ekonomijo in posledično službe, življenje,... sistema pa v resnici "ne moremo" izključiti. Ker če se umakne en igralec, bodo njegovo vlogo oz. prednost prevzeli drugi.

Par let nazaj se je zgodil incident s podjetjem Knight Capital, kjer so zaradi napake v algoritmu v pol ure izgubili pol milijarde dolarjev. Posledično so zaradi tega trpela podjetja, nekaj ljudi je tudi ostalo brez službe. No, v ozadju je bila pa napaka, ne "zlobna" samozavedajoča se AI.

Skynet torej na nek način že obstaja. Ampak bolj v smislu odvisnosti od elektrike. Če zmanjka elektrike, smo v težavah. Brez elektrike se sicer da živeti, ampak v resnici je nismo sposobni izključiti, ker je povratek nazaj zelo slaba alternativa. Je torej elektrika nekaj podobnega kot Skynet? Zlobna umetna entiteta, ki nas je spravila v odvisnost in nas bo nekoč skušala uničiti?

Ne. Podobno je tudi z današnjo AI.

Kot pravi nevone: brez pomoči človeka bo stvar težko zbezljala. Jaz dodajam, da bi bilo za to treba veliko, veliko "pomoči". BOlj so problem napake in izpadi delovanja. Ampak tukaj smo pa na analogiji z elektriko, ne z zlobnimi Terminatorji.
sudo poweroff

WarpedGone ::

brez pomoči človeka bo stvar težko zbezljala

težko != nemogoče

Da je stvar mela samo 0,01% uspeha nam bo hudimano malo koristilo ko se vseeno zgodi.
Zakaj se neka maloverjetna reč še ni zgodila? Nismo ji dali še dovolj časa.
Čisto vse kar ni nemogoče se bo v dovolj časa tudi zgodilo. Definicija verjetnosti/možnosti.

Prosim, da nehamo operirat na način 'lako ćemo' in gremo iskat garancije i.e. gotovost.
Kako zagarantirat zaščito, da "težko zbeljala" pretvorimo v "nemogoče da bi zbezljala".
Can do? To je protokol.

Al ste že vnaprej se predali da gotovosti ni, in se boste ustavili pri tolažbi, da je zadeva 'težka'?
Atomsko bombo je hudimano težko sestavit. Vseeno jih obstaja nekaj deset tisoč kosov.
Zbezljan AI ni primerljiv z atomsko bombo.

Plus .. "brez pomoči človeka"?
Resno, to je naša garancija preživetja?
Zbogom in hvala za vse ribe

Zgodovina sprememb…

jype ::

WarpedGone je izjavil:

Resno, to je naša garancija preživetja?
Seveda. Kaj si pa ti mislil, da je?

Nobene garancije nimaš.

poweroff ::

Saj tudi bomba brez pomoči človeka težko sama eksplodira.

S pomočjo pa naredi veliko škode.
sudo poweroff

WarpedGone ::

Kako bomo preprečili izdelavo bombe, ki v eni sami ekploziji zradira vso površino zemlje?

Ne moremo?
There you have it ... The Great Filter.
Zbogom in hvala za vse ribe

Zgodovina sprememb…

poweroff ::

Ne, ne moremo. Sovjetskak zveza je naredila Tsar bombo in jo uspešno detonirala. Na srečo so potem prišli h pameti in nadaljen razvoj ustavili. Če ne bi, nihče ne bi mogel preprečiti norije.

Po drugi strani so Američani razvili jedrsko bombo na raketi, ki jo je poganjal jedrski reaktor. Ki je seveda onesnaževal vso okolico nad katero je letel. Američane je pamet srečala malo prej in zadeve sploh niso niti preizkusili.

Ampak če tega človeškega faktorja ne bi bilo - razvoja take bombe ne bi mogel preprečiti nihče. Razen ljudi, ki so to razvijali.
sudo poweroff

jype ::

WarpedGone je izjavil:

There you have it ... The Great Filter.
Drži. Ker v resnici _nihče_ nima _nobenega_ vpliva na te reči, je "opozarjanje" skrajno nesmiselno: Nikoli nihče še ni opustil projekta za uničenje planeta zato, ker so ga opozarjali, da to ni pametno.

WarpedGone ::

Throwing in the towel are you?

Sovjetskak zveza je naredila Tsar bombo in jo uspešno detonirala.

S to razliko da je Tsar bombo bla sposobna zgradit le res ornk tehnološko sposobna organizacija (i.e. država) in je zadevi še vedno manjkalo nekaj velikostnih redov do WorldEnderja. Pri "zbezljanem AI" nucaš le mulca, ki bo dobil res slabo idejo in hkrati imel za dlako preveč sreče in bo njegov bot 'ušel' preko nebroja stranskih vrat v *cel* svet. Poanta te teme je iskanje idej na kakšen način ta garantiran scenarij preprečit. Kakšno obnašanje nudi nekaj dodatne zaščite oz. preprek.
Če smo itak doomed na dolgi rok, pol lahk ta vmesni čas mogoče porabimo za to, da se The End Of Days premakne za kak dan naprej?

Pravo šanso nam itak nudi samo tisti splošnozasmehovan scenarij: namesto narest nekaj boljšega od nas, dejmo najprej izboljšat nas same.
Zbogom in hvala za vse ribe

jype ::

WarpedGone je izjavil:

Poanta te teme je iskanje idej na kakšen način ta garantiran scenarij preprečit.
Trivialno: Odpoveš se "sinergijskim učinkom" in pustiš omrežja ločena.

Ampak tega ne moreš, pa ne zaradi nevarnosti mulca z AI, temveč zaradi nevarnosti korporacij s profitom, ki se mu ne bodo odpovedale, ne glede na to kako nevarno je njihovo početje, regulirat tega področja pa praktično ne moreš, ne da bi obrnil ekonomske trende.


WarpedGone je izjavil:

Pravo šanso nam itak nudi samo tisti splošnozasmehovan scenarij: namesto narest nekaj boljšega od nas, dejmo najprej izboljšat nas same.
Saj poizkušamo, pa nekateri kričijo "Ne! To je socializem! To je plansko gospodarstvo!"

T-h-o-r ::

BigWhale je izjavil:

Double_J je izjavil:

Saj ene stvari se res niso uresnicile. Na zacetku teme naprimer pise, da bomo simulirali mozgane v roku 15let.


Dolocene stvari so se kar naprej v daljavi. Se vedno nismo poskenirali mozganov, se vedno nimamo avtomobilov, ki vozijo pretezno sami. CPU power se vedno ni tam kjer se je predvidevalo, da bo. Tudi household roboti se niso na nekem zavidljivem nivoju in ne skrbijo za cistoco v hisi. Ljudje se nimajo nekih globokih osebnih odnosov z roboti.

Imamo tudi manj kot deset let, da dobimo letece avtomobile. :)

nekako se bojim, da smo prileteli ob zid, do katerega so prišli grki in rimljani, ko se je nato svet za skoraj 1000 let skoraj ustavil, v mnogočem pa celo nazadoval

upajmo, da nismo na tej točki naše družbe :D

edit: ob prebiranju zadnjih strani te teme, vidim, da smo nekje na identični točki debate, kot ene 10 let nazaj, full circle al neki :) pa vsa ta stalinistična logika nevone in thomasa ipd, je bilo že obdelano
Why have a civilization anymore
if we no longer are interested in being civilized?

Zgodovina sprememb…

  • spremenilo: T-h-o-r ()

nevone ::

Saj poizkušamo, pa nekateri kričijo "Ne! To je socializem! To je plansko gospodarstvo!"

Vsi sistemi imajo v sebi nek konstruktiven prizvok, ki ga ljudje nismo zmožni dojeti, ampak se obvezno zatikamo na slabih stvareh. Ampak v bistvu, če dobro premislim, mnogim to celo uspe, ampak žal smo zevoluirali tako, da imajo mnočni-nasilni prednost pred močnimi-nenasilnimi. To za nadaljno evolucijo ne pomeni nič dobrega.

Pri "zbezljanem AI" nucaš le mulca, ki bo dobil res slabo idejo in hkrati imel za dlako preveč sreče in bo njegov bot 'ušel' preko nebroja stranskih vrat v *cel* svet.
Jaz ne izključujem možnosti, da se nam zgodi nesreča. A do danes smo si nabrali že precej izkušenj in življenje je v resnici bistveno manj nevarno, kot je bilo v preteklosti. Če samo pogledamo v kakšnih pogojih so delali naši predniki, da imamo mi danes lažje življenje. Če bi bili tako prekleto previdni, ne bi prigurali do sem.

Poanta te teme je iskanje idej na kakšen način ta garantiran scenarij preprečit. Kakšno obnašanje nudi nekaj dodatne zaščite oz. preprek.

Saj to se počne. Vsak resen razvijalec ima to pred seboj, neresni bodo težko prišli do stopnje, da bodo izdelali tako nevarno stvar. Neresni bi kvečjemu lahko metali pesek v kolesje in zlorabljali ustvarjeno, da bi pa kaj prida sproducirali, pa ne bodo.

Če smo itak doomed na dolgi rok, pol lahk ta vmesni čas mogoče porabimo za to, da se The End Of Days premakne za kak dan naprej?

Ja seveda. Ampak če imaš nekje v zavesti, da v bistvu sploh nimaš veliko za izgubiti, lahko pa veliko pridobiš, potem lažje delaš korake naprej. Ni nujno, da moraš biti prestrašen, da bi razmišljal trezno.

o+ nevone
Either we will eat the Space or Space will eat us.

Zgodovina sprememb…

  • spremenila: nevone ()

T-h-o-r ::

poweroff je izjavil:

Malce analogije s Skynetom...

Kot pravi nevone: brez pomoči človeka bo stvar težko zbezljala. Jaz dodajam, da bi bilo za to treba veliko, veliko "pomoči". BOlj so problem napake in izpadi delovanja. Ampak tukaj smo pa na analogiji z elektriko, ne z zlobnimi Terminatorji.

ja, ampak zagotovo nisi kar tako pozabil omeniti, da živimo v svetu, kjer ne vem 50 % ljudi za geslo izbere geslo ali geslo123
Why have a civilization anymore
if we no longer are interested in being civilized?

thramos ::

WarpedGone je izjavil:

Da je stvar mela samo 0,01% uspeha nam bo hudimano malo koristilo ko se vseeno zgodi.
Zakaj se neka maloverjetna reč še ni zgodila? Nismo ji dali še dovolj časa.
Čisto vse kar ni nemogoče se bo v dovolj časa tudi zgodilo. Definicija verjetnosti/možnosti.


Še vedno gre za številke.

Kljub temu, da obstaja možnost, da se neka malo verjetna reč, recimo padec dovolj velikega meteorita, zgodi, ne začnemo panično usmerjat vseh naših zmožnost v to težavo. In ne iščemo garancije, da bomo to sposobni preprečit oziroma sanirat.

Takšnih negotovosti je cel kup, pa živimo z njimi, saj drugače ne gre.

nevone ::

pa vsa ta stalinistična logika nevone in thomasa ipd, je bilo že obdelano


Ah, nekateri se res ne znate premakniti korak naprej, ja.

o+ nevone
Either we will eat the Space or Space will eat us.

T-h-o-r ::

hja, ta debata se ni premaknila prav nič dlje kot možnost protokola :D prav tako pa, kakor je videti, se ni niti tvoje razmišljanje

a gejem bo dovoljeno vstopati v protokol? al jih bo protokol najprej "popravil"? :D
Why have a civilization anymore
if we no longer are interested in being civilized?

Zgodovina sprememb…

  • spremenilo: T-h-o-r ()

stjan ::

Tako kot vse do sedaj bo prvi AI narejen za potrebe vojske.
Kateri državi bo (mogoče nekako že je) prvi to uspelo?
Ne dolgo nazaj so uporabili software, ki je uničeval cenrtrifuge za čiščenje urana, drugje so izklapljali elektriko, kaj nas še čaka?
Upamo lahko da bo AI imel dostop do vseh baz in se bo sam učil in ne bo vedel samo to kar mu bo kak zahojen vojak-politik povedal.
Obstaja stara zgodba in po njej posnet film (ali 2)ačunalnikih, ki so jih izdelali USA in Rusi, pa sta postala prepametna in nevarna ljudem.

Verjetno bi morala vsaka država imeti svoj AI, da bo še naprej obstajalo neko ravnovesje in ne bo kdo izkoriščal prednosti za pobijanje nasprotnikov.


Se mravlje zavedajo našega obstoja in razumejo da smo inteligentnejši?
Ali bi mi sploh razumeli obstoj AI?
Kako razumeti nekaj drugačnega, pametnejšega?
Bi dojemali AI kot boga?

nevone ::

Upamo lahko da bo AI imel dostop do vseh baz in se bo sam učil in ne bo vedel samo to kar mu bo kak zahojen vojak-politik povedal.

Seveda, AI bo nam poročal, ne mi AI-ju. Mi bomo AI-ja samo spraševali in se potem odločali, če je to za nas dobro ali ne. Podobno kot danes sprašujemo eden drugega, le da imamo navzkrižne interese, oziroma mislimo, da je osnovni interes dominacija enih nad drugimi.

Zato pa prej rabimo protokol na podlagi katerega bo jasno, kaj je za nas dobro.

Precej možnosti imamo pisati lepše scenarije, kot nam jih piše trenutno življenje.

hja, ta debata se ni premaknila prav nič dlje kot možnost protokola :D prav tako pa, kakor je videti, se ni niti tvoje razmišljanje

Dokler ne prideš na moje razmišljanje, se tudi ne bo. Čakamo (vas) une zadaj. :)

a gejem bo dovoljeno vstopati v protokol? al jih bo protokol najprej "popravil"? :D

Popraviti je treba samo destruktivne elemente. Gej je lahko konstruktiven ali destruktiven, ali bolje, gej ima lahko konstruktivne elemente in destruktivne elemente. Ljudje smo skupek teh elementov, ki se z časom spreminjajo. Destruktiven na enem področju, je lahko konstruktiven na nekem drugem. Treba je delati na teh posameznih elementih in ne na osebah kot takih.

o+ nevone
Either we will eat the Space or Space will eat us.

vostok_1 ::

nevone je izjavil:

Jaz ne izključujem možnosti, da se nam zgodi nesreča. A do danes smo si nabrali že precej izkušenj in življenje je v resnici bistveno manj nevarno, kot je bilo v preteklosti. Če samo pogledamo v kakšnih pogojih so delali naši predniki, da imamo mi danes lažje življenje. Če bi bili tako prekleto previdni, ne bi prigurali do sem.

o+ nevone


V industrijskem Londonu so kurili toliko premoga, da so se zadimili do smrti. Pol so oblasti prepovedale tako onesnaževanje.

Rešil nas ni človek, ampak okolje.
Če bi bil svet ena majhna sobica in folk bi naivno to počel, bi bili vsi mrtvi preden bi oblasti sploh lahko reagirale.

Zemlja nas je že večkrat rešila. Za časa kug recimo. Bila je dovolj velika, da so ljudje lahko pravočasno reagirali in se preselili na varno.

Pri AIju bo svet postal ta majhna sobica. One wrong move and we're dead.


Kar se sicer strinjam je, da ne vem koliko pomaga "paničarit" glede tega. If we're doomed, we're doomed either way.
Kako se lotit tega problema?
Lahko bi naredili worldwide ban na AI, ampak pomagalo ne bi nič. Ker vsi bi to na skrito počeli.
Mogoče kaka ne extinction level naravna nesreča. Da malo resetira zadevo in da imamo več časa za razmislek.
As we now stand, vse velesile so polne napuha. To definitivno ni dober temelj za AI.

Jz zgolj mislim, da človeštvo ni še na kolektivni stopnji za imet tako moč. Vrjetno bo vse bolj odvisno od sreče kot od nas samih.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

T-h-o-r ::

Popraviti je treba samo destruktivne elemente. Gej je lahko konstruktiven ali destruktiven, ali bolje, gej ima lahko konstruktivne elemente in destruktivne elemente. Ljudje smo skupek teh elementov, ki se z časom spreminjajo. Destruktiven na enem področju, je lahko konstruktiven na nekem drugem. Treba je delati na teh posameznih elementih in ne na osebah kot takih.

o+ nevone

Ma, torej odgovori še vedno na nivoju povprečnih filozofskih tekstov. Obstaja kak slovarček transhumanizma? Pač v stilu "rasno inferioren" ali "kontrarevolucionarni element" = tisti, ki nam ni všeč
Why have a civilization anymore
if we no longer are interested in being civilized?

Zgodovina sprememb…

  • spremenilo: T-h-o-r ()

nevone ::

Se mravlje zavedajo našega obstoja in razumejo da smo inteligentnejši?

Seveda ne. Ampak to ne pomeni, da se mora ta vzorec nujno pojaviti tudi na nas, oziroma ni treba, da se manifestira destruktivno.

Ali bi mi sploh razumeli obstoj AI?

Odvisno, kaj naj bi ta AI bil. Tako kot ga predstavlja holywood in smo zaradi tega vsi prestrašeni, ni to, kar naj bi načtrovali.

Kako razumeti nekaj drugačnega, pametnejšega?

Težko. A če pametnejši razume manj pametnega je morda to dovolj.

Bi dojemali AI kot boga?

Kot kakšnega boga misliš?

o+ nevone
Either we will eat the Space or Space will eat us.

vostok_1 ::

nevone je izjavil:

Upamo lahko da bo AI imel dostop do vseh baz in se bo sam učil in ne bo vedel samo to kar mu bo kak zahojen vojak-politik povedal.

Seveda, AI bo nam poročal, ne mi AI-ju. Mi bomo AI-ja samo spraševali in se potem odločali, če je to za nas dobro ali ne. Podobno kot danes sprašujemo eden drugega, le da imamo navzkrižne interese, oziroma mislimo, da je osnovni interes dominacija enih nad drugimi.

Zato pa prej rabimo protokol na podlagi katerega bo jasno, kaj je za nas dobro.

Precej možnosti imamo pisati lepše scenarije, kot nam jih piše trenutno življenje.

hja, ta debata se ni premaknila prav nič dlje kot možnost protokola :D prav tako pa, kakor je videti, se ni niti tvoje razmišljanje

Dokler ne prideš na moje razmišljanje, se tudi ne bo. Čakamo (vas) une zadaj. :)

a gejem bo dovoljeno vstopati v protokol? al jih bo protokol najprej "popravil"? :D

Popraviti je treba samo destruktivne elemente. Gej je lahko konstruktiven ali destruktiven, ali bolje, gej ima lahko konstruktivne elemente in destruktivne elemente. Ljudje smo skupek teh elementov, ki se z časom spreminjajo. Destruktiven na enem področju, je lahko konstruktiven na nekem drugem. Treba je delati na teh posameznih elementih in ne na osebah kot takih.

o+ nevone


Floskule. To kar nam bo on predlagal bo nam izredno težko razumet. Razen če bo tako generaliziral, da bo kot naša zakonodaja...zajemalo vse in nič hkrati.

Navzkrižne interese?
Hočeš povedat, da pred vstopom v Protokol bo celo človeštvo "as one"?



Glede gejev...kolikor razumem, protokol bo sprejel tudi serijske morilce, pedofile in ostale pshiopate.
Zakj bi sploh sprejel kogarkoli več kot 1, če pa jih bo itak zeditiral da so vsi identični. Makes no sense.
Zato še dodaten pritisk, da tisti ki bo imel gumb dejansko ne bo sheral, iz istega razloga kot sem napisal.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

WarpedGone ::

Jz zgolj mislim, da človeštvo ni še na kolektivni stopnji za imet tako moč.


Zgolj evolucija, tistih nekaj, ki(če!) se bodo pravilno odzvali na novega plenilca, bo preživelo v spremenjenem okolju.
Če to pomeni, da je to nekaj tistih čudakov, ki nagi spijo v gorskih votlinah pokriti z lastno brado, ... so be it. Bodo pač amiši poskrbeli za smrad razpadajočih trupel.

Ali pa full gas v razvoj direktnih Brain/Computer interfacov. Tako AI ne bo nekaj tam zunaj, ampak bo AI del mene/nas.
Potem bo problem enako velik kot že ves čas: kako obvaldat par barab.
Zbogom in hvala za vse ribe

nevone ::

Floskule. To kar nam bo on predlagal bo nam izredno težko razumet. Razen če bo tako generaliziral, da bo kot naša zakonodaja...zajemalo vse in nič hkrati.

Če ti ne boš razumel, še ne pomeni, da ne bo nihče.

Navzkrižne interese?
Hočeš povedat, da pred vstopom v Protokol bo celo človeštvo "as one"?

Ne razumem, kako to misliš "as one".

Glede gejev...kolikor razumem, protokol bo sprejel tudi serijske morilce, pedofile in ostale pshiopate.
Zakj bi sploh sprejel kogarkoli več kot 1, če pa jih bo itak zeditiral da so vsi identični. Makes no sense.

A danes pa make sense, ko vsi hočejo biti on the top of the world? It make sense. Identični bodo že morda, a njihova doživetja bodo lahko raznolika.

Zato še dodaten pritisk, da tisti ki bo imel gumb dejansko ne bo sheral, iz istega razloga kot sem napisal.

Razvoj dogodkov bo pokazal, kaj se nam ima zgoditi.

o+ nevone
Either we will eat the Space or Space will eat us.

T-h-o-r ::

A danes pa make sense, ko vsi hočejo biti on the top of the world?

Kakšna huda generalizacija ...

Če to pomeni, da je to nekaj tistih čudakov, ki nagi spijo v gorskih votlinah pokriti z lastno brado, ... so be it.

Proud winners of millions of years of evolution :D
Why have a civilization anymore
if we no longer are interested in being civilized?

nevone ::

Ali pa full gas v razvoj direktnih Brain/Computer interfacov. Tako AI ne bo nekaj tam zunaj, ampak bo AI del mene/nas.


Definitivno bomo hoteli razumeti, kar nam bo AI imel povedati. Ko bomo razumeli bomo v bistvu postali isto.

Brain/Computer vmesnike pa rabimo zato, da nam pomagajo razvozlati delovanje možganov in s tem prenos na odpornejši substrat. Ker ta biologija, ki jo imamo je v teh pogojih sicer izjemna, a mnogo prekrhka.

o+ nevone
Either we will eat the Space or Space will eat us.

Zgodovina sprememb…

  • spremenila: nevone ()

stjan ::

Bog naj bi bilo nekaj kar zmore vse, ve vse itd.
AI ki bi imel dostop do skoraj vseh informacij, ki bi lahko izvajal miselne in računske operacije nekaj na x krat hitreje od ljudi.
Kako bi ga mi dojemali.Glede na naše sposobnosti bi zmogel in znal skoraj vse.

Ni problem v AI, problem je v ljudeh ki bi ga učili - mu dovajali informacije.

Zanimiva je 12 epizoda The Orville, vendar se poraja vprašanje kako bi mi reagirali na prihod umetnega bitja. Verjetno drugače kot v tej epizodi, raztavili na dele in naredili stroje za ubijati.

Glede protokola za AI, bi človeštvo moralo priti na nivo, kjer bi imeli nek human protokol, po katerem bomo imeli vsi enake pravice in dolžnosti.(pač utopija).

vostok_1 ::

WarpedGone je izjavil:

Jz zgolj mislim, da človeštvo ni še na kolektivni stopnji za imet tako moč.


Zgolj evolucija, tistih nekaj, ki(če!) se bodo pravilno odzvali na novega plenilca, bo preživelo v spremenjenem okolju.
Če to pomeni, da je to nekaj tistih čudakov, ki nagi spijo v gorskih votlinah pokriti z lastno brado, ... so be it. Bodo pač amiši poskrbeli za smrad razpadajočih trupel.

Ali pa full gas v razvoj direktnih Brain/Computer interfacov. Tako AI ne bo nekaj tam zunaj, ampak bo AI del mene/nas.
Potem bo problem enako velik kot že ves čas: kako obvaldat par barab.


Maybe they will. Maybe bo to tisti trenutek ko se zavemo, da kurit premog sredi mesta ni pametno početje.

Glede brain/computer interfaceov...don't count on it.
To je tko kot avtonomen avto level 4. Vsi bi raje preskočili na level 5 ker je lažje bit neodvisen od človeka, ko kompenzirat za vse njegove motenosti.


nevone je izjavil:

Floskule. To kar nam bo on predlagal bo nam izredno težko razumet. Razen če bo tako generaliziral, da bo kot naša zakonodaja...zajemalo vse in nič hkrati.

Če ti ne boš razumel, še ne pomeni, da ne bo nihče.

Navzkrižne interese?
Hočeš povedat, da pred vstopom v Protokol bo celo človeštvo "as one"?

Ne razumem, kako to misliš "as one".

Glede gejev...kolikor razumem, protokol bo sprejel tudi serijske morilce, pedofile in ostale pshiopate.
Zakj bi sploh sprejel kogarkoli več kot 1, če pa jih bo itak zeditiral da so vsi identični. Makes no sense.

A danes pa make sense, ko vsi hočejo biti on the top of the world? It make sense. Identični bodo že morda, a njihova doživetja bodo lahko raznolika.

Zato še dodaten pritisk, da tisti ki bo imel gumb dejansko ne bo sheral, iz istega razloga kot sem napisal.

Razvoj dogodkov bo pokazal, kaj se nam ima zgoditi.

o+ nevone


Joj nevone. Ne se delato tako trdo. You know what i mean.

Razumel ne bo nihče, ali pa bistveno prepozno.

"As one"...tako, da nihče ne bo imel navzkrižnih interesov. Ne morilec, ne žrtev.

Če bodo identični ni nobenega smisla se trudit uploadat več kot eno entiteto, pol pa jo klonirat in malo spremenit RNG funkcijo.
No sense at all.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

nevone ::

Če bodo identični ni nobenega smisla se trudit uploadat več kot eno entiteto, pol pa jo klonirat in malo spremenit RNG funkcijo.
No sense at all.


Sense? There is no sense either way, če tako gledaš.

Izziv je tak, da uspeš človekovo esenco spraviti na drug substrat tako, da se bo človek tega zavedal.

o+ nevone
Either we will eat the Space or Space will eat us.

vostok_1 ::

Making Protokol mostly irrelevant and accepting that you'll die either way.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21

nevone ::

vostok_1 je izjavil:

Making Protokol mostly irrelevant and accepting that you'll die either way.


Sej ne gre samo za mene. Gre za to, da se bivanje naredi prijetnejše, če je mogoče. Saj ves čas migamo v to smer, z ali brez Protokola.

o+ nevone
Either we will eat the Space or Space will eat us.

T-h-o-r ::

Ampak protokol naj bi presegel, da bi bil to zgolj zero sum gejm.
Why have a civilization anymore
if we no longer are interested in being civilized?

Zgodovina sprememb…

  • spremenilo: T-h-o-r ()

Okapi ::

poweroff je izjavil:

Skynet torej na nek način že obstaja. Ampak bolj v smislu odvisnosti od elektrike.
Brez elektrike še nekako gre. Predstavljaj si, da ostanemo brez kolesa. In če potem še ognja zmanjka, smo gotofi.

nevone ::

T-h-o-r je izjavil:

Ampak protokol naj bi presegel, da bi bil to zgolj zero sum gejm.


Ves človekov razvoj temelji na plus-sum game. Če en bi, nas ne bi bilo (vedno več). Lahko da se v kakšnih lokalnih krogih odvija zero-sum game, ali celo negative-sum game, ampak če ne bi bil globalno to plus-sum game, bi mi obstali na mestu ali nazadovali. Človeštvo kot tako dolgoročno igra plus-sum game, dokler so pogoji vsaj približno ugodni.

Naš osnovni generator so spoznanja, ki nam omogočajo, da uspešno akumuliramo izboljšave preživetja. No ja ... nekatera spoznanja sicer izgledajo in delujejo bolj negativno, ampak potem ko spoznanje pogledamo iz pravega kota, lahko proti temu tudi ukrepamo. No, vsaj nekaterim se nam zdi, da bi lahko.

Kot sem že rekla, smo zelo vpeti v to, v kar nas je ukalupila biološka evolucija, ampak memetska počasi lahko postane dominantna. In tudi že postaja. Imamo pa problem, da se bojimo samih sebe. No vsaj tako delujemo, ko poskušamo preprečevati napredek.

o+ nevone
Either we will eat the Space or Space will eat us.

T-h-o-r ::

se pardoniram, napisano bi moralo biti
da ne bi bil to zgolj zero sum gejm.


Ker pač egipčanska in sumerska civilizacija se slišita kot precej boljši zadevi od življenja v jamah ter lova in nabiralništva, a cena takšnega preskoka je pač ta, da je peščica začela živeti kot bogovi, večina je bila pa zasužnjenih; torej napredek in ugodje dosegamo, ampak za ceno, da en precejšen procent dejansko začne živeti v slabših pogojih

Imamo pa problem, da se bojimo samih sebe. No vsaj tako delujemo, ko poskušamo preprečevati napredek.

Od izuma atomskega orožja naprej se kar z razlogom bojimo samih sebe.

Okapi je izjavil:

poweroff je izjavil:

Skynet torej na nek način že obstaja. Ampak bolj v smislu odvisnosti od elektrike.
Brez elektrike še nekako gre. Predstavljaj si, da ostanemo brez kolesa. In če potem še ognja zmanjka, smo gotofi.

tudi brez kolesa je kar šlo, prav tako je človeštvo obstajalo, ko še ni ukrotilo ognja
Why have a civilization anymore
if we no longer are interested in being civilized?

nevone ::

torej napredek in ugodje dosegamo, ampak za ceno, da en precejšen procent dejansko začne živeti v slabših pogojih


Globalno ugodje si zagotavljamo z novimi (spo)znanji. Ker z njimi znamo reševati probleme, ki jih prej nismo znali.

Na tej poti napredka pač vsak odigra svojo vlogo, ker drugače preprosto ni mogoče. Dela morajo biti opravljena in opravijo jih tisti, ki so jim kos.

o+ nevone
Either we will eat the Space or Space will eat us.
««
157 / 182
»»