Forum » Znanost in tehnologija » Protokol
Protokol
Temo vidijo: vsi
vostok_1 ::
99% zraka. I see, yes...
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
poweroff ::
Vredno ogleda:
Geohot sicer v intervjuju uspe užalit cel kup ljudi iz Industrije, ampak ima zanimive poglede in predvsem zanimive rešitve na področju AI.
Geohot sicer v intervjuju uspe užalit cel kup ljudi iz Industrije, ampak ima zanimive poglede in predvsem zanimive rešitve na področju AI.
sudo poweroff
7982884e ::
sori, ampak tale clovek je pateticen.
ne, ne more nic uzalit industrije. bumbar ne ve, da je eno, da naredis avto, ki zna zaznat cesto in nekaj ovir. to zna skup spravit vsak student strojnega ucenja, zato ker ima vse prakticno ze na internetu in na softverskih paketih.
in da je drugo, da ta avto zanesljivo vozi. ce lahko v treh mesecih naredi boljsi avtopilot kot tesla, zakaj ga ne naredi in proda naprej?
ne, ne more nic uzalit industrije. bumbar ne ve, da je eno, da naredis avto, ki zna zaznat cesto in nekaj ovir. to zna skup spravit vsak student strojnega ucenja, zato ker ima vse prakticno ze na internetu in na softverskih paketih.
in da je drugo, da ta avto zanesljivo vozi. ce lahko v treh mesecih naredi boljsi avtopilot kot tesla, zakaj ga ne naredi in proda naprej?
vostok_1 ::
He looks like a guy, who'd fuck you over the first chance he gets.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
poweroff ::
Ne govorim o tem. Govorim o tem, da je že večkrat dokazal, da je zmožen narediti tisto, kar se drugim zdi nemogoče.
Sicer pa ni point v tem. Point je v tem, da na par zelo zanimivih primerih odgovori na strahove glede AI, ki se pojavljajo tudi v tej temi.
Sicer pa ni point v tem. Point je v tem, da na par zelo zanimivih primerih odgovori na strahove glede AI, ki se pojavljajo tudi v tej temi.
sudo poweroff
7982884e ::
po tej logiki lahko isto recemo za njegovo zmoznost hoje po vodi in spreminjanja vode v vino?
ne, tale "heker" ni nobene variante, da lahko naredi samovozeci avto bistveno bolje kot nek sposoben student strojnega ucenja, kaj sele da naredi nekaj primerljivega s komercialno verzijo avtopilotov v avtih.
ne, tale "heker" ni nobene variante, da lahko naredi samovozeci avto bistveno bolje kot nek sposoben student strojnega ucenja, kaj sele da naredi nekaj primerljivega s komercialno verzijo avtopilotov v avtih.
poweroff ::
Verjamem, da malo pretirava.
Ampak 10 let nazaj je bilo to, kar on dela danes, čista znanstvena fantastika. Si upaš trditi, da čez 10 let ne bo mogoče doma zvariti nekaj primerljivega s komercialno verzijo avtopilotov v avtih?
Mimogrede, zakaj še noben študent strojnega učenja ni naredil istega?
Ampak 10 let nazaj je bilo to, kar on dela danes, čista znanstvena fantastika. Si upaš trditi, da čez 10 let ne bo mogoče doma zvariti nekaj primerljivega s komercialno verzijo avtopilotov v avtih?
Mimogrede, zakaj še noben študent strojnega učenja ni naredil istega?
sudo poweroff
7982884e ::
Ampak 10 let nazaj je bilo to, kar on dela danes, čista znanstvena fantastika.
10 let nazaj:
1. ni bilo racunske moci (predvsem GPU)
2. ni bilo podatkov za ucenje
3. ni bilo softvera za lahko usposobitev vecslojnih nevronskih mrez
da on to lahko dela danes, nima nobene veze z NJIM, temvec ima veze s tem, da omenjene tri tocke ne veljajo vec.
Si upaš trditi, da čez 10 let ne bo mogoče doma zvariti nekaj primerljivega s komercialno verzijo avtopilotov v avtih?
se enkrat - treba se je zavedat, kaj pomeni imet produkcijski avtopilot softver. 99% ni zadost. da se avto pelje cez drzavo sam, ni zadost. potrebni so robni primeri. potrebna je zelo siroka in globoka evalvacija, analiza kode, redundancnost v senzorjih, v interpretaciji senzorjev, v izvajanju odlocitev.
predstavljaj si letalski avtopilot. a lahko nek softverski inzenir napise nekaj, kar v grobem pocne isto, torej letalo pelje cez doloceno trajektorijo po nebu in po moznosti se napise zadosti dober model, da lahko letalo samo pristane? verjetno. a to pomeni, da razvoj avtopilota v boeing 787 dela ekipa 20 diplomiranih inzenirjev in da to ni ogromen, astronomsko drag projekt? ne.
Mimogrede, zakaj še noben študent strojnega učenja ni naredil istega?kdo je rekel, da ni? tega imas malo morje. DARPA challenge so zacele ekipe studentov in samoucenih inzenirjev. takrat, ko so bili prvi na svetu, prvi v zgodovini, ko ni noben vedel, kaj se da in kaj ne, in kako se kaj da in kako ne. ti studenti in inzenirji so kasneje tvorili razvojne ekipe avtopilotov pri googlu in podobnih. tale nadutez je lahko glasen zdaj, ko so vse te stvari javno dostopne vsem. ampak pri prebijanju leta ga pa ni bilo ne takrat, ne zdaj.
tudi v zadnjih casih imas dosti projektov posameznikov, med drugim je nekdo recimo naredil samovozec avto v GTA V (ki vozi zgolj na podlagi pikslov).
poweroff ::
Pa ravno o tem ti govorim.
Par let nazaj je bil to, kar danes lahko naredi praktično vsak (heker) čisti sci-fi oz. delo za ogromne ekipe inženirjev.
Stopnja avtonomne vožnje 4, s katero se danes ukvarjajo gromozanske ekipe inženirjev, pa bo čez 10 let morda res tekla na telefonu. Ki ga bo sprogramiral študent.
Je pa res nekaj. Geohot je v svojem razmišljanju nevaren. Kam pa pridemo, da bi si lahko vsakdo nahekal svoj avto. To je pa ja delo za korporacije. Tako kot nima nihče pravice brskati po svojem telefonu, po svoji konzoli,...
Pa upam, da nisi spregledal dela, kjer govori o tem kako on vidi nevarnost AI-ja.
Par let nazaj je bil to, kar danes lahko naredi praktično vsak (heker) čisti sci-fi oz. delo za ogromne ekipe inženirjev.
Stopnja avtonomne vožnje 4, s katero se danes ukvarjajo gromozanske ekipe inženirjev, pa bo čez 10 let morda res tekla na telefonu. Ki ga bo sprogramiral študent.
Je pa res nekaj. Geohot je v svojem razmišljanju nevaren. Kam pa pridemo, da bi si lahko vsakdo nahekal svoj avto. To je pa ja delo za korporacije. Tako kot nima nihče pravice brskati po svojem telefonu, po svoji konzoli,...
Pa upam, da nisi spregledal dela, kjer govori o tem kako on vidi nevarnost AI-ja.
sudo poweroff
7982884e ::
Stopnja avtonomne vožnje 4, s katero se danes ukvarjajo gromozanske ekipe inženirjev, pa bo čez 10 let morda res tekla na telefonu. Ki ga bo sprogramiral študent.ne gre se o racunski zahtevnosti in temu, da lahko kamera zajame skoraj vse potrebno za natancno detekcijo vseh pomembnih stvari na cesti. konec koncev zadnje nvidiine resitve niso dosti vecje od malo vecjega vezja, ne porabijo vec kot za par laptopov energije in lahko delajo samo s podatki iz kamer.
zdej ok, ce govoris o temu, kako bo nek terorist vdrl v avto in gor namestil opensource softver za samodejno voznjo od lokacije A do lokacije B, potem je to verjetno realnost ze danes, pod pogoji. ampak v produkciji za komercialne avte je pa cisto druga pesem.
en dober clanek na to:
https://www.theatlantic.com/technology/...
poweroff ::
Še enkrat - ne govorimo o stopnji avtonomije 5. O trojki.
In trojka je bila 10 let nazaj napol sci-fi, predvsem pa izjemno draga.
In trojka je bila 10 let nazaj napol sci-fi, predvsem pa izjemno draga.
sudo poweroff
T-h-o-r ::
In other news, racunalnik je cloveka premagal tudi v pokru. Izkazalo se je, da poker face ne pomaga. :D
a ni bilo to že 2015
Tako kot smo povedali Thomasu, lahko tudi tebi: Ne bo še kmalu katastrofe.
Poleg tega, da morebitna katastrofa ni bistvo vsega tudi časovni okvir ni zelo pomemben. Z malo drznejšim pogledoma na prihodnost, se spreminja tudi sedanjost.
V preteklosti so se ljudje vedno razdelili na tiste, ki so glede tehnološkega razvoja drznejši in tiste, ki so topogledno konzervativnejši ali pa le manj drzni.
o+ nevone
in bolj drzni so eksperimentirali na ljudeh v auschwitzu - for science and a faster progress
Why have a civilization anymore
if we no longer are interested in being civilized?
if we no longer are interested in being civilized?
Zgodovina sprememb…
- spremenilo: T-h-o-r ()
7982884e ::
Še enkrat - ne govorimo o stopnji avtonomije 5. O trojki.
In trojka je bila 10 let nazaj napol sci-fi, predvsem pa izjemno draga.
ja, sej sem napisal, da je to ze danes mogoce. in sem tud napisal, da tudi 3. (in tudi 2., v kolikor nisi tesla in si lahko privoscis slamparije, ker imas vernike za ciljno publiko) stopnja terja stvari, ki sodijo v zadnji 1%. testing, robustnost na robne primere, validacije same kode, itd. za veliko softverja, ki danes laufa in poganja svet, lahko reces, da lahko tim nadpovprecnih developerjev naredi 80% produkta v enem letu, ceprav se gre za stvari, vredne stotine milijonov in razvijane preko sto tisocev delovnih ur. se toliko bolj, ce je to "mission-critical" sistem, ki absolutno ne sme narest napake, kot je avtopilot 3. stopnje. Audi, ki je lani izdal bojda prvi tak avto, je zelo konzervativen z njegovimi zmoznostmi, ravno zato ker je treba biti izjemno previden pri milijardi razlicnih robnih primerov - ceprav bi komot malo orahljali omejitve in se sopirili tako kot se tesla.
vitac1 ::
Priporočam ogled dokumentarnega filma Do you trust this computer Ogled je brezplačen par dni, mislim da do nedelje. link... http://doyoutrustthiscomputer.org/watch
vostok_1 ::
Tak luškan poljuden docu. Nekih bistvenih novih informaciji za S-T audienco ni, ampak worth a watch, če ni kaj drugega.
En citat:
"Does Watson think?" Asks the layman.
"Does a submarine swim?" Replies the scientist.
And yet, the submarine far "outswims" the fish.
Pove dovolj.
Kot še 1000x povedano iz moje strani. AI sploh ne rabi bit self-conscious, da pretenta 80% prebivalstva.
Prej ali slej bo pretental tudi Thomasa, and yet, it will have the consciouses of a door knob.
En citat:
"Does Watson think?" Asks the layman.
"Does a submarine swim?" Replies the scientist.
And yet, the submarine far "outswims" the fish.
Pove dovolj.
Kot še 1000x povedano iz moje strani. AI sploh ne rabi bit self-conscious, da pretenta 80% prebivalstva.
Prej ali slej bo pretental tudi Thomasa, and yet, it will have the consciouses of a door knob.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
WarpedGone ::
Sprašuješ zelo nevarno vprašanje: Philosopher's zombie
Splača se ga naštudirat.
Splača se ga naštudirat.
Zbogom in hvala za vse ribe
kuall ::
Ali bo AI imel zavest in čustva bo čisto vseeno. Važno je samo v takihle brezveznih internetnih debatah. V resničnem življenju pa je važno samo, kaj zna AI narediti koristnega za ljudi. Podobno je z varnostjo AI. Malo bo že nevaren, ampak ravno ene toliko kot se je nevarno vozit. Nismo ljudje taki strahopetci, bomo sprejeli ta riziko, ker bomo videli, koliko njegove koristi pretehtajo ta mali riziko.
Okapi ::
Seveda je pomembno, ali bo imel AI zavest ali čustva. To je pravzaprav ključno, najpomembnejše vprašanje. Če jih ne bo imel, ga bomo obravnavali kot stroj. Prodali, kupili, zavrgli po potrebi. Če jih bo imel, ga bomo obravnavali kot živo bitje z zavestjo in čustvi, imel bo pravno varsto in vse pravice, kot jih imamo ljudje. Verjetno ne od vsega začetka, ampak slej ko prej pa ja. Če drugega ne, si jih bo sam izboril, in če bo veliko pametnejši od ljudi, mu tega ne bo težko doseči.
Zgodovina sprememb…
- spremenil: Okapi ()
Unilseptij ::
V vsakem primeru ga bomo obravnavali kot stroj. In vse, kar bomo vedeli je, da se obnaša kot, da ima zavest in čustva, ne pa, ali jih dejansko ima. Glede na to, kako recimo obravnavamo primate in druge višje razvite sesalce, ki se obnašajo kot da imajo zavest in čustva, me nič ne skrbi, da bi naenkrat začeli človekove pravice priznavati strojem.
Bistvo je, da bo AI lahko človeka nadomestil pri izvajanju točno določenih opravil, recimo računanju, robotizaciji, itd. Nikdar pa ne bo človeka nadomestil pri tem, kako je treba živeti (nebuloze tipa upload, itd.), ker samo človek sam lahko živi svoje življenje in o njem odloča. Čist simpl.
Bistvo je, da bo AI lahko človeka nadomestil pri izvajanju točno določenih opravil, recimo računanju, robotizaciji, itd. Nikdar pa ne bo človeka nadomestil pri tem, kako je treba živeti (nebuloze tipa upload, itd.), ker samo človek sam lahko živi svoje življenje in o njem odloča. Čist simpl.
thramos ::
Unilseptij je izjavil:
V vsakem primeru ga bomo obravnavali kot stroj. In vse, kar bomo vedeli je, da se obnaša kot, da ima zavest in čustva, ne pa, ali jih dejansko ima. Glede na to, kako recimo obravnavamo primate in druge višje razvite sesalce, ki se obnašajo kot da imajo zavest in čustva, me nič ne skrbi, da bi naenkrat začeli človekove pravice priznavati strojem.
Jep. Sploh ne znamo definirati zavesti, kaj šele njen obstoj dokazati pri komur drugemu kot pri samemu sebi. Marsikdo je mnenja, da se nam še pri sebi le zdi, da jo imamo.
Okapi ::
Za "zamorce" so tudi včasih mislili, da se samo obnašajo, kot da imajo zavest in čustva, v resnici jih pa nimajo. Lahko si čisto brez skrbi, da ko bo prvi stroj sam od sebe vprašal, kakšne so njegove pravice, se bodo stvari radikalno spremenile.
In, kot rečeno, zavestni stroj se bo znal tudi boriti za svoje pravice, in si jih bo tudi hitro uspel izboriti, če bo pametnejši od človeka.
In, kot rečeno, zavestni stroj se bo znal tudi boriti za svoje pravice, in si jih bo tudi hitro uspel izboriti, če bo pametnejši od človeka.
Unilseptij ::
Če se bo preveč boril, ga bomo pač izklopili... ali vsaj preprogramirali tako, da to ne bo več problem. Ne razumem, zakaj bi človek namenoma omejil svojo svobodo s tem, da bi zgradil stroj, ki bo zahteval nekakšne pravice, in to seveda od človeka???
Zgodovina sprememb…
- spremenilo: Unilseptij ()
vostok_1 ::
Ali bo AI imel zavest in čustva bo čisto vseeno. Važno je samo v takihle brezveznih internetnih debatah. V resničnem življenju pa je važno samo, kaj zna AI narediti koristnega za ljudi. Podobno je z varnostjo AI. Malo bo že nevaren, ampak ravno ene toliko kot se je nevarno vozit. Nismo ljudje taki strahopetci, bomo sprejeli ta riziko, ker bomo videli, koliko njegove koristi pretehtajo ta mali riziko.
Koristnega za ljudi?
Seveda. Zaprl te bo v kletko in serviral hrano do konca življenja. Takrat bo ocenil, da si najbolj varen pred svetom.
Ko ne boš žele se rekreirati v kletki, te bo elektrošokal.
Ko se boš začel pritoževati, da bi rad imel svobodo, ti bo pribil nazaj, da vsakršno tvoje dejanje izven kletke krati človeško pravico drugega človeka, zato pa moraš bit v povsem nadzorovanem okolju, da bi lahko vsi enakopravno živeli. Bog ne dej, da bi en tvoj sprehod zaprašil stanovanje koga drugega. To bo moral njegov robot trošit "rationed" energijo, da počisti.
Unilseptij je izjavil:
Če se bo preveč boril, ga bomo pač izklopili... ali vsaj preprogramirali tako, da to ne bo več problem. Ne razumem, zakaj bi človek namenoma omejil svojo svobodo s tem, da bi zgradil stroj, ki bo zahteval nekakšne pravice, in to seveda od človeka???
Off button?
Ta bo najbrž velik rdeč gumb kot v Dexter's laboratory.
A ni bila novica, kjer so razlagali da je poskusni gaming AI zmagal igrco tako, da je izkoristil buffer overflow-e v sami kodi?
@Warpi
No, pač. Zgolj izraza nisem poznal.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Zgodovina sprememb…
- spremenil: vostok_1 ()
WarpedGone ::
Izraz je le vrh ledene gore. Na mizo potegne cel problem subjekta/objekta, kaj je sploh realnost, kaj sploh obstaja, kaj pomen obstajat, kaj pomeni preteklost/prihodnost...
Na koncu nisi omejen s tem kar zveš ampak s tem kar sam sebi dovoliš sprejet kot res.
200 let nazaj je bilo prikladno črncem odrekat zavest, je bilo manj moralne bolečine jih izrabljat za lastno korist.
Danes je prikladno živalim odrekat zavest, je manj moralne bolečine jih industrijsko klat.
Na koncu nisi omejen s tem kar zveš ampak s tem kar sam sebi dovoliš sprejet kot res.
200 let nazaj je bilo prikladno črncem odrekat zavest, je bilo manj moralne bolečine jih izrabljat za lastno korist.
Danes je prikladno živalim odrekat zavest, je manj moralne bolečine jih industrijsko klat.
Zbogom in hvala za vse ribe
Zgodovina sprememb…
- spremenilo: WarpedGone ()
vostok_1 ::
Za to situacijo, sploh nima smisla it kaj globlje.
Gledam čist pragmatično. Prej ali slej se bo našel nek zelo dodelan chatbot, ki bo pretental tudi Thomasa.
Vrjeli, bomo, da smo ustvarili sentientni AI in mu začeli dodeljevati funkcije.
Kar želim povedati...da slabih scenarijev je >1000, dobrih...mogoče 2 al trije.
The odds are against us.
Boste spet sicer težili..."pa saj isto je bilo z jedrskim orožjem?!"
Nonsense. Človeštvo ni nikoli imelo toliko jedrskega arsenala, da bi povsem kritično vplivalo na planet
Orders of magnitude %28energy%29 @ Wikipedia
Radioaktivnost pa sploh ni tak problem za živa bitja, ki so pripravljena sprejet majhen riziko.
V černobilu je 4% birth defect rate.
Pri AI pa se igramo z rečmi, ki so beyond us.
In ponavljam se. AI sploh ne rabi bit pametnejši od nas. Dovolj, da je hitrejši. Zato ena od vrst superinteligence je hitra inteligenca.
Gledam čist pragmatično. Prej ali slej se bo našel nek zelo dodelan chatbot, ki bo pretental tudi Thomasa.
Vrjeli, bomo, da smo ustvarili sentientni AI in mu začeli dodeljevati funkcije.
Kar želim povedati...da slabih scenarijev je >1000, dobrih...mogoče 2 al trije.
The odds are against us.
Boste spet sicer težili..."pa saj isto je bilo z jedrskim orožjem?!"
Nonsense. Človeštvo ni nikoli imelo toliko jedrskega arsenala, da bi povsem kritično vplivalo na planet
Orders of magnitude %28energy%29 @ Wikipedia
Radioaktivnost pa sploh ni tak problem za živa bitja, ki so pripravljena sprejet majhen riziko.
V černobilu je 4% birth defect rate.
Pri AI pa se igramo z rečmi, ki so beyond us.
In ponavljam se. AI sploh ne rabi bit pametnejši od nas. Dovolj, da je hitrejši. Zato ena od vrst superinteligence je hitra inteligenca.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
WarpedGone ::
Za to situacijo, sploh nima smisla it kaj globlje.
Se splača, zato da nimaš občutka kako si zgruntal nekaj novega, pa dejansko odkrivaš stare zadeve.
Prej ali slej se bo našel nek zelo dodelan chatbot, ki bo pretental tudi Thomasa.
Turingov test.
Kar želim povedati...da slabih scenarijev je >1000, dobrih...mogoče 2 al trije.
The odds are against us.
To je cel point obstoja te teme.
WTF can we possibly do to maximize our chances?
AI sploh ne rabi bit pametnejši od nas. Dovolj, da je hitrejši.
Prvo je nerazločljivo od drugega ... kar nas tiče je efekt enak.
Zbogom in hvala za vse ribe
7982884e ::
Kot še 1000x povedano iz moje strani. AI sploh ne rabi bit self-conscious, da pretenta 80% prebivalstva.
Prej ali slej bo pretental tudi Thomasa, and yet, it will have the consciouses of a door knob.
lahko definirat zavest? ne mores. oznaka "self-conscious" je zato popolnoma brezvezna. vsaj v kontekstu debate o zmogljivostih AI-jev.
Gledam čist pragmatično. Prej ali slej se bo našel nek zelo dodelan chatbot, ki bo pretental tudi Thomasa.
mogoce v primeru, da to ne bo "dodelan chatbot", ampak napreden splosen AI.
dodelan chatbot ki uporablja trike, da zirijo pretenta da mislijo, da je mentalno zaostal anglesko-slabo govorec 13-letnik, ni uporabna stvar.
ce se turingov test definira kot test, ki razloci inteligentno (v smislu intelektualnih sposobnosti) entiteto od neinteligentne, potem pade vse, kar ni ali normalno inteligenten odrasel clovek, ali pa proper general AI.
Zgodovina sprememb…
- spremenilo: 7982884e ()
PrihajaNodi ::
----------------------------
(tule se nadaljuje "diskusija iz kaj je internet")
----------------------------
Predgovor
Večina ljudi ni še nikoli slišala za transhumanistične ideje. Večini tistih, ki so, pa se zdijo popolnoma neuresničljive - če pa že - pa v neki zelo oddaljeni prihodnosti.
Potem so še tisti, ki jim zadeva ni všeč .. pa naj bo uresničljiva ali ne.
V tejle naši diskusiji jih bomo pač pustili zadaj - oziroma ob strani - kdo bi se špetirov s konzervativci vseh farb - zguba časa.
"S seboj povabim druge vas junake ..." :)
Uvod:
Zaradi očitne eksponetne rasti in zaradi same narave eksponetne rasti, se človek vpraša:
Kam to vodi?
Kam bi radi, da vodi - in kam nočemo?
Kaj lahko (sploh) storimo?
Že nekaj let je v zraku veliko idej. Vse relevantne operirajo z naravnimi zakoni
kot z dejstvi, ki so edini spodbujevalni in omejevalni faktor.
Meni najljubši vseh prerokov je Ray Kurzweil. Bistvo njegovih tez je v tem, da se tehnološki razvoj pospešeno pospešuje in da to vodi v skorajšnjo nebiološko prihodnost. Nekdo je rekel - "možakar je ubil znanstveno fantastiko - preveč dolgočasna je postala v primeri s tem, kar on misli, da se bo zares zgodilo že v bližnji prihodnosti". Ni pa on niti prvi - niti najdrznejši ni. Ampak po moje bolj zato, ker bodo prave drznosti šele v njegovi naslednji knjigi. Je pa vsekakor
najprepričlivejši utemeljevalec radikalnih sprememb v naslednjih desetletjih.
Ampak tu ni samo on. Samo za pokušino - Projekt Uranium. Preprosto povedano,
ideja je v tem, da se planet Jupiter pretvori v diamantoidni računalnik, ki
procesira 10 na cca 50 bitov na sekundo. Če bi ga uporabili za simulacijo človeške
zgodovine - bi se izvršila prej kot v mikrosekundi - za zunanjega opazovalca - za notranjega pa - tako kot pač zgleda vsakdanje odvijanje te zgodovine. Čas bi tekel kot teče, ostalo bi bilo pa odvisno od "vloge" v kateri opazovalec nastopa.
In kot pravi No clone axiom (avtor Frank Tipler) - ne bi občutili razlike; vsem sto milijardam simuliranih eksistenc bi se zdelo, da so (pre)živele svoje življenje;
od Kamea Mea do Hipatie.
Ampak ravno to je tisto, česar nočemo. Nočemo ponavljati strašne zgodovine, ki je za nami. Neprimerno boljši scenarij bo zagotovil PROTOKOL.
1. prepovedana (nemogoča) je vsaka aktiva ali pasivna bolečina in drugi negativni pojavi.
2. vsaka eksistenca ima enako spominskih in kalkulativnih resorsov
3. vsaka eksistenca ima periodičen dostop do samo lastnih preferenc (te preference določajo naprimer vrste komunikacij in s kom, services, ki so na razpolago - recimo emotions, minds, simulations, hints, needs ...)
Primer: Nekdo se lahko odloči za raziskovanje šaha, komunikacijo z
milijon podobnimi in pika. Potem bo PROTOKOL določil ostale preference "tako
kot je najbolj prav". Posebno, da se upoštevata točka 1. in 2. Po subjektivno
pretečenem "stoletju" - MORA obnoviti preference.
Ali pa: Dva se odločita za pravljico v dvoje. PROTOKOL bo poskrbel za vse,
kar ne bosta določila sama in pa da bo pravljica res najlepša. Po subjektivno
pretečenem "stoletju" - MORATA obnoviti preference.
Ali pa: Nekdo se odloči, da bo do nadaljnega James Bond. V igro ne dobi nobene eksistence, pač pa same dummies - tako girls kot bad guys so dummies. No kakšna prava girl bi mogoče lahko prišla not - odvisno od scenarija, pa če bi hotela sploh katera existenca tisto vlogo. Ne sme pač priti do kršitev točk 1. in 2. Zadevo nadzira PROTOKOL! Po "stoletju" - Refresh preferences.
Stoterica eksistenc se odloči za "stoletje" hiperseksualne rekreacije.
PROTOKOL poskrbi, da njihove orgije tečejo v maksimalno zadovoljstvo vseh
sodelujočih.
Kaj "eksotičnega" si pa ni moč niti zaželeti - ni na meniju. PROTOKOL so
pač postavili eni puritanci okoli leta 2000.
Ni pa PROTOKOL samo to - je še malo več. Je tudi način za izboljševanje protokola samega in organizacija njegove vzpostavitve.
PROTOKOL te potrebuje.
https://nerdist.com/black-mirror-valent...
. poweroff ::
Boste spet sicer težili..."pa saj isto je bilo z jedrskim orožjem?!"
Nonsense. Človeštvo ni nikoli imelo toliko jedrskega arsenala, da bi povsem kritično vplivalo na planet
Traparija totalna.
Problem nikakor ni sprščena energija ob jedrskih eksplozijah. Bistveno večji problem je jedrska zima. Že jedrska vojna med Indijo in Pakistanom bi pomenila jedrsko zimo, ki bi pokopala planet.
Radioaktivnost pa sploh ni tak problem za živa bitja, ki so pripravljena sprejet majhen riziko.
V černobilu je 4% birth defect rate.
Radioaktivnost v resnici sploh ni glavni problem jedrskih nesreč. Bistveno večji problem je toksičnost jedrskega materiala. Poleg tega poglej raje koliko se je skrčil življenjski prostor ljudi v Pripyatu...
Pri AI pa se igramo z rečmi, ki so beyond us.
To trdijo samo tisti, ki sodobne AI ne poznajo.
sudo poweroff
Okapi ::
Boste spet sicer težili..."pa saj isto je bilo z jedrskim orožjem?!"
Nonsense. Človeštvo ni nikoli imelo toliko jedrskega arsenala, da bi povsem kritično vplivalo na planet
Traparija totalna.
Problem nikakor ni sprščena energija ob jedrskih eksplozijah. Bistveno večji problem je jedrska zima. Že jedrska vojna med Indijo in Pakistanom bi pomenila jedrsko zimo, ki bi pokopala planet.
Nedvomno. Če ga ne bodo prej podnebne spremembe. Alarmistično pretiravanje v razpravi hitro razkrinka pravljičarje.
nevone ::
Glavno bistvo tistega filma je, da se mi dejansko ne bojimo AI, bojimo se ljudi, ki bi ga naredili in uporabili proti nam. V tem primeru popolnoma zaupamo, da bo tisti AI v popolni kontroli lastnika.
Tudi vzporednica z nami in mravljami, ki jih uničimo, če nam stojijo na poti ni ravno ustrezna, ker mravlje niso naredile nas.
Da bi človek delal AI, ki ga bo uničil je dobra tema samo za filme, pri čemer pa ne trdim, da ni nek manjhen procent možnosti, da ta AI zevoluira sama, mimo našega vedenja. To ni posvem nemogoče. Da pa bi človeštvo razvijalo inteligenco, ki naj bi ga uničila, je pa skrajno malo verjetno. Edina nevarnost je v nas samih, ker smo še vedno nekoliko vezani na evolucijsko izločanje.
Potem izjava, da ni več vrnitve. Seveda je ni, ker se niti nočemo vračati nazaj. Orodja izdelujemo zato, da nam pomagajo preživeti in AI ni nič drugega. In če ti nekaj dviga kvaliteto življenja, tega ne boš uničeval in klical nazaj goloroko mati naravo.
In jasno je, da vsi zaenkrat ne morejo razumeti pomena teh orodij, ampak tudi vse kemije za zdravili ljudje ne poznajo, pa jih vseeno jemljejo, ker jim pač izboljšajo kvaliteto življenja.
Tako da, rdeča nit vseh teh komedij in strahu je strah pred samimi seboj in eden drugega, samo potem se to nekako manifestira, kot da bo AI tisti bad guy, ki bo kriv za vso našo prihodnjo nesrečo.
o+ nevone
Tudi vzporednica z nami in mravljami, ki jih uničimo, če nam stojijo na poti ni ravno ustrezna, ker mravlje niso naredile nas.
Da bi človek delal AI, ki ga bo uničil je dobra tema samo za filme, pri čemer pa ne trdim, da ni nek manjhen procent možnosti, da ta AI zevoluira sama, mimo našega vedenja. To ni posvem nemogoče. Da pa bi človeštvo razvijalo inteligenco, ki naj bi ga uničila, je pa skrajno malo verjetno. Edina nevarnost je v nas samih, ker smo še vedno nekoliko vezani na evolucijsko izločanje.
Potem izjava, da ni več vrnitve. Seveda je ni, ker se niti nočemo vračati nazaj. Orodja izdelujemo zato, da nam pomagajo preživeti in AI ni nič drugega. In če ti nekaj dviga kvaliteto življenja, tega ne boš uničeval in klical nazaj goloroko mati naravo.
In jasno je, da vsi zaenkrat ne morejo razumeti pomena teh orodij, ampak tudi vse kemije za zdravili ljudje ne poznajo, pa jih vseeno jemljejo, ker jim pač izboljšajo kvaliteto življenja.
Tako da, rdeča nit vseh teh komedij in strahu je strah pred samimi seboj in eden drugega, samo potem se to nekako manifestira, kot da bo AI tisti bad guy, ki bo kriv za vso našo prihodnjo nesrečo.
o+ nevone
Either we will eat the Space or Space will eat us.
vostok_1 ::
Boste spet sicer težili..."pa saj isto je bilo z jedrskim orožjem?!"
Nonsense. Človeštvo ni nikoli imelo toliko jedrskega arsenala, da bi povsem kritično vplivalo na planet
Traparija totalna.
Problem nikakor ni sprščena energija ob jedrskih eksplozijah. Bistveno večji problem je jedrska zima. Že jedrska vojna med Indijo in Pakistanom bi pomenila jedrsko zimo, ki bi pokopala planet.
Radioaktivnost pa sploh ni tak problem za živa bitja, ki so pripravljena sprejet majhen riziko.
V černobilu je 4% birth defect rate.
Radioaktivnost v resnici sploh ni glavni problem jedrskih nesreč. Bistveno večji problem je toksičnost jedrskega materiala. Poleg tega poglej raje koliko se je skrčil življenjski prostor ljudi v Pripyatu...
Pri AI pa se igramo z rečmi, ki so beyond us.
To trdijo samo tisti, ki sodobne AI ne poznajo.
Jedrska zima je bolj špekulacija kot realnost. In tudi če, ne bo pretirano dolga, ker smo že imeli vulkane, ki so za kako leto mal zasenčili nebo, pa se je dalo.
Toliko bolj danes, ko imamo tehnologijo.
Kot drugo, strupenih izotopov spet ni nekaj veliko, drugače bi vsi prisotni pri Trinitiju kar hitro pocrkali.
Life will go on.
Sodobna AI?
Kaj to pomeni, da smo omejeni na leto 2018 in nič dlje?
V cirka 6 letih smo šli iz non-AI na AI-powered almost everywhere.
Skratka do leta 2030 s takim napredkom bomo še kup zanimivih reči videli.
Glavno bistvo tistega filma je, da se mi dejansko ne bojimo AI, bojimo se ljudi, ki bi ga naredili in uporabili proti nam. V tem primeru popolnoma zaupamo, da bo tisti AI v popolni kontroli lastnika.
Tudi vzporednica z nami in mravljami, ki jih uničimo, če nam stojijo na poti ni ravno ustrezna, ker mravlje niso naredile nas.
Da bi človek delal AI, ki ga bo uničil je dobra tema samo za filme, pri čemer pa ne trdim, da ni nek manjhen procent možnosti, da ta AI zevoluira sama, mimo našega vedenja. To ni posvem nemogoče. Da pa bi človeštvo razvijalo inteligenco, ki naj bi ga uničila, je pa skrajno malo verjetno. Edina nevarnost je v nas samih, ker smo še vedno nekoliko vezani na evolucijsko izločanje.
Potem izjava, da ni več vrnitve. Seveda je ni, ker se niti nočemo vračati nazaj. Orodja izdelujemo zato, da nam pomagajo preživeti in AI ni nič drugega. In če ti nekaj dviga kvaliteto življenja, tega ne boš uničeval in klical nazaj goloroko mati naravo.
In jasno je, da vsi zaenkrat ne morejo razumeti pomena teh orodij, ampak tudi vse kemije za zdravili ljudje ne poznajo, pa jih vseeno jemljejo, ker jim pač izboljšajo kvaliteto življenja.
Tako da, rdeča nit vseh teh komedij in strahu je strah pred samimi seboj in eden drugega, samo potem se to nekako manifestira, kot da bo AI tisti bad guy, ki bo kriv za vso našo prihodnjo nesrečo.
o+ nevone
Človek v grobem ne bo naredil AI z namenom, da ga uniči.
Kot že miljonkrat rečeno, bo to čisti "ups".
Tko kot tisti AI ki je izkoriščal overflow-e.
Think about it.
AI z kill switch-om pomeni, da si ga bo nekdo lastil. To nadaljno pomeni, da we'll be at his mercy.
AI z javnim kill switchom je povsem prone to failure.
AI brez kill switcha...well, you know what follows.
PS. In ja seveda...bolj kot sam AI je problem, človek, ki si ga bo lastil.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Zgodovina sprememb…
- spremenil: vostok_1 ()
Lonsarg ::
Pa kakšne ideje po "enem" AI-ju so to. Vojska jih bo imela celo vojsko, vsako podjetje svojega. Ko bo napredek dovolj daleč pa bo v čipu v možganih celo vsak imel svojega.
Vsak pač pod nadzorom lastnika, če bomo kakemu AI dovolj zaupali bo pa kakšen tudi svoboden, odvisno kaj prihodnost prinese. Morda bomo enemu AIju zaupali valadanje planeta bolj kot človeku, politiki bodo pa zgolj programerji izvorne kode tega AIja, oziroma drugače rečeno, postavljali bodo okvire AIju, znotraj katerih bo sam si ustvaril kodo.
Vsak pač pod nadzorom lastnika, če bomo kakemu AI dovolj zaupali bo pa kakšen tudi svoboden, odvisno kaj prihodnost prinese. Morda bomo enemu AIju zaupali valadanje planeta bolj kot človeku, politiki bodo pa zgolj programerji izvorne kode tega AIja, oziroma drugače rečeno, postavljali bodo okvire AIju, znotraj katerih bo sam si ustvaril kodo.
PrihajaNodi ::
Pa kakšne ideje po "enem" AI-ju so to. Vojska jih bo imela celo vojsko, vsako podjetje svojega. Ko bo napredek dovolj daleč pa bo v čipu v možganih celo vsak imel svojega.
Vsak pač pod nadzorom lastnika, če bomo kakemu AI dovolj zaupali bo pa kakšen tudi svoboden, odvisno kaj prihodnost prinese. Morda bomo enemu AIju zaupali valadanje planeta bolj kot človeku, politiki bodo pa zgolj programerji izvorne kode tega AIja, oziroma drugače rečeno, postavljali bodo okvire AIju, znotraj katerih bo sam si ustvaril kodo.
Čakaj malo, res potrebujemo AI kot tako? Recimo, da razvije FACEBOOK čip. Vsakemu poskusnemu zajčku, da 15.000usd za čip v možganskem delu, kjer bi bil dejansko stalno v toku s samim facebookom. Slike bi lahko uploadal direktno, brez kamere. Ti osebki bi bi bili super "navdušeni" nad tem kar se dogaja. Čip pride v splošno uporabo. Algoritem bi vplival na zavest in podzavest teh ljudi, kjer bi bili lastniki vedno svobodni (Marko). Kako in koliko pa bi nam takšna stvar olajšala življenja je pa relativno, je pa fakt da glede na potrošniško družbo nismo sposobni izvajat večjih dosežkov, saj je glavni namen družbe nakupovanje in potrošnja po večini neuporabnih produktov, ki se jih stalno menja.
Lonsarg ::
Ali potrebujemo elektriko? Tehnologije ne boš ustavil, ergo bomo enkrat imeli zelo pametne AIje. Edini način, da nas umetna inteligenca ne prehiti preveč in ostanemo relavantni je, da svojo inteligenco izbolšamo. Pa naj bo to z čipi v glavi, genskim inženiringom ali pa celo digitalizacijo nas samih, ker je ultimativna ideja te teme o protokolu.
Če si jo izbolšamo dovolj morda potrebe po nekem hudem AIju sploh ni, zgolj pomožne AIje rabimo za opravila, o katerih se nam ne da razmišjati. Ali pa kjer rabimo hudo nesubjektivnost in ne zaupamo nobenemu človeku.
Če si jo izbolšamo dovolj morda potrebe po nekem hudem AIju sploh ni, zgolj pomožne AIje rabimo za opravila, o katerih se nam ne da razmišjati. Ali pa kjer rabimo hudo nesubjektivnost in ne zaupamo nobenemu človeku.
Zgodovina sprememb…
- spremenil: Lonsarg ()
PrihajaNodi ::
Ali potrebujemo elektriko? Tehnologije ne boš ustavil, ergo bomo enkrat imeli zelo pametne AIje. Edini način, da nas umetna inteligenca ne prehiti preveč in ostanemo relavantni je, da svojo inteligenco izbolšamo.
Pa naj bo to z čipi v glavi, genskim inženiringom ali pa celo digitalizacijo nas samih, ker je ultimativna ideja te teme o protokolu.
In koliko svobodne volje ti potem še ostane? Torej tekmujemo z nečim kar smo sami ustvarili oziroma rešujemo problem s problemom.
Black Mirror lepo prikaže kako bi digitalizacija nas samih potekala, ja hujše kot v najhujši nočni mori. Hvala, ampak ne hvala. Tam še crknit nimaš šanse..
Lonsarg ::
Alternativa pa je, da so ljudje v škatlicah in uživajo življenje, ker so premenumni za kakršnokoli uporabno mentalno ali fizično opravilo in vse dela AI?
Black Mirror si pogledal tudi 3. in 4. sezono, kjer je črni scenarij zgolj v 50% ;)
Black Mirror si pogledal tudi 3. in 4. sezono, kjer je črni scenarij zgolj v 50% ;)
Zgodovina sprememb…
- spremenil: Lonsarg ()
PrihajaNodi ::
škatlicah in uživajo življenje ?
Takole izgleda škatlica? GTFO, se pa raje vrnim nazaj 10000 let in crknem pri rojstvu ali pa maksimalnih 20 letih.
Vse sem pogledal, me prosim rasvetliš kaj je bil svetli scenarij?
Takole izgleda škatlica? GTFO, se pa raje vrnim nazaj 10000 let in crknem pri rojstvu ali pa maksimalnih 20 letih.
Black Mirror si pogledal tudi 3. in 4. sezono, kjer je črni scenarij zgolj v 50% ;)
Vse sem pogledal, me prosim rasvetliš kaj je bil svetli scenarij?
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
Lonsarg ::
Jih je več, če pa izpostavim najbolj svetlega je pa ravno digitalizacija v enem delu(starka na postelji uživa kot mladenka v tem svetu), kjer na koncu lepo prikaže robotka, ki čipke premika sem in tja.
Morm en link najti, za en short story(nepovezan z Black Mirrir), kjer po mojem mnenju predstavi ultimativno svetel scenarij.
Morm en link najti, za en short story(nepovezan z Black Mirrir), kjer po mojem mnenju predstavi ultimativno svetel scenarij.
Zgodovina sprememb…
- spremenil: Lonsarg ()
PrihajaNodi ::
V čem je poanta digitalizacije osebe? Odpade sex, droga, alhohol? Kje je šele veselje ob rojstvu otroka? Je to napredek, da je vse umetno? Prvi dan ko do tega pride si pošljem metek v glavo, še prej pa na tajskem uberem romanje po ženskah.
Pa saj na nek način smo že digitalizirani. Uporabniki FB so dokazano manj srečni saj so manj povezani z okolico, da ne omenjamo manjko koncentracije. Pa še kup drugih razlogov od sproščanja dopamina ob všečku do drugih psiholoških motenj, ki so nastali kot posledica uporabe FB.
Pa saj na nek način smo že digitalizirani. Uporabniki FB so dokazano manj srečni saj so manj povezani z okolico, da ne omenjamo manjko koncentracije. Pa še kup drugih razlogov od sproščanja dopamina ob všečku do drugih psiholoških motenj, ki so nastali kot posledica uporabe FB.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
Lonsarg ::
Digitalizacija pomeni zgolj ultimativno svobodo o modifikacija lastnega telesa. Svoboda lahko pomeni seks odstranit, lahko pa izbolšat...
Evo našel sem link. Short story - pol ure branja pomoje, prva polovica sicer govori o doomsday scenariju, kjer so roboti zadosti pametni, da za ljudi ni več dela. Druga polovica o rešitvi tega problema;) Več ne povem da ne pokvarim.
http://marshallbrain.com/manna1.htm
Evo našel sem link. Short story - pol ure branja pomoje, prva polovica sicer govori o doomsday scenariju, kjer so roboti zadosti pametni, da za ljudi ni več dela. Druga polovica o rešitvi tega problema;) Več ne povem da ne pokvarim.
http://marshallbrain.com/manna1.htm
Zgodovina sprememb…
- spremenil: Lonsarg ()
PrihajaNodi ::
Digitalizacija pomeni zgolj ultimativno svobodo o modifikacija lastnega telesa. Svoboda lahko pomeni seks odstranit, lahko pa izbolšat...
In kdo bo določal kdaj seks odstranit in kdaj izboljšat? Lahko mi nalepiš še 10000 člankov, fakt ostaja da je Japosnka družba zelo tehnološko razvita in očitno ta trend prihaja tudi k nam. Sex skoraj ne obstaja več, občutkov kot takih ne kažejo, plačujejo drugim osebam da dejansko lahko tam jokajo saj s svojci/znanci svojih občutkov ne morejo deliti.
Nekaj je so nebuloze v teoriji nekaj pa praksa.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
Lonsarg ::
Japonsko je zahod tehnološko prehitel, oni so bili 20 let pred nami pa so potem zaspali. To o čemer ti govoriš pa je njihova psihologija, so pa posebneži, zelo zanimiv narod drugač ko sem bil tam.
Tisto kar sem prilepil ni članek, tisto je sci-fi short story, kjer ima pisatelj zelo lepo predstavo digitalizirane prihodnosti. Ne gre samo za to, dejansko je zelo hud short story vreden branja.
Tisto kar sem prilepil ni članek, tisto je sci-fi short story, kjer ima pisatelj zelo lepo predstavo digitalizirane prihodnosti. Ne gre samo za to, dejansko je zelo hud short story vreden branja.
Zgodovina sprememb…
- spremenil: Lonsarg ()