Prijavi se z GoogleID

» »

AlphaGo Zero se uči brez človeškega zgleda

strani: 1 2 3 4 5

pegasus ::

tikitoki je izjavil:

trenutno genetika se ni divolj razvita.
Prispevam po najboljših močeh, da se bolj razvije. Ti?

thramos ::

Okapi je izjavil:

Ampak je treba takoj dodati, da "odlično služijo svojemu namenu" samo s človeško pomočjo. Udomačitev je "poneumila" volka in psi imajo, glede na velikost, v povprečju kakšnih 15% manjše možgane od volkov. Psi praktično niso sposobni več sami preživeti v naravi.


Seveda. Imajo recimo nižjo stopnjo inteligence ter zmožnosti za kooperativnost (med sabo), hkrati pa so sposobni veliko bolje razumeti in izvrševati človekovo mimiko in ukaze. Kar je jasno posledica egvenike in nižja inteligenca je pač stranska posledica, saj seveda niso "super" v vseh vidikih. Česar tako ali tako tudi "navadna" evolucija ne doseže oz. izboljšuje. Ljudje imamo cel kup okrnjenih čutov v primerjavi z bližnjimi sorodniki.

Bi pa bilo zanimivo videti, kakšen bi bil prosto živeči pes, recimo pol stoletja po jedrski kataklizmi. :D

Zgodovina sprememb…

  • spremenil: thramos ()

gus5 ::

AndrejO je izjavil:

V razmislek: https://wiki.lesswrong.com/wiki/Papercl...
Če prav razumem, UI brez ideološke indoktrinacije je človeštvu nevarna?

Okapi ::

thramos je izjavil:

Bi pa bilo zanimivo videti, kakšen bi bil prosto živeči pes, recimo pol stoletja po jedrski kataklizmi. :D
Izumrl bi. Praktično vse sedanje pasme so preveč specializirane in psi niso več sposobni preživeti samostojno v naravi. Nimajo nagona, da bi skupaj lovili, in predvsem, da bi trop pomagal psicam vzrediti mladiče. Psice same pa ne morejo ujeti dovolj plena, da bi lahko prehranile mladiče. Dokler so blizu ljudje, ki jih hranijo, bodisi neposredno, ali posredno (odpadki, smetišča ...), še nekako gre, če ljudi ni, pa mladiči poginejo od lakote.

V naravi preživijo edino dingoti, ker kot pasma še niso bili tako specializirani.

Looooooka ::

Okapi je izjavil:

Kako misliš, pokvarjen človek se ne ustavi? Seveda se. Nedolžni so umirali, ko je nekoga infarkt za volanom avta ali krmilom letala.

To me spominja na razburjenje ob štetju glasovnic na enih od prejšnjih ameriških volitev, ko so objavili podatek, da se stroj zmoti v 0,001 odstotkih (izmišljena številka, za pravo naj vsak sam pogugla). Potem je pa nekdo povedal, da se ljudje pri ročnem štetju zmotijo v 0,003%.

Če se izkaže, da je stroj zanesljivejši in varnejši, ne vidim nobenega razloga, da bi človeku ne prepovedali opravljati tiste naloge (če je to neka kritična stvar, zaradi katere lahko nastane škoda ali žrtve).

Če bomo pa že danes "kovače" prepovedali bomo pa kot zgoraj omenjeni psi. Omejeno uporabni pa še to samo s pomočjo računalnika.
En tak primer so recimo vsi našu "survival eksperti". Si misliš...pa zakaj bi lezel tja v tri PM brez vrvi in noža. Ampak glej hudiča. Danes že razmišljamo o temu, da bi nekega dne prepovedali vožnjo z avtomobili in jo prepustili računalnikom.
Crkne računalnik, ti si v smrtni nevarnosti, ob sebi pa imaš mulca, ki za koncept vozniškega izpita sploh slišal ni, ker smo vse to prepovedali še preden je bil spočet, ker so računalniki pač bolj varni.
Najbolj butasta stvar, ki jo človeštvo lahko naredi je, da začne prepovedovati in ukinjati vse, kar zna biti "nevarno".
Življenje je nevarno. Že SJW generaciji to več ni jasno pa zaenkrat še smejo vozit avto...
Pa ne pozabit, da je neumen in nesposoben folk najlažje kontrolirat.
Take prepovedi bi bile čisto všeč elitam, ki si želijo sveta, kjer imajo 99% sveta pod kontrolo.
Ko enkrat več nimaš znanja, da bi lahko nekaj opravil sam, se tudi več ne moreš pritoževati nad načinom/kvaliteto izvajanja tega opravila s strani računalniških sistemov. Takrat si dejansko obsolete. Naslednji korak je, da se ti ukine še to storitev, dokler ne lajaš in čakaš pred svojo posodo kot pes med te, ko njegov "divji" sorodnik že spi, ker si je sam ulovil srno/jelena.

Ko rečem znanje ne mislim kup faksov, kjer si prebral kako se je to včasih delalo ti pa si danes genijalec v pisanju algoritmov za prepoznavo obrazov.
To bo en kurac uporabno če si boš nekega dne mogoče rabil sam zašit hlače.
Dokaz, da je to res je kup intelektualcev, ki bi v gozdu sredi decembra umrli že prvo noč.
Pa na papirju vejo in znajo več kot en navaden hribar. Ampak kaj mu pomaga vsa statistika in fizika sredi gozda če si še sendviča ne zna narest, ker je navajen, da ga ta čaka na mizi?

Zgodovina sprememb…

  • spremenilo: Looooooka ()

thramos ::

Okapi je izjavil:

Izumrl bi. Praktično vse sedanje pasme so preveč specializirane in psi niso več sposobni preživeti samostojno v naravi. Nimajo nagona, da bi skupaj lovili, in predvsem, da bi trop pomagal psicam vzrediti mladiče. Psice same pa ne morejo ujeti dovolj plena, da bi lahko prehranile mladiče. Dokler so blizu ljudje, ki jih hranijo, bodisi neposredno, ali posredno (odpadki, smetišča ...), še nekako gre, če ljudi ni, pa mladiči poginejo od lakote.

V naravi preživijo edino dingoti, ker kot pasma še niso bili tako specializirani.


Ja, mogoče oz. verjetno. Ampak iz pol milijardne populacije, bi se morda v pravih okoliščinah vseeno kaj ohranilo.

Okapi ::

Če bomo pa že danes "kovače" prepovedali bomo pa kot zgoraj omenjeni psi. Omejeno uporabni pa še to samo s pomočjo računalnika.
Saj to se že ves čas dogaja. V 16. stoletju je ena skupina španskih osvajalcev ostala zapuščena nekje na obali Mehike. Na hitro so naredili kovaško peč, prekovali oklepe in meče v žage in dleta, podrli nekaj dreves, stesali barko in se rešili. A misliš, da bi ena četa vojakov danes znala narediti kaj podobnega? Niti slučajno.

thramos je izjavil:

Okapi je izjavil:

Izumrl bi. Praktično vse sedanje pasme so preveč specializirane in psi niso več sposobni preživeti samostojno v naravi. Nimajo nagona, da bi skupaj lovili, in predvsem, da bi trop pomagal psicam vzrediti mladiče. Psice same pa ne morejo ujeti dovolj plena, da bi lahko prehranile mladiče. Dokler so blizu ljudje, ki jih hranijo, bodisi neposredno, ali posredno (odpadki, smetišča ...), še nekako gre, če ljudi ni, pa mladiči poginejo od lakote.

V naravi preživijo edino dingoti, ker kot pasma še niso bili tako specializirani.


Ja, mogoče oz. verjetno. Ampak iz pol milijardne populacije, bi se morda v pravih okoliščinah vseeno kaj ohranilo.
Karkoli bi se ohranilo, bi se porazgubilo v genskem skladu volkov. Psi in volkovi se lahko parijo med seboj in po nekja generacijah bi imel že spet samo volkove.

Zgodovina sprememb…

  • spremenil: Okapi ()

nevone ::

Ampak kaj mu pomaga vsa statistika in fizika sredi gozda če si še sendviča ne zna narest, ker je navajen, da ga ta čaka na mizi?


Sredi gozda ti bistveno bolj pomaga znanje fizike (in tudi ostalega znanja, če ga seveda imaš) kot to, kako si pripraviti sendvič, ker sestavin za sendvič v gozdu ni.

To, da ti znanje nič ne pomaga, je največja zmota, ki jo človek lahko ima.

o+ nevone
Rather we will eat the Space or Space will eat us.

Matthai ::

7982884e je izjavil:

in alphago zero je mogoc ravno zato - ker je to igra, kjer je kompleksnost toliko nizja kot v realnem svetu.

Se pravi AI nas bo premagala v igranju in zabavi, ljudem pa ostane samo resno delo? >:D

Okapi je izjavil:

V 16. stoletju je ena skupina španskih osvajalcev ostala zapuščena nekje na obali Mehike. Na hitro so naredili kovaško peč, prekovali oklepe in meče v žage in dleta, podrli nekaj dreves, stesali barko in se rešili. A misliš, da bi ena četa vojakov danes znala narediti kaj podobnega? Niti slučajno.

Vprašanje. Po moje pa ravno vojaki bi. Ker imajo vsaj osnovni trening preživetja.

Ostali pa najverjetneje ne.
All those moments will be lost in time, like tears in rain...
Time to die.

Furbo ::

Markoff je izjavil:

Furbo je izjavil:

Markoff je izjavil:

morda ne bi bilo slabo, da bi se "potweakali" do potankosti, pri čemer AI, ki se sam sebe še ne zaveda, lahko zelo pomagal.

Če bo to počel na tak način, kot se uči igrati, mu bo zmanjkalo vzorcev (ljudi), preden bo naredil kak napredek.

Tweakanje genov, ne ljudi. Popravljanje ljudi je kot flikanje fiča s ciljem nadgraditi ga v cadillaca. Poleg tega se AI ne bo ukvarjal z dejanskim parjenjem, temveč simulacijami. Simulator bo verjetno izgradil na podlagi empiričnih poizkusov, od tu dalje pa empirika ne bo več potrebna, razen potrditve posameznih mejnikov.

Eno je prerivati figurice na relativno preprosti črno/beli igri, drugo je pa živo bitje z skoraj neomejenimi spremenljivkami.

Bo to morda možno nekoč, ne pa za časa naših življenj. Pa najprej moramo sami doumeti gene, preden lahko učimo AI.
Lp,f

DamijanD ::

Okapi je izjavil:

Karkoli bi se ohranilo, bi se porazgubilo v genskem skladu volkov. Psi in volkovi se lahko parijo med seboj in po nekja generacijah bi imel že spet samo volkove.


Ki se pa sami ponovno spreminjajo v pse

GupeM ::

Furbo je izjavil:

Eno je prerivati figurice na relativno preprosti črno/beli igri, drugo je pa živo bitje z skoraj neomejenimi spremenljivkami.

Bo to morda možno nekoč, ne pa za časa naših življenj. Pa najprej moramo sami doumeti gene, preden lahko učimo AI.

Kot si lahko prebral v novici, se AI zna že sama naučiti. Mogoče bo AI prej doumela gene, kot jih bomo mi.

PrihajaNodi ::

DamijanD je izjavil:

Okapi je izjavil:

Karkoli bi se ohranilo, bi se porazgubilo v genskem skladu volkov. Psi in volkovi se lahko parijo med seboj in po nekja generacijah bi imel že spet samo volkove.


Ki se pa sami ponovno spreminjajo v pse



Preden objavljaš se preberi zakaj:

That’s the conclusion of a new study, which finds that the animals are increasingly dining on livestock and human garbage instead of their wild prey


Logično je da se jim habitat krči in je to samo žalostna posledica človeškega pohlepa.

filip007 ::

Ja, človek je odveč, če je nekaj pametnejšega.

#Plejstejšon.

Zgodovina sprememb…

  • spremenil: filip007 ()

tikitoki ::

nevone je izjavil:

Lahko bi pa delali na odstrabitvi dednih bolezni.


Pazi, to je genski inženiring, ki ga bodo itak zdaj enkrat prepovedali in zdemonizirali vse, ki karkoli delajo na tem področju.

Evropa se že bori proti gensko spremenjeni hrani, a zdaj pa mislite, da ljudi bi pa lahko popravljali. Vse mora ostati v božjih rokah. In najbolj zagovarjajo ponavadi ljudje, ki se smartajo za najbolj "neverne".

Vsak, ki kakorkoli čuti, da ima pred drugimi prednost dano od boga, bo navijal, da to ostane v božjih rokah, dokler ga nekaj ne doleti.

o+ nevone


A da res? Ze sedaj imas moznost splava, ce ima otrok nekatere od dednih bolezni za katere se lahko preveri.

Short on time...

Furbo ::

GupeM je izjavil:

Furbo je izjavil:

Eno je prerivati figurice na relativno preprosti črno/beli igri, drugo je pa živo bitje z skoraj neomejenimi spremenljivkami.

Bo to morda možno nekoč, ne pa za časa naših življenj. Pa najprej moramo sami doumeti gene, preden lahko učimo AI.

Kot si lahko prebral v novici, se AI zna že sama naučiti. Mogoče bo AI prej doumela gene, kot jih bomo mi.

Ne zna se sam naučiti. Pravila iger so mu vnesli, on je pa potem samo igral sam s seboj in ugotavljal, kaj bi bilo najbolj optimalno. Sploh ne ve, kaj počne.

AI lahko naučiš igrati neko igro, kjer vsak telebajsek pozna pravila. Lahko ga učiš vožnjo, ker mu povemo, kaj pomeni vsak prometni znak.

Ne moreš ga pa naučiti, da bi sam našel zdravilo za neko bolezen iz nule. Sam od sebe ti niti vezalk ne bo nikoli sposoben zavezati, če mu tega ne bo nekdo pokazal. Pač ni kreativen.

Če mu nalogo ne boš spremenil v matematično formulo, ne bo nič od njega. Zdaj pa napiši formulo za zdravilo za raka.
Lp,f

Zgodovina sprememb…

  • spremenil: Furbo ()

noraguta ::

tudi človek ni sposoben tega brez izobrazbe. le da tu zapišeš pravila enkrat pa daš različnim ai substratom v analizo. za ceno copy paste. ne pa 20letnega izobraževanja.
Pust' ot pobyedy k pobyedye vyedyot!

Furbo ::

Zdaj me samo zanima, kdo je prvega naučil zavezati vezalke? Kdo je prvega naučil ozdraviti bolezen?
Lp,f

marS ::

thramos je izjavil:


Bi pa bilo zanimivo videti, kakšen bi bil prosto živeči pes, recimo pol stoletja po jedrski kataklizmi. :D

Če smo že pri psih po jedrski kataklizmi...
...no more heroes...
http://tracks.ilbis.com/

noraguta ::

Furbo je izjavil:

Zdaj me samo zanima, kdo je prvega naučil zavezati vezalke? Kdo je prvega naučil ozdraviti bolezen?

kdo je rešil problem rdeče črno. in ali comp nuca vezat vezalke. oz ali vsak pamž to na novo izumi ali se priuči?
Pust' ot pobyedy k pobyedye vyedyot!

nevone ::

Ze sedaj imas moznost splava, ce ima otrok nekatere od dednih bolezni za katere se lahko preveri.


Terminirati zarodek že, popravljati pa ne. No, seveda to ne bo trajalo v nedogled, ker človek je narejen tako, da se samoizboljšuje oziroma popravlja v smislu, da je bolj "konkurenčen".

o+ nevone
Rather we will eat the Space or Space will eat us.

7982884e ::

AndrejO je izjavil:

V razmislek: https://wiki.lesswrong.com/wiki/Papercl...

Za zabavo: http://www.decisionproblem.com/papercli...


razviti optimizacijski algoritem, ki je tako sposoben optimizacije, obenem pa ni sposoben nic drugega - nekaksna surova neumna optimizacija, brez dojemanja cilja - je tezje kot razviti sistem, ki ni tak.

teli "AI" filozofi prevec filozofirajo in morajo malo bolj predvidevati implikacije takega sistema. general AI sistem mora imeti notranjo ontologijo za predstavitev sveta, ce hoce delat take plane. ce hoce clovek tak sistem razvit, mora vedet, kaksna je ta ontologija. ce ga hoce sploh zacet uporabljat, mora imet tudi vpogled in v notranjo predstavitev sistema, in v interpretacijo ciljev.

tako da romanticna/fantasticna situacija kjer nekdo rece stroju "dej mi kolikor mores ferrarijev" in gre stroj terraformat cel planet v ferrarije, ni prevec prakticna drugod kot za fantaziranje.

7982884e ::

Matthai je izjavil:

7982884e je izjavil:

in alphago zero je mogoc ravno zato - ker je to igra, kjer je kompleksnost toliko nizja kot v realnem svetu.

Se pravi AI nas bo premagala v igranju in zabavi, ljudem pa ostane samo resno delo? >:D


premagovala nas bo pocasi povsod. tudi ce se od danes naprej podrocje strojnega ucenja/AI ne razvija vec, sama digitalizacija in optimizacija procesov grozi z odstavitvijo lepega procenta populacije, ki ni sposoben delat zadosti koristnega dela bolje kot avtomatiziran proces + dobro izucena cloveska delovna sila.

Looooooka ::

Kar je problem dokler zivimo v kapitalizmu in bo pripeljalo do uporov.
Edina resitev bo obdavcitev teh masin in neka socialna varnost za prebivalce.
Ni ga cloveka, ki bi lahko prehitel avtomatizacijo, torej bodo bogati hitro ostali brez glave, ce bodo se naprej vztrajali pri trenutnem sistemu =)

Zgodovina sprememb…

  • spremenilo: Looooooka ()

7982884e ::

Looooooka je izjavil:

Ko rečem znanje ne mislim kup faksov, kjer si prebral kako se je to včasih delalo ti pa si danes genijalec v pisanju algoritmov za prepoznavo obrazov.
To bo en kurac uporabno če si boš nekega dne mogoče rabil sam zašit hlače.
Dokaz, da je to res je kup intelektualcev, ki bi v gozdu sredi decembra umrli že prvo noč.
Pa na papirju vejo in znajo več kot en navaden hribar. Ampak kaj mu pomaga vsa statistika in fizika sredi gozda če si še sendviča ne zna narest, ker je navajen, da ga ta čaka na mizi?


pac ne bo v gozdu delal sendvicev iz ulovljenih srn. in si ne bo zasil hlac, ker je ceneje, ce stroj naredi nove in jih kupi v trgovini.

ne vem, kaj hoces povedat. pac svet se spreminja, ne rabimo vec bit survival eksperti, ker nismo vec v stanju prezivetja, ampak nam 2-3 procente populacije pridela ogromen presezek hrane, ki jo mecemo stran in se z njo naziramo do debelosti.

Crkne računalnik, ti si v smrtni nevarnosti, ob sebi pa imaš mulca, ki za koncept vozniškega izpita sploh slišal ni, ker smo vse to prepovedali še preden je bil spočet, ker so računalniki pač bolj varni.

ce bomo v situaciji, kjer smo prepovedali cloveko-vozne avtomobile, ker so prenevarni, bo za mene super. pa ker te zakone ne pisejo slovenski internetni vseznalci, bo verjetno malo tezje kot "racunalnik je naredil blue screen in zdaj gre moj samovozec avto v prepad, jaz pa ne morem nicesar".

Looooooka je izjavil:

Kar je problem dokler zivimo v kapitalizmu in bo pripeljalo do uporov.
Edina resitev bo obdavcitev teh masin in neka socialna varnost za prebivalce.
Ni ga cloveka, ki bi lahko prehitel avtomatizacijo, torej bodo bogati hitro ostali brez glave, ce bodo se naprej vztrajali pri trenutnem sistemu =)

bolje kot obdavciti masine/procese/karkoli prinasa dobicek in s tem kaznovati inovativnost njihovih razvijalcev/lastnikov, bodo razvojni skladi, s katerimi bi dal vsak nekaj svojega kapitala v skupno lastnistvo teh strojev.

sicer bodo pac razvijalci/lastniki zbezali ven iz takih vzemimo-proizvodna-sredstva-grdim-kapitalistom komunisticnih dezel in te dezele bodo se bolj obubozane, ko bodo pogruntale, da so s tem zbezali glavni davkoplacevalci.

Zgodovina sprememb…

  • spremenilo: 7982884e ()

tikitoki ::

nevone je izjavil:

Ze sedaj imas moznost splava, ce ima otrok nekatere od dednih bolezni za katere se lahko preveri.


Terminirati zarodek že, popravljati pa ne. No, seveda to ne bo trajalo v nedogled, ker človek je narejen tako, da se samoizboljšuje oziroma popravlja v smislu, da je bolj "konkurenčen".

o+ nevone


Se nanasa na odpravljanje dednih bolezni. Pa tudi zdravljenje je blizu in dvomim, da bo prepovedano. Izboljsave in zdravljenje sta eticno gledano mocno razlicna.

Seveda, drugje bodo pa mirno gledali, da pescica obvladuje vse.
In bolje je tehnologijo zapleniti in uporabiti za dobrobit vseh, kot pustiti, da nekaj pijavk dela, kar se jim zazdi.

Zgodovina sprememb…

  • spremenilo: tikitoki ()

PrihajaNodi ::

In bolje je tehnologijo zapleniti in uporabiti za dobrobit vseh, kot pustiti, da nekaj pijavk dela, kar se jim zazdi.


Kaj pa ti mislis da bos? Da bodo tvoji froci "svobodni" in delali to kar zelijo, robotki bodo pa sami delali? Saj tistim na vrhu gre z razrascanjem neplodnosti odlicno, potem imamo tu se geje, samomorilce izobrazence, ki necejo otrok skupaj s karieristi...torej populacija se bo zacela manjsati ce ne s tabo pa s tvojimi potomci:)Ti vidis kje kak upor? Jaz ga ne.Pa srecno tistim, ki imate potomce in niste vsaj malo pri koncu "prehranjevalne verige".

Zgodovina sprememb…

BigWhale ::

thramos je izjavil:

Iz volka smo dobili cel kup super psov, ki odlično služijo svojemu namenu. Prav tako z zelenjavo, ki je povsem neprimerljivo bolj hranilna, kot divja.


Vecina te zelenjave in vecina teh psov je zelo odvisna od cloveka in bi v resnici tezko preziveli sami.

thramos je izjavil:

Da imajo nekatere pasme genetske napake, je posledica zgolj napačnega načina evgenike v teh primerih. Osredotočanje zgolj na izgled in ne tudi na funkcionalnost oziroma zdravje.


To pomeni, da stvari ne znamo poceti tako kot treba. Bistvo je pa predvsem to, da si z evgeniko manjsas genetski bazen in to na dolgi rok boli.

Markoff ::

tikitoki je izjavil:

A da res? Ze sedaj imas moznost splava, ce ima otrok nekatere od dednih bolezni za katere se lahko preveri.

Težava je lahko, če neka kultura npr. ženski spol obravnava podobno kot dedno bolezen in splavi deklice, ker hočejo fante. Dolgoročno to vpliva na vse sosede, saj je treba manjkajoče ženske nekje pač dobiti za samske fante.

Ampak takšne kulture moramo v duhu multikulti spoštovati, ko pa neka Ljudmila reče le, da ne podpira splava (ne da ga je treba prepovedati), pa je srednjeveška inkvizitorka, ki jo je treba deportirati v Vatikan. Go figure.
Novorek idiokracije:
posebaj, skropucalo, inžinir, intiligenca/intelegenca, apsolutno, anEks.

thramos ::

BigWhale je izjavil:

Vecina te zelenjave in vecina teh psov je zelo odvisna od cloveka in bi v resnici tezko preziveli sami.


Ja, smo že ugotvili, da praktično nobeden nebi.

Kar ne pomeni, da niso super psi - super čuvaji, prinašalci, lovci ..., še manj pa, da se evgenika ne obnese.

BigWhale je izjavil:

To pomeni, da stvari ne znamo poceti tako kot treba. Bistvo je pa predvsem to, da si z evgeniko manjsas genetski bazen in to na dolgi rok boli.


Ker smo pri nekaterih pasmah povzročili občasne napake, pomeni, da ne znamo početi tako kot je treba? Ne, ne pomeni tega.

BigWhale ::

Ne, ne znamo. V genetski genetski bazen smo prinesli polno napak in ustvarili en kup zanic vrst. Zanic v evolucijskem smislu. Da se pa nekaterim zdi uspeh imeti cuvaja, ki je dober cuvaj pet let, potem ga mors dat pa usmrtit vmes pa ze novega trenirat, ali pa da imas prirocnega psa za v torbico, je pa povsem drug kriterij.

7982884e ::

tikitoki je izjavil:

In bolje je tehnologijo zapleniti in uporabiti za dobrobit vseh, kot pustiti, da nekaj pijavk dela, kar se jim zazdi.
kdo ti da pravico, da ukrades lastnino izumitelja/razvijalca take stvari?
imas cudno definicijo pijavke, ves. nekateri bodo razvijali/investirali v take tehnologije, drugi bodo pa "zaplenili" in jo cuzali zase, brez da bi karkoli pritaknili zraven.

PrihajaNodi ::

imas cudno definicijo pijavke, ves. nekateri bodo razvijali/investirali v take tehnologije, drugi bodo pa "zaplenili" in jo cuzali zase, brez da bi karkoli pritaknili zraven.


In tisti, ki ne bodo ne razvijalci ne investitorji bodo pa odpadki človeštva, kar je pač logično.

7982884e ::

kar je problem, ja, ampak se ga ne resuje tako, da po komunisticno ukrademo proizvodna sredstva grdim kapitalistom ali se gremo traparij tipa obdavcitev profita.

PrihajaNodi ::

7982884e je izjavil:

kar je problem, ja, ampak se ga ne resuje tako, da po komunisticno ukrademo proizvodna sredstva grdim kapitalistom ali se gremo traparij tipa obdavcitev profita.


Pa saj sem že napisal, da se grejo lepo igro kjer je to jasno vidno s hormonskimi motilci, ki jo uživamo s hrano.

thramos ::

BigWhale je izjavil:

Ne, ne znamo. V genetski genetski bazen smo prinesli polno napak in ustvarili en kup zanic vrst. Zanic v evolucijskem smislu. Da se pa nekaterim zdi uspeh imeti cuvaja, ki je dober cuvaj pet let, potem ga mors dat pa usmrtit vmes pa ze novega trenirat, ali pa da imas prirocnega psa za v torbico, je pa povsem drug kriterij.


Kot prvo - stanje z genetskimi boleznimi niti približno ni tako slabo, kot ga slikaš.

Kot drugo - naš evolucijski kriterij je bil odličen čuvaj oz. torbičar, karkoliže, primeren za življenje s človekom. Ne pa pes, sposoben neodvisnega preživetja v naravi. Evgenika je pri psi dosegla oz. dosega naše cilje, ne pa cilje naravne evolucije. Kar je dejansko smisel vsega skupaj.

GupeM ::

Furbo je izjavil:

GupeM je izjavil:

Furbo je izjavil:

Eno je prerivati figurice na relativno preprosti črno/beli igri, drugo je pa živo bitje z skoraj neomejenimi spremenljivkami.

Bo to morda možno nekoč, ne pa za časa naših življenj. Pa najprej moramo sami doumeti gene, preden lahko učimo AI.

Kot si lahko prebral v novici, se AI zna že sama naučiti. Mogoče bo AI prej doumela gene, kot jih bomo mi.

Ne zna se sam naučiti. Pravila iger so mu vnesli, on je pa potem samo igral sam s seboj in ugotavljal, kaj bi bilo najbolj optimalno. Sploh ne ve, kaj počne.

AI lahko naučiš igrati neko igro, kjer vsak telebajsek pozna pravila. Lahko ga učiš vožnjo, ker mu povemo, kaj pomeni vsak prometni znak.

Ne moreš ga pa naučiti, da bi sam našel zdravilo za neko bolezen iz nule. Sam od sebe ti niti vezalk ne bo nikoli sposoben zavezati, če mu tega ne bo nekdo pokazal. Pač ni kreativen.

Če mu nalogo ne boš spremenil v matematično formulo, ne bo nič od njega. Zdaj pa napiši formulo za zdravilo za raka.

Si prepričan, da ne bi izzumil povsem nove igre, če bi mu dal samo igralno ploščo in figure? Vse, kar bi rabil je motiv (nagon) in/ali nasprotnik. Trenutne verzije mogoče res še ne, bo pa kmalu tudi kaj takega verjetno.

AndrejO ::

gus5 je izjavil:

AndrejO je izjavil:

V razmislek: https://wiki.lesswrong.com/wiki/Papercl...
Če prav razumem, UI brez ideološke indoktrinacije je človeštvu nevarna?

Pretiravaš z antropomorfizmom.

Algoritmi za strojno učenje, ki imajo pomankljiv nabor parametrov delovanja, lahko v določenih okoliščinah postanejo nevarni ljudem. V tem niso nič bolj drugačni od robotske roke, ki jo je potrebno ustaviti, preden se vstopi v delovno območje stroja. Ker pač nima senzorja, da bi zaznala človeka in se ustavila "sama". Z AI ni nič drugače. Če okvirje delovanja navedeš pomankljivo, potem je bolje ne vstopiti v "območje delovanja". Problem se pojavi, ko postane "območje delovanja" npr. električno omrežje v državi ali pa nadzor semaforjev v mestu.

7982884e je izjavil:

AndrejO je izjavil:

V razmislek: https://wiki.lesswrong.com/wiki/Papercl...

Za zabavo: http://www.decisionproblem.com/papercli...


razviti optimizacijski algoritem, ki je tako sposoben optimizacije, obenem pa ni sposoben nic drugega - nekaksna surova neumna optimizacija, brez dojemanja cilja - je tezje kot razviti sistem, ki ni tak.

Zanimivo. Kaj točno je pa AlphaGo in kje najdem primerke algoritmov, ki jih je menda lažje razviti, ker se ne gredo "surove neumne optimizacije"?

Mimogrede? Je že kdo imel intervju z AlphaGo in ga povprašal o tem, kako se počuti ob svojih uspehih? Očitno je za uspeh namreč potrebno "dojemanje cilja".

7982884e je izjavil:

teli "AI" filozofi prevec filozofirajo in morajo malo bolj predvidevati implikacije takega sistema. general AI sistem mora imeti notranjo ontologijo za predstavitev sveta, ce hoce delat take plane.

Splošni AI morda res. Splošni AI si bi verjetno bil sposoben tudi sam ustvariti ontologijo, ki mu ustreza. Ampak splošnega AI ni nikjer na obzorju, imamo pa pred in med seboj celo vrsto t.i. "AI-jev", katerih bistvo je, da skozi proces "učenja" v vhodnih podatkih najdejo povezave z željenimi izhodi s ciljem maksimizacije pravilnosti izhodov.

7982884e je izjavil:

ce hoce clovek tak sistem razvit, mora vedet, kaksna je ta ontologija. ce ga hoce sploh zacet uporabljat, mora imet tudi vpogled in v notranjo predstavitev sistema, in v interpretacijo ciljev.

Del problema je, da današnji algoritmi nimajo nikakršnih "notranjih ontologij", sploh pa zunanji opazovalci (vključno s samimi razvijalci) ne moremo zadovoljivo pojasniti kako je sistem prišel do danega rezultata, temveč samo kateri so gradniki sistema, ki prilagajajo delovanje glede na vhodne podatke.

7982884e je izjavil:

tako da romanticna/fantasticna situacija kjer nekdo rece stroju "dej mi kolikor mores ferrarijev" in gre stroj terraformat cel planet v ferrarije, ni prevec prakticna drugod kot za fantaziranje.

Si morda prebral spremno besedilo, ki pojasnjuje zakaj je bil izbran takšen primer in ne kakšen drugačen?

thramos ::

thramos je izjavil:

Kot prvo - stanje z genetskimi boleznimi niti približno ni tako slabo, kot ga slikaš.


Življenska doba volkov (v ujetništvu) je dejansko zelo podobna pasji. Za vse pasme. Medtem ko so manjše bolj dolgožive, kar pravzaprav pomeni, da smo v tem primeru "izboljšali evolucijo", tudi po kriterijih, ki jih ti postavljaš. Čeprav skoraj zagotovo tega sploh nismo želeli.

PrihajaNodi ::

izboljšali evolucijo


Ti mali psi bi bili v naravi prvi rastrgani. Naredili smo igrace in jih zamenjali za otroke.

thramos ::

PrihajaNodi je izjavil:

Naredili smo igrace


Kar je bil tudi namen.

PrihajaNodi ::

Torej evolucija pomeni zadovoljevanje cloveskih psiholoskih motenj?

thramos ::

Ne, evgenika je bila uspešno uporabljena pri udomačevanju (skupnega prednika) volka za zadovoljevanje različni človeških potreb.

PrihajaNodi ::

Torej cemu sluzita buldog in pudelj?

nekikr ::

za zadovoljevanje različni človeških potreb.

Markoff ::

PrihajaNodi je izjavil:

Torej cemu sluzita buldog in pudelj?

Za lizanje sladoleda skozi steklo in kot nadgradnja nepremičnih oblikovanih grmičkov.

Človekove potrebe pač.
Novorek idiokracije:
posebaj, skropucalo, inžinir, intiligenca/intelegenca, apsolutno, anEks.

nevone ::

Žival je lahko človeku prijetna in zanimiva družba.

o+ nevone
Rather we will eat the Space or Space will eat us.

PrihajaNodi ::

nevone je izjavil:

Žival je lahko človeku prijetna in zanimiva družba.

o+ nevone


Tako kot človek z downovim sindromom.

nevone ::

PrihajaNodi je izjavil:

nevone je izjavil:

Žival je lahko človeku prijetna in zanimiva družba.

o+ nevone


Tako kot človek z downovim sindromom.


Ne razumem, kaj hočeš povedati.

o+ nevone
Rather we will eat the Space or Space will eat us.

7982884e ::

Zanimivo. Kaj točno je pa AlphaGo in kje najdem primerke algoritmov, ki jih je menda lažje razviti, ker se ne gredo "surove neumne optimizacije"?

optimizacija je na koncu dneva brute force take ali drugacne oblike, in bolj kot je cilj splosen, tezje ga je bruteforcat.
nek hipoteticni optimizacijski algoritem, ki zna optimizirat tako kompleksen problem kot je proizvodnja paperclipov, ni prevec verjeten v obliki, kjer njegovi operaterji nimajo vpogleda v notranje stanje in njegovo interpretacijo stavka "naredi mi cimvec paperclipov". razlog je cisto prakticen, saj je tako stvar tezko razvit, ker je ne bos razvijal na slepo in zalaufal sele takrat, ko bo ze sposoben vsega tega.
tak blackbox problem je velik problem pri optimizaciji uspesnosti danasnjih deep neural networkov. ce bomo hoteli imet AI, ki zna precej, precej vec, ne bo slo brez da zelo dobro vidimo, kaksne modele si je stvar ustvarila in kako interpretira razne poizvedbe.

Ampak splošnega AI ni nikjer na obzorju, imamo pa pred in med seboj celo vrsto t.i. "AI-jev", katerih bistvo je, da skozi proces "učenja" v vhodnih podatkih najdejo povezave z željenimi izhodi s ciljem maksimizacije pravilnosti izhodov.
res je, in point je da teli nasi machine learning sistemi res ponujajo to analogijo apokalipticne optimizacije, ampak je malo verjetno, da se lahko poskejlajo na raven splosnega AI. jim dosti, dosti prevec fali v vseh pogledih.

Del problema je, da današnji algoritmi nimajo nikakršnih "notranjih ontologij", sploh pa zunanji opazovalci (vključno s samimi razvijalci) ne moremo zadovoljivo pojasniti kako je sistem prišel do danega rezultata, temveč samo kateri so gradniki sistema, ki prilagajajo delovanje glede na vhodne podatke.
tu se strinjamo, kot sem napisal zgoraj.

pri nevronskih mrezah si lahko predstavljas utezi, da predstavljajo neko ontologijo, recimo pri konvolucijskih mrezah za prepoznavo objektov na slikah je v utezeh shranjena lepa, cloveku razumljiva hierarhija objektov na razlicnih nivojih (ravno zato so jih razvili), ampak je problem da jo je tezko na prvo zogo razvozlat v cloveku berljivi obliki.

Zgodovina sprememb…

  • spremenilo: 7982884e ()
strani: 1 2 3 4 5


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

AlphaZero igra šah, go in šogi (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
688914 (5089) nevone
»

Skrivnostni velemojster goja kar Googlov AlphaGo

Oddelek: Novice / Znanost in tehnologija
206429 (2813) Isotropic
»

Zadnja priložnost za človeštvo v goju (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
508728 (6840) jype
»

AlphaGo po treh zmagah že skupni zmagovalec dvoboja v goju proti človeku

Oddelek: Novice / Znanost in tehnologija
4310540 (6281) bMozart
»

4:1 - konec človeške superiornosti v goju

Oddelek: Novice / Znanost in tehnologija
215969 (3763) Jst

Več podobnih tem