Protokol

Ti lahko razumeš hrčkove želje, interese in hotenja, ne da bi "razmišljal kot hrček".

Ne razmišljaš kot hrček, ampak "simuliraš" razmišljanje hrčka. Ti si spodoben razmišljanja na nivoju hrčka, čeprav ponavadi razmišljaš na veliko višjem nivoju.

Posnemanje ni nujno najboljši način razumevanja tistega.

Ampak ljudje najbolje prav posnemamo stvari. Če so nam človeški možgani, kot trenutni vrhunec nevrološke evolucije, nekakšen vzor, potem je najverjetneje, da bomo prvo naredili kopijo le teh, preden nam bo ratalo narediti neko alternativo z podobnim ali boljšim efektom.

AI pa bi moral biti sposoben razmišljati "vsaj" kot človek - ne "le" kot človek.

>AI pa bi moral biti sposoben razmišljati "vsaj" kot človek - ne "le" kot človek.

Zakaj že?

Kako naj bo AI efektiven, ko pa ne ve točno, kaj hočeš oz. kako to izpeljat? In kako bolje mu dopovedati kaj hočeš, če zna razmišljati kakor ti?

maksimizicija p/p količnika

Se ti sploh sanja, kaj to (realno) je?
Še več - a misliš, da boš prej naredil program, ki bo ugotovil, kaj to je, preden boš to sam doumel?

V razmislek, le zakaj letalo ne maha s krili in vseeno leti? Še hujši primer, zakaj sta brata Wright rep postavila pred krila svojega letala?

Pred Wrightom pa je bil Lilienthal. Opazoval je ptice in na podlagi tega potegnil zaključke o vzgonu, krilih, termiki,...
In potem naredil prvo jadralno letalo - jadranje po načelu jadranja štorkelj.
Postal je "enakovreden" štorklji (kar se tiče letenja) in potem je šel razvoj letal (povsem drugačnih od narave) rapidno naprej. Ampak ne prej.

Mogoče ena hecna stvar.

AI BI MORAL boljše vedeti kaj je za nas dobro kot pa mi sami. To je dejstvo.

Menda ne boš trdil, da lahko jadralno letalo zamenjaš za štorkljo?!

Saj ti ni cilj bila štorklja sama - ampak en skupek lastnosti, ki ji omogoča let.
Če lahko kontrolirano jadra, sta si enakovredna.

Obstajajo druge poti. Lahko recimo sestaviš informacijsko sliko možganov, izoliraš predele v katerih se nahaja motivacijski sistem in iz tega prebereš motive. Ali pa sklepaš na podlagi evolucije, ki je zgradila naš brainware... Če bi še malo pomislil bi mi verjetno padel na pamet še kak način, kaj šele kolikor toliko sposobnemu AIju.

Ali pa direktno preučuješ in kopiraš trenutni, končni rezultat, ki ti je pri roki. Zakaj bi se matral z ugotavljanjem, kako je do nečesa prišlo, ko pa lahko ugotavljaš, kaj že imaš?
So druge poti - ampak nobena ni enostavnejša od direktnega kopiranja.

Ne bom utrujal tukajle s tem, kakšno lovsko taktiko imajo levi. O tem se lahko pouči vsak, ki hoče.

Vendar levi je ne razumejo prav dobro. Vsak pozna kvečjemu svojo vlogo pri lovljenju tropa, pa še to v precej omejenem obsegu. Še tega ne razume, zakaj zaduši tisto nesrečno "kravo" in kaj to sploh pomeni.

Ljudje smo to skapirali. Razumemo celo licitiranje kdo med njimi bo tvegal rog v rebra. Vemo kaj je Nashev ekvilibrij, bistven pojem za razumevanje tega.

Mi jih razumemo, oni sebe ne.

Naš proces ne potrebuje nujno "štorkljinega perja" in če prav razumem se zdaj s tem strinjaš.

Dober AI potrebuje mora opraviti Turingov test. Saj zato ni potrebna popolna kopija celotnega človeka ali celo popolna kopija človeških možganov - potrebna je le kopija delovanja možganov - kakorkoli že je izvedena.
Ampak v tem je hec - kakorkoli da jo hočeš duplicirat ali simulrat - praktično jo moraš prej poznat.

S tem bi se dalo strinjati, če dodam, da ni nujno najkrajša. Enostavnejša je v tem smislu, da je pot po kateri moramo iti praktično znana. Če smo pa dovolj zviti IN srečni (lucky), pa lahko uberemo tudi kako bližnjico, ki pa ima tudi druge (možne) pozitivne lastnosti.

Malo sem popravil

Dobro jadralno letalo mora opraviti Štorkljin test

Če lahko učinkovito in kontrolirano jadra, je opravil test (ampak vse ta kritika je malo zgrešena - Turing sprašuje po sposobnostih inteligence in ne fizičnih opravil)

Pomojem je škoda tratiti energije za komunikacijo v naravnem jeziku in morda bi se tudi superinteligenca temu raje ognila.

Ali boš se ti naučil novega jezika, ali boš naučil program, da razume tvoj jezik ali pa boš pustil programu, naj sam odloča, kaj si pravzaprav želiš in kaj je primerno.
Kolikor vidim bi dal ti vse vajeti v roke AI, da "ustvari boljši svet".

Pri zgodnjih AIjih se mi to zdi zelo slaba ideja.

>> Dobro jadralno letalo mora opraviti Štorkljin test
> Če lahko učinkovito in kontrolirano jadra, je opravil test (ampak vse ta kritika je malo
> zgrešena - Turing sprašuje po sposobnostih inteligence in ne fizičnih opravil)

Turingov test zahteva, da nas AI a svojimi odgovori prepriča, da je človek. Razlika med najinima pogledoma je v tem, da ti jemlješ to kot potreben pogoj za inteligenco, medtem ko se pa meni to ne zdi tako pomembno (zato omenjam "štorkljino perje").

V analogiji z letalom ustreza inteligentnosti zmožnost letenja, sposobnosti govorjenja v naravnem jeziku pa vizualne/strukturne lastnosti letala oziroma ptice.

Torej se zgornji stavek "[letalo] lahko učinkovito in kontolirano jadra" prevede v "neka entiteta je inteligentna". Kar pa ne pomeni, da je opravil zg. omenjeni test, v katerem bi nas moral preslepiti, da je ptica - pač analogija Turingovega testa. Letalo lahko leti, ne da bi izgledalo kot ptica, neka entiteta je lahko inteligentna, ne da bi govorila kot mi.

Lahko imamo drugačno mero za inteligentnost, kot je Turingov test. Yudkowsky je predlagal model optimizacijskega procesa. Močnejši kot je tak proces, inteligentnejši je, preprosto povedano. Če njegova optimizacijska tarča ne zajema tudi sposobnosti komunikacije v naravnem jeziku ga to še ne naredi neinteligentnega.

> Kolikor vidim bi dal ti vse vajeti v roke AI, da "ustvari boljši svet".

Zagotovo ne bi kar pustil, da postane motivacijski sistem AI-ja arbitraren - torej da se zgradi kar "sam od sebe" kot produkt njegove notranje dinamike...

Na nek način je seveda potrebno vgraditi/sporočiti AI-ju naše vrednote, še bolje naš način razmišljanja o etiki. V bistvu te zanima kako zgraditi Friendly AI, kar je pa... zelo, zelo težak problem, poleg tega pa še potreben čimprejšnje rešitve.

Predlagam da pustimo Turinga raje malo pri miru in raje poiščemo rešitev problema prijazne umetne inteligence... ;)

V bistvu te zanima kako zgraditi Friendly AI, kar je pa... zelo, zelo težak problem

...ki ga ne boš mogel rešit, dokler ne pogodiš idealne formule za Friendly Society. Ki je ne boš našel, dokler ne spoznaš detajle človeške psihologije, filozofije, etike in morale. Ki jih ne boš spoznal, dokler v detajle ne spoznaš delovanje možganov in uma.

Kot rečem - pred 2050 ne bo resnega AIja ;)

@marko
-->še bolje naš način razmišljanja o etiki
->A si ziher pri tem? Je pa res, da je odvisno kako etiko misliš.
Človek neve kaj je najbolje za njega, ergo tudi njegova etika ni najprimernejša. Preveč čustev.

Tole je precej tricky zadeva. Ljudje smo s svojim razmišljanjem o etiki prišli do utilitarizma in do ideje, da je sreča (pleasure) dobra. In sedaj naj AI-ju rečemo le to, da naj poskrbi na kakršenkoli način za maksimizacijo p/p razmerja? Lahko tudi, ampak (!) kaj pa če obstaja kak drugačen, v nekem smislu boljši etični sistem od tega utilitarističnega, do katerega bi se sčasoma dokopali? Ne bi bilo potem bolje, da prenesemo to našo zmožnost razmišljanja o etiki na AI, ki naj potem nadaljuje naše delo? Pomojem da.

Tachyon:
A ti zdaj trdiš, da pa sreča mogoče le ni vse?

Ti verjamem, da tudi za tisti AI, enkrat po 2010, ne boš mislil, da je "resen" in "taprava AI", pač pa nekaj "preveč mehaničnega". Nekaj "premalo navdahnjenega".

Možno je, da boš prej napisal algoritem ali basic AI, ki se bo znal sam učiti, reševati probleme in dajati izvirne rešitve. In da se bo ta AI (ali z njegovo pomočjo) sčasoma toliko nadgradil in modificiral, da bo postal "resen".

Ampak ta končni AI ni več tisti, z katerim smo začeli.

LAhko da bomo že jutri napisali ta zametek AIja, ki bo sčasoma prerastel v pravega.
Ampak končni je še daleč od uresničitve (seveda, če daš Turinga na stran, se lahko kregamo, kaj je končni, pravi, resni AI).

@marko
> A ti zdaj trdiš, da pa sreča mogoče le ni vse?

Dopuščam majhno možnost, da ni. Zdajle bom nekaj dni odsoten, tako da bom kasneje napisal kaj več o tem...poleg tega moram pa tudi mal premislit če se lahko ne strinjam s tabo in Thomasom. :)

Zanima nas bolj self enhancing loop, ki se zna (vedno bolje) izboljševati sam, pa še vse okoli sebe zraven.

V redu. Imam podobne želje. Mene (izpopolnjen) transhumanizem niti malo ne moti.

Aaampak :)
Treba ustvarit njegovo zasnovo (hardwer), njegovo logiko (softwer) in idealno moralo za vse (namen).
Ti pa ne razumeš trenuten vrhunec nevrologije (možgane), njegove logike (inteligenco) in idealne morale za vse.

Seveda se lahko poskušaš izognit celotnemu problemu da ustvariš program, ki se sam uči, sam razvija, sam spreminja in sam (veliko hitreje in učinkoviteje) rešuje probleme zate (oz. za dobrobit vsega človečanstva).
AI, ki bo delal in mislil namesto tebe.

Ampak, IMHO, tudi za najbolj basic program, iz katerega se lahko razvije pravi AI, potrebuješ podrobna znanja iz vseh zgornjih področij.
Tu se razhajava. Čeprav je morda par vrstic kode ključ do AIja, moraš razumeti našteto preden boš lahko napisal to kodo.
Morda se ti us..e, ampak po analitičnem postopku se boš pač še načakal.

Če maš dovolj kumputinga

Če imaš hardwer.
Ki ga tudi še nimaš (med ostalim).

razen časa seveda?

Le čas ;)

Če maš dovolj kumputinga je lahko AI samo z slepim poskušanjem miljardokrat bolj pametna kot smo mi.

težko IMHO. Kako pa bo superhitri neumnež vedel, kako naučeno pri naslednjem problemu praktično uporabit? Kako bo lahko skaliral iz prejšnjega nivoja "znanja" na naslednjega? Napisat, oziroma razvit je potrebno algoritem, ki bo znal vse informacije, ki jih je zbral logično razporedit, negativne odgovore zavreč, in navsezadnje prepoznat kje in kako lahko uporabi že naučeno, da reši trenutni problem. IMO se zdi taka surova moč zelo potratna z risorsi.

Lahko bi se pa lahko samo-optimiziral na ta način, da bi vse miljarde-miljard-miljard spremenljivk preizkušal stalno, seveda vsakič z bolj izpopolnjenim nizom poizvedbe. Ampak še vedno bi bil tak računalnik relativno počasen.

Link!

Ne vem. Noče šare in štale preveč okoli sebe in nasploh, po moje.

Z Benom trenutno nisem na liniji samo kar je rekel o global warmingu .

Njegov način je eden nedvomno pravih, ni pa edini. Pa ne vem, če so njegova dejanja enake moči kot njegove besede. Prav mogoče je, da vsaj glede tega bodo!

> se mi zdi, da bi lahko tip kova Goertzel se pozanimal malo širše glede zavesti.

Hja no, morda. Ampak nima smisla preveč zahtevat od človeka. Če izpelje tole "mehaniko vzorčenja", mu bomo spregledali še kakšen felerčk.

Ni čisto nujno. So civilisti, ki jih morda Nobelova nagrada ne zanima dovolj, Singularnost pa.

Milijonkrat vrednejša nagrada od Nobelove, utegne premamiti kakšnega zvitega civilista, da vsaj poskusi napisat kodo, o kateri govori Goertzel. IMHO.

Poskusili bodo.

Lepi logoti. To je pa zaenkrat tudi vse.

Thomas svari pred nevarnostmi, ki jih prinašajo nove tehnologije?
Kdo bi si mislil...