» »

Prebujajoči up na UP?

Prebujajoči up na UP?

New Scientist - Na New Scientist so objavili članek o umetni inteligenci. Poleg zgodovinskega pregleda in težav s katerimi se razvijalci srečujejo, so izpostavili dva izvirna pristopa k ultimativnemu problemu vsespološne UP.

Prvi je Cyc. Njihova rešitev je takorekoč očitna. Če sestavimo dovolj veliko in predvsem dobro povezano bazo splošnega znanja, se bo lahko UP posluževala prorajajočih informacij, nastalih zaradi konteksta v katerem je bila dana izjava podana. Še več, s kopičenjem znanja se bo večala hitrost samoizboljševnja, ali drugače povedano, Cyc bo vse pogosteje naredil (logično) pravilen sklep.
Vsako novo spoznanje (bodisi čisto novo informacijo, bodisi novo povezavo med obstoječimi) se seveda vestno hrani, zato razivjalci polagajo velike upe v internetno populacijo, ki bi naj učila (tu lahko ločimo dva načina, vnašanje novih znanj in vrednotenje njegovih sklepov) Cyca. V zameno za to bo baza izgrajenih znanj na voljo vsakomur, tako se lahko nadejamo poplave Cyc derivatov, podobno kot se je pred časom namnožila ALICE.

Povsem drug pristop pa je ubral Tom Mitchell. Namesto odkrivanje tople vode, se je odločil za posnemanje. V ta namen s fMRI opazuje dogajanje v človeških možganih in povezuje dele le-teh z izgovarjanjem posameznih besed. Za enkrat so to le samostalniki, ko bo dodal še glagole, upa, da bo s tem dobil vpogled v simbolično sklepanje, ki ga uporabljamo ljudje (in očitno deluje vsaj za inteligenco po "klasični" definiciji).

Na novico nas je opozoril Thomas. Hvala, še več takih!

23 komentarjev

babylon9 ::

zanimiva novica, hocmo vec takih !!!

B-D_ ::

Končno je nekdo pogruntal, da je od "top-down" pristopa iz neskončne baze znanja + analize, veliko boljši pristop ki ga uporabljajo malčki ko odraščajo: posnemaj vse okoli sebe. Konec koncev smo mi vsi samo "povprečje našega okolja", ker smo povzeli vse informacije okoli nas, naredili nek average in več ali manj v vseh naših odločitvah in akcijah relativno uspešno posnemovali ta average (neuspešne posnemovalce pa imenovali retardi in jih zapakirali v določene institucije).

Seveda pa s tem dobiš zelo pristranske umetne inteligence, odvisne od tega, kje so "odraščale".

Thomas ::

Po moje moramo vedeti naslednje. Človek nekako "ni namenjen" temu, da bi pogruntaval nove reči, pač pa da bi le reševal sprotne probleme, ki se preden postavljajo. Iz dojenčka gor zrasla inteligenca, bo v 99+% slučajev znala le in samo običajne stvari, ki jih vsakdanjost postavlja prednjo. Samo kakšni freaki bodo zaorali globje v svojem življenju.

Tako se človek vpraša - mar ne bo rezultat naših prizadevanj še ena (umetna) povprečnost?

V resnici, da bi dosegli povprečnost, kakršna je za človeka takorekoč zagarantirana, bi se morali kar močno potruditi. Kot če kuriš v gozdu. Težje je obdržati plamen v nekem območju, kot zažgati kar cel gozd.

Seveda potem, ko vsaj majhen plamenček pa le zakuriš. Ko si premočen do kože v jesenskem deževju sredi meglenega novemberskega dne nekje na Jelovici, je prav tisti začetni plamenček na pogled praktično nedosegljiva in nemogoča zadeva. Sploh, če ga nisi videl še nikoli v življenju. Kaj šele da bi zagorelo vseh milijon smrek - absurd!

To je dobra primera za trenutno stanje. Naša intuicija nam kriči na ušesa, da UP je nemogoča. Da če že, je in bo še neumnejša od naše naravne pameti. Da se bo širila in večala sama od sebe, je pa sploh absurd.

Samo ni tako. Naša intuicija pač laže. Tako kot vedno, kadar gre za reči, ki so izven dometa lovcev, nabiralcev.

Tile fantje in dekleta se igrajo s plamenčki, okrog nas so pa milijarde ton kisika in gorljivih snovi. Gledano nazaj, bo stvar očitna. Eden od teh selfimproving procesov bo logično pripeljal do WHAMa, FOOMa ... ali kakorkoli že rečemo.

Nimaš druzga, kot da se učiš jahat tega tigra, dokler je na videz še kot lesen kipec.

B-D_ ::

Do singularnosti nas ne bo pripeljal en raziskovalec... niti sto ducatev raziskovalcev... vse kar bodo naredili je AI, katera bo raziskovalcem pomagala narediti boljšo AI, katera jim bo pomagala narediti boljšo AI, katera... in ta cikel se bo ponavljal dokler ne pridemo do točke, ko bo AI sama sebi (brez vtikanja takrat že "primitivnega raziskovalca" vanjo) pomagala narediti boljšo kopijo sebe. Takrat ko ne bo več "počasnega človeškega faktorja" pri razmišljanju pa bomo res imeli omembe vredno AI. Toda takrat tudi človek ne bo več potreben... ;)

Jux ::

kaj je to WHAM, FOOM?
web&blog&etc: http://lukabirsa.com

stalker ::

Jaz sam upam, da se kakšen SKYNET ne bo izcimil (izrodil) iz tega :\

Z-lot ::

We shall prevail.

Sl4v3 ::

Ni treba še fantazirat o Skynetu, če sploh še ne vemo če bo to delal.


A se kdo spomne pogovarjajočega se robota z Discoverya?:D
Umri mlad, da bos lep okostnjak!

Thomas ::

> Do singularnosti nas ne bo pripeljal en raziskovalec... niti sto ducatev raziskovalcev... vse kar bodo naredili je AI, katera bo raziskovalcem pomagala narediti boljšo AI, katera jim bo pomagala narediti boljšo AI, katera...

Pri CYCu in še nekaterih sistemih, je mišljeno nekoliko enostavneje. To je princip, po katerem sicer ne znaš narediti hrasta, narediš pa želod in hrast zraste sam.

Sicer si pa mogoče to hotel povedati že sam.

> kaj je to WHAM, FOOM?

To je pa iz stripov pobrano. Ko pri procesih, ki nenadoma spremenijo svojo dinnamiko na zelo živahno, reče v oblačku FOOM ali kaj takega.

> če sploh še ne vemo če bo to delal.

Ko bo delalo, časa za debato ne bo prav veliko. Če maš kej za povedat, povej prej.

BBB ::

Največji problem je preseči samega sebe, pa naj gra za človeka ali umetno pamet. Na razpolago so nam informacije in iz njih preko logičnega povezovanja lahko pridemo do novih spoznanj. Problem nastopi, ko se proces učenja zasiči - pri danem naboru informacij in preteklih spoznanj nimaš kaj novega spoznati. Zato je velik problem v razpoložljivsti zajema informacij. Kot pravi Thomas, smo omejeni na kontekste, ki so nas spremljali v preteklosti in nas spremljajo v sedanjosti. Iz njih lahko razberemo vzorce, ki so izraženi implicitno. Imamo pa to srečo, da nam lastna aktivnost, čeprav v omejenem kontekstu včasih povzroči, da spotoma naredimo nekaj, kar nismo na podlagi sklepanj mogli predvideti, pri tem pa spoznamo povsem nekaj novega - nekaj, kar na podlagi zajetih informacij in logičnih slepov ne bi niti pod razno pričakovali - odkrijemo Amriko, daljnogled, način za izdelavo gume ipd. S pasivnim zbiranjem podatkov - tj. s strani človeka - bo umetna inteligenca omenjena na nam trenutno poznani kontekst sveta. Je pa prednost umetne inteligence v veliko večji učinkovitosti - pri stvari je lahko 24 ur na dan, vse si zapomni, hitro procesira. Tisto kar bi sicer lahko s počasnim sklepanjem lahhko dosegli sami, bomo pač dali obdelati umetni inteligenci, da zadevo hitreje obdela in seveda bolj zanesljivo, saj nam je usojena pozabljivost in lenoba.

Kaj bi si povprečen človek sploh želel od umetne inteligence, predvsem kako bi si v življenju z njo pomagal? Bi naj nadomestila sedanje predsednike držav in vodila države, da bi se lahko cedila mad in mleko ali pa kri in žolč? Komu bi bila poslušna in ali bi imela avtonomijo, saj bi sama presojala, kaj je prav in kaj ne. Seveda bi bila nafilana s povratnimi informacijami, kaj je pozitivno in kaj ne. Ko bi dal umetni inteligenci za analizirat Biblijo, bi ugotovila, da se niti pod razno ne sme pobijati ljudi. Ko pa bi se tako priučene inteligence hotel poslužiti Bush za čim uspešnejšo invazijo, bi se na uporabniškem vmesniku pojavil moder ekran ali pa bi kratkomalo odpovedala poslušnost. Če pogledam razmišljanje povprečneža, ki je v vlogi navadnega delavca, terja od svojega delodajalca višjo plačo. Če pa se ta delavec znajde v vlogi delodajalca, pa želi drugim čim bolj znižati plače. Kje je torej absolutna prava pot, ki naj bi jo superiorna umetna inteligenca znala zakoličiti. Naš svet žal temelji na živalskosti - vzemi si, kar ti je v danih okoliščinah in pravilih igre omogočeno ali povedano poetično, drug drugemu pijemo kri. Ker ne gre za enakomerno porazdelitev pa ga nekateri hudo najebejo, drugi pa živijo na veliki nogi. In kje v tem prelepem svetu najde svoje mesto umetna inteligenca? Za odkrivanje zdravila proti raku? Morda za kaj bolj zloveščega. Ali pa nas bo le zabavala? Kdo jo bo filal z informacijami, kaj je prav/dobro in kaj ne? Pri ljudeh to počneta ata ter mama, nekoliko manj pa okolica. Iz tega sklepam, da umetna inteligenca tako kot človek ni imuna na neumnosti.

Thomas ::

Po mojem globokem prepričanju, SAI (Strong umetna pamet) ne sme služiti ničemur drugemu, kot kakšnemu principu, načelu. Recimo p/p principu za sentiente. Kateremu principu natanko ali katerim principom točno, je pa stvar našega arbitrarnega dogovora.

Zelo arbitrarnega gledano s stališča fizike. Lahko rečemo, naj sledi principu "čimmanj črnih lukenj v Vesolju". Ali pa "čimveč kilogramskih črnih lukenj v Vesolju". Ali pa "nobenega DNA nikjer". Ali pa "dobesedni raj za humanoidne uploade". Ali pa "samo 100 hrčkov in žitno polje zanje".

Karkoli praktično. Potem UP lahko izdela in pošlje stroje v izpolnitev te naloge.

To je nekoliko tako, kot da bomo ujeli zlato ribico. Samo ni vsaka naša želja najbolj pametna.

Anekdota, ko so takole govorili z zlato ribico (na samo 3 želje): "Hoću psa! Jebote pas! Skini psa!" naj nam bo v svarilo, nauk in opomin. Pri SAI bi lahko prišli skozi še dosti slabše, pa če bo povsem poslušna.

Glavo v roke.

p.s.

Ja no, tiste ki "vedo, da to ni možno pred 2100 itak" in podobni in še hujši ... teh se debata niti ne tiče, po moje. Nej se lepo ne vtikajo v Vatikanske teološke razprave, če ne verjamejo v Sveto Trojico. So to speak.

Thomas ::

So pa vsekakor dobrodošli v debato oni, ki trdijo, "Ja tega pa ne bo mogoče obvladat, na noben način". Ti heretiki so pa dobrodošli v debato, ponavljam.

Pravim samo, da bojazen pred tem ni utemeljena. Ni nujno, da ima neka inteligenca že kar ene lastne motive. Ni nujno. Treba jih je ali vgraditi, ali določiti random.

Kakršen je njen vrhovni motiv, temu bo sledila. Velja za vse, tudi za ljudi.

Imamo dober motiv, da ji ne vgrajujemo random motivov. Zato ne bomo, razen po nesreči ali neumnosti.

Ko pa je AI zavezana recimo principu "Same dvokilogramske črne luknje in to za vso snov Vesolja!" ... se bo to začelo izvajat. Ovire na tej poti pa premagovale. Vključno s človeško opozicijo.

Zato še enkrat - pamet v roke, ko izbiramo vrhovni motiv. Zdaj.

CWIZO ::

Kaj pa ce bi AI priskrbeli recimo ves materijal (knjige, filme, zvok,...), ta bi ga preučila in iskala reference za dobro in zlo, preučila vsako situacijo in na podlagi tega zračunala neko "povprečje" dobrega in bi potem to bilo vodilo za naprej.
hancic.info
I can't uninstall it, there seems to be some kind of "Uninstall Shield"...

Thomas ::

Itak mora vse prešnofat. Tudi če je vse kar vidi samo lastna koda, ki jo popravlja, iz tega načelno lahko sklepa, kakšna bitja so morala biti, da so napisala začetno verzijo. Pa v kakšnem Vesolju bržkone živijo.

Pojem dobrega in slabega pa zanjo vseeno ni aprioren. Niti a priori ne porajta na svoj (ne)obstoj. Četudi ve, da jo neka akcija naslednjo sekundo ubije, ji ni mar.

Sej vidimo pri človeku. Inteligenca naredi vse, kar narekujejo drugi agenti v možganih. Zorganizira magari samomor. Zorganizira zabavo. Karkoli ji je naročeno.

MrStein ::

UP je kratica za .... kaj ?
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

OwcA ::

Umetna pamet.
Otroška radovednost - gonilo napredka.

Thomas ::

Kokr jest vem, je ta prevod izumu sam OwcA. Samo je bil že kar skrajni čas, da se ta pojem sloveni.

BigWhale ::

Zelo pametna umetna pamet ali pa malo manj pametna umetna pamet bo imela on/off switch. Ne bo neobvladljiva, tudi ce se ji bo skegljalo.

Jux ::

Imamo pa to srečo, da nam lastna aktivnost, čeprav v omejenem kontekstu včasih povzroči, da spotoma naredimo nekaj, kar nismo na podlagi sklepanj mogli predvideti, pri tem pa spoznamo povsem nekaj novega - nekaj, kar na podlagi zajetih informacij in logičnih slepov ne bi niti pod razno pričakovali - odkrijemo Amriko, daljnogled, način za izdelavo gume ipd.


Isto lahko dosežeš na strojni opremi, če imaš pomnenje realizirano tako kot ga ima človek - torej uporabiš nek ANN (artificial neural network) za pomnenje. ANN imajo lastnost da si poleg pomnenja vhodnih podatkov zapomnijo (zgenerirajo v procesu pomnenja) tudi stvari ki niso bile podane kot podatek.
web&blog&etc: http://lukabirsa.com

BBB ::

Jux, kako umetna pamet lahko preseže samo sebe? Če informacije ne zajameš, je nimaš. Vsega se ne da izpeljati iz obstoječega nabora informacij. Dokler ne veš, da med Azijo in Evropo obstaja še en kontinet, ga enostavno nimaš ozaveščenega. Tako kot nimaš 15. planeta našega osončja. O njem lahko razmišljaš in si ga ustvariš v domišljiji. Tako kot za Ameriko lahko predpostaviš, da še nismo odkrili vseh planetov osončja. Pa je 15. planet ali ga ni? Kako bo to ugotovila umetna pamet? Če ne drugega, jo moraš nafutrat z meritvami gravitacije, ki bi lahko kazale na vpliv še nekaterih planetov. Amapak tega je prav enako zmožen človek s svojim umom in računsko pomočjo računalnika. Brez ustreznega informacijskega konteksta tudi umetna pamet ostane lačna.

OwcA ::

Če ne drugega, jo moraš nafutrat z meritvami gravitacije, ki bi lahko kazale na vpliv še nekaterih planetov. Amapak tega je prav enako zmožen človek s svojim umom in računsko pomočjo računalnika.

Že res, ampak če drugega ne imaš avtomatizacijo, za to pa vemo, da zvečuje produktivnost.
Kot tudi ni nobenega razloga, da UP ne bi mogla sama opravljati potrebnih meritev, ali vsaj izraziti želje po določenih dodatnih informacijah. Pravzaprav je nekaj takšnega že implementirano v Cyc, ki bi naj znal poprositi za razlago (dodatne informacije), kadar mu kaj ni jasno.
Otroška radovednost - gonilo napredka.

Zgodovina sprememb…

  • spremenilo: OwcA ()

Jux ::

Jux, kako umetna pamet lahko preseže samo sebe? Če informacije ne zajameš, je nimaš. Vsega se ne da izpeljati iz obstoječega nabora informacij.
Najprej se je treba poglobit v to kako nastajajo nove ideje v človeških možganih.
Dokler ne veš, da med Azijo in Evropo obstaja še en kontinet, ga enostavno nimaš ozaveščenega. Tako kot nimaš 15. planeta našega osončja. O njem lahko razmišljaš in si ga ustvariš v domišljiji. Tako kot za Ameriko lahko predpostaviš, da še nismo odkrili vseh planetov osončja. Pa je 15. planet ali ga ni? Kako bo to ugotovila umetna pamet? Če ne drugega, jo moraš nafutrat z meritvami gravitacije, ki bi lahko kazale na vpliv še nekaterih planetov. Amapak tega je prav enako zmožen človek s svojim umom in računsko pomočjo računalnika. Brez ustreznega informacijskega konteksta tudi umetna pamet ostane lačna.


Najprej nisem mel plana tegale pisat, še posebej ker sem sredi predavanj za ANN, samo bom poskusil. Lej. Predstavljaj si spomin v človeških možganih kot množico atraktorjev. Ko recimo v svoj spominm vneseš delček obraza neke osebe (hetero)asociativnost spomina potegne ven celo sliko in jo poveže z ostalimi lastnostnmi. Isto je z matematično idejo etc.
Potem se vprašaš, kako za vraga lahko sploh potegneš ven nekaj kar nimaš v spomnu - neko novo idejo? Tako kot UP imaš tudi ti en nabor aksiomov, in eventuelno iz njih ne moreš pridelat več nič novega, ker itak razmišlaš znotraj teh aksiomov. Potrebuješ nek miselni preskok, ki ti pokaže nek drugačen pogled na celo zadevo. Ampak od kje ga dobit, če ga nimaš zapomnjenega?
Možgani si poleg vseh stvari ki si jih spoznal dosedaj "zapomnijo" tudi stvari ki jih zgenerirajo "naključno" - ko se učiš določene stvari (memorizraš telefonsko števliko) posledično vplivaš ne samo na tisti atraktor, ki naj bi skrbel za telefonsko ampak zraven vplivaš tudi na druge / generiraš nove - ki niso povezani z trenutnim ampak lahko vsebujejo nek naključen podatek, ki je kombinacija nekih drugih podatkov.
Zdej predstavljaj si spomin kot eno veliko ravnino, v kateri luknje predstavljajo atraktorje (kot če bi risal gravitacijsko polje v eni ravnini - okoli planeta se ravnina ukrivi). No zdej recimo da hočemo "izumit" nek nov postopek za računanje nečesa. To je težko, ker tvoj spomin poveže problem z načinom reševanja, ki ga poznaš. Še posebej če povsem specifično in določeno razmišljaš o problemu težko odkriješ nov pristop / rešitev problema. To je zato, ker postaviš začetno izhodiščno točko zelo blizu atraktorja in še si predstavljaš misel kot kroglico, ki se kotali po površini, bo ta kroglica se pač odkotalila v atraktor.
Če pa razmišljaš bolj od daleč, skratka ne povsem specifično, se pa lahko zgodi da se kroglica namesto k prvotnemu atraktorju zakotali tudi k drugem atraktorju ker je površina gosto posuta z atraktorji (lukenj je veliko) in mogoče te prav ta atraktor pripelje do nove rešitve problema.
Ok, zdej ti je približno jasna mehanika tvorjenja nove ideje. Zdej pa moraš samo še to razumet, da ima ANN (hetero)asociativni spomin natanko iste lastnosti. Če vanj daš originalni podatek, boš dobil ven isti atraktor, bolj ko pa vstavljaš notr podatek z motnjami večja je verjetnost da dobiš ven nek podatek, ki ga sploh nisi nikoli spoznal skoz učenje direktno. (Sam sem programiral asociativni pomnilnik, ki se je naučil števila od ena do devet (tako kot so zapisana na digitalni uri) in včasih, če postaviš na vhodni vektor dovolj šuma namesto števila ki si ga naučil, dobiš neko neobstoječo kombinacijo)

Dober primer tega sem videl na predavanji, asociativni spomin so naučili štiri postavitve geometrijskih likov, in če si potem vzel slike, ki so približno podobne tem štirim postavitvam si dobil ven štiri naučene, če pa si dal notr povsem zamaknjene postavitve je pa asociativni spomin potegnil ven stvari ki niso niti najmanj podobne osnovnim postavitvam (druge barve, druga lokacija, etc...). Nekaj jih je bilo pravl lepih (umetniških:)).

Zdej, to je težko razumet, najbolje da si vzameš neko knjigo o ANN in delovanju spomina, pa ti bo ratalo bolj jasno - meni je težko razložit te zadeve, ker si jih tudi sam težko predstavljam.
web&blog&etc: http://lukabirsa.com

Thomas ::

Tole je zanimivo, kar je povedal Jux, ja.

Kar se planetov tiče ... eee .. poznam zgodovino!

Kako so odkrili frdamani Uran? Pazi to!

V človeškem duhu je nastalo neko Bodejevo pravilo. Kako so planeti oddaljeni vse bolj od Sonca. Ne ve se do danes ne, če je to pravilo kaj realno, ali je samo naklučje. Sicer zadnje čase kaže, da bi utegnilo biti. Migracije planetov k soncu, pa to.

No, potem so pa po tem Bodejeven pravilu - izmišljenem v možganih gospoda Bodeja - pričakali s teleskopi Urana. Tam nekje naj bi bil, po tem pravilu. Res je bil.

Tko čudno dela pamet. Včasih zabrede v čisto dvomljive vode, pa vendar se ujame. V tem primeru z odkritjem Urana.

15. planeta pa kaže da ni in ne more biti. Vsaj ne kakšnega tapravega kosa, ne drobirja. Tudi to nam je prikazala moč človeškega duha. Namreč, že davno bi dobil eliptično orbito in prišel bliže, ali pa nekam ven iz Osončja.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
!

Z&T povezave

Oddelek: Znanost in tehnologija
837524 (31231) snow
»

Računalnik (končno) dovolj dober za pravoveren matematični dokaz (strani: 1 2 )

Oddelek: Novice / --Nerazporejeno--
677066 (5436) Thomas
»

Znanost in tehnologija VIII.

Oddelek: Novice / Znanost in tehnologija
393964 (3077) Lex
»

Gravity Probe B nam maha iz vesolja

Oddelek: Novice / Znanost in tehnologija
52098 (2098) darkolord
»

Nategnjen silicij

Oddelek: Novice / Procesorji
71903 (1903) Thomas

Več podobnih tem