Protokol

Že od začetka tele teme trdim, da bi lahko stvari šle tudi narobe. Pa da če bi šle narobe, bi lahko šle tudi do konca narobe.

Tega se je treba zavedati vsak trenutek.

Brez ultratehnologije, pa gredo nekatere stvari že ves čas zelo narobe. Preudarno ravnanje na poti v to ultratehnološko prihodnost je največja vseh obvez.

Jaz mislim ravnati absolutno preudarno.

Ti pa lahko relativiziraš, namesto da bi kakorkoli ravnal.

Namesto da bi relativiziral preudarnost, kar ne pelje nikamor, poskušaš skresat tisti 1%.

Vendar enkrat se moraš odločiti, kaj boš naredil. Kaj ti nuca, če nekdo še bolj štorast kot ti, nima takih zadržkov?

Vkalkulacija tega je tudi nujna.

Sem pogledal Thomasov link do Ben Goertzla in ker mi je mulc ukradel vse misli, se bom pritožil na wasserkomando
No resno prav isto si o AI mislim tudi sam. Menim, da če bi nekdo prepričal kavboja ali advokata ali celo poslovnega sekretarja partije na oblasti, ki bi sfinanciral team 30 (10 of them top brain) ljudi za kakih 5 let (po tem bi že stranski produkti njihovega dela prinesli ogromne dobičke, ampak res big money), je AI mogoč v kakih 10-15 letih. To pomeni stroške manjše od ene univerze, ki jasno take kot so, tako ne bodo služile več. Bojim se tudi, da če bomo cincali dlje, obstaja večja možnost za zastoje v razvoju ne samo AI-ja ampak vsega. Ja tud kokic ne boš več dobil, da bi gledal lačne, kako se streljajo in boš moral sam streljati za en gnil krompir. Pa nočem najavljati mesije...ampak ko začne zmanjkovati energentov in če ni ustreznega poceni nadomestila, se že danes vidi, da to pomeni težko pizdarijo. Kot sem že nekje omenil, najbolj pacifističen glasbenik poje lahko: but when you are talking about destruction you can coun't me out, samo, ko smo mu v miselnem experimentu vzeli tiste miljončke, pa kitaro, ljubica mu je umrla od neke čudne sicer nesmrtonosne bolezni se je pridružil drugi pesmi: hey toowarischee puod oerozie wsy Ali drugače... lahko je s polhno ritjo srat. Naše ekonomije nam jih polnijo pod določenimi pogoji, ki pa niso zagotovljeni v nedogled in pod vsemi pogoji. AI (tisti self enhancing) je izgleda, vsaj meni, edini solution z optimalnim koncem. No in če sprejmemo tako tezo, potem je jasno odkod nam verzi: oj kapitalistu crna dušo kud ulažeš svoje novce, zar ne vidiš gdje je sreča, gdje nam rasu nove ovce?

Pozabil si se podpisati...

Da prevedem Thomas je na moje 'pitanje' odgovoril, da so kapitalisti in da denar bo.

Pa jesu li uplatili članarinu za savez komunista...e nisu!

Torej vprašanje je bilo bolj retorično od tod tudi čudna spika. Any day now se bodo pojavili prvi rezultati in takrat bo Bill Gates priletel osebno s kufrom denarja in ponudbo. Preverjeno ve, da bo največ denarja v bližnji prihodnosti ravno v razvoju AI-ja. Je pa zanimivo, da kljub čudežnosti teme ne šumi niti toliko, kot je recimo pred leti ob besedah informatika in internet. Takrat so skrivnostno pogledovali, če si vedel kaj je html in recimo apache. Ravno to morda potrjuje, da bo planilo na dan ready to strike. Kdaj? Ma vse kaže, da pravzaprav en teufl v nas upa, da ne tako kmalu. Ne bašem, da sem se kak mesec nazaj šel pogovorjal s takim AI-jem in ker je odgovarjal kot otrok,(je pa dober res) sem šel raje gledat Agan Abab-a slavnega terorita. Ampak od takrat mi je jasno, da stvar napreduje...ne še bliskovito a nezadržno. Bom počakal še kak mesec in potem šel gledat,če bo mulc kaj zrasel Pankrt ni verjel , da sem iz Slovenije. In ker si nisem shranil linka bom prisiljen prečesati kar vse.

Moram reči, da me neautentičnost današnje AI, čisto nič ne gane. Še bolj mi je všeč, ker "ni taprava, ker bi morala biti na kvantnem računalniku".

Meni je zelo všeč že veliko današnjih AI "aplikacij". Ena med njimi je GPHIN, sistem ki v 7 jezikih nadzira Internet in javlja, kje je potencialno izbruhnila kakšna epidemija.

TO jaz želim od AI - in nobene pretirane filozofije. Dela, ali ne dela - to je tu vprašanje.

In GPHIN je ena taka tipična zadeva, ki mi je ZELO všeč in je "humanisti" zelo ne marajo.

GPHIN!

Ja jasno je da s super AI praktično osvojiš svet... pa verjetno še kaj okoli.

Ena takšna velika evolucijska prednost. Ko pa ima nekdo takšno prednost, pa lahko hitro preplavi vse ostale...

Kdo bo prvi?

Hja no, to jasno. Prejle sem hotel poudariti pa to, da tale "primitivna" in "neavtentična" AI, ki se imenuje GPHIN, je odkrila SARS. Sprožila je alarm, ko ljudje SARSa še niso zaznali, da so se začeli pripravljati in se ubranili, preden je nastala pandemija.

Sliši se tako, kot en SF za leto 2010, vendar je to zgodovina, stara dobri dve leti.

GPHIN bedi kot opazovalec Interneta, ker nanj preko javnih glasil prodrejo podatki o mnogih bolnih otrocih ali starih ljudeh ali kar že. Ko zazna dovolj "strukturiranih" podatkov, prijavi regularnosti.

Pa nobenega "zateženega filozofiranja" ni treba za to nalogo, samo sofisticiran data mining.

Tisto "več", "poglobljeno", "resnično inteligentno" - so predvsem bube v naših, človeških glavah. Teh bub ni treba prenašat naprej. Ni treba z njimi okužiti sicer čisto dobrih algoritmov in programov.

Thomas:
V primeru, da si ti prvi;
takrat AI nebo smela grozno spreminjat arhitekture možgan, in nas bo filala z kompleksnimi scenariji. Ker si na ta način previden.
Na koncu pa se nam bo zdelo, da smo naredili enako napako, podobni tisti z 640Kb memorija. Sej bo dovolj si trenutno mislimo...
A je mainstream transhumanistov enakega mnenja?

In sma mi2 z Odinom osamljena 'borca'?

->Tisto "več", "poglobljeno", "resnično inteligentno" - so predvsem bube v naših, človeških glavah.
To je ta nevaren del, če mene vprašaš.
Drugače se pa strinjam v celoti...itak.


->Kaj preprečuje prvemu, da pohopsa celo vesolje in vse resource obrži zase?

ČE bo sebe nardil maxsimalno happy, is ok with me!

IMHO, človek ne bo sposoben ustvarit sebi enakega ali morda presežnika lastne inteligence. Tuki naletimo na, lahk bi temu rekel kar fizično, oviro. Obstaja lahko človek, ki misli da vse ve, da je njegovo spoznanje bvanja popolno, vse kar lahko še konzumira so rahla odstopanja od njegovega fizičnega sveta (torej vse kar lahko občuti sprejema in registrira, ter procesira kot veljavno informacijo), jih morda prikroji, izboljša (po njegovem mnenju ali subjektivni presoji)... Kajti, kaj je gon možganov? Bral sem neke eseje, dolgo nazaj (ne bom navajal vira, ker se ne spomnim), da vse tisto, kar mislimo da še ne vemo, oziroma vse tisto kar v nas povzroča občutek, da še nečesa ne vemo, je le osnovni princip delovanja možganov. Imajo neko navodilo, napisano v DNK, source code, ki jim povzroča nezavedno iskanje informacij. To je nagon. Človek je skozi evolucijo razvil svoj algoritem spoznavanja "novih" reči. Gre se za princip, kjer možgan deluje kot popolno budalo, stalno išče povezave, kljub temu, da ima morda že popolnoma optimizirane postopke prepoznavanja in definiranja. To je tisti štorasti gen, back from the days when we rocked the tree branches , ki nas je privedel do širšega horizonta misli (da poenostavim). Nima druge povezave z nobenih delom možganov kot le to, da feeda "glavni procesor" z neprekinjenim tokom informacij, ki se potem razvršča znotraj, do posameznih centrov za njihovo obdelavo. Ta feed pa nam daje tisti občutek da moramo še nekaj shranit, moramo še nekaj obdelat. Dejstvo je, naše osnovne funkcije za preživetje so optimizirane, nekatere so potlačene in se "zbudijo" ob primerni priložnosti, druge nas pasivno, zavite v vsakodnevne naloge, spremljajo vsak dan. Torej, naš možganski sistem, kar se tiče svoje primarne funkcije, izboljšanja svojega delovanja, iskanja novih abstraktnih povezav, je optimiziran in je dosegel najvišji možni nivo razvoja. Vse kar mu je še ostalo je, da si znotraj vseh "racionalnih" procesov umesti še tiste skrajne, ki jim pravimo čustva, itd. Mora pa si (zaradi prej omenjenega feeda) stalno nabirati nove podatke, a večino jih zavrže. Tega sem se recimo sam nekako zavedel, ko sem se zasačil pri razmišljanju o smislu našega obstoja in obstoja vesolja na sploh. To so še vedno misli, ki so pretirane v svojem obsegu informacij, zatorej jih nisem sposoben uspešno procesirat, znajdem se pred velikanskim ničem, to veliko praznino, brez definicij, brez-obličnega sveta. Zakaj? Naj se vrnem k prvem stavku, kjer sem omenil tisto fizično oviro. Ko feed začne prejemati tako...vzvišene informacije, kot je smisel našega trivialnega obstoja, tudi kaj hitro začne izgubljati relevantne povezave znotraj možgana, zatorej preide na abstraktni model procesiranja, kjer pač na cedilu pusti koščke "oprijemljivega" ki se v vsaj eni podrobnosti lahko sklada z feedom. Pri takem delovanju (kjer je manjko relevantnih povezav resen problem) kaj hitro preide v neskončno zanko, znajde se v eni točki vsega in ne more povzet bistva, ki mu je veš čas pred očmi; naše stremenje k popolnosti (feed) presega fizične zmogljivosti računalnika (možganov).
Ko je potemtakem nadaljno zbiranje informacij zgolj "zavestnega" značaja (pri tem mislim osnovne funkcije, kot so orientacija v prostoru, procesiranje čutil; vid, zvok, blabla...) mu to zopet postane edini smisel. Feed začne sprejemati iste informacije, relevantne povezave znotraj možgana so tako samovmevne da osebek izgubi zavest o smislu svojega obstoja. Tako preneha umsko obstajati, oziroma kaj kmalu, skozi čustva doživi osebno krizo apatije, ter mirne duše lahko umre.
Kaj ima zdaj tukaj AI? Tudi AI lahko doseže svoj višek obstoja. Kaj kmalu vse miljarde miljard petabajtov postanejo zgolj breme, ki začne odpadati, saj izgubi svoj pomen, ko se "žrtev" lastne inteligence začne pogrezati vase, na vrhu uvidi, da je vse dotedanje zbiranje informacij brez smisla, saj za razlago svojega obstoja vsega tega balasta ne potrebuje več. Počasi preide zopet na najbolj osnovni nivo dojemanja sveta okoli sebe (vid, sluh...) ter kmalu uvidi svojo singularnost.
Tile nazori morda za vas močno dišijo po nihilističnih vzgibih, vendar se od tega distanciram. Daje mi misliti, saj me strašno bega dejstvo, kaj bo človek storil (oziroma AI v našem primeru), ko bo dosegel tisti vrh, konico razvoja. Kje bo našel smisel v nadaljnem bivanju? Bo nastala singularnost uma? iiii, zelo všečno soupada z mojim modelom pra-sinusoidnega sveta.

lp,L

> naše stremenje k popolnosti (feed) presega fizične zmogljivosti računalnika (možganov).

Ja, verjamem ti, da računalnik ne bo imel nikoli tako lepih modrih oči.
Fizična zmogljivost računalnika in možganov je zgolj število računskih(logičnih) operacij na sekundo.
Poleg tega pa za računalnik rabimo še dober začetni program - po možnosti takšen, ki bo samega sebe optimiral.

Če pa trdiš, da manj inteligentni procesi (osebe), ne morajo narediti bolj inteligentnih, pa se motiš.
Iz ene Kurzweilove knjige se spomnim primera evolucije in človeka. Za prvo avtor trdi, da je zelo neinteligentna.
Recimo po drugi strani pa imaš specializirane AI (npr. šah), ki jih je ustvaril človek in so veliko bolj inteligentne na teh področjih. Ne vem, zakaj pa na drugih področjih ne bi šlo. Mi poveš kako fizično oviro - kar stremljenje k popolnosti niti slučajno ni.


> Tudi AI lahko doseže svoj višek obstoja.

Kaj točno pojmuješ pod višek obstoja AI? Posebej me to zanima v povezavi z tvojim prvim stavkom, kjer praviš, da human-like AI ni možen...


> na vrhu uvidi, da je vse dotedanje zbiranje informacij brez smisla

Kdo ji daje smisel?

Answer_to_marko

Boš konkretno povedal, kaj je tukaj zate new age?

Tvoji občutki mene niti ne ganejo, niti ne zanimajo.

Če se tebi zdi, da je nekaj podobno nečemu drugemu ... imej!

Če misliš, da "napredka ni", da je to samo blebetanje primerno za Hare Krišno ... potem je prepad med najinimi pogledi preširok, da bi ga jaz poskušal premoščati s kakšnimi dodatnimi pojasnjevanji.

Vesel sem, da se ti zdi zadeva nedelujoča for ever. Imamo lepo mir pred tabo in tvojo bažo aktivistov. Super!

Vse govorjenje, zaradi narave jezika, je vsaj malo metaforično. Temu se težko izogneš.

Niti ni nujno, da bi se sploh hotel izogibati. Tisti, katerim je bilo namenjeno, so razumeli perfektno dobr, sem prepričan.

Da se pa Matthaiu zdi zadeva Hare Krišna/Smiljan Mori - je pa tudi zelo dobro. Tako se mu paranoja proti ultratechu nekoliko počasneje razvija. Ker zaenkrat se še farba samega sebe, da "ni nič na tem".

Very good!

A ni to fino? Vidi se, kako v tej temi "ni nobenega mesa", da ga zatorej tudi v mojih metaforah ni od kje vzeti?

Če pa že kdaj jemljem iz drugih tem, so pa tudi vse prazne. (V nasprotju z nekaterimi drugimi hudimi na tem in ostalih forumih ali pa z raznimi knjižicami francoskih filozofov itd.).

Tako da res. Nimaš se kej vznemirjat. Tukaj je samo ene sorte Newage, nobenih resnih in poglobljenih znanstvenih dognanj ni. Razen morebiti kakšnih zgrešenih.

Nevarne ultratehnologije ne bo, sploh pa ne kmalu. Ker je nemogoča in zato vse tole govorjenje brez kakšnega realnega učinka.

Mirno lahko spiš dalje.

@snow:
Specializiran AI npr. za igranje šaha, je boljši od človeka zato, ker lahko obdela mnogokrat več različnih kombinacij kot pa človek. To ni nobena inteligenca, ampak zmogljivost hardwarea. Dajmo temu specializiranemu AIju omejitev, koliko potez vnaprej lahko skalkulira in ga naredimo ekvivalentnega človeškim možganom...tako pridemo do ugotovitve, da je inteligenca samo ena. Bolj inteligenten proces od našega ne obstaja. Obstaja samo mnogo boljši hardware(hitrejši, boljši predpomnilnik, večja kapaciteta spomina,...) t.j. možgani. Dajmo Kasparovu gensko terapijo, da bo imel vse te adute...specializiranost AIja bi ob tem zbledela.

http://www.critticall.com/alog/Answer_to_fred.pdf

Meni je važen samo rezultat. Da lahko kralj z lovskim parom vedno matira kralja s parom skakačev, je rezultat bruta forca kalkuliranja.

Noben inteligentni človek - od toliko milijonov njih - ni prišel do tega rezultata na "inteligentni" način.

Če bi moral zmešati dve kemikaliji in jih segreti na 200 stopinj, da bi dobil odgovor na vprašanje, če se da vsak zemljevid pobarvati le s štirimi barvami - tudi prav.

Ampak tudi za rešitev tega problema je bilo treba zaposliti grobo silo, Forco Bruto.

Semantika, kako "bruta forca ni inteligentna" - je samo semantika. Podobno nepotrebna kot tisto "razlikovanje med dato in podatki".

Zguba časa, to pa res, tale razločevanja, v čast nevemkomu. Bruta forca pa je velikokrat - optimalno porabljeni čas.

Jaz bi inteligenco (za določeno področje/problem) definiral bolj v smislu hitrosti reševanja problema:
kako_dobro_je_bilo_nekaj_opravljeno / čas_potreben_za_to

Blue Gene je resda bolj kilavo ocenjeval pozicije na šahovnici, ampak jih je pa zelo hitro.
Kasparov na drugi strani, je zelo dobro ocenjeval pozicije, ampak očitno prepočasi, ker ga je Blue Gene premagal.


Kateri človek je bolj inteligenten v seštevanju števil od 1 do 10?
1) tisti, ki ve Gausovo formulo in ve rezultat v petih sekundah
2) tisti, ki sešteje 1+2+3+4+5+6+7+8+9+10 v štirih sekundah
3) tisti, ki je problem že reševal in si ga zapomnil in izstreli 55 v pol sekunde

In kateri če ne vemo kako je kateri reševal problem?

Ko pa je naloga sešteti števila do 100, pa je rezultat ravno obraten:
Najhitreje reši tisti, ki ve Gaussovo formulo, nato oni ki sešteva, oni, ki pa je že sešteval do 10 pa problema sploh ne reši v nekem zglednem času.

Kdo je pa sedaj najbolj inteligenten, če gledamo samo ta problem? In če gledamo oba problema skupaj?

Pa te iste ljudi vprašamo za vsoto števil do 100 po enem dnevu in rezultati je sledeči:
Prvi pove rezultat v pol sekunde.
Drugi v petih sekundah.
Tretji po parih minutah.

Kdo je najbolj inteligenten če ne veš, da to ti isti ljudje reševali prvič? In kateri če veš, da so ga?


Zakaj bi vaše vedenje o tem kako nekdo reši problem vplivalo na njegovo inteligenco?
Meni se zdi bistven samo kakšen je output in kako hitro sem dobil ta output.

Zakaj pravite, da je Blue Gene manj inteligenten v igranju šaha, ker približno veste kako igra šah, med tem ko za Kasparova najverjetneje nimate pojma kako razmišlja ko igra šah? Ali pa se med nami skriva kakšen ekspert v nevrologiji in igranju šaha.


Jaz menim, da je inteligenco med drugim sestavljajo: predhodno znanje, hitrost surovega računanja (med drugim brute force) in logike ter prepoznavanja vzorcev (abstrakcija, iskanje pravil). Seveda je pa pomembna hitrost uporabe le teh.

Thomas> Bruta forca pa je velikokrat - optimalno porabljeni čas.

Ne, v bistvu precej redko, a je vseeno res.

Ni pa pomemben samo rezultat. Pot, ki vodi do njega, je lahko recyclable, ali pa ne. Pri brute-force ni, ampak po drugi strani lahko izboljšaš tudi brute-forcing, tako da bodo še vedno obstajali primeri, ko je to najkrajša pot tudi na dolgi rok.

In vedno bodo obstajali primeri, ko je brute-forcing edina rešitev.

snow> Zakaj pravite, da je Blue Gene manj inteligenten v igranju šaha, ker približno veste kako igra šah, med tem ko za Kasparova najverjetneje nimate pojma kako razmišlja ko igra šah? Ali pa se med nami skriva kakšen ekspert v nevrologiji in igranju šaha.

Možgani Kasparova brute-forcajo šahovnico. Ni potrebno, da se on tega zaveda, ampak glede na to da je precej brihten, po moje se.

@Thomas:
Zakaj bi postavil taka pravila igre? Zato, da bi s tem dokazal, da je najhitrejši superračunalnik še vedno le in samo ekvivalent naših možganov s to razliko, da ima veliko večjo sposobnost računanja in pomnenja torej...računalniki so naši možgani prenešeni na drugačen substrat kot bi se nekateri izrazili. To, da bi bil AI bolj inteligenten od nas samih je far fetched. Mi ustvarjamo AI po naši lastni podobi in le ti so omejeni z našim znanjem. Seveda, ker bi bili cyborgi hitrejši v kalkuliranju in dojemanju stvari bi nas zelo hitro prehiteli tako v znanju kot tudi sposobnostih.
Ali potrebujemo superračunalnike? Zaenkrat ja, v prihodnosti ne. Zakaj? Zato, ker se bomo sami nadgradili s pomočjo biotehnologije.

@snow:
Kateri človek je bolj inteligenten v seštevanju števil od 1 do 10?
1) tisti, ki ve Gausovo formulo in ve rezultat v petih sekundah
2) tisti, ki sešteje 1+2+3+4+5+6+7+8+9+10 v štirih sekundah
3) tisti, ki je problem že reševal in si ga zapomnil in izstreli 55 v pol sekunde

Najbolj intelingentnega ni med naštetimi. Najbolj inteligenten bi bil tisti, ki bi znal sam priti do Gaussove formule in znal oceniti, kateri pristop naj uporabi za določeno vrsto problema tako, da bo časovno najhitrejši. Gaussove formule iz nule nihče ne ve. Da bi jo ugotovil, je potrebno veliko brute force računanja in analiziranja obnašanja števil in njihovih lastnosti. Tako, da...brute force je primarni način spopadanja z nepoznanimi problemi. Šele potem, ko ima subjekt veliko izkušenj in dovolj opravljenih analiz lahko že iz prve začne uporabljati zapletenejše funkcije in formule oz. z drugimi besdami povedano, izkušnje + analiza = optimizacija. Kaj pa sta izkušnje in analiza? Brute force.

Odgovor Greyu.

Si bom sposodil kar Thomasov zadnji primer, z dovoljenjem.

Critticall je sam lepo izpeljal algoritem, ki mu ga nihce ni podal. Tukaj bos tezko rekel, da to pa zate ni inteligenca (za moja merila je potrebno se veliko manj), dvomim pa, da so se avtorji critticalla med programiranjem kaj veliko obremenjevali s clovesko podobo.

Nekateri k problemu pristopajo tudi drugace, z oponasanjem delovanja mozganov ali kaj podobnega. Ampak to je samo eden izmed nacinov, nikakor ne mores posplosit, da vsak AI nastane po cloveski podobi.