» »

Protokol

Protokol

Temo vidijo: vsi
««
96 / 182
»»

T-h-o-r ::

"Morda bi že čez milijon let"

težko, da bi brez vmešavanja tehnologije preživeli tako dolgo :)
Why have a civilization anymore
if we no longer are interested in being civilized?

Thomas ::

Sej smo že doslej preživeli nekaj 1000 milijonov let. Le da nas je evolucija neusmiljeno modificirala ves ta čas.

Poleg tega, izumrtje kakšne linije je v povprečju milijone let daleč. Zakaj bi bila ravno naša bližje?

Pri vsega nekaj milijonih pripadnikov šimpanzov in ljudi skupaj, smo v manj kot 10 milijonih let prišli toliko daleč narazen. Pri 1000 krat večjem številu se to zgodi še BISTVENO prej.
Man muss immer generalisieren - Carl Jacobi

donfilipo ::

username>> Zasebni vlagatelji/kapitalisti - podjetniki (entrepreneurs) skupaj z njihovo najeto (možgansko!) delovno silo so nova releventna akademia.

Se popolnoma strinjam in kar sem gledal, glavna imena AGI premikanja po memu družbe, to tudi ti so. Tako, da vse teče tako kot bi predvideli, le da precej počasneje, kot smo pričakovali.

In ker si odlično podal sliko akademije, kot nove duhovščine, sem prepričan da je takole:

Enterpreneurji vlagajo deleže svojega premoženja in resourcov v razvoj AGI, ker pričakujejo profit. Deleži so relativno skromni in premišljeni, ker kalkulirajo, da jim za izpolnitev naloge še preveč manjka in bi bil razvoj tega trenutno predrag. In če tisto razvije kdo drug, za to primernejši, ga je pač treba počakati:) IBM in še kdo, so izračunali, da so dovolj močni, da z bruta force prinesejo čisto nova spoznanja, ki bodo prinesla toliko slave, da jim bo to dvignilo vrednost na trgu delnic. Kakršnakoli očitna prevara, bi bila zelo neodgovorna do delničarjev in 'smrt' za firmo, tako da so dvomi v resne namene, rahlo za lase privlečeni. Razen če mislite, da je IBM izmišljeno podjetje:), brez enterpeneurshipstva in da je kapitalizem narejen tako, da revežem poberete papirje, za katere ugleden ekonomist pravi, da so brezvredni, s pomočjo mehanizmov domačinskega prava obrnete naokoli še cesarja in voila z znanjem twist samoupravljanja s temelji gumarabike, ste nenadoma miljarder8-) Bojim se, da vas bom močno razočaral. Zadeva je bila taka samo v nekih nerazvitih particijah balkana>:D Sicer gre drugače. Kreativnost išče znanje, to močne osebnosti in primerne karakterje, da prepriča modrost in kapital za nove donosne projekte. Vsa gumarabična odstopanja, tudi v USA, še zdaleč ne nosijo pravega napredka. In le večno iskanje podjetniške inteligence za vlagatelji kapitala, ter na drugi strani umetnost prepoznavanja 'ciganov' s strani tega istega kapitala, je edini realni nositelj kakršnegakoli napredka. In da je trg čimbolj liberalen...je zakonitost...ker nikoli ne veš...če ni ravno med 'cigani' naslednji Ford in seveda obratno. Narejeno je tako, da bo prej ali slej tudi pri Gold in Silversteinih eden barabas erste klase:D

In akademia? No ko duhovščina zavoha, kateri svetnik nosi največ denarja, ga avtomatično začnejo hvaliti, in noben tržni analitik, jih v tem ne preseže8-) Pomeni, ko pade hvala nove duhovščine, pa vemo, da smo zanesljivo na pravi poti in je blizu nebeško kraljestvo>:D

Še prej, pa bi tako od svojega trhlega, a ciničnega očesa, zaradi 'silnega tempa' predvidel nekaj katastrof, v boju za resource, prestiž in dobrine. Nekaj časa sem bil naklonjen misli o terminalni katatrofi, danes sem po tehtnem premisleku prepričan, da je človeštvo zmožno prestati še tako huda sranja, ki si jih bo zakuhalo. Res pa je, da se vsa to sranje zaradi neznanja in posledičnega pomanjkanja, zdi še vedno odvečno:)

In jasno, želja, da sem se tu zmotil, je realna, a na žalost nisem edini, ki tako predvideva, zato bom celo bolj grob: na tem polju je cela nevrotična fronta mislecev, ki tako kalkulacijo grobo tlačijo v stran:D
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Okapi ::

Poglejte samo pse. Kako hitro so čisto drugačni od volkov in še med sabo čisto drugačni. V par promilah milijona let.

Evolucije in naravnega izbora ne razumeš najbolje, ne? Psi so tako različni postali zaradi umetnega izbora, ker smo ljudje tako poskrbeli. Če bi ljudje sedaj izumrli, bi bili psi v nekaj sto letih vsi bolj ali manj enaki (OK, v resnici bi izumrli tudi psi, ker se brez ljudi ne znajo uspešno razmnoževati, ampak pustimo malenkosti).
Pri 1000 krat večjem številu se to zgodi še BISTVENO prej.
Ravno obratno je pa res. Če je populacija majhna, se ena koristna mutacija lahko hitro razširi. Če je populacija velika, ima koristna mutacija precej težje delo, da prevlada v populaciji. In pri ljudeh se je IMHO naravni izbor in s tem evolucija ustavila. Naravni izbor ne izloča več številnih slabih mutacij (slabo vidiš? ni problem - tule imaš očala in se boš lahko še naprej uspešno razmnoževal), dobre mutacije pa nimajo niti približno takšnega učinka, kot bi ga imele, če bi ne bilo kulture in civilizacije (ženske se palijo na tipe, ki ustrezajo trenutnim modnim zapovedim o tem, kaj je kul, in ki nimajo nič skupnega z biološko/genetskim dogajanjem v človeški populaciji).

V resnici smo ljudje na Zemlji v povprečju vedno bolj enaki, ker se že obstoječe rase, ki so bile prej posledica večje zemljepisne izoliranosti, mešajo. Nastale razlike se manjšajo, nove pa ne nastajajo.

Če bi se ljudje načrtno razmnoževali, po nekih namišljenih evgenskih pravilih recimo, ali če bi hoteli vzrediti raso močnih dvometrskih silakov, to ne bi bil noben problem s tehničnega vidika, z družbenega vidika pa je to vsaj za zdaj popolnoma nemogoče.

O.

ABX ::

Uff ste se razpisali, zdaj bom rabil kak dan da to premeljem. :)
Vaša inštalacija je uspešno spodletela!

donfilipo ::

ABX>> Uff ste se razpisali, zdaj bom rabil kak dan, da to premeljem. :)

Če poznaš kako luštno deklino, ki ni škrta, ti iskreno svetujem, da jo obiščeš in pozabiš na ta tapkarjenja. Če si pa dekline že sit, rabiš pa par let intenzivnega študija, da bi zadevo res premlel:D
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

ABX ::

ABX>> Uff ste se razpisali, zdaj bom rabil kak dan, da to premeljem. :)

Če poznaš kako luštno deklino, ki ni škrta, ti iskreno svetujem, da jo obiščeš in pozabiš na ta tapkarjenja. Če si pa dekline že sit, rabiš pa par let intenzivnega študija, da bi zadevo res premlel:D


Eh, človek se naveliča vsega, potem pa dela multi-task na vse strani. :)
Na srečo imam eno kolegico ki jo te zadeve zanimajo, tako da kavica dobi čisto novi kontekst.
Vaša inštalacija je uspešno spodletela!

T-h-o-r ::

to ni nič, kar se ne bi dalo med seksom predebatirat
Why have a civilization anymore
if we no longer are interested in being civilized?

Double_J ::

SIAI klub je po moje tule absolutni prvak. A lot of talk, narediti pa ali ne znajo ali še nočejo - nič. (Se bojim da ne znajo.)

Goertzel tudi mnogo govori, a nekaj baje tudi naredi.

Kurtzweil je že naredil, davno, kar je naredil in tisto ni bilo slabo.


Samo tedva spadata pod ta inštutit. Razen če imata še osebne projekte, ki jih ne delita.:)
Dve šivanki...

Okapi ::

Kurtzweil je že naredil, davno, kar je naredil in tisto ni bilo slabo.
Ja, bralnik za slepe in odličen sintesajzer. Praktične stvari so mu šle dobro od rok, potem je pa začel filozofirati.

O.

Thomas ::

K in G imata svoje firme in delata BREZ blagoslova SIAI. Tam sta kvečjemu formalno mau.
Man muss immer generalisieren - Carl Jacobi

Double_J ::

http://www.singinst.org/aboutus/team

Tle sem gledal, da sta oba neka direktorja. To je kar tako fancy, kot je bil Sanader častni predsednik HDZ.;)
Dve šivanki...

Thomas ::

Ja, to je nekaj takega.

Kaj je zadnjih 5 let naredil SIAI? Baje da "Timeless decision theory", kaj je IMHO toliko kot 0. Brez veze.
Man muss immer generalisieren - Carl Jacobi

donfilipo ::

V zadnjo a znanstveno 'odrešitev', ali pa zanesljivo vsaj 'giant leap' človeštva, je danes v širšem pomenu vpleteno samo kakih 10.000 ljudi. In bojim se, da so tukaj všteti tudi sponzorji in tisti, ki sem ter tja napišejo kak poljuden članek. V razvoj narrow AI-jev in drugače poimenovanih a podobnih aplikacij, jih je vpleteno neprimerno več, skoraj vsi, ki se ukvarjajo z res perspektivnim softwerom po moje. Ampak to je posel, ki se pač dobro plača in je 'bussiness as usual', za katerega celo 'Kralj na Betajnovi' ve, da je to pač nova 'žaga' in 'trgovina':D

Z razvojem AGI ali SIAI ali FAI...... in še nekaj avtorjev in imen bi bilo, pa se resno ukvarja full time kakih cele 4 ljudi. Ostali participirajo s free time sharingom, ob času, ki jim ostane od razvoja Sims-like aplikacij in borznih prerokovalnic, s katerimi pač služijo. Samouk Judkowski je ugotovil, da je to ravno dovolj:) On in eden ki ga uboga:))

Jasno je, da kaj prida iz tega samega ne bi nastalo nikoli (in tudi že 10 let ni:), če se ne bi krog in samo učenje večalo, postalo popularnejše in dostopnejše. In ker je tema fantastična v obeh pomenih:), vedno bolj aktualna in postaja tudi vedno bolj dostopna, je bilo morda prav, da se ravno SIAI, s svojim lovljenjem sponozorjev obenem tako samooglašuje, kot na drugi strani s krogom 'fajmoštrov' ala judkowski, tudi nekako zgrinja na kup vsa znanja, ki za tematiko eventuelno pridejo prav. In jasno je, da so to še vedno tista najbolj udarna.

Kar sem do sedaj prebrskal, se je judkowski kot samouk, uspel ogniti se kar dosti bullshita, ki se sicer nahaja na ostalih etabliranih inštitucijah, pa vendar po drugi strani, 'ein freundlicher judicher ego' pozablja, da ga tisti pravi goldsteini in frankensteini za enkrat niti obravnavali niso8-)

Je žal tako. Ko sem sam šel zadevo razlagat nekim kar uspešnim poslovnežem, so ti 'ugotovili', da je to od drog in ta slabo vpliva na živce:) Druga reakcija je, da gre za neko novo sekto //kar v primeru, da se ne bi recimo, vsaj približno izpolnjevale napovedi tudi drži:)// Tretja reakcija je tista, na katero sem pravzaprav opozarjal Thomasa, a se kaj prida ni zmenil, je reakcija bistrih in uspešnih kapitalistov in akademikov, ko ti spoznajo, da se tu dejansko odvija realen scenarij in ne hoax. Takrat bi normalno prišlo šele do prave konfrontacije in vsa racionalnost in znanje instituta kot je SIAI bo premalo.8-)

Vendar je že tako, da Friendly Atrificial Inteligence lahko razvijejo tudi Kitajci in ko ta izjavi, da je čas, da se resourci prepustijo za Demokratično in Socialistično Republiko Kitajsko, ki bo pod vodstvom komunistične partije začela zadnjo in odločilno bitko za preskok v dejanski komunizem...in to dokončno spozna tudi glava kot je obama in za njim cel štab vojske in DARPE, potem je 't.i.' manhattan project' v vojaške namene, neizbežen. Tile se pa igrajo podobono kot Lorentz, Heisenberg in ostali. Fina džentelmenska skupina, ki jih bo skupaj zbobnala šele sila:))

No ja jasno, da je možno tudi drugače, ampak se mi zdi, da hudič mora nekako še priti do izraza, da ukrivi še malo ta polovično opičji in zverski mem sapiensa morda v še bolj jezusovskega, preden dokončno preskoči na nov, miljonkrat hitrejši in njampakrat močnejši medij:))
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Zgodovina sprememb…

Saladin ::

Samo meni nekaj ni jasno:
Miljarderi (in mi, "ordinary folk") po svetu dajejo veliko denarja zastonj za dobrodelne namene.

Kako potem ne gre še veliko več denarja v projekte, kjer obstaja možnost razvoja tehnologij za podaljševanje življenske dobe? Sam si nekako zamišljam, da bi ogromno ljudi z malce viška denarja, v svojih 50+ letih dalo denar za take obetajoče projekte, pod pogojem, da bi bili dovolj informirani o tem.

Stereotip "bogatega starčka, ki išče nesmrtnost" mi nekako ne gre iz glave. Zakaj jih ni več?
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

donfilipo ::

Ker ne verjamejo. Mem jezusa je popularnejši od memov Kurzweilla, Goertzla in Judkowskega...zaenkrat. Konec koncev jezus je naredil par domnevnih in par realnih socioloških čudežev. Oni pa še ne:)
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Zgodovina sprememb…

Thomas ::

No, če sem čisto iskren, sem precej domišljav in nadut. Trenutno ni še nikomur razen meni uspelo nič resnega na tem področju. Several Unique Sort (in morda še kaj kar ne pokažem, ne morte vedet) - je IMHO in po mojem najboljšem vedenju doslej EDINI novum, ki je prišel iz mašine.

Ne vem, ste povsem svobodni da me totalno skritizirate in spljuvate zaradi te izjave, a meni se vse tako zdi.

Lahko recimo probate Sergio-Gandalfar taktiko, po kateri SUS ni noben sortni algoritem sploh. To je še najbolj obetavna varianta, a tudi ta dokaj silly.

Have spoken.
Man muss immer generalisieren - Carl Jacobi

donfilipo ::

Boš oprostil..ampak zaenkrat mi res ne pade na pamet takole na prvo, kaj na internetu objavljenega, kar bi bilo bolj povezano z genezo AI-ja. Ampak kot rečeno. Glede na to, da imajo denar v švicarskih bankah, v zneskih ki bi zadostovali za zakup FRI-ja in še kakih 1000 indijskih programerjev, prej nekateri dobri gangsterji in švercarji kot ti, nam nekaj govori, da morda pa le gre za to, da te prvič ne cenijo dovolj, drugič svojih produktov ne prilagodiš ciganskim poslovima in tretjič je to še kar precej daleč od tistega o čemer govori 'entlosung'....je pa jasno...verjetno bi bil prej bližje, če bi kak težak lopov v tem našel interese8-)
Ampak kot sem rekel. Ni ravno vsak kapitalizem vedno povsod zazrt v pravo smer. IQ kapitalistov ne prednjači od IQ-ja proleterjev:)
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Thomas ::

Narobe je misliti, da AI rabi kakšen charity money. AI je biznis kot vsak drug in se mora uveljaviti na trgu, ali pa ni dobra ideja od začetka.

SAI je entrepreneurial operation ali pa je ni.

SAI bo zrasel iz kapitalizma in v kapitalizmu. A ni vse le kapitalski vložek, v kapitalizmu - vsaj dokler nismo vsega zavtomatizirali. Inovacija je tako pomembna, da če daš 100 milijard dolarjev v indijske programerje, je ne odtehta. Enostavno bodo pokurili denar in šli brez željenega rezultata naprej, v lov na nove avanture.

Po drugi strani, lahko iz kakšne bombayske garaže pride do Hard Take Offa.
Man muss immer generalisieren - Carl Jacobi

donfilipo ::

Thomas>> Narobe je misliti, da AI rabi kakšen charity money

Tako misli SIAI inštitut in judkowski:) Ampak nekaterim bistrim duhovnikom človek kar verjame:)

Biznis in podjetništvo dejansko prineseta največ inovacij. Ampak nekaj biznisa, ali če hočeš tudi inovacije ima celo kitajski komunizem. In miljarda koma fumfer ljudi naredi svoje. Tako da.....ni sistema, ki nima denarja in nima trga. In vsi imajo te zadeve rahlo okvarjene. Res pa je, da ima ravno USA, najboljšo mero trga in omejitev, ter vloženega kapitala v inovacije dosedaj in je zato verjetno, da bo SAI nastal v USA tržnem kapitalizmu, kar precejšnja. Če ne bo tam, bo pa na Kitajskem.

Če povečaš število sodelujočih inovatorjev v usklajenem teamu, dobiš inženirski rezultat. Sama ideja in srž inovacije ni več skrivnost, vsaj posvečenim ne. Kakih 200 ljudi vsaj rekonstruktivno ve, kaj je treba narediti in so to vsaj dovolj približno, že tudi vse objavili. Ne v detajle, a ti lahko mirno mutirajo:) Kar rabiš je čas in denar, dobro organizacijo in potrpežjive programerje. In seveda zainteresiran trg.

Jasno da AI trg ima...in vedno več tudi na kitajskem. In ta AI se pač uporablja, kot moderna stružnica (včasih celo skupaj z njo:) Ampak tu je govora o nadgradnji, ki je velik kvalitativni preskok, tako velik, da ga večina 99% ljudi na planetu, sploh še ni obravnavala.
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Thomas ::

Večina ljudi na planetu tudi ni obravnavala gramofona, ko se je ta že pojavil.

Če bi razpravljali o gramofonu samo leto dni pred prvim prototipom, bi se večina ljudi revoltirala, češ kakšne neumnosti so pa zdaj to! Nič čudnega, če je zaradi vsega človek izgubil strah do Boga in razni čudni ljudje kvasijo pravljice o "reprodukciji od boga danega glasu človeškemu grlu, z mrzlimi in neživimi mašinami".

Bodimo no resni - bi pozivali.

Pa ne samo ljudje z ulice, tudi tovarnarji in akademiki in še zlasti ti.

Mora biti 1000 norcev ki to probajo in enemu mora vsaj ratat. Drugače ne gre.
Man muss immer generalisieren - Carl Jacobi

donfilipo ::

Thomas>> Pa ne samo ljudje z ulice, tudi tovarnarji in akademiki in še zlasti ti.

Narobe.... jaz sem v SAI verjel v 0,3 sekunde v novo vrsto gramofona še preden je izšel pa povprečno še prej:)
SAI je neizbežen....samo na glas gruntamo če bi se ga nemara dalo pospešiti in približati širši množici.
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Zgodovina sprememb…

Thomas ::

Ti ja. Ampak midva sva bila že od vedno frika in ne morš preveč sklepat iz naju na splošno populacijo.
Man muss immer generalisieren - Carl Jacobi

donfilipo ::

Vem..a danes je trend v sodobnem kapitalizmu, da se izdelek reklamira, ko je ta šele v nastajanju. Poglej CERN. Od tam davkoplačevalci ne bodo odnesli nič konkretnega direktno. Razen tisto 'božji'. In to je dovolj da se gre famous and public.

In isto je ideja Kurzweila s SIAI. Gre tržno public in tisti, ki pač ne verjeme, si je sam kriv. Takele diskusije pa pridobijo vedno več glav, da zadevo spoznajo še preden pride. Na področju novih 'kindlov', 'bindlov', 'telefonov' in lutk za napihnit. Trg izumlja serijsko, izboljšave so normativne in napovedi izumov in izboljšav so v sodobnem potrošništvu del reklame.

Le da se SAI še ni ravno uvrstil med obvezen izzum s serijsko proizvoidnjo...ne glede na to, da je daleč najbolj odmeven in kontradikoren produkt človeškega uma. Ampak število pripadnikov se veča, sodelavcev tudi in rezlutat je dejansko neizbežen. Osebno nimam niti trohice dvoma. Kar me včasih matra ,ker smo že v letih, je da bi veljalo pospešiti:) Ampak da to naredim sam, se moram pa zadevi resneje posvetiti. Elizierjevi in Benovi forumi so precej bolj zajebana zadeva, kot slo-tech ampak star kozel kot sem, vseeno vztrajno plezam gor...tako da kmalu ne boš več sam iz slovenije:)
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Okapi ::

AI je biznis kot vsak drug in se mora uveljaviti na trgu, ali pa ni dobra ideja od začetka.
Problem z AI je, da sicer dobro vemo, kaj bi radi dosegli, pojma pa nimamo, kako bi do tja prišli. In tapkanje v mraku se zna zavleči, predvsem pa je drago in kapital nekako ne vidi interesa v raziskavah, ki bi obrodile sadove morda šele čez sto ali še več let.

Nekateri pravijo, da niti smiselno ni. Bilo bi nekako tako, kot če bi recimo Benjamin Franklin konec 18. stoletja prepričal ameriški kongres, da se splača vložiti sredstva v razvoj tehnologije za brezžičen prenos slike in zvoka v vsak ameriški dom. Kaj bi radi imeli, so si takrat lahko predstavljali, kako bi to dosegli, pa pojma niso imeli. Maxwell, ki je postavil teoretične osnove za to, da so lahko nato izumili radio in televizijo, se takrat še rodil ni.

Ali, če pogledamo drugače, sedanji poskusi v AI smeri me spominjajo na (hipotetična) renesenčna prizadevanja, da bi naredili kočijo na motorni pogon. Takrat bi verjetno delali v smeri nekakšnega mehanizma na navijanje, parni stroj in motor na notranje izgorevanje pa bi morda prišla iz nekih čisto nepovezanih raziskav.

Skratka, o AI vemo premalo, da bi se komu splačalo vložiti recimo 100 milijard evrov v neposreden razvoj, če bi hoteli enako intenzivno financirati vsa področja, iz katerih bi se utegnilo kaj umetno-pametnega izcimiti, pa nimamo dovolj sredstev. Oziroma je to praktično vsa znanost.

O.

Double_J ::

Če bi toliko zmetali v to, kot v vesolje ter CERN, bi tudi že marsikaj več obstajalo.

Samo po začetnih neuspehih, so izgubili vero, pa jih je bilo verjetno manj kot vesoljskih ali cernovskih.

Pomojem bi z dobrim financiranjem lahko nastali nekateri splošno dostopni toolsi, ki bi jih pa potem prej ali slej kak civilist dejansko znal uporabiti, da bi stvar delala. Civilisti pač rabijo operacijski sistem, če hočejo delati umetnije, tako da bi tudi tu rabili nekaj podobnega.

Nek posameznik, da bi pa sam celotno spisal vse... nemogoče prej umre od starosti.
Dve šivanki...

MaCoFaCo ::

Po moje bo AI "jedro" obsegalo nekaj tisoč vrstic kode in sploh ne bo nekaj glomaznega. Trenutno je bolj težava v prepočasnih CPU-jih...

Vsaj tak občutek imam :)

Saladin ::

Pravzaprav je zadeva simple:

Dovolj je, da SAI & Co. prikažeš kakemu Pentagonu kot nujno zadevo z vojaško uporabnostjo (ki jo "sovražnik" ne sme prej dobiti v roke).

Pretiravaj in laži če je potrebno - ampak ko se enkrat zapičijo v to z njihovim ogromnim proračunom bi znal razvoj hitro iti naprej. Če pogledaš kake bedarije so dosedaj financirali bi to moral biti keks.

Je pa seveda vprašanje, ali želiš da prav vojska to razvija in drži vse pod strogo tajno.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

username ::

donfilipo > V razvoj narrow AI-jev in drugače poimenovanih a podobnih aplikacij, jih je vpleteno neprimerno več, skoraj vsi, ki se ukvarjajo z res perspektivnim softwerom po moje. Ampak to je posel, ki se pač dobro plača in je 'bussiness as usual', za katerega celo 'Kralj na Betajnovi' ve, da je to pač nova 'žaga' in 'trgovina':D

Z razvojem AGI ali SIAI ali FAI...... in še nekaj avtorjev in imen bi bilo, pa se resno ukvarja full time kakih cele 4 ljudi.
Nič hudega, načeloma. Poenostavljeno rečeno: glavno da rata enemu od teh 4. Ali pa komurkoli drugemu, za katerega se še ne ve in bo uletel zraven.

To je tako kot s štromom, ki ga danes na veliko uporabljamo. Nisi rabil mase ljudi, ki bi to namesnko gruntali desetletja. Rabil si kakega Galvanija, da je nekaj odkril, potem pa kakega Edisona in Teslo, da je tech razvil do konca. To je bilo dovolj.
Sicer je vmes bila cela kopica ljudi, ki so se v 18./19. stoletju 'ukvarjali z elektriko' - ampak to so bili zgolj razni nepomembneži, ki so na nedeljskih sejmih trzali s kraki crknjenih žab v zabavo ljudstva. Ni važno njihovo število, vseeno ni bilo od njih v bistvu nič pametnega.

Saladin > Stereotip "bogatega starčka, ki išče nesmrtnost" mi nekako ne gre iz glave. Zakaj jih ni več?

donfilipo > Ker ne verjamejo.
Ja. Ali pa je kakšen, ki zanj niti ne vemo. In tudi če mu rata, verjetno ne bomo vedeli še nekaj časa po tem, IMO.

donfilipo > Glede na to, da imajo denar v švicarskih bankah, v zneskih ki bi zadostovali za zakup FRI-ja in še kakih 1000 indijskih programerjev, prej nekateri dobri gangsterji
Jim ne bi dosti nucalo, verjetno. Tudi 1000 brihtnih Indijcev ni nujno dovolj za uspeh. Tudi zato, ker jih moraš najprej pravilno in smiselno usmeriti - kot v srednjem veku ne bi nič nucalo, če bi zaposlil 1000 najboljših učenjakov, da že enkrat pogruntajo alkimistični recept za pridobivanje zlata, ali razvijejo perpetuum mobile.

Okapi > tapkanje v mraku se zna zavleči, predvsem pa je drago in kapital nekako ne vidi interesa v raziskavah, ki bi obrodile sadove morda šele čez sto ali še več let.
Večina kapitala morda ne vidi. En del pa morda ja. Ravno zato je nujno, da (privatnega) kapitala obstaja čim več, če hočemo čiprej videti kaj uporabnega.

Okapi > kot če bi recimo Benjamin Franklin konec 18. stoletja prepričal ameriški kongres, da se splača vložiti sredstva v razvoj tehnologije za brezžičen prenos slike in zvoka v vsak ameriški dom. Kaj bi radi imeli, so si takrat lahko predstavljali,
No vidiš. Pa je bila taka tehnologija kasneje vseeno bila razvita, ne da bi Kongres sploh kaj dosti eksplicitnega govoril o tem, kaj šele razporejal kak denar v to...

Okapi > Skratka, o AI vemo premalo, da bi se komu splačalo vložiti recimo 100 milijard evrov v neposreden razvoj,
Zakaj bi pravzaprav sploh 'mi' morali vlagati take silne milijarde v to? Morda sploh ne bi bilo učinka, podobno kot če bi hotel dajati konju 3-kratne porcije ovsa v upanju, da bo 3krat hitreje tekel.

Denarja v razne raziskave bi bilo v bistvu že na splošno treba dajati čim manj, najraje nič. Govorimseveda o javnem (davkoplačevalskem) denarju.
S tem se samo odžira sredstva za privatno financirane raziskave.
Moraš pustit, da kdorkoli hoče in zna, čimveč zasluži in obdrži denar, da o hotel še več zaslužiti. Skratka spustiti pohlep in egoizem s ketne, da delata za vse. Slej ko prej se bo našel en, ki bo (zaradi veselja ali pa zaradi še večjega zaslužka) hotel in zmogel razviti SAI in take zadeve. Če bo bogat (na voljo dovolj časa/svojega denarja), se bo lahko s tem ukvarjal.
I've got a solution for the rainforest: napalm the lot. (Jeremy Clarkson)

WarpedGone ::

Je pa seveda vprašanje, ali želiš da prav vojska to razvija in drži vse pod strogo tajno.

Kako vemo da vojska tega ne počne?
Spomini se fuzije in vojaških raziskav v smeri IEC fuzije kljub temu, da "vsi vejo" da IEC fuzija pač ne dela in da je tokamak in ITER the way to go.
Za zadevo smo zvedeli slučajno, ker je vojski zmanjkalo financ in so stvar ustavili.
Zbogom in hvala za vse ribe

Okapi ::

Dovolj je, da SAI & Co. prikažeš kakemu Pentagonu kot nujno zadevo z vojaško uporabnostjo
In kako veš, da Pentagon že 40 let ne meče denar v to?

O.

Okapi ::

Slej ko prej se bo našel en,
Pod pogojem, da je en dovolj. Na Luno ali Mars recimo še dolgo ne bi prišlo, če bi čakali na enega (ali tudi na več združenih kapitalistov).

Pa je bila taka tehnologija kasneje vseeno bila razvita, ne da bi Kongres sploh kaj dosti eksplicitnega govoril o tem, kaj šele razporejal kak denar v to...
Kongres je denar razporejal za razvoj izobraževanja in znanosti na splošno, neposredno iz proračuna in posredno prek davčnih olajšav, ker so vedeli, da je znanost koristna. Niso pa denarja dajali za takšno določeno megleno raziskavo z negotovim izidom, ker bi bilo to nesmotrno.

Mimogrede, lahko si prepričan, da bi se takoj našlo poljubno mnogo denarja, tudi bilijon evrov, če bi bilo potrebno, če bi nekdo prepričljivo dokazal, da ve, kako narediti AI, samo sredstva mu še manjkajo.

O.

donfilipo ::

"donfilipo > Glede na to, da imajo denar v švicarskih bankah, v zneskih ki bi zadostovali za zakup FRI-ja in še kakih 1000 indijskih programerjev, prej nekateri dobri gangsterji

username>>Jim ne bi dosti nucalo, verjetno. Tudi 1000 brihtnih Indijcev ni nujno dovolj za uspeh. Tudi zato, ker jih moraš najprej pravilno in smiselno usmeriti - kot v srednjem veku ne bi nič nucalo, če bi zaposlil 1000 najboljših učenjakov, da že enkrat pogruntajo alkimistični recept za pridobivanje zlata, ali razvijejo perpetuum mobile."

No tu pa nisem čisto prepričan, da smo primerjalno v srednjem veku, kar se razvoja AGI (SAI, ali po domače AI:)tiče. Slutim da smo veliko bližje in da bi nek ogromen napor nemara obrodil sadove, kot jih je manhattan projekt. Res pa je, da danes ni zaenkrat nobenega mehanizma, ki bi ključne individuume razvoja AI lahko poenotil in strpal v kak vojaški projekt...in prav zagotovo je to evolucijsko boljše. Kar me bega je, amerikanskaja vojskaja, ki se je že opekla z Minskim in ekipo (no pa ne samo z njimi, so bile še hujše traparije: ena---the men who stare at goats:), pa nemara ravno zaradi tega tokrat delujejo previdneje iz ozadja in trdno spremljajo razvoj AI doma in drugje, kjer pa je milorečeno nikakršen. In so kar zadovoljni po moje. Narrow AI.jev so privatniki že kar nebroj vojski prodali in razvoj teče s polno paro. Le big taska se pa od velikih še nihče ni lotil, čeprav ravnokar opažam po malih AI-jih capljajo čisto vsi. Celo Microsoft. Tako da....v bistvu že več kot skromnih 1000 dela na zadevi...veliko več in z ogromno investicije, le da so še particionirani. Ampak kot sem rekel to ni sploh problem. Nemara celo prednost. Smešno je, da imamo več kot 25% koščkov puzzla že narejenih, pa 99% ljudi sploh ne ve, kaj to pomeni. In 15 ali 35 let v sociološkem pogledu, pri takem preobratu (ne gre za nov mobitel...gre za raj ali pekel:), pri navadni raji pomeni sekundo!!!
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Okapi ::

kot jih je manhattan projekt.
Tam so natanko vedeli (teoretično), kaj morajo narediti.

Tako da....v bistvu že več kot skromnih 1000 dela na zadevi...
Samo vprašanje, a sploh v pravi smeri. Ker tudi milijon alkimistov z neomejenimi sredstvi ni dovolj za odkritje kamna modrosti.

Doslej se je že velikokrat izkazalo, da do novih revolucionarnih izumov ali odkritij pride na osnovi nekih naključnih odkritij s čisto nepovezanih področij. Bacile in s tem praktično vso sodobno medicino so odkrili po zaslugi nekih steklarjev, ki so brusili leče.

Ali pa če pogledamo, kako so izumili letalo. Narediti ga je hotel že da Vinci. Ampak je moral najprej nekdo narediti lahek motor za avtomobile in nekdo izumiti propeler za ladje (če vseh drugih podrobnosti niti ne omenjam), da so se stvari začele sestavljati.

Če bi od 16. stoletja naprej vsi znanstveniki z neomejenimi sredstvi delali na izumu letala, bi ga verjetno ne izumili nič prej.

O.

donfilipo ::

Delajo v smeri profita in ta je za njih sigurno prava:D Morda zame malo manj...ampak to ni pomembno.

Tu ne gre več za 'nek' ali 'en' revolucionaren izzum in osebno verjamem, da ko bo narejen dovolj dober scan možganov (zelo v kratkem) in ko bodo v IBM v nek svoj superstroj strpali reklamno simulacijo možgan, kakšne velike skrivnosti, tudi tu ne bo več. Ostalo bo miljon inženirskih problemov, a 'velika skrivnost duha' bo izginila v triku migetajočih lučk nevronov v megli masovne paralelnosti. To prenesti v današnje sodobne kalkulatorje, ki so narejeni ravno na drugo filozofijo 'ein preciser CPU..na ja fier oder 1024:) ne pa miljon...miljarda poljudnih samorastočih...je problem. A ne nerešljiv. Ravno v tem času, pa bodo obenem poleg skrivnostnega duha v naravi, odkrili tudi intelegenčna kolesa in propelerje v takih količinah in kvalitetah, da bo računalnik nepogrešljiv (to je že) in v bistvu že kar merodajen,(to še ni) na prav vseh področjih visoke dodane vrednosti. Pomeni družba gre hitro v to smer, le da za nekatere še zmeraj prepočasi.

>Če bi od 16. stoletja naprej vsi znanstveniki z neomejenimi sredstvi delali na izumu letala, bi ga verjetno, ne izumili nič prej.

No tu, se ne strinjava. Po tvoji logiki so vsa sredstva za razvoj brez veze. In je razvoj odvisen od naključne originalne ideje, ki pride kadar dozori čas. Ni pomebna šola, vzgoja, način trženja, niti sistem.

E ta čas zori z 'dragimi' in kvalitetnimi...hrano...športom...življenjem....šolo in seveda tudi podjetniško avanturistično žilico. Res je...ne bi ga izzumili veliko prej...bi ga pa! In kar je zelo pomembno...pri zadevi, o kateri je tu govora, gre za kakih 1000 ali več patentov in izzumov in eno idejo, ki pa jo prodajajo pod različnimi imeni različni posamezniki, že kar lep čas. Eni služijo, skoraj vsi se pri večini tudi osmešijo. A čas bo pravi razsodnik. In jaz sem prepričan, da bodo tokrat nevedne budale izpadli tistih 99%, ki so dvomili tako v letalo kot upload:))

Družbe, ki dajejo več prostora kvalitetni izobrazbi in tehnološkemu napredku so spredaj. To ni zastonj. Stane!!!! In stane skupnost!!!! Racionalne družbe brez ideološke in birokratsko parazitske navlake veliko manj, a vseeno. Tudi sistem, kjer šolanje plačajo dejanski uporabniki, še zdaleč ni mimo, a je to vseeno strošek!!!! Znanstvenika osebno, ali skupnosti, does not matter, je investicija. Klinc je, če imaš celo okolico posejano s šolami, kjer je najsodobnejši predmet dejansko verouk>:D

Lahko daš denar u božju mater in ga zapravljaš za čisto nepotrebne stvari in rusi in balkanci, smo po temu svetovno slavni.
A nič manj denarja, za podobne reči, je vlagal tudi zahod in zmagal...zraven so poleg raket...tankov...vodikovih bomb in reaktivcev razvili s pomočjo tržnega gospodarstva in potrošniške demokratske družbe še svetleče avtomobile, kavbojke in elvisa presleya. In rusi? odo o traktorju8-) Namara zdaj veš, zakaj se je Wolland odločil obiskati jih. (Mojster in Margareta----Bulgakov)

Catch je drugje. Ameri z zavezniki globoko prednjačijo v ravoju AI in dokler je tako 'why fix it if it ain't broken?' Saladin je pravilneje vprašal. Ljudje ki imajo miljarde, crkavajo počasi in poznajo te fante, ali njih dela in firme, saj mnoge izdelujejo borzne prerokovalnice in podobna narrow AI čudesa , zakaj ti ne vlagajo miljarde? No zdaj si mi ti dal idejo. Najprej sem menil, da prav vsi ne verjamejo. Zdaj vidim, da menijo točno tako kot ti. Tudi će bi jim denar dali, bi ga samo vrgli proč...naj ga najdejo sami:) E ne moreš ti starega žida, ki je povrhu še gorenjec učiti šktrosti;((

Kako je že rekel un fajmošter: 'Sveti peter ne sprejme denarja, ampak tukaj veste gospod skeretar...tukaj bi pa za vas zmolili kako priporočilo:)
Sekretar: 'madona a ne veš kaj je komunizem? mi nismo cerkveni!!'
fajmošter: 'ne tako gospod sekretar ravno jezus je bil prvi komunist na zemlji, le da ni toliko grešil kot vi in se je potegoval za uboge!!
in intervenira pomočnik sekretarja rahlo pijan: 'poslušte fajmošter...nič ne bo. Tale ni komunist, ampak je škrt!>:D
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Okapi ::

osebno verjamem, da ko bo narejen dovolj dober scan možganov (zelo v kratkem)
Niti slučajno ne bo to zelo v kratkem. Malo pomisli, kaj je potrebno v resnici skenirati.

Kakšna je razlika med možgani genija in možgani umsko prizadetega človeka? Ko dobi znanstvenik na mizo možgane, v veliko primerih ne more niti slučajno ugotoviti, kateri so kateri. Tudi niso možgani sami po sebi dovolj. Če bi dojenčka redil v popolni osami, bi kot odrasel ne bil pameten niti toliko kot šimpanz.

V možganih je še toliko neznank, da bo IMHO uspeh, če bomo čez 30 let lahko rekli, da smo vsaj malo napredovali v smeri proti AI.
Po tvoji logiki so vsa sredstva za razvoj brez veze.
Saj ni res. Brez veze je pretirano veliko sredstev (oziroma na račun nečesa drugega) dajati v namenski razvoj neke za zdaj še neznane tehnologije. Smiselno je namesko vlagati v tehnologije, ki jih vsaj okvirno že poznamo - recimo jedrske elektrarne, verjetno tudi fuzijske, pa v genski inženiring in podobno. Poleg tega je smiselno vlagati v vse bazične znanosti, kjer bo, upajmo, nekoč nekdo pogruntal tisto, kar nam sedaj manjka, da bi se lahko resno lotili AI. Morda bo to kvantni računalnik, morda bo to neko nevrofiziološko odkritje, morda genetsko, morda kaj četrtega.

Problem je, ker ne vemo, v kaj je pravzaprav sploh potrebno vložiti denar, zato je ozko usmerjeno financiranje razvoja AI za zdaj bolj ali manj nesmiselno. Lahko financiraš razvoj hitrejših računalnikov, ker veš, da bo to v vsakem primeru koristno. Lahko financiraš razvoj natančnejše NMR, nevrofiziološke raziskave ..., ki prav tako dajo koristne rezultate, tudi če končnega cilja ne dosežeš. Nesmiselno pa je ves denar pognati v nek inštitut za raziskave umetne pameti in zapravljanje časa, po možnosti takšnega, v katerem neki akademiki že desetletja prodajajo meglo in jamrajo, da jim samo še par milijard manjka, pa bodo naredili umetne možgane.

Tudi će bi jim denar dali, bi ga samo vrgli proč
Ni stvar v škrtosti, ampak v smotrnosti. Predstavljaj si, da si milijarder, star recimo 60 let, in se odločiš, da boš ves svoj višek denarja vložil v eno samo raziskavo. Za katero bi se, na osnovi svojega sedanje poznavanja perspektiv za uspeh, odločil?
a) AI
b) zdravilo za raka
c) genetika staranja (recimo z obetom podaljšanja življenja za 50% v povprečju).

O.

Zgodovina sprememb…

  • spremenil: Okapi ()

donfilipo ::

Okapi>> Brez veze je pretirano veliko sredstev (oziroma na račun nečesa drugega) dajati v namenski razvoj neke za zdaj še neznane tehnologije

Tu pa jasno da.

Bom pregledal to o možganih v kratkem, nisem expert, a kar sem videl na internetu, zadeva napreduje, tehnologija scaninga ima dovolj resolucije, problem mislim da gre le za obseg, a baje tudi tu že poznajo trike. Ne gre za šalabajzerje...vsi ti 'skenerji' v bistvu to počnejo, predvsem tudi za druge namene...medicinske, bazične in komercialne...tako da denar zagotov ne mečejo proč:)

Denarja v 'hitrejše računalnike' gre danes po moje dovolj. Premalo za večji preskok na druge filozofije CPU-jev (kvantni, 320 jeder, ?)
Sumim da je simptom molzenja stare krave, čeprav ne daje več dovolj mleka, splošen in čisto človeški simptom slabega optimuma splošnega razvoja.
Je pa nedvomno res....tu noben dolar ne bo odveč!

In ne se bati. SIAI je mala privatna inštitucija, ki je narejena neprofitabilno in edukativno in zelo malo ljudi je tam polno zaposlenih. In ti so edini, ki praktično nonstop javno o zadevi transhumanizma razpravljajo in obveščajo.
Ostali delajo komercialno in akademsko sicer iste reči, a transhumanizma praktično ne omenjajo. In večinoma svoje stroške tudi pokrijejo in nemalokrat ustvarijo nemalo profita. Čisti malopodjetniški duh celo po glasnosti prednjači pred Microsofti:) In razen SIAI po moje nobeden niti ne zaprosi za sredstva. Pa celo SIAI ne vlade. Tako da.....Kar se duha kapitalizma tiče, so tile preverjeni popolnoma:)

Če bi bil miljarder star 60 let bi kupil stavbo zraven Judkowskega, tam zaposlil ene 20 zelo dobrih uveljavljenih in kakih 20 neuveljavljenih genijev jim dal projektne naloge in dobro nagrado za izpolnjene taske v okviru te naloge. Judkowskega pa bi drezal zakaj drži s skrivnostnostjo razvoj nazaj:) In še kakih 20 uveljavljenih AI legend8-) Res!

To nedvomno ima v načrtu tudi Kurzweill, kot ustanovitelj SIAI, a ker je precej škrtica...ok racionalen:)...jasno iz svojega žepa ne bo riskral preveč:) Zato ima SIAI še bolj malo redno zaposlenih programerjev, a vedno več zelo uglednih in uveljavljenih sodelavcev....

Skratka naredil bi tako kot Kurzweill, le da bi kot domnevni miljarder riskiral domnevno več. Kurzweill kljub nedvomni sposobnosti in inovativnosti ni miljarder, ravno zato, ker ni takrat kot Gates razvijal sistema oken, ampak verjetno sistem AI-kompozitorja:)
Če si že tako vprašal.
Vedeti pa je treba da: 'talk is cheap:)'
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Okapi ::

Kurzweill kljub nedvomni sposobnosti in inovativnosti ni miljarder,
Ni, ampak on tako ali tako prispeva v projekt pamet, ne denar. Zakaj mu ne uspe prepričati par milijarderjev, da bi mu napisali bianko čeke? Recimo nekaj šejkov, da se bolj splača investirati v upload kot v dirkalne konje, umetne otoke in nebotičnike? Ker oni verjamejo v posmrtno življenje?
tehnologija scaninga ima dovolj resolucije
AFAIK za dva velikostna razreda premajhnega. Skenirati bi morali na ravni posamezne sinapse, in to prostorsko in kemično. Potem pa se zaplete še pri količini podatkov, ki bi jih bilo potrebno obdelati. Za povrhu ni pravzaprav nobene garancije, da bi si s temi podatki sploh lahko kaj dosti pomagali (razen za zdravljenje možganskih bolezni).

O.

Zgodovina sprememb…

  • spremenil: Okapi ()

donfilipo ::

Mijarderji nekateri verjetno že pišejo čeke. A ne bianco. To je razlog zaradi katerega so miljarderji:) Za njih drobiž. 100.000 dolarjev, ki se odbije od davčne osnove. No že to je dosežek. Šejki pa po moje tu ne prednjačijo. In ne zato, ker bi verjeli v posmrtno življenje...ampak ker jim je težko predstaviti kaj boljšega, kot že imajo8-)

Moram priznati, da bi bil tudi sam verjetno v skušnjavi, če bi mi nadangel gabriel ponudil 15 let šejkovega življenja zdaj, ali če uspe upload večen v virtualnosti, če bo delala:))

1.Za transhumanizem 99% ljudi sploh ne ve, kaj je.
2. Od 1% ljudi ki vedo, jih 50% dvomi.
3, Od ostanka teh, jih je le 0,001% miljarderjev
4. od teh jih je 50% škrtih:))

No in tistih 6 ki ostane, bo pa doniralo:)
Šalo na stran...AI rabi bistre glave, v čim večjem številu, ki bodo znale ljudem na splošno pojasniti, v čem je sploh govora. Nikjer ne piše, da bodo največ pridonesli miljarderji in tudi škrtico, se pri nesmrtnosti, če ga prepričaš, da stisniti.

Zadeva je po številkah se vidi, v sferi utopije....ampak številke se spreminjajo. In zdaj ...ostane, da nekdo čez 30 let pogleda blog in vidi, kdo je pravilno ocenil smernice razvoja, kdo pa narobe...če bo to komurkoli kaj pomenilo. Thomasovim otrokom skoraj zagotovo. In verjetno tudi tvojim, če jih imaš. In če bo server in svet še stal.
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

donfilipo ::

En temeljen in popolnoma racionalen razlog bom navedel, zaradi katerega bi se tudi skeptikom veljalo posvetiti transhumanizmu...če ne s plati:
...trpeči trpini za mano v mini....nebesa:)

pa vsaj iz naslednjih povsem racionalnih razlogov, ki jih nobena skepsa ne more ovreči:

ko boste pregledovali vede s katerimi se ukvarja tranhumanizem....boste naleteli na špice razvoja praktično na vseh področjih.

En sam primerček....filozofija postane spet stroj racionalizma in ne mehanizem goltanja neumnosti in dreka. Nič več hvale ateističnega boga, s šiframi, ki jim ne more oporekati niti papež. Nič več cesarskega ateizma, s katerim se uvede v imenu ljudstva nov mašni dvor in sužnjelastništvo:)---> Ne praktični problemi sodobne misli. Ne verjamete? No potem vam pač ni pomoči. Ostane Žižek....hegel....freud....derida in res dobri vici.....in en grenak priokus..there is no hope:)

Če ne pa si poglejte. Sodobni filozofski inštituti skušajo nabrskati skupaj učene glave, ki bodo preskenirale možgane, da bi s pomočjo emulacij v velikih superškatlah IBM-ov končno enkrat brez špekulacij in preračunljivih vritlezenj oblastnikom, pogruntali kako deluje tisti najdragocenejši organ za filozofa, to je človeški um. Kaj pa Platon in Descartes in Marx, porečete?. Fuck them:)) They were just dreaming about flying:)
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

gardener ::

Thomas:
Kaj je zadnjih 5 let naredil SIAI? Baje da "Timeless decision theory", kaj je IMHO toliko kot 0. Brez veze.

Iskanje prave teorije odločanja, ki jo bo (morda) mogoče nadgraditi v njeno reflektivno različico in na takšen način modelirati samo-izboljšujoči se AGI sistem, se meni ne zdi ravno nesmiselno. Je eden izmed potrebnih korakov k precizni teoriji prijazne inteligence, s pomočjo katere bomo nato tudi zgradili FAI.

Ni pa to edino, s čimer se je SIAI ukvarjal zadnja leta. Če si samo ogledaš serijo prispevkov na blogu Overcoming bias (sedaj prenešeni na Less wrong), vsebujejo kar nekaj FAI relevantnih idej, poleg samega racionalnega frameworka potrebnega za spopad s tem problemom. Težko je reči, kdaj so bile te ideje razvite, ne dvomim pa, da se je v teh letih poglobilo razumevanje problema, kar pa je nujno potrebni pogoj za to, da imaš sploh kakršnokoli možnost za njegovo uspešno razrešitev.

Če pa imaš kak boljši predlog kako se lotiti FAI problema, so me seveda sama ušesa.

Sicer pa je nekaj dosežkov Singularity Instituta navedenih tule:
Singularity Research Challenge

donfilipo:
Vendar je že tako, da Friendly Atrificial Inteligence lahko razvijejo tudi Kitajci in ko ta izjavi, da je čas, da se resourci prepustijo za Demokratično in Socialistično Republiko Kitajsko, ki bo pod vodstvom komunistične partije začela zadnjo in odločilno bitko za preskok v dejanski komunizem...

Takšen AI ne bi bil kaj prida prijazen, mar ne? ;)

Friendly AI, kot ga je zasnoval Yudkowsky (izraz namreč izhaja iz njegovih logov), je neodvisen od tega, ali ga zgradijo libertarno usmerjeni Američani, zagrizeni kitajski komunisti, ali celo Bin Ladenova teroristična druščina. Če se namreč malce odmaknemo od trenutnega dogajanja in si ogledamo tok evolucijske zgodovine, od prvih replikatorjev, preko pojava prve splošne(jše) inteligence utelešene v Homo sapiensu, do morebitnih intergalaktičnih civilizacij, dejansko ni videti neke bistvene razlike med komunisti in kapitalisti - so le majhni odtenki med divjaki, ki so ravnokar prilezli iz gozdov. Opirati se na specifična sedanja moralna prepričanja, kot da so nespremenljivi zakoni narave, bi bilo tako sila nespametno in zaradi tega FAI teorija odpravi s to odvisnostjo od (moralnih) prepričanj programerjev, ki bodo v končni fazi zgradili FAI.

Skratka, FAI kot si ga uporabil v zg. citatu, ni FAI kot ga pozna krog singularitancev, ki se gibljejo okoli SIAI. Če bi Kitajci zgradi FAI v tem drugem pomenu, nas nima nič kaj bolj skrbeti kot v primeru, da bi ga zgradili Američani.

donfilipo:
Judkowskega pa bi drezal zakaj drži s skrivnostnostjo razvoj nazaj:)

Razrešitev FAI problema zajema tudi rešitev AGI problema, ker je FAI pač poseben primer AGI-ja. Ker pa večina AGI-jev ni Friendly, se lahko delne rešitve FAI problema izrabi za izgradnjo unFriendly AGI-ja in zaradi tega jih je bolje zadržati zase. To je vsaj eden argument, ki podpira takšno odločitev, lahko pa si zamislim tudi kakega, ki ji vsaj malo nasprotuje...

Okapi:
a) AI
b) zdravilo za raka
c) genetika staranja (recimo z obetom podaljšanja življenja za 50% v povprečju).

AI je gamechanger, (b) in (c) pač nista - kar sevega ne pomeni, da nista pomembna, vendar v primerjavi z AI sta le majhna igralca v igri, ki se odvija na mnogo višjem nivoju. Inteligenca je najmočnejša 'sila' v vesolju in tako predstavlja hkrati eksistenčno tveganje (v primeru neprijazne AI) in možnost, da s pomočjo Friendly AI spremenimo naš svet v 'nice place to live' - odpravimo tiste temeljne, mnogim nevidne probleme, ki nas pestijo zaradi našega evolucijskega izvora in dejansko zasnujemo nebesa v lokalnem predelu vesolja, ki ga še lahko dosežemo.

Zakaj se potem namenja silna sredstva (tako v denarju, kot sposobnih ljudeh) drugemu problemu in v neki meri tudi tretjemu, medtem ko se na (F)AI kar pozablja? Razlogi so raznoliki, vendar z racionalizacijo ni mogoče spremeniti dejstva, da to pač ni dobro...

---

O pomembnosti oz. potrebi po kvantnih računalnikih (QC) za izgradnjo AI sistema:

QC ni po izračunljivosti nič močnejši od Turingovega stroja ™; z drugimi besedami, kar je zmožen izračunati TM je natanko tisto, kar zmore QC, in obratno. Razlika je le v sredstvih, ki jih potrebuje za rešitev nekega problema in pri teh nas najbolj zanima čas. Tu pa velja, da je QC zmožen pospešiti le zelo specifične algoritme kot je faktorizacija števil ali pa simulacija določenih kvantnih sistemov, kar pa je daleč od problemov, s katerimi so se srečevali naši (evolucijski) predniki in za katere so optimizirani naši možgani, kot trenutno edini primer splošne inteligence.
Iz tega ni težko videti, kako zelo malo je verjetno, da obstaja neka ključna odvisnost med pohitritvijo te peščice algoritmov in inteligenco, ki bi omogočala implementacijo AI na QC in jo hkrati - zaradi relativne počasnosti pri teh algoritmih - preprečevala na TM.

Kar se tiče kovanja dobička kot končnega cilja zaradi katerega se nekateri lotevajo razvoja AGI-ja, lahko rečem le, naj se raje lotijo česa drugega. Tule so v igri možnost popolnega uničenja življenja na Zemlji, izgradnja novega sveta (in ne tistega 'krasnega'), dejansko usoda inteligentnega življenja v našem lokalnem kotičku vesolja, in komur tule po mislih skačejo cekini... očitno vsega tega ne vidi in z nekaj zadržka lahko dodam še, niti ni na nivoju, da bi sploh imel kako možnost da stre veliki problem prijazne inteligence.

Thomas ::

Monopolizacija Singularnosti s strani SIAI v imenu nujnosti FAI, da ne pride UFAI - ni več možna. Bi oni morali pa že imeti napisane mnogo kode, da bi bilo kaj takega smiselno in mogoče. Pa nimajo.

Čakalo se jih ne bo.

Za ceno neprijazne umetne inteligence? Nikakor ni nujno.
Man muss immer generalisieren - Carl Jacobi

ABX ::

Tudi email noben ni jemal resno leta '90. Danes pa si težko kdo zamisli poslovat brez tega.

Tako bo tudi z AI, oz. z vedno boljšimi AI. Tiste ki to zanima bojo imeli začetno prednost.

P.S: Jaz stavim da masovna uporaba prave AI se bo prvo pojavila na Japonskem.
Vaša inštalacija je uspešno spodletela!

Zgodovina sprememb…

  • spremenilo: ABX ()

donfilipo ::

eudaemon>> Friendly AI, kot ga je zasnoval Yudkowsky (izraz namreč izhaja iz njegovih logov), je neodvisen od tega, ali ga zgradijo libertarno usmerjeni Američani, zagrizeni kitajski komunisti, ali celo Bin Ladenova teroristična druščina

Moram najprej videti, če je razen bloga (ki je OK), obveščanj (ki so tudi OK), sploh res kaj natipkal:) Ampak načeloma imaš pa popolnoma prav. Če domnevamo, da se omenjen 'težak akumulator morale in etike', prepusti logiki optimalne evolucije, je čisto vseeno, kje in kdo ga razvije. Če pa domnevamo, da protokol ustavi evolucijo na optimalno ravni, se mi pa zdi, da je še hudičevo pomembno, kdo in kakšen konsenz med ljudmi ga dokončno zažene:)
In times of Universal Deceit, telling the truth
becomes revolutionary act. Orwell

Okapi ::

Friendly AI je subjektivna kategorija, tako da je še kako pomembno, kdo jo razvije. Kar je prijazno za ljudi, morda ni tako zelo prijazno do česa drugega. In kar je prijazno za ateističnega razumnika, ni nujno prijazno za vernega kristjana.

O.

Thomas ::

Absolutno res. Nepomirljiva nasprotja tukaj so!
Man muss immer generalisieren - Carl Jacobi

ABX ::

Friendly AI je subjektivna kategorija, tako da je še kako pomembno, kdo jo razvije. Kar je prijazno za ljudi, morda ni tako zelo prijazno do česa drugega. In kar je prijazno za ateističnega razumnika, ni nujno prijazno za vernega kristjana.

O.


Ampak še vedno lahko spoštuješ svobodo posameznika, čeprav se ta krega z ideologijo nekoga drugega.
Vaša inštalacija je uspešno spodletela!

Saladin ::

IMHO:
Problem nerazširjenosti in nezanimanja za SAI in singularnost temelji na dveh predsodkih:
a) enostavno ni možno v predvidljivi prihodnjosti (mainstream mišljenje izobražencev)
b) ne igrajmo se Boga (mišljenje vernikov in laikov)

Mene je prav raziskovanje pojma Boga privedlo do definicije Posthumanega Boga (ter Absoluta) in vse bolj dojemam, da če že obstaja - je potem singularitanizem & Co. pravzaprav edini način njegovega dojemanja.

Obenem pa dojemam, da je (ugodno) radikalen tehnološki napredek nujen, da dolgoročno sploh lahko preživimo in da s tem ni absolutno nič narobe.

Ne bom šel v detajle religij - ampak potreben bo paradigm shift tako v mainstream znanosti kot tudi v religiji. Znanost mora dojeti da ni nič narobe z menjavo substratov, verniki pa da je imanentiziranje eshatona pravzaprav ultimativni cilj in ne greh.

Pa da ne bo kdo pomislil, da nekaj silim boga v znanost - trdim le, da boš potreboval tudi podporo vernikov za kakršenkoli globalen, voluntary paradigm shift.

Posthumani Bog je iztočnica tako za znanost kot religijo.

IMHO.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

ABX ::

Singularity kot vsaka nova tehnologija potrebuje le peščico ljudi. Vsi ostali so svobodni jo korist ali ne.


Tukaj debatiramo o njej ker želimo biti pripravljeni na novi svet ki se nam obeta.

P.S: Kako AI pomaga servisirat. :)
http://singularityhub.com/2010/01/11/au...
Vaša inštalacija je uspešno spodletela!

Zgodovina sprememb…

  • spremenilo: ABX ()

Thomas ::

Tukaj debatiramo o njej ker želimo biti pripravljeni na novi svet ki se nam obeta.


To je bil predvsem namen, ja. Zdaj to ravno jaz najbolj kršim. Saladin nekaj vpraša, jaz pa rečem - ne bom povedal kaj mislim.

Zakaj? Ker se nočem preklat z raznimi ciniki, ki sporadično vpadajo semle s svojimi "ultrabrihtnimi"?

Niti ne. Zato ker o nekaterih rečeh naj si ljudje ustvarite svoje mnenje sami, ga bomo potem predebatiral. Slabš za vas, bolje za rezultate.
Man muss immer generalisieren - Carl Jacobi
««
96 / 182
»»