Protokol

Vajenc je 13. nov 2015 ob 12:07 izjavil:

SambaShare je 13. nov 2015 ob 11:59 izjavil:

Inteligenca je orodje za reševanje problemov. Kako jo uporabljaš in kakšnim zavedanjem je pa drugo vprašanje.

To že imamo. Tukaj govorimo o AI bolj v smislu tehnološke singularnosti.

Kar imamo zdaj so ozko usmerjene AI. Nečesa kar bi reševalo splošne probleme pa še ni.

Samba kapira, okapi še vedno ne.

Inteligenca je inteligenca. Za nekaj, kar bi uničilo vesolje, da bi izračunalo pi na x decimalk, ni po nobeni definiciji mogoče reči, da je inteligentno. V resnici je grozno neumno.

Ful nam pomaga, ko/če bo ta inteligenca grozno neumna.

Kaj nam pomaga zapletanje v besede? Zgublamo čas, ki bi ga bolje porabili z gruntanjem kako se pred takim procesom čimbol zazihrat in hkrati ne bit ludist.

In bomba je bila pred jedrsko elektrarno in najprej pofentala nekaj sto k ljudi, predno je nardila prvi 'koristen' wat.

In hkrati je bomba zadeva ki ni spreminjala sama sebe.
AI, ki ne bo spreminjala sama sebe ni prava AI.

Great. Še vedno pa nisem slišal jasnega in razločnega odgovora...čemu nam bo torej AI služil? Če bo neumen, bo pizdarija. Če bo pameten nas po pomalcal (v najslabšem primeru, spravil v ZOO).
Če bo upload...bo upload samo za enega.

Skratka...what the fuck do we want?

7982884e je 13. nov 2015 ob 18:27 izjavil:

?
jasno je, čemu bo služil. sčasoma bomo z njim zamenjali governance človeštva. ker so ljudje neperfektni, nam bodo vladali stroji, ki to so, oz. bodo.
ampak popoln strojni governance je zadnja faza. do takrat se bo ai pač nucal za potrebe organizacije resorsov, da se gradi nova tehnologija. AI daš v vodstveno vlogo in mu naročiš, naj razvije mašinerijo za hitro produkcijo izdelkov. sčasoma prideš do tega, da imaš universal constructor, popolnoma avtomatsko fabriko poljubne velikosti, v katero se stekajo surovine in štrom, ven pa prihajajo končni izdelki.
stvar skejlaš poljubnokrat, dokler ni cel svet materialno preskrbljen s čimerkoli hoče.
pol pa še rešiš problemček obrabe telomerskih kapic in izumiš eliksir mladosti, pa maš tisto, čemur bi marsikdo rekel utopija.

Did you even glance at what i've written?

Vse kar si napisal, glede ultimativne rešitve nima konsistence.

Torej pač zagovarjaš neumen AI, tak, ki je še vedno pod kontrolo človeka. Amapk kot to preskoči na neodvisni, pravi AI...bye bye. Ni več v naši moči mu karkoli zapovedat. Pol bo samo še njegova milost, al nas strpa v živalski vrt ali pa nas popipsa.
To je pravzaprav zelo vrjeten scenarij.

Ampak kot kaže zavest homo sapiensa se ne bo direkt pretopila na silokon. Najprej se bo AI zgledoval po nas, nato pa nas pometel.

Ti, jaz in Thomas pa ne bomo nadaljevali naprej z našim obstojem ali zavestjo.
Kar se bo nadaljevalo, bo ločena entiteta, ki bo kvečjemu prebrala tvoje, moje in Thomasove ideje, ter se morda na njih ozirala.

We are as good as dead...either way. Kar je pomembno, da do takrat sproduciramo čimveč dobrih idej in zgodb, da bo AI imel kaj za brat, ko bo sonce ugasnilo.

Torej pač zagovarjaš neumen AI, tak, ki je še vedno pod kontrolo človeka. Amapk kot to preskoči na neodvisni, pravi AI...bye bye. Ni več v naši moči mu karkoli zapovedat. Pol bo samo še njegova milost, al nas strpa v živalski vrt ali pa nas popipsa.
To je pravzaprav zelo vrjeten scenarij.

Ampak kot kaže zavest homo sapiensa se ne bo direkt pretopila na silokon. Najprej se bo AI zgledoval po nas, nato pa nas pometel.

Ti, jaz in Thomas pa ne bomo nadaljevali naprej z našim obstojem ali zavestjo.
Kar se bo nadaljevalo, bo ločena entiteta, ki bo kvečjemu prebrala tvoje, moje in Thomasove ideje, ter se morda na njih ozirala.

We are as good as dead...either way. Kar je pomembno, da do takrat sproduciramo čimveč dobrih idej in zgodb, da bo AI imel kaj za brat, ko bo sonce ugasnilo.

pa naj bo "neumen" do nadaljnjega, saj se nikamor ne mudi, dokler je za trenutne probleme zadost dober.
o filozofskih problemih nadaljnje usode vrste bomo razglabljali potem, ko na svetu ne bo več folk umiral od lakote.

je pa seveda res, da AI, ki bo popolnoma samostojen in bo imel cilj samo "reši vprašanje, na katerega odgovor je med drugim 42", zelo verjetno nima nobenega razloga, da bi človeštvo tretiral kakorkoli drugače kot ostalo kamenje in materijo po vesolju, medtem ko dela na problemu. in tudi ni nekega fundamentalnega, ne-antropocentričnega razloga, zakaj bi človeštvo se obravnavalo kakorkoli drugače kot preostalo kamenje v vesolju.

Ja saj, v tem smislu tudi sapiensov ne bo vec. S tem, da oni bi izgleda to zamerili AIju.

Nisem pa rekel. da je inteligenca nekaj, kar sploh ne vemo...
Poskusil sem dati celo definicijo v kontekstu singularnosti!

Razvijamo pa jo Z naso inteligenco, ne pa (nujno) na njeni osnovi. Hocem reci, sapiens inteligenca je orodje/sredstvo, ne pa nujno model ali celo ideal.

Je pa res, da motivacija utegne biti problem. Ce je bo premalo, bo samo pogledala naokrog, rekla "to nima nobenega smisla" in se self-destructala. Ce je bo pa prevec, pa gorje nam :-)

Kaj in koliko novega mi še lahko ponudi ta tema?

Bolj malo ali nič. V 15 letih od začetka te teme se v resnici ni zgodilo nič takega, na znanstveno-tehnološkem področju, kar bi pripomoglo, da bi o "protokolu" lahko vedeli kaj več. Postalo je samo malo bolj očitno, da so bile vse napovedi (o hitrosti napredka in času, ko bo cilj dosežen) mnogo preveč optimistične.

Namesto da cakamo na ta upload, bi lahko ze danes namenili eno manjse obmocje na svetu z ugodno klimo za izgradnjo nekega realisticnega uploada v smislu naprednega-futuristicnega mesta.

Ni nujno, da na Zemlji, lahko je tudi v vesolju ali na drugem planetu. (Npr. filmi Elysium, Tomorrowland).

Recimo, da bi bil tak kraj ne namenjen bogatim ampak bi bilo merilo vstopa kaksno drugo.

John Searle: "Consciousness in Artificial Intelligence"

Recimo precej kontroverzno predavanje vsaj za inženirje. Nekako iz čudnih delitev med sintaktičnim in semantičnim razumevanjem pride do sklepa, da zavesti (in človeške inteligence) ne moreš dobiti s simuliranjem, pa naj bo to simulacija možganov. Se sicer ne strinjam s tem kar pravi, je pa zanimiv brain teaser.

Are we there yet?

2010 je šlo, bliža se 2020 ... pa ne vem, če smo naredili sploh kak bistven korak proti protokolu od časa natanka te teme ...

Ali mislite, da bo/je tudi Thomas spoznal fantazijo in celo potencialno škodljivost svojih napovedi?

T-h-o-r je 10. jan 2016 ob 10:53 izjavil:

Are we there yet?

2010 je šlo, bliža se 2020 ... pa ne vem, če smo naredili sploh kak bistven korak proti protokolu od časa natanka te teme ...

Ali mislite, da bo/je tudi Thomas spoznal fantazijo in celo potencialno škodljivost svojih napovedi?

Nč. Morda smo 2% na tej poti.
Sicer tud 2% ni slabo.

Mislim, pa da bo skoraj dejstvo, da je Thomas krepko falil. Čeprav potihem sem upal da ne.

Moja cifra, kot vedno...tam 2040-50 ob optimalnih pogojih. Zagotovo pa v tem stoletju.

Eh, buče.... Univerzalnost in širina človekovega ustvarjanja je praktično neskončna in če najdeš še 1000 posameznih aktivnosti, kjer bo AI kao boljši, to še vedno ne pomeni nič. Prav čudi me včasih, kako ponavadi ravno tehnično izobraženi ljudje (kot so pretežno na tem forumu) podcenjujejo moč in globino človekovega uma. Vsak povprečen družboslovec bo ob takih napovedih samo zamahnil z roko...

V resnici je tako, da za vsako stvar, ki jo računalniki obvladajo (bolje od človeka), ugotovimo (ali sklenemo), da to pravzaprav ni zares intelektualna dejavnost, merilo dejanske pameti, ampak samo slepo izvrševanje nekih vnaprej določenih pravil (se pravi algoritmov).

Računanje, šah, kviz ...

Obstaja sicer teoretična možnost, da je inteligenca dejansko samo to - "slepo" izvrševanje algoritmov -, ampak po drugi strani pa je IMHO večja verjetnost, da se zadaj skriva nekaj več. Recimo odkrivanje problemov, zastavljanje (pravih) vprašanj, oziroma povezava pameti in ustvarjalnosti. Ni težko odgovoriti na vprašanje v kvizu, če imaš v pomnilniku (digitalnem ali organskem) ustrezen podatek, ki ga moraš samo najti in prebrati. Prava pamet je priti do odgovora, tudi ko v pomnilniku nimaš shranjenega ustreznega podatka, ampak moraš do njega šele priti. Oziroma ko iz podatkov, ki jih imaš na voljo, odkriješ nekaj novega.

Potem pa seveda ostane še povezava med pametjo in zavestjo, ki je tudi še popolna neznanka.

Trenutno je napredek računalniške pameti vezan bolj ali manj samo na napredek strojne opreme. Bolj ali manj enaki algoritmi, ki bi pred nekaj leti zadevo računali par ur, to sedaj naredijo "v živo", in avto lahko dejansko vozi v prometu ter daje vtis pameti. Čeprav v resnici ta "pamet" ni nič večja, kot je bila pred leti, samo hitrejša.

Se zna zgoditi, da se bo napredek strojne opreme zaradi fizikalnih omejitev že razmeroma kmalu zelo upočasnil, in potem bo tudi navidezen napredek računalniške pameti počasnejši. Bo pa mogoče to sočasno tudi spodbuda, da bodo znanstveniki začeli iskati druge poti in se ne bodo več zanašali predvsem na čedalje zmogljivejšo strojno opremo (ki sedaj predstavlja svojevrstno potuho).

IMHO.

Zadnjič gledam stonogo ki se je ujela v kad. Rešit se skuša tako da sili v navpično steno, malo tu malo tam.
In sem razmišljal...kako za kurac se odloča kje vstrajat, kdaj se premaknit. Zgledalo je random, ampak običen algoritem, bi pač vstrajal bodisi na enem mestu bodisi po nekem zaporedju testiral
Stonoga pa malo tam, malo tu, enkrat več zaleta, enkrat manj, tretjič spet pavza, pol en krog okoli odtoka itd.

Beat that AI!

Sicer pa res je, da se hardver počasi upočasnjuje. Še par let pa bo konec pomanjševanja tranzistorjev.
Treba malo out of the box thinking za prebrodit to zadevo.

7982884e je 10. jan 2016 ob 16:57 izjavil:

V resnici je tako, da za vsako stvar, ki jo računalniki obvladajo (bolje od človeka), ugotovimo (ali sklenemo), da to pravzaprav ni zares intelektualna dejavnost, merilo dejanske pameti, ampak samo slepo izvrševanje nekih vnaprej določenih pravil (se pravi algoritmov).

kaj pa je cloveska pamet kot izvrsevanje algoritmov?
da nekdo nekaj novega izumi, more izvrsit (sicer napreden) algoritem. kar malo na random brainstormat ne more. ko je einstein pogruntal relativnost, je sledil svojim algoritmom.
racunalniki so v osnovi zgolj pretakanje in manipulacija elektricnega naboja, cloveski mozgani pa pretakanje in preusmerjanje elektricnih impulzov.

Hja, mogoče res, ampak gre bolj za mehanizem pretakanja teh impulzov in elemente naključnosti v njem, in predvsem te nenehne (tudi bolj ali manj naključne) dinamike vzpostavljanja novih povezav ali rušenja starih. Če sem malo zloben vse skupaj tudi pri človeku da kolikor toliko zadovoljiv rezultat (ki dejansko omogoča odkritje nekaj novega oziroma generira nek ustvarjalni presežek) samo v res majhnem deležu celotne populacije, ne tako malokrat pa generira strašno negativne odklone, ki se največkrat pokažejo kot ideje, zaradi katerih na koncu trpi/umre veliko ljudi. In dvomim, da bi si kdo res želel tvegati z nekakšnim ekvivalentom Skyneta ali Matrice .

7982884e je 10. jan 2016 ob 16:57 izjavil:

Se strinjam v celoti. Na področju algoritmov in dejanske arhitekture "računskih strojev" ni prav nič novega zadnjih nekaj desetletij.

iz kje baziras tele trditve? ker so pac bullshit.
tisto, kar vozi googlov avto, je konkreten napredek v softveru. zgolj hardver ti ne prinese nicesar. sicer bi lahko pac do konca zafilali prtljaznik s strojno opremo, pa bi bilo fertik. pa dokupili se par omar serverjev in se dvakrat hitreje vse naucili, in bi avto dvakrat hitrej prisel v komercialno fazo.
ok, deep learning je res izboljsava nekaj desetletij stare teorije nevronskih mrez, ki so s strojno mocjo dobile uporabnost. ampak reci watsonu, pri katerem je deep learning samo en majhen delcek celote, da je samo mocan hardver, ki laufa staro znanje, je pa hud pljunek na ustvarjalce.
malo poglejte publikacije, ki jih delajo raziskovalci na sirokem naboru teh podrocjih in boste videli, kako malo je pomemben hardver v primerjavi s sofisticiranim softverom. dandanes imajo po vecjih univerzah enostaven dostop do superracunalnikov, tako da po tej logiki bi pac najboljso publikacijo dosegel tisti, ki si je izboril najvec procesorskega casa. ali ki je zadost bogat, da sam zakupi par omar GPUjev.

Tukaj govorimo o velikostnih redih, ne pa o "par dodatnih serverjih" ali pohitritvi nečesa za dvakrat. In seveda napreduje tudi optimizacija algoritmov in strinjam se, da je tukaj glavna bremza, da pač ne napredujemo še hitreje. Ampak na tem delu kot rečeno vsekakor ne napredujemo z enako hitrostjo kot pri hardveru in 10 let pač ne pomeni kaj dosti, ker gre za bolj ali manj elementarno znanost (matematika, mogoče malo fizike, potem se pa že konča), kjer stvari potekajo malo drugače. In še enkrat, sem zadnji, ki bi omalovaževal dosežke na tem področju, samo nek AI pa le še dolgo ne bo nič drugega kot utopija.

7982884e je 10. jan 2016 ob 16:57 izjavil:

In četudi bi morda uspeli nekoč simulirati kompleksnost človeških možganov oz. miselnih procesov v njih, ki "dajejo" ustvarjalnost, bi konec koncev ustvarili samo še eno "misleče" bitje, bolj ali manj enakovredno ostalim šestim (ali kolikor jih bo pač že tedaj) milijardam bitij

simulacija mozganov ne bo nikoli sproducirala uporabnega general AI. ker je nesmiselna, mogoce razen za nevrologe.
AI ima prednost v tem, da je skalabilna. tudi s hardverom, sele takrat pride na vrsto to, da ti hardver dejansko lahko precej izboljsa samo delovanje. prvi dan bo enakovredna sedmim milijardam, drugi dan bos dal noter vec spomina, pa bo lahko naenkrat vzela v obzir vec stvari. bos overclockal procesorje, pa bo odlocitev padla hitreje. ji bos rekel, naj se nauci gradnje AIjev, pa se bo naucila gradnje AIjev in ji bos potem lahko rekel, naj izboljsa lasten softver. pa bo mela bistveno vecjo sposobnost izboljsevanja lastnega softvera kot inzenirji, ki so jo zgradili, in se bo izboljsala in bo potem se bolj sposobna samoizboljsanja.
in v nekaj dneh bo bistveno sposobnejsa od celotnega clovestva. v tem je point. nobena omembe vredena AI tehnologija v uporabi je zgolj priblizno tako dobra kot clovek (po uspesnosti in stroskih dela). kjerkoli je v preteklosti stroj zamenjal cloveka, je hitro ratal precej boljsi (ali pa vsaj cenovno ucinkovit) v tem delu. zato je skrajno zaslepljeno misliti, da bo prvi general AI zgolj virtualni clovek, ki bo mogoce delal nekje delo ene tajnice.

Simulacija možganov je edino kar imamo. Razen, če poznaš še kakšen pojav v naravi, ki generira zavest, ustvarjalnost in sploh "pamet" kot tako. Enostavno nič drugega ne obstaja na konkretni, fizikalni ravni kot otipljiva realnost, katere parametre in atribute sploh lahko začneš abstrahirati in potem "nalagati" v nek AI.
S skalabilnostjo si sicer podal dober protiargument, ampak tu se pojavi spet čisto konceptualna težava, da naj bi AI (upam) služil človeku in da, če si predstavljamo možganske kapacitete recimo stotisočev milijard ljudi na voljo v takem "stroju", ki bi se potem samoizboljševal, enostavno z našo kapaciteto 6 (ali kolikor jih že bo) milijard ljudi ne bi zmogli oceniti, ali in v kolikšni meri je do izboljšave dejansko prišlo. Tako tudi koncept "izboljšave" postane nedefiniran, razen če to oceno spet prepustimo kar stroju samemu, ampak tako se vse skupaj zacikla brez da bi človek sploh še imel kaj zraven. Kako bomo potem res vedeli, da izboljšave delujejo, sploh z upoštevanjem prvega odstavka zgoraj?

Kako pa mi vemo, da dejansko "razumemo" stvari? Kaj če je vse skupaj iluzija, če ravno tako kot računalniki zgolj prekladamo podatke, se ukvarjamo s sintakso, za semantiko si pa zgolj domišljamo, da je tu?

njegov famozni chinese room argument ne pije vode, zato naj kar trobi po svoje, kar hoče. itak ne zna noben na svetu definirati zavesti, zato ne vem, zakaj se sploh opleta s to besedo.

Glavni argument je na koncu, INTERPRETACIJE.

Če na računalniku teče nek algoritem -- ali res teče, ali pa si vse skupaj le domišljamo? Recimo, da imamo program, ki izpisuje soda naravna števila 2, 4, 6, 8, ... Recimo, da spremenimo naše konvencije, da znak "2" pomeni število 1, znak "3" pomeni 2 itd. Potem po novi definiciji naš algoritem izpisuje liha števila, brez da bi ga spremenili. Lahko recimo definiramo števila, da simboli "2", "4", "6", "8" ... pomenijo 2, 3, 5, 7 ... pa naš algoritem išče praštevila. Podobno je pomen algoritma odvisen tudi protokola, kako grafična kartica komunicira z monitorjem, CPU z grafično, kakšen encoding in fonte uporabljamo ipd. saj je od tega odvisno, kakšni simboli se prikažejo na monitorju. Konec koncev tudi kakšno razliko v napetosti in kolikšen tok razumemo kot 0 in 1 spremeni kaj elektroni v procesorju in pomnilniku predstavljajo.

Hočem povedati, da je, kaj algoritem počne, odvisno od naših protokolov in konvencij, niso neka absolutna zadeva. Predpostavimo, da je zavest rezultat nekega algoritma v naših možganih. Če bi se dovolj "inovativne" interpretacije spomnili bi lahko v vsakem kamnu našli tak algoritem, torej ima prav vsak fizičen objekt (ali njegov del) svojo zavest. Pravzaprav bi lahko v vsaki stvari našli poljuben algoritem. Torej, če se s to absurdno posledico ne želimo sprijazniti, je naša predpostavka napačna in zavest ne more biti posledica izvajanja nekega algoritma. QED

Zavest mora biti torej rezultat nekega kemijskega/fizikalnega procesa v naših možganih in simulacija na računalniku ne more ustvariti zavesti, razen če izvaja to isto kemijsko reakcijo. Ker prisotnost zavesti vpliva na naše razmišljanje (sicer se je jaz zdaj ne bi zavedal in tega pisal), torej računalniki, ki temeljivo na istem konceptu kot današnji, nikoli ne bodo mogli simulirati možganov.

Hja, mogoče res, ampak gre bolj za mehanizem pretakanja teh impulzov in elemente naključnosti v njem, in predvsem te nenehne (tudi bolj ali manj naključne) dinamike vzpostavljanja novih povezav ali rušenja starih.

nič v tem ni v samem delovanju posebej bolj sofisticirano kot delovanje na strojnem nivoju računalnikov. karkoli pomembnega se dogaja v možganih, se dogaja na bistveno višjih ravneh, "softveru". prazna glava brez tega softvera ni nič vredna.

Tukaj govorimo o velikostnih redih, ne pa o "par dodatnih serverjih" ali pohitritvi nečesa za dvakrat.

v zadnjem desetletju je malokje bilo za več velikostnih redov pohitritve v strojni opremi. procesor za 400 eur, recimo, je danes zgolj 3-4x hitrejši kot leta 2007 (core i7 6700K vs antični C2Q Q6600), to je pol velikostnega reda. grafične so od 2006 do 2015 napredovale za nekje 20-krat in recimo da je personal HPC computing ratal dosti bolj dosegljiv, ampak še vedno težko govoriš o nekih silnih velikostnih redih.

Ampak na tem delu kot rečeno vsekakor ne napredujemo z enako hitrostjo kot pri hardveru in 10 let pač ne pomeni kaj dosti,

vir?
ker če pogledaš publikacije iz področja strojnega učenja, računalniškega vida, itd., iz 2005 in 2015, boš videl OGROMEN napredek. tukaj nekaj na pamet ne moreš nabijat. 20-kratna pohitritev v hardveru ti ne bi prinesla pol procenta od tega napredka.

samo nek AI pa le še dolgo ne bo nič drugega kot utopija.

odvisno od definicije dolgo. večina raziskovalcev na tem področju postavlja datum nekje okoli 2040.
smetana od raziskovalcev, ne neki laiki, ki jih srečaš v vaški gostilni.

Median optimistic year (10% likelihood): 2022
Median realistic year (50% likelihood): 2040
Median pessimistic year (90% likelihood): 2075

če bi leta 1900, še preden je kdo letel s čimerkoli drugim kot balonom, vprašal ljudi, kdaj bo človek hodil po 400 000 km oddaljeni luni, bi verjetno tudi velika večina odvrnila, da gre za utopijo. večina jih ne bi niti podrazno postavljala datum zgolj slabih sedem desetletij kasneje.

Simulacija možganov je edino kar imamo. Razen, če poznaš še kakšen pojav v naravi, ki generira zavest, ustvarjalnost in sploh "pamet" kot tako.

simulacije možganov nimamo, tako da težko delaš point s tem. imamo pa cel kup drugih stvari, ki delajo bistveno drugače in delajo za svoj namen zelo dobro. v bistvu vse, kar daje neke rezultate. simulacija možganov je koncept, najbolj osnoven možen koncept, ki bi po vseh pravilih fizike moral sproducirat nekaj inteligenci podobnega, ampak se pa nobenemu ne sanja, kako bi iz tega dobil karkoli koristnega, kako bi si iz tega kaj razlagal, kako bi stvar naučil. simulacija možganov je verjetno najslabši možen način priti do general AIja. to je tako, kot da bi ljudje iz leta 1900 rekli, da bodo na luno prišli po stopnicah po velikem stolpu, ker je takrat tisto pač edina znana stvar, ki bi delala.
smo že zdavnaj pogruntali, da je bistveno bolje razvijat sisteme kot je watson, kot pa z glavo skozi zid simulirati nekaj, kar je praktično skoraj nemogoče simulirat, in kar je praktično še bolj nemogoče uporabljat.

Pa 1894 so napovedovali, da bo NY v 50 letih 9 feet potopljen v konjskem gnoju, če se bo transport iz konjev tako širil. Nobeden ni pa napovedal avtomobilov.

Po podobnih poljudnoznanstvenih napovedih bi mogli zdajle met vsi že leteče avtomobile. Medtem ko interneta in mobilnih telefonov ni napovedal noben, oz. zelo pozno, ko so bili že zametki.

Tle se strinjam z 7982884e-jem, da se kar nekako magično arhitektura človeške (savansko opičje) pameti postavlja za neko merilo. Skoraj ziher sem da bo arhitektura super inteligence povsem drugačna. Naša arhitektura je optimizirana za naredit splav, trnek za ribe in za podret kako blondinko.

Pa 1894 so napovedovali, da bo NY v 50 letih 9 feet potopljen v konjskem gnoju, če se bo transport iz konjev tako širil. Nobeden ni pa napovedal avtomobilov.

En je napovedal, ne "so". In je imel celo čisto prav. "Če" bi se trend nadaljeval, bi bilo tako. Kar v resnici ni napoved, da bo čez 50 let v New Yorku 3 metre gnoja, temveč da se tak trend ne more nadaljevati 50 let.

Avte so pa takrat tudi že napovedovali, konec koncev so takšni na parni in električni (!) pogon celo že bili.

T-h-o-r je 11. jan 2016 ob 20:56 izjavil:

Okapi je 11. jan 2016 ob 20:08 izjavil:

V resnici je trik ravno v tem, da naša arhitektura ni optimizirana za nič, ampak je zelo univerzalna. Zaenkrat ne poznamo nobene boljše, ali bomo prej odkrili kakšno boljšo, ali pa uspeli simulirati našo, lahko pa samo na slepo ugibamo.

Paolo Virno je to lepo opisal :D

Človeška žival je revnejša od drugih živali, ta revščina se izkaža predvsem v določenem organskem primitivizmu, v pomanjkanju specializiranih instinktov; človek ima slabotne, nespecializirane instinkte ...

... specializirne živali ne poznajo predmetov, ki ne bi bili povezani s kakšno življenjsko nalogo; specializirana žival si ne zastavlja vprašanja, kako naj živi v svoji ekološki niši, njena organska in instiktivna izpopoljnjenost odpravita negotovost in dezorientacijo.

New age hippie nonsense.

T-h-o-r je 11. jan 2016 ob 20:56 izjavil:

Človeška žival je revnejša od drugih živali, ta revščina se izkaža predvsem v določenem organskem primitivizmu, v pomanjkanju specializiranih instinktov; človek ima slabotne, nespecializirane instinkte ...

To se recimo kaže tudi v našem na prvi pogled majhnem številu genov. Rastline jih imajo recimo veliko več. Ker potrebujejo za vsako situacijo določen gen, pri človeku je pa, figurativno rečeno, en gen dovolj za veliko različnih stvari.

Ne preveč nakladati. Leta 1865 je Verne pisal o potovanju na Luno, s kapsulo, izstreljeno s topom. Napovedi so velikokrat preveč optimistične. Leta 1970 je bila večina prepričana, da bomo do 2000 že prišli na Mars.

AI čez 40 let pa napovedujejo že kakšnih 60 let.:))

kje nakladam? v tej temi vidim zgolj veliko trditev, potegnjenih iz riti. kar pa jaz pravim glede stvari, ki niso dejstva, pa vedno pravim, da zgolj mislim, da je visoka verjetnost za nekaj.
tudi ne vem, kaj ima veze analogija z vernom in fantazijah o marsu. da na mars ne bo sel nihce, je bilo jasno ze pred 1970, ce si pomislil, zakaj je v bistvu sploh bla tekma za na luno. sposobnost clovestva zares tja prit do 2000 je definitivno bila, ampak potrebe in zanimanja za to pa absolutno nobenega.
za AI tega definitivno ne mores trdit. cela racunalniska industrija (in se marsikaj drugega) sili v to smer. celo clovestvo sili v nek optimum, general AI ponuja ta optimum in to je vedno bolj jasno. ce gres gledat bilokateri dolgorocni cilj clovestva, vidis, kako je vzporeden s takim AIjem. naj bo to avto, ki se sam fura, telefon, ki se s tabo pogovarja, OS, ki te zastopi v naravnem jeziku, robot v fabriki, ki dela izdelke, sistem za odkrivanje zdravil za hude bolezni, ...

na mars clovestvo nikdar ni zares moralo it, medtem ko AI nujno potrebuje, ce hoce preckat neko stopnjo razvoja. it's that simple. spremenljivka je samo, kako hitro se bo to dojelo.

7982884e je 11. jan 2016 ob 19:00 izjavil:

Hja, mogoče res, ampak gre bolj za mehanizem pretakanja teh impulzov in elemente naključnosti v njem, in predvsem te nenehne (tudi bolj ali manj naključne) dinamike vzpostavljanja novih povezav ali rušenja starih.

nič v tem ni v samem delovanju posebej bolj sofisticirano kot delovanje na strojnem nivoju računalnikov. karkoli pomembnega se dogaja v možganih, se dogaja na bistveno višjih ravneh, "softveru". prazna glava brez tega softvera ni nič vredna.

Žal obstaja zelo velika razlika. Možgani so nedeterministični, podvrženi naključnim spremembam in kot taki "zmotljivi". To so vse lastnosti, ki se jim pri računalnikih še posebej zavzeto trudimo izogniti (OK, nevronsko mrežo pač "učiš" v nadzorovanem okolju, ampak ko zna, kar mora znati, ji ne pustiš več, da spreminja svoje povezave pri opravljanju dejanskih nalog), in so zelo verjetno tudi nujno potrebni pogoj za resnično inteligenco. Vse to pri AI-ju ne pride v poštev, saj si pač ne moremo privoščiti, da se zmoti pri recimo načrtovanju proizvodnje hrane za celotno populacijo planeta in posledično od lakote umre polovica svetovnega prebivalstva. Seveda bi brihtnež napako zaznal, se iz nje kot super pameten stroj veliko naučil, ampak dvomim, da bi bili preživeli prav navdušeni, da mrtvih ne omenjamo.

7982884e je 11. jan 2016 ob 19:00 izjavil:

Tukaj govorimo o velikostnih redih, ne pa o "par dodatnih serverjih" ali pohitritvi nečesa za dvakrat.

v zadnjem desetletju je malokje bilo za več velikostnih redov pohitritve v strojni opremi. procesor za 400 eur, recimo, je danes zgolj 3-4x hitrejši kot leta 2007 (core i7 6700K vs antični C2Q Q6600), to je pol velikostnega reda. grafične so od 2006 do 2015 napredovale za nekje 20-krat in recimo da je personal HPC computing ratal dosti bolj dosegljiv, ampak še vedno težko govoriš o nekih silnih velikostnih redih.

Tukaj spet malo preveč poenostavljaš. Če primerjaš recimo samo najbolj zmogljive računalnike smo od leta 2008 do leta 2013 napredovali za 33-krat (za novejšimi podatki nisem brskal). Vir: Supercomputer @ Wikipedia, še posebej tudi Supercomputer @ Wikipedia .

Če bi hotel iti še malo bolj na široko pa bi moral upoštevati celotno računsko moč vseh računalnikov na Zemlji in ta narašča še precej hitreje. Tako da tukaj ne moreš zares primerjati povprečnih procesorjev za nabijanje igric. Pa tudi če bi jih, moraš konec koncev upoštevati zmogljivost celotnega sistema, vključno s periferijo in pomnilnikom in recimo že samo zaradi SSD-jev je povprečna pohitritev večja kot si navedel, kar lahko potrdi vsak uporabnik, ki se mu Windowsi naložijo v 10 s namesto v 2 - 3 minutah par let nazaj.

7982884e je 11. jan 2016 ob 19:00 izjavil:

Ampak na tem delu kot rečeno vsekakor ne napredujemo z enako hitrostjo kot pri hardveru in 10 let pač ne pomeni kaj dosti,

vir?
ker če pogledaš publikacije iz področja strojnega učenja, računalniškega vida, itd., iz 2005 in 2015, boš videl OGROMEN napredek. tukaj nekaj na pamet ne moreš nabijat. 20-kratna pohitritev v hardveru ti ne bi prinesla pol procenta od tega napredka.

Kot že rečeno je napredek posledica predvsem povečane zmogljivosti strojne opreme. Fundamentalni algoritmi so bolj ali manj enaki, res pa je, da so se razvile zelo raznovrstne aplikacije, kar nikakor ni slabo in je seveda dosežek vreden omembe. Samo to nima zveze z razvojem, ki bo omogočil AI, ampak gre pač za malo bolj domiselno uporabo "kavnih mlinčkov", ker so zmožno "mleti" tako hitro.

7982884e je 11. jan 2016 ob 19:00 izjavil:

Simulacija možganov je edino kar imamo. Razen, če poznaš še kakšen pojav v naravi, ki generira zavest, ustvarjalnost in sploh "pamet" kot tako.

simulacije možganov nimamo, tako da težko delaš point s tem. imamo pa cel kup drugih stvari, ki delajo bistveno drugače in delajo za svoj namen zelo dobro. v bistvu vse, kar daje neke rezultate. simulacija možganov je koncept, najbolj osnoven možen koncept, ki bi po vseh pravilih fizike moral sproducirat nekaj inteligenci podobnega, ampak se pa nobenemu ne sanja, kako bi iz tega dobil karkoli koristnega, kako bi si iz tega kaj razlagal, kako bi stvar naučil. simulacija možganov je verjetno najslabši možen način priti do general AIja. to je tako, kot da bi ljudje iz leta 1900 rekli, da bodo na luno prišli po stopnicah po velikem stolpu, ker je takrat tisto pač edina znana stvar, ki bi delala.
smo že zdavnaj pogruntali, da je bistveno bolje razvijat sisteme kot je watson, kot pa z glavo skozi zid simulirati nekaj, kar je praktično skoraj nemogoče simulirat, in kar je praktično še bolj nemogoče uporabljat.

Ne vem več, če govoriva o isti stvari. Če se strinjamo, da bi pravi AI moral biti inteligenten in zmožen ustvarjati nove informacije, ne samo procesirati obstoječih, potem watson in njemu podobni sistemi nimajo kaj početi v debati. Prav tako ne razumem, zakaj misliš, da bo nekdo nekoč kar odkril algoritem za inteligenco, ki ga boš naložil na PC in boš, kar dobil ven nek domači AI. Zaenkrat vemo, da je inteligenca nekaj, kar (morda lahko) nastane v možganih, ki so izpostavljeni določeni stimulaciji, ta proces "nastajanja" inteligence pa je močno naključen in nedeterminističen. In lahko je zdaj reči, da bomo čez par let odkrili nekaj čisto novega in drugačnega, ker se nam simulacija možganov zdi neuporabna (zakaj že??), ampak če ni na obzorju še niti osnovne ideje/koncepta, kako to storiti (leta 1900 se recimo že vedeli, da bo treba za pot na luno nekako prepotovati prostor, ki je vmes, kar je v bistvu konceptualno že rešitev problema, ostalo je samo stvar tehnologije) potem je vse skupaj samo prazno bluzenje.

7982884e je 11. jan 2016 ob 21:17 izjavil:

Ne preveč nakladati. Leta 1865 je Verne pisal o potovanju na Luno, s kapsulo, izstreljeno s topom. Napovedi so velikokrat preveč optimistične. Leta 1970 je bila večina prepričana, da bomo do 2000 že prišli na Mars.

AI čez 40 let pa napovedujejo že kakšnih 60 let.:))

kje nakladam? v tej temi vidim zgolj veliko trditev, potegnjenih iz riti. kar pa jaz pravim glede stvari, ki niso dejstva, pa vedno pravim, da zgolj mislim, da je visoka verjetnost za nekaj.
tudi ne vem, kaj ima veze analogija z vernom in fantazijah o marsu. da na mars ne bo sel nihce, je bilo jasno ze pred 1970, ce si pomislil, zakaj je v bistvu sploh bla tekma za na luno. sposobnost clovestva zares tja prit do 2000 je definitivno bila, ampak potrebe in zanimanja za to pa absolutno nobenega.
za AI tega definitivno ne mores trdit. cela racunalniska industrija (in se marsikaj drugega) sili v to smer. celo clovestvo sili v nek optimum, general AI ponuja ta optimum in to je vedno bolj jasno. ce gres gledat bilokateri dolgorocni cilj clovestva, vidis, kako je vzporeden s takim AIjem. naj bo to avto, ki se sam fura, telefon, ki se s tabo pogovarja, OS, ki te zastopi v naravnem jeziku, robot v fabriki, ki dela izdelke, sistem za odkrivanje zdravil za hude bolezni, ...

na mars clovestvo nikdar ni zares moralo it, medtem ko AI nujno potrebuje, ce hoce preckat neko stopnjo razvoja. it's that simple. spremenljivka je samo, kako hitro se bo to dojelo.

Vse, kar si našteval so konec koncev "kavni mlinčki", ki jih povsod in vedno nadzoruje in upravlja človek. In tukaj se strinjam, da bo človeštvo v prihodnosti veliko pridobilo z nadaljnjim razvojem teh naprav. Ampak AI, s katerim bi prečkali "neko stopnjo razvoja" s tem nima nobene zveze, ker bo pač moral biti pametnejši od človeka, da bo res šlo za novo "stopnjo razvoja". In tega še ne bo kmalu, če sploh kdaj.