Protokol

When exactly researchers might be able to create AGI — and whether it’s even possible — is a topic of lively debate in the community. In a recent survey of some of the field’s leading experts, the average estimate was that there was a 50 percent chance of creating AGI by the year 2099.

To more bit pa potem res težek posel...

BigWhale je 22. jul 2019 ob 11:09 izjavil:

Seveda ne bo prisel do igranja kar sam od sebe ampak potem, ko se bo igral bo pa mogoce pogruntal, da se namesto "Clovek ne jezi se" igra "Clovek jezi se" in si nardi cist novo igro in se z njo zabava.

Ja, in? Poanta je bila v tem, da tudi človeška inteligenca potrebuje zelo zahtevno in dolgotrajno "programiranje". Seveda pa je inovativnost eno od področij inteligence, kjer AI zelo zaostaja za človeško.

No, pri "se zabava" pa smo dejansko zelo blizu pojma zavesti, kjer se popolnoma strinjam, da niti ne vemo, kaj to sploh je. In dokler tega ne vemo, je edini način, da jo umetno ustvarimo, poizkušanje ponoviti naravni proces, za katerega verjamemo, da to počne. In tu smo vsekakor še zelo daleč.

Okapi je 22. jul 2019 ob 20:33 izjavil:

Okapi je 22. jul 2019 ob 08:55 izjavil:

Če bi znali narediti robote, ki so tako pametni kot termiti ali mravlje, recimo, bi lahko sami zidali nebotičnike, ali vrtali predore, kopali rudo ... A znamo narediti take?

Iz zgornjega linka.

As Facebook AI chief Yann LeCun put it: when it comes to general intelligence, we can’t even build something as smart as a rat.

General inteligence, ja. Pa podgane so ena od najpametnejših bitij v človeku znanem vesolju. Včasih celo pametnejše od njega samega.

Okapi je 22. jul 2019 ob 21:21 izjavil:

Zato sem pa jaz dal žuželke za primerjavo. Ko bomo znali enkrat narediti pamet na ravni podgane, bomo zelo verjetno že zelo zelo blizu človeški. Mogoče razliko med podganjo in človeško pametjo (se pravi, nadgradnjo podganje, da doseže človeško) celo že znamo narediti, samo ne moremo tega izkoristiti, ker pač ne znamo narediti osnove.

Ja... za podgano bo že šlo, samo kdaj bo AI filozofirala. Meni se zdi to težja naloga.

Pa omenil bi še, da glede na (lastne) sanje, morajo biti naši možgančki kar komplicirani. Sem impresioniran nad sanjami.

thramos je 22. jul 2019 ob 20:57 izjavil:

Ja, in? Poanta je bila v tem, da tudi človeška inteligenca potrebuje zelo zahtevno in dolgotrajno "programiranje". Seveda pa je inovativnost eno od področij inteligence, kjer AI zelo zaostaja za človeško.

No saj, moja poanta je bla pa ta, da AI ne zmore neke pretirane improvizacije. In programiranje je tudi kar dolgotrajno. Ce pogledas samo voznjo avtomobila, clovek se nauci voziti avto v mesecu dni. Ce upostevas se celotno udelezbo v prometu od takrat naprej, ko je mama rekla, da ne smes skakat na cesto, naredi clovek morda kakih 50.000km do takrat, ko ima vozniski izpit. In bolj ali manj zmore vozit avto v kakrnemkoli vremenu in terenu. Tesla se hvali z milijoni prevozenih kilometrov, pa se vedno nekaterih osnov ne obvlada, kaj sele kaksnih bolj kompliciranih reci.

Bistvo improvizacije je, da zna clovek orodja, ki so mu bila dana na voljo uporabiti za vec namenov, AI pa teh lastnosti zaenkrat nima. Prav tako nima intuicije. Clovek bo palico uporabil, da bo z njo namlatil tigra, zaradi intuicije pa se slona niti lotil ne bo ali pa zivali, ki jo prvic vidi. Bo pa palico potem uporabil se za vzvod, ko bo valil neko deblo po preriji.

thramos je 23. jul 2019 ob 09:12 izjavil:

Programiranje človeka za vožnjo avtomobila traja 18 let (verjetno bi šlo s par leti manj). Prav vsi elementi treniranja inteligence, od rojsta naprej, so pomembni za končni rezultat

Kot prvo, dovolj je že pol tega. Kot drugo, v tem času se človek nauči še govoriti, brati, pisati, voziti s kolesom, streljati z orožjem, plavati, plezati, leteti z letalom, igrati šah ...

Trenutno ne znamo narediti računalnika (oziroma programa), ki bi kazal karkoli podobnega učenju, kot ga je sposoben otrok od rojstva dalje. Da bi recimo poslušal govorjenje in se naučil govoriti. Da bi gledal naokoli in se naučil zanesljivo prepoznavati predmete, iz vseh zornih kotov, tudi če so karikirano narisani.

Vsi programi, ki se znajo učiti, hitro naletijo na zid, prek katerega ne morejo. Poleg tega so vsi zelo specializirani, učijo se lahko samo določene stvari.

Double_J je 22. jul 2019 ob 20:21 izjavil:

When exactly researchers might be able to create AGI — and whether it’s even possible — is a topic of lively debate in the community. In a recent survey of some of the field’s leading experts, the average estimate was that there was a 50 percent chance of creating AGI by the year 2099.

To more bit pa potem res težek posel...

fora je, da preko 5 let v prihodnosti je tako zamegljeno, da je vseeno ce reces 20, 30 ali 50 let.

zato ta slavni tip napovedi "cez 20 let".

vsi so si enotni, da je do general AI zelo *dalec*. dalec v smislu tehnoloskega napredka. casovno pa noben ne ve, kako hitro se bomo premikali po tem tehnoloskemu napredku. mogoce bomo cez 20 let spoznali, da je trenutna gonja proti deep learningu brca v temo in da bo treba zacet z vec kot samo "blank slate-om", zato ker tudi cloveski mozgani v novorojencku niso samo formatiran disk, ampak imajo zaradi milijard let evolucije strukture, ki dajejo novorojencku pomembno prednost pred navadnimi nevronskimi mrezami.

mogoce boomo to pogruntali se prej in bomo prej na pravi poti.

Okapi je 23. jul 2019 ob 09:31 izjavil:

Trenutno ne znamo narediti računalnika (oziroma programa), ki bi kazal karkoli podobnega učenju, kot ga je sposoben otrok od rojstva dalje.

To ne drži popolnoma, ker program znamo, računalnika, ki bi ga poganjal, pa nimamo, ker so vsi modeli, ki jih imamo, preveč potratni (delujejo pa že, čeprav nismo za vse prepričani, čemu).

vostok_1 je 24. jul 2019 ob 17:46 izjavil:

Mene res predvsem zanima kako vidijo pot do tega, da tak AI ne bo "zlorabljen" as in...compromised by some monopoly or interest group.

Ker ne razumeš, kaj AI je in ne razumeš, da lopato lahko zlorablja pol planeta, pa to ne spremeni dejstva, da je druga polovica ne.

vostok_1 je 24. jul 2019 ob 17:46 izjavil:

Ostaja trdno v rokah korporacij in vlad.

Ravno obratno: Trenutno so edini, ki uporabljajo ta orodja tisti, ki jih vsi zmerjajo z "useless academics".

7982884e je 23. jul 2019 ob 14:13 izjavil:

milijard let evolucije strukture, ki dajejo novorojencku pomembno prednost pred navadnimi nevronskimi mrezami.

Ravno specializacija nevronskih mrež je vprašanje, na katero ne znamo konsistentno odgovoriti. Večina specializiranih modelov ima težave, katerih izvor trenutno pripisujemo ravno specializaciji.

ABX je 5. avg 2019 ob 19:08 izjavil:

IMHO

Najboljša AI ki jaz poznam je Deep Mind, tako da moje znanje je omejeno okoli te točke.

Deep Mind bo kmali tekmovala v Starcraft proti najboljšim in kaže da lahko zmaga. To je neverjeten dosežek, vendar tudi pokaže trenutne omejitve AI.
AI nima samoiniciativnost in kreativnost, ter potrebuje cilj in pravila. Danes zna boljše od nas pridet do cilja ko so pravila jasna.

Kdaj bo naslednji preskok ne vem, vendar zna biti grozen, ker smo blizu.

DeepMind ni AI, DeepMind je podjetje... imajo precej napredne implementacije umetne inteligence, a so tudi ostali blizu (OpenAI v Dota igri) oz. se spopadajo z manj marketinško zanimivimi projekti.

Kar se tiče Starcrafta je DeepMind že pokoril vse, kar nekaj časa nazaj, tako da ne vem kdo bo kmalu tekmoval... ta AI so pomenovali AlphaStar, podobno kot AlphaGo.

Do AGI v bistvu še nismo tako zelo blizu, oz. odvisno od definicije "zelo blizu". Ocenjuje se, da bo AGI "izumljen" čez kakšnih 20let, kar tudi ni daleč.

Saj pravim, da nismo blizu oz. smo daleč... bi pa verjel, da bodo kitajci prvi pri tem, pa da mogoče še nekaj časa niti ne bomo vedeli nič o tem. Razvoj tehnologije in raziskav v tej smeri je dobil velik "push" in bi kar verjel v 20letih.

Tudi na luno si noben verjel, da lahko pridemo, je bilo vse daleč, potem pa ob pravem supportu, bili uspešni.

Okapi je 7. avg 2019 ob 12:33 izjavil:

Cr00k je 7. avg 2019 ob 11:31 izjavil:

Tudi na luno si noben verjel, da lahko pridemo, je bilo vse daleč, potem pa ob pravem supportu, bili uspešni.

To recimo sploh ni res. Praktično vsi so bili prepričani, da lahko pridemo, od Julesa Verna dalje, ki je o poti na Mesec pisal sredi 19. stoletja.

Bolj zanimiva primerjava je, da so leta 1970 praktično vsi mislili, da bomo najkasneje čez 20 let, če ne prej, že tudi na Marsu, pa trenutno še nazaj na Mesec ne moremo človeka poslati.

Tudi na Marsu bi že bili, če bi hladna vojna in vesoljska tekma še trajala :)

Kitajci so imeli svojo razsvetljeno humanistiko (recimo Konfucija in Laozija), ko Slovani še brati in pisati nismo znali.

Moram dati popravek. AGI sem mislu bolj kot simulacija človeške esence,ne pa kot zgolj artificial general intelligence, v smislu naprednega proizvodnega stroja.
V drugem primeru imaš seveda prav. AGI je za njih zagotovo main target...potrebujejo tak AI, ki bi propagiral njihove civilizacijske interese. Ne pa neko filozofsko zadoščenje.

Cr00k je 7. avg 2019 ob 13:12 izjavil:

Jaz te zadeve dobro ločim in poznam. Kitajce še kako zanima AGI... in ga tudi zelo aktivno raziskujejo, vlagajo ogromno sredstev.
Tudi hibridni čip (iz novice pred nekaj dnevi) je bil razvit za ta namen. Kitajska je na tem področju že sedaj velesila in njihov CK ima jasen cilj in vlaga sredstva. Medtem ko se zahod igračka z DeepNude, se oni z bolj resnimi zadevami :) :) :)

katere bolj resne zadeve tocno, poleg tega cipa?
mislim tezko reces da je deepnude reprezentativni primer; glede na to da ga je izdal nek posameznik tko mal, za foro.

7982884e je 7. avg 2019 ob 17:19 izjavil:

Cr00k je 7. avg 2019 ob 13:12 izjavil:

Jaz te zadeve dobro ločim in poznam. Kitajce še kako zanima AGI... in ga tudi zelo aktivno raziskujejo, vlagajo ogromno sredstev.
Tudi hibridni čip (iz novice pred nekaj dnevi) je bil razvit za ta namen. Kitajska je na tem področju že sedaj velesila in njihov CK ima jasen cilj in vlaga sredstva. Medtem ko se zahod igračka z DeepNude, se oni z bolj resnimi zadevami :) :) :)

katere bolj resne zadeve tocno, poleg tega cipa?
mislim tezko reces da je deepnude reprezentativni primer; glede na to da ga je izdal nek posameznik tko mal, za foro.

Ja, za DeepNude sem karikiral, je veliko več kot to v zahodnem svetu, a vseeno zelo razdrobljeno in vsak s svojo agendo.

Kitajci v prvi vrsti razvijajo AI zadeve za učinkovito kontrolo množice, najprej država, potem pa vse ostalo > kontrola 1,3mrd prebivalcev, preko prepoznave, nadzora, napovedovanja zdravja (fitness trackerji > zdravo prebivalstvo je najbolj produktivno), social scoringa, "vsiljevanje" mnenja(tipa Cambridge Analytica), strateških odločitev CKja (ala AlphaStar), AI podprtem državnem firewallu, AI podprtem razvoju genetike in podobnih področij... vse usklajeno glede na definirane cilje države. Tudi etični vidiki so tam na povsem drugem nivoju sprejemljivosti.

Poleg tega, pa delajo vse tisto, kar delajo v silikonski dolini, tudi tam je tudi veliko Kitajcev. Od samovozečih avtov, koles, generiranja in prepoznave teksta,... in to sem izvedel od Kitajcev v Šanghaju, zelo malo pride v javnost. Že zato, ker imajo svoj "državni intranet" in glavnina dokumentacije je v kitajščini, malo je opensourca, uporabljajo svoje frameworke bolj znan in javen/open je PadlePadle od Baiduja... če pogledamo zadnje najbolj prebojne raziskave oz. papirje so povsod Kitajci notri (veliko pa objavijo za zamikom in zadeve tudi skrivajo, mogoče imajo že hibridni procesor druge generacije, ali tretje..., kdo ve).

Medtem ko se mi jajcamo za osebne pravice in podatke, hočemo razsekati Facebook (btw Mark tekoče govori mandarinščino, poročen s Kitajko), Google,..., so Kitajcem fizično represijo, nadomestili s tehnološko, višjim standardom in generalno so sedaj bolj zadovoljni, kot so bili prej in so jim ti prijemi dobrodošli, motivacija je višja... jasno kdo je na dolgi rok lahko zmagovalec, ko ti 1,3mrd ljudi usklajeno dela za isti cilj, medtem ko je Zahod razdrobljen, omejen z demokratičnimi pravili in se ukvarja bolj s sam s sabo. Meni je jasno zakaj je Trump živčen in jih poskuša kar naenkrat omejevati...

Da ne bo nesporazumov, to je moj pogled in ni nujno ultimativna resnica. Se pa bojim, da nisem dosti mimo... in v luči te teme, mislim, da bodo Kitajci prvi prišli do AGI-ja in najbrž tudi dalje.

Cr00k je 8. avg 2019 ob 10:46 izjavil:

Kitajci v prvi vrsti razvijajo AI zadeve za učinkovito kontrolo množice

Ah, ko bi ti vedel, kaj Kitajci počnejo, se vostok_1 ne bi strinjal s teboj.

vostok_1 je 8. avg 2019 ob 20:12 izjavil:

And funny as it might be...kitajska ima skoraj več srednjega razreda kot prebivalstva ZDA in evrope skupaj.

Kaj pa pomeni "srednji razred"?

Cr00k je 8. avg 2019 ob 10:46 izjavil:

usklajeno dela za isti cilj, medtem ko je Zahod razdrobljen

Oh, ko bi le bilo tako enostavno.

Cr00k je 8. avg 2019 ob 10:46 izjavil:

mislim, da bodo Kitajci prvi prišli do AGI-ja in najbrž tudi dalje.

Kitajci znajo samo kopirat od zahoda in še to naredijo slabo kvalitetno. Podobno kot vse bodo do AGIja prišli najbolj pametni, to pa so Židje, torej ZDA. Če bi že moral gledat na stvar tako poenostavljeno.

kuall je 9. avg 2019 ob 13:07 izjavil:

Cr00k je 8. avg 2019 ob 10:46 izjavil:

mislim, da bodo Kitajci prvi prišli do AGI-ja in najbrž tudi dalje.

Kitajci znajo samo kopirat od zahoda in še to naredijo slabo kvalitetno. Podobno kot vse bodo do AGIja prišli najbolj pametni, to pa so Židje, torej ZDA. Če bi že moral gledat na stvar tako poenostavljeno.

Zanimivo, da je isto po koncu WW2 veljalo za Japonsko. Potem je pa v 80-tih letih japonska tehnologija postala sinonim kvalitete.

Kaj misliš, da je strategija Kitajcev?

Cerebras Systems unveils a record 1.2 trillion transistor chip for AI



Cerebras

Sem malo pogledal in neka maksimalna frekvenca nevronov naj bi bila okoli 1.000 Hz. Če bi ta procesor tekel pri 100 MHz (100 * 1.000.000 Hz) je to vsaj ranga 100.000x hitrejše od nevrona.

Recimo da za simuliranje nevrona porabimo 10.000 tranzistorjev. Potem bi s tem procesorjem lahko simulirali 120.000.000 nevronov pri frekvenci 100 MHz.
1.200.000.000 nevronov s simulirano frekvenco 10 MHz, 12.000.000.000 nevronov s simulirano frekvenco 1 MHz in 120.000.000.000 nevronov (človeški možgani) s simulirano frekvenco 0.1 MHz / 100 kHz.

100x hitreje od realnega časa pa tja do 10.000x (odvisno od dejanskih frekvenc in števila tranzistorjev za simuliran nevron). V teoriji :D

Strojna oprema je skoraj pripravljena, zdaj samo en dober scan možganov in upload :P

Ja, je še veliko neznank glede njihove arhitekture. Verjetno so kaj pametnega zmozgali :) Še raje bi videl, da bi bil to FPGA čip, ki ga sam sprogramiraš :)

Ta rešitev od Intela se mi zdi bolj zanimiva, ker nevron simulira že na strojnem nivoju. Bomo videli kdo bo zmagal :)

BigWhale je 20. avg 2019 ob 08:34 izjavil:

Po mojem strojna oprema ze kar nekaj let ni vec problem. Ze dvajset let nazaj bi lahko v nek cluster zmetali en kup procesorjev in rama in bi imeli dovolj CPU moci za simulacijo nevronov. Samo, kaj ko ne vemo kak software nalozit gor in kako naj ta software dela.

+1

Ne rabiš simulirat v realnem času, vsaj ne v začetku. Naj melje tudi cel dan, kar možgani uredijo v sekundi, za isti rezultat.

Thomas je takrat imel idejo, da bomo poskenirali možgane in jih replicirali v strojni opremi. Seveda se je že tu zataknilo, saj nimamo osnovnega pojma kako to storiti.

MaCoFaCo je 20. avg 2019 ob 09:28 izjavil:

Se ne strinjam. Iz tega IBM članka sem prišel do podatka, da za simulacijo možganov potrebuješ hardver ranga 900 petaFLOPS (simulacija v realnem času).

Saj ni treba, da je v "realnem" času. Bi pač umetna inteligenca delala bolj počasi. Pamet se ne meri samo v hitrosti razmišljanja.

Problem je, ker tudi počasne umetne pameti (univerzalne, primerljive s človeško) ne znamo narediti.

Ja, samo če moraš učiti nevronsko mrežo 1 leto v realnem času, da zna kaj pametnega, kdo bo potem čakal 1500 let na rezultat?
Problem je začeti in veliko lažje se igraš in eksperimentiraš, če to lahko delaš hitro.

Npr. leto dni učenja v realnem času spraviš na 1 dan ali celo 1 uro... Rezultat ni OK --> ni problema, spremeniš parametre in ponoviš poskus. V enem letu tako narediš kar precej eksperimentov.

Potem ko imaš enkrat delujoč model ni problem to skopirati in zaganjati na 100x počasnejšem hardverju. Problem je priti do prvega delujočega modela.

Ne vem če nam rata kar direktno poskenirati naučeno nevronsko mrežo človeka z njegovim znanjem in izkušnjami (upload). Na začetku bo verjetno groba nevronska arhitektura, ki jo bo potrebno naučiti iz nule. Za hitro učenje pa rabimo čim večjo računsko moč. Upload pride kasneje :P

https://slo-tech.com/novice/t739696#crta