Umetna inteligenca / AI debata

torej kateri sistem je najbližje AI ?

tudi zanimivo
https://www.sciencedaily.com/releases/2...

sicer pa tud AI so rasisti ( tay lives )
http://www.dailymail.co.uk/sciencetech/...

in pa ono od muska , da "zavest " preneseš na comp ( če uspe ), a si še pol isti ti in bi lahko upravljal z naravnim telesom in pc-je v real time ali se ti pol splita personality ? ( mal filozovska ),.

Yacked2 je 14. apr 2017 ob 07:47 izjavil:

AI je trenutno sinonim za veliko if stavkov. O zavesti računalnikov lahko samo sanjaš.

Glavna razlika med človeško in strojno inteligenco je verjetno v tem, da naša logična vrata niso absolutna. Včasih delujejo kot OR, včasih kot XOR, v majhnem odstotku primerov kot AND in tako dalje, kakor pač v tistem trenutku zadeva dela.
Svobodna volja in zavest je posledica ne povsem predvidljivih vzorcev, ki pri tem nastajajo.

... there is no free will ? ...

Spajky je 14. apr 2017 ob 11:55 izjavil:

... there is no free will ? ...

A se ti zdi to, da znamo hipotetizirati iz česa pride svobodna volja kot nekakšen dokaz, da to ne obstaja? Heh.

mihagr> KDO NAM GARANTIRA, DA SE NAM TAKRAT RAČUNALNIKI NE BOJO ZAVESTNO LAGALI.

Nihče. Zakaj te to skrbi? Saj računalnike programiramo ljudje, ki zavestno laganje že danes pogosto vgradimo v programje, recimo pri izpisu cen:

akcija = random.random()
return 'AKCIJA: %s EUR (prej %.2f EUR, prihranite %d%%)' % (cena, cena * (1+akcija), 100*akcija)

mihagr> Ne tako, ampak ko se bo inteligenca približala tisti kot jo "HAL"

A, tisti. Samozavedanje in reči, ki pridejo zraven: Strah pred smrtjo (oz. izključitvijo)?

Načeloma že vemo, da bo AI moral ceniti samega sebe, ker ga bomo tega naučili (to je napovedal že Asimov), vprašanje pa je, ali bomo AI naučili, da je vreden več kot ljudje (to postulira Clarke).

V trenutnem stanju razvoja je AI še vedno zgolj proteza za ljudi in verjetnost, da ta postane nevarna za nas, je zanemarljiva. Šele v primeru, da dejansko sprejmemo umetno inteligenco kot nosilca osebnostnih pravic, lahko začnemo dvomiti v njene namene (pa tudi takrat bo potrebovala čisto fizikalne mehanizme, da svojo voljo dejansko uveljavlja - večina računalnikov danes se ti niti na nogo ne more prevrnit, ker nimajo strojne opreme, ki bi to možnost zagotavljala).

mihagr je 14. apr 2017 ob 13:18 izjavil:

No ja, saj pravim, zanimiva razmišljanja. V zadnjem stavku je nekaj resnice, čeprav, ko povežemo napredek AI čez recimo 10 let in tiste osle, konje, pse iz Boston Dynamic, takrat te bo pa že lahko zagrabil za vrat in to ne samo hipotetično ampak kar zares.

Aja, tudi Hawkins je malo črnogled kar se tega tiče.

sj če ga že zdej sprogramiraš te že zgrabi

jype je 14. apr 2017 ob 13:10 izjavil:

mihagr> Ne tako, ampak ko se bo inteligenca približala tisti kot jo "HAL"

A, tisti. Samozavedanje in reči, ki pridejo zraven: Strah pred smrtjo (oz. izključitvijo)?

Načeloma že vemo, da bo AI moral ceniti samega sebe, ker ga bomo tega naučili (to je napovedal že Asimov), vprašanje pa je, ali bomo AI naučili, da je vreden več kot ljudje (to postulira Clarke).

V trenutnem stanju razvoja je AI še vedno zgolj proteza za ljudi in verjetnost, da ta postane nevarna za nas, je zanemarljiva. Šele v primeru, da dejansko sprejmemo umetno inteligenco kot nosilca osebnostnih pravic, lahko začnemo dvomiti v njene namene (pa tudi takrat bo potrebovala čisto fizikalne mehanizme, da svojo voljo dejansko uveljavlja - večina računalnikov danes se ti niti na nogo ne more prevrnit, ker nimajo strojne opreme, ki bi to možnost zagotavljala).

Že danes so procesi znotraj vmesnih nodov pri nevronskim rećah nerazumljivi kreatorjem. Tko, da tvoje učenje bo lahko ali pa tudi ne, delalo.
Mutacije pri nevroskih mrežah so neizogibne.
Nevronsko mrežo učiš tko kot otorka in ne kot CNC robota. Big difference.

Skratka. Grey goo scenarij se mi zdi še najbolj vrjeten. Predvsem ker je najlažji za naredit in lahko ima zelo benevolentne začetke.

Ne, čakam da mi ga AI postreže na srebnem pladnju.

Mi ravno drdra sestavine Whopper burgerja...

Ne, za večino zmogljivosti ni potrebno razumevanje, kot ga imamo ljudje.

Ampak AI si večina predstavlja po podobi iz filmov in pop literature. To je pa v bistvu mit.

Sodobna AI zna osupljive stvari, ampak v ozadju je zgolj kup razmeroma preprostih algoritmov in velike količine podatkov.

Jusdoit

mihagr je 14. apr 2017 ob 12:27 izjavil:

Zanimiva debata, zdaj pa ja vas vprašam. Ko bojo rač. dosegli stopnjo, da izvedejo Turingov test, torej bojo nekako "inteligentni", KDO NAM GARANTIRA, DA SE NAM TAKRAT RAČUNALNIKI NE BOJO ZAVESTNO LAGALI.

V naslednjem postu pa sem nadaljeval s tem:"Takrat pa se ti lahko zlaže, zato da prikrije svojo lastno stopnjo inteligence. Zaradi kakršnegakoli razloga poznanega samo njemu."

Tole sem danes napisal, morda malo grobo in preveč enostavno, ampak v zadnji tretjini
tega videa govori točno o tem kako, kdaj, kje moramo vspostaviti "varnostne mehanizme" da se to ne bi zgodilo.
Vem, ne znam tako dobro povedati, ampak mislim, da sem ga kar v redu razumel.

Sicer pa na YouTube piše takole:"Artificial intelligence is getting smarter by leaps and bounds -- within this century, research suggests, a computer AI could be as "smart" as a human being. And then, says Nick Bostrom, it will overtake us: "Machine intelligence is the last invention that humanity will ever need to make." A philosopher and technologist, Bostrom asks us to think hard about the world we're building right now, driven by thinking machines. Will our smart machines help to preserve humanity and our values -- or will they have values of their own?

nevone je 14. apr 2017 ob 19:47 izjavil:

Vedno se najdejo poklicani, da povedo, da vse skupaj (še) ni vredno piškavega oreha. Jasno, da se vse začne z načrti, brez njih ni cilja, ki bi mu sledili.

Je pa dojemanje človeka kako "razmišlja/razume mašina", zelo vezano na opažanje lastnega razumevanja. Samo kaj ko isto stvar ljudje lahko razumemo na več načinov, kako naj jo razume mašina? Naj ima na zalogi vsa možna razumevanja? Tega je lahko čisto preveč, tako kot je na internetu ogromno nasprotujočih si razumevanj, ki dotičnemu ne pomenijo nič, če nima zadaj neke agende, na katero to razumevanje veže.

Če mašina razume (besedilo) tako kot si človek predstavlja, po moje ni najpomembnejša postavka. Sicer bi takšno razumevanje mašine ljudje najlažje razumeli, ampak ta način se mi ne zdi nujen.

Pomembno je, kaj "mašina" zmore pri čemer pa ne vemo, ali je za njeno zmogljivost res potrebno razumevanje kot ga imamo ljudje. Mislim, da tu še nismo rekli zadnje besede.

o+ nevone

Exactly zakaj tolk tupim.

AI ne rabi razumet ptiča, da ga nam dodobra opiše in prikaže.
Tako kot ne rabi razumet naše čustvovanje, da nekaj naredi.
Psihopati nimajo, ali imajo zelo malo empatije, pa še vedno lahko gledajo Titanik.

Kot drugo, machine learning ni več deterministični stroj, ampak probabilističen.
Lahko upamo, da je vrgel vn rezultat kot ga pričakujemo.

Zato pa recimo DARPA, ameriška vojska ni še posvojila self engaging robotov...ker ne vedo zakaj je AI naredil nekaj tako kot je. Oni rabijo pa tehtno razlago.
To težavo so se recimo lotili na zelo človeški način. AIju so storili, da svoje odločitve utemelji z preteklimi primeri.
Skratka, very open to interpretation, napram klasičnemu CNC robotu.

AI dovoljšne kompleksnosti, je v štartu bolj podoben novorojenčku kot pa stružnici. Kaj ga boš naučil...je zelo subjektivna dejavnost.

wat?

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.

Ni prava moč umetne inteligence v "človeški" inteligenci, pač pa v specializaciji. Že sedaj jo uporabljamo za prepoznavanje slike, zvoka in celo vonju. Tu so še motorične funkcije, itd.

Preden bomo dobili prvo umetno zavest, bomo imeli prvega kiborga; v bistvu ti že hodijo med nami. Kohlearni implantanti, umetni vid, funkcionalni nadomestni udi in tako naprej.

Specializirana umetna inteligenca je že zdavnaj presegla človekove zmogljivosti.

vostok_1 je 14. apr 2017 ob 22:35 izjavil:

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.

nevronska mreza zelo dvomim, da je cemurkoli podvrzena, ker laufa na procesorjih, ki so narejeni z namenom 100% natancnosti racunanja, kar pomeni iznicevanje kakrsnihkoli motenj in sumov kvantnih in drugih efektov.

v vsakem primeru pa to nima nobene veze, kvantni efekti so premajhni za cloveske nevrone, pa tudi ce ne bi bili, bi predstavljali samo sum - torej, nic "pametnega", nic ne bi spremenili poteka razmisljanja ali odlocitev oz. vsaj nic bolj kot en nakljucno generiran sum poljubnega izvora.


sicer pa si trenutno nobena "globoka" nevronska mreza ne zasluzi primerjava s cloveskim otrokom, ker je arhitekturna in zmogljivostna (ampak predvsem arhitekturna) kompleksnost prevec pod nivojem.
toliko pod nivojem v bistvu, da noben ne ve, ce je v nekem prakticnem casu sploh lahko mogoce to stvar poskejlati na cloveku primeren nivo, tudi ce moorov zakon drzi se desetletja, in ven iz tega dobiti nekaj koristnega. ker samo metanje compute power v ta problem ne naredi bistveno veliko.


deep neural networki so se vedno zgolj metoda strojnega ucenja, ki je "supervised", ki rabi astronomske kolicine podatkov in ki ni sposobna nobenega transferja znanja ali hranjevanja znanja na visjem nivoju abstrakcije - ce lahko problem zreduciras na n-dimenzionalne vzorce, in ce imas na stotine tisocev testnih primerov, za katere ves pravilne odgovore, potem bo slo.
ce hoces, da stvar zastopi, zakaj se voda zlije iz kozarca, ce ga obrnes na glavo, potem ne bo slo.

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja. vsaj dokler se nekdo ne spomni primerne definicije, ker trenutno je se nisem videl. posledicno vsak nekej opleta s svojo definicijo, ki ni vredna uporabe v nobenem argumentu.

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja.

Zavest je meta zaznavanje.

Ne razumem pa, čemu bi se izogibali temu pojmu.

o+ neovne

7982884e je 14. apr 2017 ob 23:39 izjavil:

vostok_1 je 14. apr 2017 ob 22:35 izjavil:

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.

nevronska mreza zelo dvomim, da je cemurkoli podvrzena, ker laufa na procesorjih, ki so narejeni z namenom 100% natancnosti racunanja, kar pomeni iznicevanje kakrsnihkoli motenj in sumov kvantnih in drugih efektov.

v vsakem primeru pa to nima nobene veze, kvantni efekti so premajhni za cloveske nevrone, pa tudi ce ne bi bili, bi predstavljali samo sum - torej, nic "pametnega", nic ne bi spremenili poteka razmisljanja ali odlocitev oz. vsaj nic bolj kot en nakljucno generiran sum poljubnega izvora.


sicer pa si trenutno nobena "globoka" nevronska mreza ne zasluzi primerjava s cloveskim otrokom, ker je arhitekturna in zmogljivostna (ampak predvsem arhitekturna) kompleksnost prevec pod nivojem.
toliko pod nivojem v bistvu, da noben ne ve, ce je v nekem prakticnem casu sploh lahko mogoce to stvar poskejlati na cloveku primeren nivo, tudi ce moorov zakon drzi se desetletja, in ven iz tega dobiti nekaj koristnega. ker samo metanje compute power v ta problem ne naredi bistveno veliko.


deep neural networki so se vedno zgolj metoda strojnega ucenja, ki je "supervised", ki rabi astronomske kolicine podatkov in ki ni sposobna nobenega transferja znanja ali hranjevanja znanja na visjem nivoju abstrakcije - ce lahko problem zreduciras na n-dimenzionalne vzorce, in ce imas na stotine tisocev testnih primerov, za katere ves pravilne odgovore, potem bo slo.
ce hoces, da stvar zastopi, zakaj se voda zlije iz kozarca, ce ga obrnes na glavo, potem ne bo slo.

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja. vsaj dokler se nekdo ne spomni primerne definicije, ker trenutno je se nisem videl. posledicno vsak nekej opleta s svojo definicijo, ki ni vredna uporabe v nobenem argumentu.

Za človeške možgane so res premajhni, za zelo kompleksno in ekstenzivno mrežo pa ne. Mutacije pa se dogajajo hočeš ali nočeš.

Seveda današnje nevronske mreže so omejene. Give it some time. Predvsem pa današnje mreže, se še ne učijo sebe izboljšat. Tu pa je luknja v kateri lahko pride do sprememb.
Ti gledaš zelo omejeno in iz današnje ravni. To je recimo značilno za poznavalce, ne vidijo outside the box. Pa ni mišljeno kot žaljivka, ampak opazka.


Zanimivo mi je predvsem to, da se AI razvija tko kot sem pričakoval in kar je bilo tudi govora v Protokolu. Neumnejši ne more sprogramirat pametnejšega. Lahko pa da evoluciji proste roke in ta naredi svoje.
Tudi galaktični AI ne bo znal naredit pametnejšega od sebe, ampak bo ustvaril nek selfimproving način, kateremu bo pač moral zaupat, da se bo rpav izšel.
I'm willing to call this an universal constraint.

in kaj od tega kontrira temu, kar sem napisal?
formulacija tega problema, da ga lahko resujes z deep neural networki, je prakticno nemogoca. se danes nobena mreza ne "vidi" v 3D (iz 2d slik), kaj sele, da bi videno povezovala z visokonivojskim znanjem, da bi lahko potem odgovorila na tako vprasanje.

Zavest je meta zaznavanje.

kaj pomeni meta zaznavanje in zakaj to ne velja za vsak racunalniski cip z vhodom in izhodom?

Za človeške možgane so res premajhni, za zelo kompleksno in ekstenzivno mrežo pa ne. Mutacije pa se dogajajo hočeš ali nočeš.

o kaksnih mutacijah ti govoris, in ali si si ta pojem preprosto izmislu? ja, ce imas superracunalnik z 100 000 procesorji in 10 000 diski in ti eden izmed njih za 1 uro neha delat in ga je treba zamenjat, potem lahko reces da se zarad tega sistem ne obnasa vec deterministicno (ker je odvisen od okoljskih dejavnikov, zaradi katerih je disk nehal delat). ampak na koncu dneva to ali nima veze za koncni rezultat, ali ti pa koncni rezultat povsem pokvari, odvisno od obcutljivosti sistema.

Seveda današnje nevronske mreže so omejene. Give it some time. Predvsem pa današnje mreže, se še ne učijo sebe izboljšat. Tu pa je luknja v kateri lahko pride do sprememb.
Ti gledaš zelo omejeno in iz današnje ravni. To je recimo značilno za poznavalce, ne vidijo outside the box. Pa ni mišljeno kot žaljivka, ampak opazka.

ne nabijaj mi o omejenosti in "outside the box".
ocitno nimas pojma o delovanju nevronskih mrez, zato take nabijas. nevronske mreze so take, kot so, in take se ne morejo skejlat na clovesko raven.
ce si ti predstavljas nekej povsem drugega pod tem pojmom, neko umetno razlicico bioloskih nevronov v mozganih, potem si pac izberi drug pojem. ker ta tvoja verzija z danasnjimi deep neural networki nima dosti veze.
nevronske mreze NE MOREJO SAME PO SEBI resit bistvenih problemov, ki so da grejo iz supervised ucenja v unsupervised ucenje ter da osvojijo vescino transferja znanja (in se en kup drugih lastnosti).
obstajajo pristopi, s katerimi so te stvari ljudje ze deloma resevali, ampak ti pristopi pomenijo drugacno arhitekturo in tistemu se potem ne rece vec samo nevronska mreza.
plus, tudi ti pristopi so zaenkrat se zelo pomanjkljivo reseni.

Mogoče je Matrix resničen. Civilizacija pride do stopnje, ko naredijo AI in AI prevzame svet, zasužnji ljudi, jim ustvari vesolje (računalniški svet) za um/dušo, telo deluje naprej neka opravila, ki mu jih AI narekuje, Um pa živi naprej v simulaciji. Ta simulacija razvija spet novo življenje in vse se ponavlja v neskončnost, fraktalno.

zakaj bi nek fitkivni zlobni AI hotel zasuznjit ljudi? kaj ima od njih?

ja, nevronske mreze imajo veliko limitacijo, ker niso sposobne na cloveku razumljiv visokonivojski nacin razlozit, zakaj je njihov model tak kot je in zakaj je odlocitev taka kot je. se vedno lahko vidis tocno kako je potekala odlocitev, ce gledas v posamezne utezi, ampak ima to tezko kaj prakticnega smisla, ce delas z ogromnim stevilom nevronov.

glede nekih gama zarkov, ki pokvarijo pomnilniske celice; tle nimas dosti moznosti - ali bo sistem zaradi tega odpovedal oz. delal napacno, ali pa se ne bo zmenil za manjso motnjo, ker je robusten in odporen na motnje, tako kot cloveski mozgani (ki ne nehajo delat, ce naenkrat crkne nekaj procentov nevronov).

kaj pomeni meta zaznavanje

Meta zaznavanje pomeni zaznavanje zaznavanj. Vedenje o vedenju. Čutenje čutenja.

in zakaj to ne velja za vsak racunalniski cip z vhodom in izhodom

Ne vem. Ampak ali je dovoljeno govoriti o tem šele, ko so vse potankosti jasne?

o+ nevone

7982884e je 15. apr 2017 ob 17:34 izjavil:

Meta zaznavanje pomeni zaznavanje zaznavanj. Vedenje o vedenju. Čutenje čutenja.

kaj od tega lahko zapakiras v neko uporabno definicijo, s katero lahko poves karkoli uporabnega na temo umetne inteligence?
"zaznavanje zaznavanja" in "cutenje cutenja" mi delujeta zelo privleceno. jaz zase lahko recem, da "cutim, kar cutim", ampak kako mi lahko nek clovek na cesti dokaze, da tudi on "cuti svoje cutenje"? kaj ga morem vprasat in kaksni morajo bit odgovori, da ga ne odvrnem kot zgolj preprogramiranega robotskega klona?

Verjetno želi opisati besedo "Detajlna introspekcija".

Nope. Edini način, ad dokažeš zavedanje, je pripravljenost na samomor. Vse ostalo je lahko imitirat. Ko si pripravljen na in razumeš neobstoj, prostovoljno ne drug induced, potem se žele zadvedaš da "si".

kaj od tega lahko zapakiras v neko uporabno definicijo, s katero lahko poves karkoli uporabnega na temo umetne inteligence?

Ja nič konkretnega. Zgolj to, da umetno inteligenco bo moral človek itak (p)osvojiti, ali ona njega ... in zavest je del tega.

"zaznavanje zaznavanja" in "cutenje cutenja" mi delujeta zelo privleceno. jaz zase lahko recem, da "cutim, kar cutim",

Jaz tudi zate in pač čutim razliko, kadar nekaj samo čutim, vem, ali pa kadar vem, da nekaj vem, ali čutim, da čutim. Meta zaznavanje pač.

ampak kako mi lahko nek clovek na cesti dokaze, da tudi on "cuti svoje cutenje"? kaj ga morem vprasat in kaksni morajo bit odgovori, da ga ne odvrnem kot zgolj preprogramiranega robotskega klona?

Če sam veš, kaj je "čutenje čutenja", lahko postaviš takšna vprašanja, da potem na podlagi odgovorov lahko precej zanesljivo veš, kaj čuti on, s predpostavko seveda, da govori resnico.

o+ nevone