» »

Umetna inteligenca / AI debata

Umetna inteligenca / AI debata

«
1
2 3 4

sivistol ::

torej kateri sistem je najbližje AI ?

tudi zanimivo
https://www.sciencedaily.com/releases/2...

sicer pa tud AI so rasisti ( tay lives )
http://www.dailymail.co.uk/sciencetech/...

in pa ono od muska , da "zavest " preneseš na comp ( če uspe ), a si še pol isti ti in bi lahko upravljal z naravnim telesom in pc-je v real time ali se ti pol splita personality ? ( mal filozovska ),.

Yacked2 ::

AI je trenutno sinonim za veliko if stavkov. O zavesti računalnikov lahko samo sanjaš.
Korak naprej ni vedno ustrezen...sploh če si na robu prepada!

Smrekar1 ::

Yacked2 je izjavil:

AI je trenutno sinonim za veliko if stavkov. O zavesti računalnikov lahko samo sanjaš.


Glavna razlika med človeško in strojno inteligenco je verjetno v tem, da naša logična vrata niso absolutna. Včasih delujejo kot OR, včasih kot XOR, v majhnem odstotku primerov kot AND in tako dalje, kakor pač v tistem trenutku zadeva dela.
Svobodna volja in zavest je posledica ne povsem predvidljivih vzorcev, ki pri tem nastajajo.

dice7 ::

sivistol je izjavil:

sicer pa tud AI so rasisti ( tay lives )
http://www.dailymail.co.uk/sciencetech/...

Joanna Bryson, a computer scientist at the University of Bath and a co-author, said: “A lot of people are saying this is showing that AI is prejudiced. No. This is showing we’re prejudiced and that AI is learning it.”

Spajky ::

... there is no free will ? ...
"Bluzim na forumu, torej sem !" (še živ ) ...

jype ::

Yacked2> AI je trenutno sinonim za veliko if stavkov.

Ne, ni.

Spajky> ... there is no free will ? ...

Tega ni pretirano težko dokazati.

Smrekar1 ::

Spajky je izjavil:

... there is no free will ? ...


A se ti zdi to, da znamo hipotetizirati iz česa pride svobodna volja kot nekakšen dokaz, da to ne obstaja? Heh.

mihagr ::

Zanimiva debata, zdaj pa ja vas vprašam. Ko bojo rač. dosegli stopnjo, da izvedejo Turingov test, torej bojo nekako "inteligentni", KDO NAM GARANTIRA, DA SE NAM TAKRAT RAČUNALNIKI NE BOJO ZAVESTNO LAGALI.

jype ::

mihagr> KDO NAM GARANTIRA, DA SE NAM TAKRAT RAČUNALNIKI NE BOJO ZAVESTNO LAGALI.

Nihče. Zakaj te to skrbi? Saj računalnike programiramo ljudje, ki zavestno laganje že danes pogosto vgradimo v programje, recimo pri izpisu cen:

akcija = random.random()
return 'AKCIJA: %s EUR (prej %.2f EUR, prihranite %d%%)' % (cena, cena * (1+akcija), 100*akcija)

mihagr ::

Jype
Ne tako, ampak ko se bo inteligenca približala tisti kot jo "HAL". Takrat pa se ti lahko zlaže, zato da prikrije svojo lastno stopnjo inteligence. Zaradi kakršnegakoli razloga poznanega samo njemu.

jype ::

mihagr> Ne tako, ampak ko se bo inteligenca približala tisti kot jo "HAL"

A, tisti. Samozavedanje in reči, ki pridejo zraven: Strah pred smrtjo (oz. izključitvijo)?

Načeloma že vemo, da bo AI moral ceniti samega sebe, ker ga bomo tega naučili (to je napovedal že Asimov), vprašanje pa je, ali bomo AI naučili, da je vreden več kot ljudje (to postulira Clarke).

V trenutnem stanju razvoja je AI še vedno zgolj proteza za ljudi in verjetnost, da ta postane nevarna za nas, je zanemarljiva. Šele v primeru, da dejansko sprejmemo umetno inteligenco kot nosilca osebnostnih pravic, lahko začnemo dvomiti v njene namene (pa tudi takrat bo potrebovala čisto fizikalne mehanizme, da svojo voljo dejansko uveljavlja - večina računalnikov danes se ti niti na nogo ne more prevrnit, ker nimajo strojne opreme, ki bi to možnost zagotavljala).

mihagr ::

No ja, saj pravim, zanimiva razmišljanja. V zadnjem stavku je nekaj resnice, čeprav, ko povežemo napredek AI čez recimo 10 let in tiste osle, konje, pse iz Boston Dynamic, takrat te bo pa že lahko zagrabil za vrat in to ne samo hipotetično ampak kar zares.

Aja, tudi Hawkins je malo črnogled kar se tega tiče.

Zgodovina sprememb…

  • spremenilo: mihagr ()

sivistol ::

mihagr je izjavil:

No ja, saj pravim, zanimiva razmišljanja. V zadnjem stavku je nekaj resnice, čeprav, ko povežemo napredek AI čez recimo 10 let in tiste osle, konje, pse iz Boston Dynamic, takrat te bo pa že lahko zagrabil za vrat in to ne samo hipotetično ampak kar zares.

Aja, tudi Hawkins je malo črnogled kar se tega tiče.


sj če ga že zdej sprogramiraš te že zgrabi

Matthai ::

Glede AI:


Razbije par mitov o zmožnostih sodobne AI.
All those moments will be lost in time, like tears in rain...
Time to die.

vostok_1 ::

jype je izjavil:

mihagr> Ne tako, ampak ko se bo inteligenca približala tisti kot jo "HAL"

A, tisti. Samozavedanje in reči, ki pridejo zraven: Strah pred smrtjo (oz. izključitvijo)?

Načeloma že vemo, da bo AI moral ceniti samega sebe, ker ga bomo tega naučili (to je napovedal že Asimov), vprašanje pa je, ali bomo AI naučili, da je vreden več kot ljudje (to postulira Clarke).

V trenutnem stanju razvoja je AI še vedno zgolj proteza za ljudi in verjetnost, da ta postane nevarna za nas, je zanemarljiva. Šele v primeru, da dejansko sprejmemo umetno inteligenco kot nosilca osebnostnih pravic, lahko začnemo dvomiti v njene namene (pa tudi takrat bo potrebovala čisto fizikalne mehanizme, da svojo voljo dejansko uveljavlja - večina računalnikov danes se ti niti na nogo ne more prevrnit, ker nimajo strojne opreme, ki bi to možnost zagotavljala).


Že danes so procesi znotraj vmesnih nodov pri nevronskim rećah nerazumljivi kreatorjem. Tko, da tvoje učenje bo lahko ali pa tudi ne, delalo.
Mutacije pri nevroskih mrežah so neizogibne.
Nevronsko mrežo učiš tko kot otorka in ne kot CNC robota. Big difference.

Skratka. Grey goo scenarij se mi zdi še najbolj vrjeten. Predvsem ker je najlažji za naredit in lahko ima zelo benevolentne začetke.
There will be chutes!

Fun times ahead.

WarpedOne ::

Kdor še ni prebral wait but why na temo AI naj raje ostane tiho in se posveti branju.

A da morm dat link? Tolk nesposobn al sam len?
Are you not tired of being wrong again and again?

SimplyMiha ::

Ne, čakam da mi ga AI postreže na srebnem pladnju.

Aston_11 ::

SimplyMiha je izjavil:

Ne, čakam da mi ga AI postreže na srebnem pladnju.
Google bi moral to že znati, ne vem, kaj čaka.

SimplyMiha ::

Mi ravno drdra sestavine Whopper burgerja...

nevone ::

Vedno se najdejo poklicani, da povedo, da vse skupaj (še) ni vredno piškavega oreha. Jasno, da se vse začne z načrti, brez njih ni cilja, ki bi mu sledili.

Je pa dojemanje človeka kako "razmišlja/razume mašina", zelo vezano na opažanje lastnega razumevanja. Samo kaj ko isto stvar ljudje lahko razumemo na več načinov, kako naj jo razume mašina? Naj ima na zalogi vsa možna razumevanja? Tega je lahko čisto preveč, tako kot je na internetu ogromno nasprotujočih si razumevanj, ki dotičnemu ne pomenijo nič, če nima zadaj neke agende, na katero to razumevanje veže.

Če mašina razume (besedilo) tako kot si človek predstavlja, po moje ni najpomembnejša postavka. Sicer bi takšno razumevanje mašine ljudje najlažje razumeli, ampak ta način se mi ne zdi nujen.

Pomembno je, kaj "mašina" zmore pri čemer pa ne vemo, ali je za njeno zmogljivost res potrebno razumevanje kot ga imamo ljudje. Mislim, da tu še nismo rekli zadnje besede.

o+ nevone
Rather we will eat the Space or Space will eat us.

Matthai ::

Ne, za večino zmogljivosti ni potrebno razumevanje, kot ga imamo ljudje.

Ampak AI si večina predstavlja po podobi iz filmov in pop literature. To je pa v bistvu mit.

Sodobna AI zna osupljive stvari, ampak v ozadju je zgolj kup razmeroma preprostih algoritmov in velike količine podatkov.
All those moments will be lost in time, like tears in rain...
Time to die.

justdoit ::

Yacked2 je izjavil:

AI je trenutno sinonim za veliko if stavkov. O zavesti računalnikov lahko samo sanjaš.

Ti še na daleč nisi videl machine learninga.

mihagr je izjavil:

No ja, saj pravim, zanimiva razmišljanja. V zadnjem stavku je nekaj resnice, čeprav, ko povežemo napredek AI čez recimo 10 let in tiste osle, konje, pse iz Boston Dynamic, takrat te bo pa že lahko zagrabil za vrat in to ne samo hipotetično ampak kar zares.

Aja, tudi Hawkins je malo črnogled kar se tega tiče.


Preveč razmišljaš o AI-u v povezavi z roboti (Terminator scenarij). Dober TED talk na to temo:

mihagr ::

Jusdoit

mihagr je izjavil:

Zanimiva debata, zdaj pa ja vas vprašam. Ko bojo rač. dosegli stopnjo, da izvedejo Turingov test, torej bojo nekako "inteligentni", KDO NAM GARANTIRA, DA SE NAM TAKRAT RAČUNALNIKI NE BOJO ZAVESTNO LAGALI.

V naslednjem postu pa sem nadaljeval s tem:"Takrat pa se ti lahko zlaže, zato da prikrije svojo lastno stopnjo inteligence. Zaradi kakršnegakoli razloga poznanega samo njemu."

Tole sem danes napisal, morda malo grobo in preveč enostavno, ampak v zadnji tretjini
tega videa govori točno o tem kako, kdaj, kje moramo vspostaviti "varnostne mehanizme" da se to ne bi zgodilo.
Vem, ne znam tako dobro povedati, ampak mislim, da sem ga kar v redu razumel.

Sicer pa na YouTube piše takole:"Artificial intelligence is getting smarter by leaps and bounds -- within this century, research suggests, a computer AI could be as "smart" as a human being. And then, says Nick Bostrom, it will overtake us: "Machine intelligence is the last invention that humanity will ever need to make." A philosopher and technologist, Bostrom asks us to think hard about the world we're building right now, driven by thinking machines. Will our smart machines help to preserve humanity and our values -- or will they have values of their own?

Zgodovina sprememb…

  • spremenilo: mihagr ()

Matthai ::

No, najprej je treba definirati kaj pomeni "smart".

To, da DeepBlue z surovo močjo zmaga v šahu verjetno ni "smart".
All those moments will be lost in time, like tears in rain...
Time to die.

vostok_1 ::

nevone je izjavil:

Vedno se najdejo poklicani, da povedo, da vse skupaj (še) ni vredno piškavega oreha. Jasno, da se vse začne z načrti, brez njih ni cilja, ki bi mu sledili.

Je pa dojemanje človeka kako "razmišlja/razume mašina", zelo vezano na opažanje lastnega razumevanja. Samo kaj ko isto stvar ljudje lahko razumemo na več načinov, kako naj jo razume mašina? Naj ima na zalogi vsa možna razumevanja? Tega je lahko čisto preveč, tako kot je na internetu ogromno nasprotujočih si razumevanj, ki dotičnemu ne pomenijo nič, če nima zadaj neke agende, na katero to razumevanje veže.

Če mašina razume (besedilo) tako kot si človek predstavlja, po moje ni najpomembnejša postavka. Sicer bi takšno razumevanje mašine ljudje najlažje razumeli, ampak ta način se mi ne zdi nujen.

Pomembno je, kaj "mašina" zmore pri čemer pa ne vemo, ali je za njeno zmogljivost res potrebno razumevanje kot ga imamo ljudje. Mislim, da tu še nismo rekli zadnje besede.

o+ nevone


Exactly zakaj tolk tupim.

AI ne rabi razumet ptiča, da ga nam dodobra opiše in prikaže.
Tako kot ne rabi razumet naše čustvovanje, da nekaj naredi.
Psihopati nimajo, ali imajo zelo malo empatije, pa še vedno lahko gledajo Titanik.

Kot drugo, machine learning ni več deterministični stroj, ampak probabilističen.
Lahko upamo, da je vrgel vn rezultat kot ga pričakujemo.

Zato pa recimo DARPA, ameriška vojska ni še posvojila self engaging robotov...ker ne vedo zakaj je AI naredil nekaj tako kot je. Oni rabijo pa tehtno razlago.
To težavo so se recimo lotili na zelo človeški način. AIju so storili, da svoje odločitve utemelji z preteklimi primeri.
Skratka, very open to interpretation, napram klasičnemu CNC robotu.

AI dovoljšne kompleksnosti, je v štartu bolj podoben novorojenčku kot pa stružnici. Kaj ga boš naučil...je zelo subjektivna dejavnost.
There will be chutes!

Fun times ahead.

Unknown_001 ::

Smrekar1 je izjavil:

Yacked2 je izjavil:

AI je trenutno sinonim za veliko if stavkov. O zavesti računalnikov lahko samo sanjaš.


Glavna razlika med človeško in strojno inteligenco je verjetno v tem, da naša logična vrata niso absolutna. Včasih delujejo kot OR, včasih kot XOR, v majhnem odstotku primerov kot AND in tako dalje, kakor pač v tistem trenutku zadeva dela.
Svobodna volja in zavest je posledica ne povsem predvidljivih vzorcev, ki pri tem nastajajo.


Teorija kaosa. Ko bodo kaotični pojavi popolnoma obvladljivi hint "mighz not happen" lahko govorimo o možnem razvoju umetnega uma ki bi bil ekvivalent povprečnemu posamezniku.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

vostok_1 ::

wat?
There will be chutes!

Fun times ahead.

Unknown_001 ::

vostok_1 je izjavil:

wat?


Nič konkretnega, zgolj teoretiziram. Del našega učenja in funkcioniranja so tudi kaotični pojavi - povsem naključni dogodki ki jib je nemogoče predvideti ali ugotoviti vzrok.

Drgač pa si poglej butterfly efekt.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

vostok_1 ::

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.
There will be chutes!

Fun times ahead.

Unknown_001 ::

vostok_1 je izjavil:

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.


Well če to odkrivanje tople vode nadomesti monotone operacije in lahko avtomatizirano opravlja delo u nizko dodano vrednostjo je to dejansko koristno.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

SimplyMiha ::

Ni prava moč umetne inteligence v "človeški" inteligenci, pač pa v specializaciji. Že sedaj jo uporabljamo za prepoznavanje slike, zvoka in celo vonju. Tu so še motorične funkcije, itd.

Preden bomo dobili prvo umetno zavest, bomo imeli prvega kiborga; v bistvu ti že hodijo med nami. Kohlearni implantanti, umetni vid, funkcionalni nadomestni udi in tako naprej.

Specializirana umetna inteligenca je že zdavnaj presegla človekove zmogljivosti.

vostok_1 ::

Ne rabimo nobene zavesti.

Zavest je kvečjemo overhead pri procesu reprodukcije.

Da bomo mi ustvarili zavest v AIju je eden večjih pipe dream-ov človeštva. Ali bo si sam ustvaril ali jo sploh ne bo rabil.

You're overthinking this guys/gals.
There will be chutes!

Fun times ahead.

7982884e ::

vostok_1 je izjavil:

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.

nevronska mreza zelo dvomim, da je cemurkoli podvrzena, ker laufa na procesorjih, ki so narejeni z namenom 100% natancnosti racunanja, kar pomeni iznicevanje kakrsnihkoli motenj in sumov kvantnih in drugih efektov.

v vsakem primeru pa to nima nobene veze, kvantni efekti so premajhni za cloveske nevrone, pa tudi ce ne bi bili, bi predstavljali samo sum - torej, nic "pametnega", nic ne bi spremenili poteka razmisljanja ali odlocitev oz. vsaj nic bolj kot en nakljucno generiran sum poljubnega izvora.


sicer pa si trenutno nobena "globoka" nevronska mreza ne zasluzi primerjava s cloveskim otrokom, ker je arhitekturna in zmogljivostna (ampak predvsem arhitekturna) kompleksnost prevec pod nivojem.
toliko pod nivojem v bistvu, da noben ne ve, ce je v nekem prakticnem casu sploh lahko mogoce to stvar poskejlati na cloveku primeren nivo, tudi ce moorov zakon drzi se desetletja, in ven iz tega dobiti nekaj koristnega. ker samo metanje compute power v ta problem ne naredi bistveno veliko.


deep neural networki so se vedno zgolj metoda strojnega ucenja, ki je "supervised", ki rabi astronomske kolicine podatkov in ki ni sposobna nobenega transferja znanja ali hranjevanja znanja na visjem nivoju abstrakcije - ce lahko problem zreduciras na n-dimenzionalne vzorce, in ce imas na stotine tisocev testnih primerov, za katere ves pravilne odgovore, potem bo slo.
ce hoces, da stvar zastopi, zakaj se voda zlije iz kozarca, ce ga obrnes na glavo, potem ne bo slo.

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja. vsaj dokler se nekdo ne spomni primerne definicije, ker trenutno je se nisem videl. posledicno vsak nekej opleta s svojo definicijo, ki ni vredna uporabe v nobenem argumentu.

Zgodovina sprememb…

  • spremenilo: 7982884e ()

7982884e ::

Kot drugo, machine learning ni več deterministični stroj, ampak probabilističen.
Lahko upamo, da je vrgel vn rezultat kot ga pričakujemo.
nima veze, ampak to ni res. nobena machine learning metoda ne temelji na nekem *true* random generatorju, da ne bi bila deterministicna. ce ji das popolnoma enake podatke in ce jo prej streniras na popolnoma enakih podatkih, bo koncni rezultat popolnoma enak.

kar seveda nima veze, ker konec koncev to velja tudi za cloveka, ceprav si tle tezko predstavljas, kako bos zagotovil popolnoma enako okolje in inpute v mozgane

Zgodovina sprememb…

  • spremenilo: 7982884e ()

nevone ::

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja.


Zavest je meta zaznavanje.

Ne razumem pa, čemu bi se izogibali temu pojmu.

o+ neovne
Rather we will eat the Space or Space will eat us.

Grey ::

Sveta, kjer si pričnemo vgrajevati raznorazne čipe v glave in hkrati razvijati AI si ne želite. Kajti kmalu za pojavom AI, bi postali ujetniki v lastnem telesu tako kot tisti hrošči z elektrodami na glavah, ko so jih znanstveniki upravljali na daljinca. Potrošna roba za immortal stroje. Če je 1984 resničen (oz se na žalost udejanja). Potem tudi Matrix, Terminator in ostale stvari niso daleč od resnice.

Mogoče je Matrix resničen. Civilizacija pride do stopnje, ko naredijo AI in AI prevzame svet, zasužnji ljudi, jim ustvari vesolje (računalniški svet) za um/dušo, telo deluje naprej neka opravila, ki mu jih AI narekuje, Um pa živi naprej v simulaciji. Ta simulacija razvija spet novo življenje in vse se ponavlja v neskončnost, fraktalno.

Zgodovina sprememb…

  • spremenilo: Grey ()

vostok_1 ::

7982884e je izjavil:

vostok_1 je izjavil:

Nonsense IMO.

Samotekajoča extremno kompleksna nevronska mreža je prav isto podvržena glitchem, tko kot naši možgani. Tako datotečne kot fluktuacije na kvantnem nivoju in nenazadnje kozmičnega sevanja.

Pravim vam. Odkrivamo toplo vodo. Evolucija je že vse to preizkusila, mi bomo kvečjemu samo povečali repeatability za nekaj redov.

nevronska mreza zelo dvomim, da je cemurkoli podvrzena, ker laufa na procesorjih, ki so narejeni z namenom 100% natancnosti racunanja, kar pomeni iznicevanje kakrsnihkoli motenj in sumov kvantnih in drugih efektov.

v vsakem primeru pa to nima nobene veze, kvantni efekti so premajhni za cloveske nevrone, pa tudi ce ne bi bili, bi predstavljali samo sum - torej, nic "pametnega", nic ne bi spremenili poteka razmisljanja ali odlocitev oz. vsaj nic bolj kot en nakljucno generiran sum poljubnega izvora.


sicer pa si trenutno nobena "globoka" nevronska mreza ne zasluzi primerjava s cloveskim otrokom, ker je arhitekturna in zmogljivostna (ampak predvsem arhitekturna) kompleksnost prevec pod nivojem.
toliko pod nivojem v bistvu, da noben ne ve, ce je v nekem prakticnem casu sploh lahko mogoce to stvar poskejlati na cloveku primeren nivo, tudi ce moorov zakon drzi se desetletja, in ven iz tega dobiti nekaj koristnega. ker samo metanje compute power v ta problem ne naredi bistveno veliko.


deep neural networki so se vedno zgolj metoda strojnega ucenja, ki je "supervised", ki rabi astronomske kolicine podatkov in ki ni sposobna nobenega transferja znanja ali hranjevanja znanja na visjem nivoju abstrakcije - ce lahko problem zreduciras na n-dimenzionalne vzorce, in ce imas na stotine tisocev testnih primerov, za katere ves pravilne odgovore, potem bo slo.
ce hoces, da stvar zastopi, zakaj se voda zlije iz kozarca, ce ga obrnes na glavo, potem ne bo slo.

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja. vsaj dokler se nekdo ne spomni primerne definicije, ker trenutno je se nisem videl. posledicno vsak nekej opleta s svojo definicijo, ki ni vredna uporabe v nobenem argumentu.


Za človeške možgane so res premajhni, za zelo kompleksno in ekstenzivno mrežo pa ne. Mutacije pa se dogajajo hočeš ali nočeš.

Seveda današnje nevronske mreže so omejene. Give it some time. Predvsem pa današnje mreže, se še ne učijo sebe izboljšat. Tu pa je luknja v kateri lahko pride do sprememb.
Ti gledaš zelo omejeno in iz današnje ravni. To je recimo značilno za poznavalce, ne vidijo outside the box. Pa ni mišljeno kot žaljivka, ampak opazka.


Zanimivo mi je predvsem to, da se AI razvija tko kot sem pričakoval in kar je bilo tudi govora v Protokolu. Neumnejši ne more sprogramirat pametnejšega. Lahko pa da evoluciji proste roke in ta naredi svoje.
Tudi galaktični AI ne bo znal naredit pametnejšega od sebe, ampak bo ustvaril nek selfimproving način, kateremu bo pač moral zaupat, da se bo rpav izšel.
I'm willing to call this an universal constraint.
There will be chutes!

Fun times ahead.

Zgodovina sprememb…

  • spremenil: vostok_1 ()

trenerkar ::

7982884e je izjavil:


deep neural networki so se vedno zgolj metoda strojnega ucenja, ki je "supervised", ki rabi astronomske kolicine podatkov in ki ni sposobna nobenega transferja znanja ali hranjevanja znanja na visjem nivoju abstrakcije - ce lahko problem zreduciras na n-dimenzionalne vzorce, in ce imas na stotine tisocev testnih primerov, za katere ves pravilne odgovore, potem bo slo.
ce hoces, da stvar zastopi, zakaj se voda zlije iz kozarca, ce ga obrnes na glavo, potem ne bo slo.

aja, pa beseda "zavest" je tolk neumna da bi se morali v taki temi zmenit, da se je ne uporablja. vsaj dokler se nekdo ne spomni primerne definicije, ker trenutno je se nisem videl. posledicno vsak nekej opleta s svojo definicijo, ki ni vredna uporabe v nobenem argumentu.


A ti lahko razumeš zakaj se voda izlije iz kozarca brez da si prej 100 krat videl vodo v različnih pogojih 100 krat kozarec in da ti je nekdo povedal kaj je voda, kaj je kozarec in kaj je gravitacija?
Težko.

7982884e ::

in kaj od tega kontrira temu, kar sem napisal?
formulacija tega problema, da ga lahko resujes z deep neural networki, je prakticno nemogoca. se danes nobena mreza ne "vidi" v 3D (iz 2d slik), kaj sele, da bi videno povezovala z visokonivojskim znanjem, da bi lahko potem odgovorila na tako vprasanje.

Zavest je meta zaznavanje.
kaj pomeni meta zaznavanje in zakaj to ne velja za vsak racunalniski cip z vhodom in izhodom?


Za človeške možgane so res premajhni, za zelo kompleksno in ekstenzivno mrežo pa ne. Mutacije pa se dogajajo hočeš ali nočeš.
o kaksnih mutacijah ti govoris, in ali si si ta pojem preprosto izmislu? ja, ce imas superracunalnik z 100 000 procesorji in 10 000 diski in ti eden izmed njih za 1 uro neha delat in ga je treba zamenjat, potem lahko reces da se zarad tega sistem ne obnasa vec deterministicno (ker je odvisen od okoljskih dejavnikov, zaradi katerih je disk nehal delat). ampak na koncu dneva to ali nima veze za koncni rezultat, ali ti pa koncni rezultat povsem pokvari, odvisno od obcutljivosti sistema.

Seveda današnje nevronske mreže so omejene. Give it some time. Predvsem pa današnje mreže, se še ne učijo sebe izboljšat. Tu pa je luknja v kateri lahko pride do sprememb.
Ti gledaš zelo omejeno in iz današnje ravni. To je recimo značilno za poznavalce, ne vidijo outside the box. Pa ni mišljeno kot žaljivka, ampak opazka.
ne nabijaj mi o omejenosti in "outside the box".
ocitno nimas pojma o delovanju nevronskih mrez, zato take nabijas. nevronske mreze so take, kot so, in take se ne morejo skejlat na clovesko raven.
ce si ti predstavljas nekej povsem drugega pod tem pojmom, neko umetno razlicico bioloskih nevronov v mozganih, potem si pac izberi drug pojem. ker ta tvoja verzija z danasnjimi deep neural networki nima dosti veze.
nevronske mreze NE MOREJO SAME PO SEBI resit bistvenih problemov, ki so da grejo iz supervised ucenja v unsupervised ucenje ter da osvojijo vescino transferja znanja (in se en kup drugih lastnosti).
obstajajo pristopi, s katerimi so te stvari ljudje ze deloma resevali, ampak ti pristopi pomenijo drugacno arhitekturo in tistemu se potem ne rece vec samo nevronska mreza.
plus, tudi ti pristopi so zaenkrat se zelo pomanjkljivo reseni.

Mogoče je Matrix resničen. Civilizacija pride do stopnje, ko naredijo AI in AI prevzame svet, zasužnji ljudi, jim ustvari vesolje (računalniški svet) za um/dušo, telo deluje naprej neka opravila, ki mu jih AI narekuje, Um pa živi naprej v simulaciji. Ta simulacija razvija spet novo življenje in vse se ponavlja v neskončnost, fraktalno.
zakaj bi nek fitkivni zlobni AI hotel zasuznjit ljudi? kaj ima od njih?

vostok_1 ::

7982884e je izjavil:

in kaj od tega kontrira temu, kar sem napisal?
formulacija tega problema, da ga lahko resujes z deep neural networki, je prakticno nemogoca. se danes nobena mreza ne "vidi" v 3D (iz 2d slik), kaj sele, da bi videno povezovala z visokonivojskim znanjem, da bi lahko potem odgovorila na tako vprasanje.

Zavest je meta zaznavanje.
kaj pomeni meta zaznavanje in zakaj to ne velja za vsak racunalniski cip z vhodom in izhodom?


Za človeške možgane so res premajhni, za zelo kompleksno in ekstenzivno mrežo pa ne. Mutacije pa se dogajajo hočeš ali nočeš.
o kaksnih mutacijah ti govoris, in ali si si ta pojem preprosto izmislu? ja, ce imas superracunalnik z 100 000 procesorji in 10 000 diski in ti eden izmed njih za 1 uro neha delat in ga je treba zamenjat, potem lahko reces da se zarad tega sistem ne obnasa vec deterministicno (ker je odvisen od okoljskih dejavnikov, zaradi katerih je disk nehal delat). ampak na koncu dneva to ali nima veze za koncni rezultat, ali ti pa koncni rezultat povsem pokvari, odvisno od obcutljivosti sistema.

Seveda današnje nevronske mreže so omejene. Give it some time. Predvsem pa današnje mreže, se še ne učijo sebe izboljšat. Tu pa je luknja v kateri lahko pride do sprememb.
Ti gledaš zelo omejeno in iz današnje ravni. To je recimo značilno za poznavalce, ne vidijo outside the box. Pa ni mišljeno kot žaljivka, ampak opazka.
ne nabijaj mi o omejenosti in "outside the box".
ocitno nimas pojma o delovanju nevronskih mrez, zato take nabijas. nevronske mreze so take, kot so, in take se ne morejo skejlat na clovesko raven.
ce si ti predstavljas nekej povsem drugega pod tem pojmom, neko umetno razlicico bioloskih nevronov v mozganih, potem si pac izberi drug pojem. ker ta tvoja verzija z danasnjimi deep neural networki nima dosti veze.
nevronske mreze NE MOREJO SAME PO SEBI resit bistvenih problemov, ki so da grejo iz supervised ucenja v unsupervised ucenje ter da osvojijo vescino transferja znanja (in se en kup drugih lastnosti).
obstajajo pristopi, s katerimi so te stvari ljudje ze deloma resevali, ampak ti pristopi pomenijo drugacno arhitekturo in tistemu se potem ne rece vec samo nevronska mreza.
plus, tudi ti pristopi so zaenkrat se zelo pomanjkljivo reseni.

Mogoče je Matrix resničen. Civilizacija pride do stopnje, ko naredijo AI in AI prevzame svet, zasužnji ljudi, jim ustvari vesolje (računalniški svet) za um/dušo, telo deluje naprej neka opravila, ki mu jih AI narekuje, Um pa živi naprej v simulaciji. Ta simulacija razvija spet novo življenje in vse se ponavlja v neskončnost, fraktalno.
zakaj bi nek fitkivni zlobni AI hotel zasuznjit ljudi? kaj ima od njih?



Govorim, da ti lahko en gamma žarek spremeni hash nekega pomembnega dela in pol dobiš vn nekaj čisto tretjega. Mutacije so zame random spremembe. Bodisi napaka pri kopiranju ali zunanji vpliv.

In, ja seveda ne mislim, današnje nevronske mreže. Ampak neka tehnologija, ki se bo vrjetno iz njih razvila. Dejansko sploh ni pomembno, eventually it will happen.
Glede današnjih mrež, pa načeloma velja, da ne vemo točno kako je računalnik prišel do rezultata.
There will be chutes!

Fun times ahead.

7982884e ::

ja, nevronske mreze imajo veliko limitacijo, ker niso sposobne na cloveku razumljiv visokonivojski nacin razlozit, zakaj je njihov model tak kot je in zakaj je odlocitev taka kot je. se vedno lahko vidis tocno kako je potekala odlocitev, ce gledas v posamezne utezi, ampak ima to tezko kaj prakticnega smisla, ce delas z ogromnim stevilom nevronov.

glede nekih gama zarkov, ki pokvarijo pomnilniske celice; tle nimas dosti moznosti - ali bo sistem zaradi tega odpovedal oz. delal napacno, ali pa se ne bo zmenil za manjso motnjo, ker je robusten in odporen na motnje, tako kot cloveski mozgani (ki ne nehajo delat, ce naenkrat crkne nekaj procentov nevronov).

vostok_1 ::

7982884e je izjavil:


glede nekih gama zarkov, ki pokvarijo pomnilniske celice; tle nimas dosti moznosti - ali bo sistem zaradi tega odpovedal oz. delal napacno, ali pa se ne bo zmenil za manjso motnjo, ker je robusten in odporen na motnje, tako kot cloveski mozgani (ki ne nehajo delat, ce naenkrat crkne nekaj procentov nevronov).


Exactly. Zato pa možgani delajo kot delajo. Več ali manj delajo dokaj zanesljivo. So pa podvrženi spremembam.
Vsako živo bitje bodisi ogljikovo, bodisi silicijevo je podvrženo le-tem.
Ljudem na nivoju par tisoč let, AIju na par miljard (ali par sekund).

Backup pa ti pomaga kolkr ti. Namreč backup terja prostor. Z hashem si ne moreš kaj dosti pomagat.

Skratka...same shit, different scale.
There will be chutes!

Fun times ahead.

nevone ::

kaj pomeni meta zaznavanje


Meta zaznavanje pomeni zaznavanje zaznavanj. Vedenje o vedenju. Čutenje čutenja.

in zakaj to ne velja za vsak racunalniski cip z vhodom in izhodom


Ne vem. Ampak ali je dovoljeno govoriti o tem šele, ko so vse potankosti jasne?

o+ nevone
Rather we will eat the Space or Space will eat us.

7982884e ::

Meta zaznavanje pomeni zaznavanje zaznavanj. Vedenje o vedenju. Čutenje čutenja.
kaj od tega lahko zapakiras v neko uporabno definicijo, s katero lahko poves karkoli uporabnega na temo umetne inteligence?
"zaznavanje zaznavanja" in "cutenje cutenja" mi delujeta zelo privleceno. jaz zase lahko recem, da "cutim, kar cutim", ampak kako mi lahko nek clovek na cesti dokaze, da tudi on "cuti svoje cutenje"? kaj ga morem vprasat in kaksni morajo bit odgovori, da ga ne odvrnem kot zgolj preprogramiranega robotskega klona?

Grey ::

7982884e je izjavil:

Meta zaznavanje pomeni zaznavanje zaznavanj. Vedenje o vedenju. Čutenje čutenja.
kaj od tega lahko zapakiras v neko uporabno definicijo, s katero lahko poves karkoli uporabnega na temo umetne inteligence?
"zaznavanje zaznavanja" in "cutenje cutenja" mi delujeta zelo privleceno. jaz zase lahko recem, da "cutim, kar cutim", ampak kako mi lahko nek clovek na cesti dokaze, da tudi on "cuti svoje cutenje"? kaj ga morem vprasat in kaksni morajo bit odgovori, da ga ne odvrnem kot zgolj preprogramiranega robotskega klona?

Verjetno želi opisati besedo "Detajlna introspekcija".

Zgodovina sprememb…

  • spremenilo: Grey ()

SimplyMiha ::

Po mojem se da vse to strniti v "zavedanje."

Še najboljši eksperiment za ugotavljanje zavedanja je ogledalo.

vostok_1 ::

Nope. Edini način, ad dokažeš zavedanje, je pripravljenost na samomor. Vse ostalo je lahko imitirat. Ko si pripravljen na in razumeš neobstoj, prostovoljno ne drug induced, potem se žele zadvedaš da "si".
There will be chutes!

Fun times ahead.

nevone ::

Verjetno želi opisati besedo "Detajlna introspekcija".


Ja, to je ustrezen opis.

o+ nevone
Rather we will eat the Space or Space will eat us.

nevone ::

kaj od tega lahko zapakiras v neko uporabno definicijo, s katero lahko poves karkoli uporabnega na temo umetne inteligence?

Ja nič konkretnega. Zgolj to, da umetno inteligenco bo moral človek itak (p)osvojiti, ali ona njega ... in zavest je del tega.

"zaznavanje zaznavanja" in "cutenje cutenja" mi delujeta zelo privleceno. jaz zase lahko recem, da "cutim, kar cutim",

Jaz tudi zate in pač čutim razliko, kadar nekaj samo čutim, vem, ali pa kadar vem, da nekaj vem, ali čutim, da čutim. Meta zaznavanje pač.

ampak kako mi lahko nek clovek na cesti dokaze, da tudi on "cuti svoje cutenje"? kaj ga morem vprasat in kaksni morajo bit odgovori, da ga ne odvrnem kot zgolj preprogramiranega robotskega klona?

Če sam veš, kaj je "čutenje čutenja", lahko postaviš takšna vprašanja, da potem na podlagi odgovorov lahko precej zanesljivo veš, kaj čuti on, s predpostavko seveda, da govori resnico.

o+ nevone
Rather we will eat the Space or Space will eat us.

nevone ::

Jaz tudi zate ...


Moralo bi pisati: Jaz tudi zase ...

o+ nevone
Rather we will eat the Space or Space will eat us.
«
1
2 3 4


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

AlphaGo Zero se uči brez človeškega zgleda (strani: 1 2 3 4 5 )

Oddelek: Novice / Znanost in tehnologija
23122834 (14481) thramos
»

Evolutionary computation a.k.a Digitalna evolucija (strani: 1 2 3 )

Oddelek: Znanost in tehnologija
1057151 (4999) Double_J
»

Boston Dynamics pokazal, kaj zmorejo novi humanoidni roboti (strani: 1 2 3 4 5 6 7 8 )

Oddelek: Novice / Znanost in tehnologija
36037770 (30141) PrihajaNodi
»

Tema o umetni inteligenci (strani: 1 2 3 )

Oddelek: Znanost in tehnologija
1059563 (6504) vostok_1

Več podobnih tem