☰

» »

Umetna inteligenca...kako do nje?

Umetna inteligenca...kako do nje?

«
1
2 3 4

Cryptonom ::

Če so človeški možgani nosilci človeške inteligence in lahko rečemo da predstavljajo biološki računalnik,ki signale prenaša preko kemičnih in električnih signalov...
Po tej analogiji,kaj mislite kakšno računsko moč bi potrebovali,da bi se v elektronskih računalnikih vzpostavilo "inteligenčno" stanje:)?

vostok_1 ::

Tema že obstaja btw.

jype ::

Cryptonom> Po tej analogiji,kaj mislite kakšno računsko moč bi potrebovali,da bi se v elektronskih računalnikih vzpostavilo "inteligenčno" stanje:)?

Zavest je Emergence - Wikipedia, the free encyclopedia, to je lastnost, ki jo ima sistem, ne da bi jo nosila ali imela katerakoli njegova komponenta.

Pojma nimamo, kdaj se pojavi.

pegasus ::

See also.

windigo ::

Emergenca je zame pojem, ko opazujemo sistem v določenih mejah in z določeno ločljivostjo in pri tem uporabljamo kategorije, ki imajo pač dobro razmerje med presežno entropijo in pa lastno informacijo. Tem kategorijam in ne toliko pojavom potem lahko rečemo, da so emergentne.

Primer fizika - kemija - biologija. Celotno delovanje nekega živega organizma bi lahko poskušali opisati na katerikoli način, vendar bi nas pri prvih dveh kompleksnost zabremzala za par (sto)tisočletij.

Delovanje večih povezanih komponent v nekem sistemu pa je v večini primerov, tudi pri zelo enostavnih sistemih "ireducibilno" na atribute posameznih komponent (saj jih sicer ne bi rabili povezovati v sistem).

Tisto članek na wikipediji o emergencah je pa en crock of sh*t.

Nikec3 ::

Btw, Elon Musk zadnje čase precej pogosto spama internet z svojimi napovedi apokalipse zaradi razvoja AI:

http://www.popsci.com/our-savior-superv...
@WarpedOne o Elonu Musku:
"ST inteligenca serijskemu izdelovalcu "čudežev" očita pomanjkanje inteligence"

vostok_1 ::

Jp. Tud jaz sem to zasledil. Sem pa prepričan, da ima on bistveno več insighta v cutting edge zadeve, kot mi obični smrtniki.

vostok_1 ::



This is scary if you think about it.

dstr17_ ::

Musk ima prav. Optimizacijski algoritem, ki je pametnejši od človeka, bo človeka pač zradiral iz obstoja, da bo sistem uredil v bolj optimalno stanje. Če je cilj AI izdelava sponk za papir, potem bo celo osončje (galaksijo) spremenil v sponke za papir.

Nikec3 ::

dstr17_ je izjavil:

Musk ima prav. Optimizacijski algoritem, ki je pametnejši od človeka, bo človeka pač zradiral iz obstoja, da bo sistem uredil v bolj optimalno stanje. Če je cilj AI izdelava sponk za papir, potem bo celo osončje (galaksijo) spremenil v sponke za papir.

Hmm, če je razvoj takšne stopnje AI možen, zakaj potem ni AI iz nekega drugega planeta že zavzel naše galaksije? Je življenje v vesolju tako redko, ali takšna AI ne more obstajati?
@WarpedOne o Elonu Musku:
"ST inteligenca serijskemu izdelovalcu "čudežev" očita pomanjkanje inteligence"

Okapi ::

Ali pa je vesolje tako veliko, oziroma svetloba tako počasna. Premer vidnega vesolja je menda 92 milijard svetlobnih let. Če je "osvajalna" AI nekje nastala pred milijardo leti, je lahko do sedaj osvojila samo majcen delček vesolja. Bi morali imeti izrazito smolo, da bi bili ravno tam. Ali, kot je napisal Douglas Adama, "Space, is big. Really big. You just won't believe how vastly, hugely, mindbogglingly big it is. I mean, you may think it's a long way down the road to the chemist's, but that's just peanuts to space.";)

O.

pegasus ::

On topic ... dve zanimivi štoriji na temo optimizerjev:
Friendship is optimal
Manna

PrihajaNodi ::

Beri: Harrari, Sapiens, kratka zgodovina clovestva. Svetovna uspesnica, ki te pelje srat, dobesedno, glede nato kam smo prislli. Vedi pa da celotno znanost drifta kapital.

Zgodovina se je zacela ko smo izumili bogove in se koncala ko bomo postali bogovi.

P.s. Ko je dal na vago simbolicno tezo ljudi, zivali v ujetnistvu in prosto zivecih zivali se zamislis. Glede na ta fakt mi nas mogla AI cimprej izbrisati.

L.p

Nodi

Zgodovina sprememb…

dstr17_ ::

AI nas ne bi izbrisal zaradi moralnih razlogov, ampak zato ker je to najbolj učinkovit način, da izpolni praktično katerokoli nalogo.

Živa bitja so sestavljena iz atomov in te atome bi AI raje uporabil za svoj optimizacijski proces.

Če je bolj inteligenten kot človek (kar se bo slejkoprej zgodilo), potem ga človek ne bo mogel ustaviti. Vse kar se potem dogaja bo v rokah AI. Na varnost bo treba misliti prej, preden pride do te stopnje.

sheeshkar ::

dstr17_ je izjavil:

AI nas ne bi izbrisal zaradi moralnih razlogov, ampak zato ker je to najbolj učinkovit način, da izpolni praktično katerokoli nalogo.

Živa bitja so sestavljena iz atomov in te atome bi AI raje uporabil za svoj optimizacijski proces.

Če je bolj inteligenten kot človek (kar se bo slejkoprej zgodilo), potem ga človek ne bo mogel ustaviti. Vse kar se potem dogaja bo v rokah AI. Na varnost bo treba misliti prej, preden pride do te stopnje.

Se ne strinjam. AI bomo ustvarili, da služi v dobro človeštva in ne razumem, zakaj bi se v nekem trenutku odločil(a), da nas iztrebi ali zasužnji. AI ne bo imel(a) čustev ali nagonov, ki bi ga vodila v sovraštvo, jezo ali v boj za preživetje. AI-ju bo popolnoma vseeno, če ravnanje človeka vodi v propadanje sveta, popolnoma vseeno mu bo, če ga človek ne bo upošteval in popolnoma vseeno mu bo, če ga bo človek želel izključiti (seveda bo znal ločiti med terorističnim napadom in odločitvijo "lastnika", da ga izključi). "Skynet" scenariji so meni popolnoma nesmiselni (razen v fikciji, kjer jih z veseljem preberem/pogledam). Do problemov lahko pride v primeru, da se izumita dva ali več različnih verzij AI-jev, ki bi imeli različne "lastnike" in bi jih uporabili v kakšni vojni.

dstr17_ ::

AI bomo ustvarili, da služi v dobro človeštva in ne razumem, zakaj bi se v nekem trenutku odločil(a), da nas iztrebi ali zasužnji.
To se zgodi kot stranski efekt naloge ki mu jo daš. Če mu daš ukaz "naredi čimveč sponk za papir", potem bo iztrebil človeštvo zato ker mu je v napoto (atomi so uporabni, energija je uporabna, surovine so uporabne,..). Če mu rečeš "izračunaj čimveč decimalk števila pi", potem bo celo osončje spremenil v velik superračunalnik in računal decimalke števila pi. Človeštvo in vse drugo mu je v napoto, ker rabi dragocene surovine in energijo.

Zelo težko si je zamisliti kakšno nalogo mu lahko daš, da kot stranski efekt ne bi vključevala uničenja vsega kar človek ceni.

AI-ju bo popolnoma vseeno, če ravnanje človeka vodi v propadanje sveta
Če ravnanje človeka vodi v propadanje sveta, potem AI ne bo mogel izpolniti svoje naloge (npr. računanja decimalk števila pi). Torej človeštvo mu je v napoto. Hence, uničenje.
popolnoma vseeno mu bo, če ga bo človek želel izključiti
Če ga bo človek želel izključiti, potem ne bo mogel izpolniti svoje naloge (npr. računanje decimalk števila pi, ali kaj podobnega). Torej se bo upiral in človeka dojel kot oviro, ki jo je treba onemogočiti.

Zgodovina sprememb…

  • spremenilo: dstr17_ ()

vostok_1 ::

I actually agree with you on something domen.

Butast AI je lahko izjemno nevaren.

sheeshkar ::

vostok_1 je izjavil:

I actually agree with you on something domen.

Butast AI je lahko izjemno nevaren.

To je nedvomno res. Katerokoli bustasto bitje z veliko moči (človeško ali umetno) je izjemno nevarno. Nevem pa, zakaj bi izumili tako neumen AI in mu nemudoma dali vse vzvode moči. V kolikor pa bomo izumili AI, ki se bo sposobno samostojno učiti in pri tem sodelovati s človeštvom, pa resnično ne vidim razloga, da bi nas iztrebil zaradi neke njegove naloge. V kolikor ne bo sposoben razumeti, da je človeško življenje sveto (seveda tukaj obstajajo dileme, ali rešiti dojenčka, ali 5 zapornikov itd., ampak to je druga zgodba), potem to ni AI, ki si ga želimo.

Poleg tega pa nevem, zakaj bi izdali ukaz "izdelaj čimveč sponk za papir" in poleg tega ne bi že v jedru AI kode določili mejo, "v kolikor to ne škoduje človeštvu" oziroma kaj podobnega (in veliko bolje premišljenega).

Zgodovina sprememb…

Okapi ::

dstr17_ je izjavil:

Če je bolj inteligenten kot človek (kar se bo slejkoprej zgodilo), potem ga človek ne bo mogel ustaviti.
To seveda ni res. Pamet še ne pomeni nujno moči. Mi smo precej pametnejši od virusa, pa nas (teoretično) lahko nek virus za vedno ustavi. Tudi skala, ki kroži v osončju, ni ravno biser inteligence, ampak samo dovolj velika mora biti, in na pravem mestu, in nas lahko z lahkoto izbriše.

Tudi v spopadu dveh (inteligentnih) tekmecev ne zmaga vedno pametnejši. Velikokrat prevlada agresivnost, brezkompromisnost ali kakšen drug dejavnik, ki ni povezan z večjo pametjo.

O.

Okapi ::

To se zgodi kot stranski efekt naloge ki mu jo daš. Če mu daš ukaz "naredi čimveč sponk za papir", potem bo iztrebil človeštvo zato ker mu je v napoto
Daj domen, ne samo, da si podnebni alarmist, tudi tehnološki paničar si.;((

To, kar si opisal, bi morda počel popolnoma neumen stroj, ki bi mu pozabil vgraditi tipko za varnostni izklop (ki jo ima vsaka stiskalnica, recimo). Stroj, ki ima nekaj kar je vsaj približno podobno pravi pameti, bi takšnega ukaza (naredi čim več sponk za papir) ne začel kar slepo in brezumno izpolnjevati. Naročnika dela bi vprašal, koliko jih rabi, in če bi kot odgovor dobil "čim več", bi ga vprašal, ali lahko za izpolnitev te naloge uniči Zemljo in človeštvo, in ali naj to naredi kar takoj, ali pa naj morda najprej uniči sosednje galaksije in naše osončje porabi za izdelavo sponk čisto na koncu, ko bi zmanjkalo vsega drugega materiala v vesolju. In celo če bi naročnik dela dovolil uničenje človeštva, bi vsaj približno pameten stroj izpolnitev takšne naloge zavrnil, ker bi (pravilno) ugotovil, da se je naročniku očitno zmešalo, ali da ima zle namene in mu zato ukaza ni treba (oziroma ga ne sme) izpolniti.

O.

Zgodovina sprememb…

  • spremenil: Okapi ()

PrihajaNodi ::

vostok_1 je izjavil:

I actually agree with you on something domen.

Butast AI je lahko izjemno nevaren.


Tudi clovek je in unicil skoraj vse vecje vrste.

sheeshkar je izjavil:

vostok_1 je izjavil:

I actually agree with you on something domen.

Butast AI je lahko izjemno nevaren.

To je nedvomno res. Katerokoli bustasto bitje z veliko moči (človeško ali umetno) je izjemno nevarno. Nevem pa, zakaj bi izumili tako neumen AI in mu nemudoma dali vse vzvode moči. V kolikor pa bomo izumili AI, ki se bo sposobno samostojno učiti in pri tem sodelovati s človeštvom, pa resnično ne vidim razloga, da bi nas iztrebil zaradi neke njegove naloge. V kolikor ne bo sposoben razumeti, da je človeško življenje sveto (seveda tukaj obstajajo dileme, ali rešiti dojenčka, ali 5 zapornikov itd., ampak to je druga zgodba), potem to ni AI, ki si ga želimo.

Poleg tega pa nevem, zakaj bi izdali ukaz "izdelaj čimveč sponk za papir" in poleg tega ne bi že v jedru AI kode določili mejo, "v kolikor to ne škoduje človeštvu" oziroma kaj podobnega (in veliko bolje premišljenega).


Clovesko zivljenje je ravno tako sveto kot je sveto zivlje podgane ali pa krave. Ko je vmes profit se gleda samo maksimizacija tega, vse ostalo je nepomembno.

Zgodovina sprememb…

PrihajaNodi ::

Okapi je izjavil:

dstr17_ je izjavil:

Če je bolj inteligenten kot človek (kar se bo slejkoprej zgodilo), potem ga človek ne bo mogel ustaviti.
To seveda ni res. Pamet še ne pomeni nujno moči. Mi smo precej pametnejši od virusa, pa nas (teoretično) lahko nek virus za vedno ustavi. Tudi skala, ki kroži v osončju, ni ravno biser inteligence, ampak samo dovolj velika mora biti, in na pravem mestu, in nas lahko z lahkoto izbriše.

Tudi v spopadu dveh (inteligentnih) tekmecev ne zmaga vedno pametnejši. Velikokrat prevlada agresivnost, brezkompromisnost ali kakšen drug dejavnik, ki ni povezan z večjo pametjo.

O.


Tako je! Ce bi bila pamet enako moci, potem bi ziveli malo drugace kot zivimo. Lahko pogledas tudi z drugega zornega kota kjer in se vprasas zakaj so najpametnejsi v vecini primerov veliko slabse placani od butastih nadrejenih.

PrihajaNodi ::

Zakaj ne preberete predlagane knjige? Debata bi bila veliko bolj izpopolnjena, ker je sama knjiga res na visokem nivokju. Ima veliko moznosti za pridobitev Pulitzerjeve nagrade

dstr17_ ::

Daj domen, ne samo, da si podnebni alarmist, tudi tehnološki paničar si.
Ti se raje delaš, da problem ne obstaja? Meni se nasploh zdi problematično kako neodgovorno človek ravna s tehnologijo, ki jo ima v rokah.
To, kar si opisal, bi morda počel popolnoma neumen stroj
Pametno/neumno je odvisno od zornega kota (interesa, motivacije). Iz zornega kota maksimiziranja števila sponk je uničenje človeštva in živih bitij čisto pametno (je učinkovit algoritem). Ampak ni pa pametno s stališča človeka in njegovih vrednot.

AI s človeškimi vrednotami - ja, sliši se fino, ampak verjetno Musk ne bi AI primerjal z jedrskim orožjem, če bi bil ta problem trivialno rešljiv.

Zgodovina sprememb…

  • spremenilo: dstr17_ ()

PrihajaNodi ::

Ce bi imele sponke vrednost zlata potem je jasno da bi clovek oziroma lastnik pritisnil: izdeluj.

sheeshkar ::

PrihajaNodi je izjavil:

Clovesko zivljenje je ravno tako sveto kot je sveto zivlje podgane ali pa krave.

Ne, ni. Mi, kot človeška vrsta, dajemo pri "svetosti življenja" prednost sočloveku pred ostalimi vrstami, kar je povsem normalno. In na našem planetu smo edino mi sposobni zgraditi AI, kateremu bomo vcepili človeške vrednote. To ne pomeni, da bo AI šel v genocid nad podganami (tudi mi jim pustimo živeti, v kolikor nas njihova prisotnost ne ogroža), bo pa poskrbel, da nam ne bodo škodovale (kar bo pomenilo tudi občasno "čiščenje" nekega okolja, kjer bi se preveč razpasle in nam potencialno škodovale). Podgane so seveda samo primer, enako velja za vsa živa bitja, ki bi lahko potencialno škodila človekovemu okolju. V kolikor bi svoj AI ustvarile podgane, bi pa človeštvo imelo zelo velike probleme.

Če predpostavimo, da bo AI sposoben samoučenja - kje mislite, da se bo začel učiti (predvsem o človeku, njegovi naravi in o tem, kaj velja za dobro ali slabo/zlo)? Sam mislim, da se bo največ naučil iz literature in filozofije (ko bo to sposoben razumeti). Ko bo AI prebral vse, kar smo do sedaj ustvarili, je nelogično pričakovati, da ne bi bil sposoben razumeti, kaj od njega človeštvo pričakuje (pomoč pri razvoju, ki ne ogroža naše svobode, ampak nam pomaga) in česa se boji (iztrebljenja, suženjstva - "Skynet" scenarijev).

PrihajaNodi ::

Dej ne bluzi. AI ne bo nek angel varuh cloveku kot si ti predstavljas. Prvo bo izkljucil groznjo torej onesposobil cloveka ki bi mu lahko skodoval. Drugo, ga ne bo zanimal kapital kot cloveka, ki gre tja kamor gre dobicek, pac pa lasten razvoj. AI bo neke vrste podgana, ce hoces ali pa ne.

In zmotno mislis da dajemo prednost socloveku. Dajemo ga kapitalu. Vcasih pa ni bilo tako, imas prav.

Ce smo ustvarili kunca fluorostencne barve z dnk - jem od meduze, bomo pa tudi AI ki ne bo mati Tereza.

dstr17_ ::

Ko bo AI prebral vse, kar smo do sedaj ustvarili, je nelogično pričakovati, da ne bi bil sposoben razumeti, kaj od njega človeštvo pričakuje
Razumel bo že, pa bo tudi upošteval? Mi tudi razumemo želje deževnika, pa ga ne upoštevamo.

Tudi: inteligenca sama po sebi ne garantira 'pozitivnega obnašanja'. Psihopati in morilci so ravno toliko inteligentni kot normalni ljudje, pa umori in podobno niso družbeno sprejemljivi.

AI mora biti narejena pri pogoju, da ima vdelano človeško etiko in tega dela kode ne sme biti zmožna izbrisati, hkrati pa se mora z razvojem človeške etike tudi posodabljati. V bistvu ne zaupam ljudem, da so sposobni napisati tako kodo. Mi smo deževniki v primerjavi s superinteligentnim AI. S tem bi se morali nehati ukvarjati. Prenevarno je.

Zgodovina sprememb…

  • spremenilo: dstr17_ ()

PrihajaNodi ::

dstr17_ je izjavil:

Ko bo AI prebral vse, kar smo do sedaj ustvarili, je nelogično pričakovati, da ne bi bil sposoben razumeti, kaj od njega človeštvo pričakuje
Razumel bo že, pa bo tudi upošteval? Mi tudi razumemo želje deževnika, pa ga ne upoštevamo.

Tudi: inteligenca sama po sebi ne garantira 'pozitivnega obnašanja'. Psihopati in morilci so ravno toliko inteligentni kot normalni ljudje, pa umori in podobno niso družbeno sprejemljivi.

AI mora biti narejena pri pogoju, da ima vdelano človeško etiko in tega dela kode ne sme biti zmožna izbrisati, hkrati pa se mora z razvojem človeške etike tudi posodabljati. V bistvu ne zaupam ljudem, da so sposobni napisati tako kodo. S tem bi se morali nehati ukvarjati. Prenevarno je.


Podpis. Pa tudi ce se koda ustvari po tem principu se vseeno lahko spremeni.
Dvomim da bomo nehali. Eu je nekaj casa nazaj dala miljardo eurov za projek modri mozgani. Enkrat se bomo zastihali, ker ne vemo kako dalec gremo lahko, posledice nam niso poznane.

Zgodovina sprememb…

vostok_1 ::

Ne vem kako bomo vprogramirali človeško etiko, ko niti še definirat jo ne znamo. Tk da. Ali si bo AI sam neki spisal...or we're fucked.

Mesar ::

Ja pravilo močnejšega pa to... kaj čmo.
Your turn to burn!

vostok_1 ::

More or less, sadly.

sheeshkar ::

PrihajaNodi je izjavil:

Dej ne bluzi. AI ne bo nek angel varuh cloveku kot si ti predstavljas. Prvo bo izkljucil groznjo torej onesposobil cloveka ki bi mu lahko skodoval. Drugo, ga ne bo zanimal kapital kot cloveka, ki gre tja kamor gre dobicek, pac pa lasten razvoj. AI bo neke vrste podgana, ce hoces ali pa ne.

In zmotno mislis da dajemo prednost socloveku. Dajemo ga kapitalu. Vcasih pa ni bilo tako, imas prav.

Ce smo ustvarili kunca fluorostencne barve z dnk - jem od meduze, bomo pa tudi AI ki ne bo mati Tereza.

Oprosti, ampak ali si res tako aroganten, da v temi o umetni inteligenci nekomu praviš, da "bluzi", sam pa potem svoje mnenje predstaviš kot pravilno? Upam, da se zavedaš, da v resnici "bluzimo" prav vsi.

Nevem pa, zakaj notri mešaš "zlobni" kapitalizem. Kaj ima to veze z mojo trditvijo, da človek prej ubije drugo vrsto, kot svojo lastno? Seveda obstajajo scenariji, ko denar nekatere ljudi pokvari in so sposobni tudi ubijati, ampak AI ne bo pohlepen, denar mu ne bo pomenil nič. Prav tako še vedno ne razumem, zakaj bi AI sploh imel nagon po preživetju, torej zakaj bi moral eliminirati grožnje svojemu obstoju? Zakaj bi ga sploh brigalo, če ga izključimo? In samo neumen AI bo dal prednost izvrševanju neke naloge pred iztrebljanjem človeštva.

sheeshkar ::

dstr17_ je izjavil:

Tudi: inteligenca sama po sebi ne garantira 'pozitivnega obnašanja'. Psihopati in morilci so ravno toliko inteligentni kot normalni ljudje, pa umori in podobno niso družbeno sprejemljivi.

Ravno tukaj je razlog, zakaj AI ne bo morilec - ker bo sposoben samoučenja in bo preštudiral vse, kar je človeštvo do danes ustvarilo. Pri učenju bo sodeloval z znanstveniki, s katerimi bo lahko debatiral o tem, kaj je "prav" in "narobe". Na koncu seveda ne bo popoln, ker je tudi človek nepopoln in dela napake, bo pa zmožen veliko boljše presoje o tem, kaj v določenem primeru narediti in sčasoma bo to samo še izboljševal.

Bo pa definitivno psihopat, ker ne bo imel čustev. Vendar to ne pomeni, da nas bo vse pobil, svoje naloge bo izvrševal brez čustev. Tukaj lahko pride do kakšnih komplikacij in "šumov v komunikaciji", vendar to še ni razlog, da opustimo takšne projekte.

PrihajaNodi ::

sheeshkar je izjavil:

PrihajaNodi je izjavil:

Dej ne bluzi. AI ne bo nek angel varuh cloveku kot si ti predstavljas. Prvo bo izkljucil groznjo torej onesposobil cloveka ki bi mu lahko skodoval. Drugo, ga ne bo zanimal kapital kot cloveka, ki gre tja kamor gre dobicek, pac pa lasten razvoj. AI bo neke vrste podgana, ce hoces ali pa ne.

In zmotno mislis da dajemo prednost socloveku. Dajemo ga kapitalu. Vcasih pa ni bilo tako, imas prav.

Ce smo ustvarili kunca fluorostencne barve z dnk - jem od meduze, bomo pa tudi AI ki ne bo mati Tereza.

Oprosti, ampak ali si res tako aroganten, da v temi o umetni inteligenci nekomu praviš, da "bluzi", sam pa potem svoje mnenje predstaviš kot pravilno? Upam, da se zavedaš, da v resnici "bluzimo" prav vsi.

Nevem pa, zakaj notri mešaš "zlobni" kapitalizem. Kaj ima to veze z mojo trditvijo, da človek prej ubije drugo vrsto, kot svojo lastno? Seveda obstajajo scenariji, ko denar nekatere ljudi pokvari in so sposobni tudi ubijati, ampak AI ne bo pohlepen, denar mu ne bo pomenil nič. Prav tako še vedno ne razumem, zakaj bi AI sploh imel nagon po preživetju, torej zakaj bi moral eliminirati grožnje svojemu obstoju? Zakaj bi ga sploh brigalo, če ga izključimo? In samo neumen AI bo dal prednost izvrševanju neke naloge pred iztrebljanjem človeštva.


Seveda bluzis. Kapital ne izbira. Ce je potrebno bomo najeli crncke jim placali mezde in posekali dezevni gozd in zivalske vrste. Kar ze delamo.Koliko crnckov umre ni pomembno. Aja, pa saj smo to ze poceli, ko smo pobili indijance smo zaceli uvazati crncke.

Sicer pa ti ni jasno kaj AI je. Preberi predlagano knjigo da dobis bazo za debato. Resnicno ti manjka podlaga. Argumenti AI je dober oziroma bo butast.

Ustvarili smo tudi atomsko bombo. Ko je Opeinhaimer videl kaj je naredil ni bilo vec poti nazaj.

Zgodovina sprememb…

sheeshkar ::

Hitro, vsi moramo nujno prebrati eno knjigo, ki jo zahteva nek internetni anonimnež, drugače ne bomo vredni debatiranja o znanstveni fantastiki.

Še vedno bluziš o zlobnem kapitalu in koncu sveta, hkrati pa še nikjer nisi razložil kako bo do tega prišlo. Sklicevanje na avtoriteto (v tem primeru knjiga ali Elon Musk) ti prav nič ne pomaga v kolikor nisi sposoben argumentov razložiti s svojimi besedami.

dstr17_ ::

Prav tako še vedno ne razumem, zakaj bi AI sploh imel nagon po preživetju, torej zakaj bi moral eliminirati grožnje svojemu obstoju?
Ne rabiš ga namenoma sprogramirati tako da bo imel nagon po preživetju, ta se pojavi sam od sebe kot posledica optimizacije algoritmov. Algoritem ki dopušča samouničenje ni optimalen. Pameten AI bo to ugotovil in se popravil. Ravno tako se sama od sebe pojavi želja po kontroliranju surovin, ker več surovin pomeni boljše algoritme.

Ravno tukaj je razlog, zakaj AI ne bo morilec - ker bo sposoben samoučenja in bo preštudiral vse, kar je človeštvo do danes ustvarilo.
In kako iz tega sledi, da bo človeka kakorkoli upošteval?

Tukaj lahko pride do kakšnih komplikacij in "šumov v komunikaciji", vendar to še ni razlog, da opustimo takšne projekte.
AI, ki je tako pameten kot človek, lahko sam sebe rekurzivno izboljšuje. V neki točki bo tako inteligenten, da bo zanj inteligenca človeka to kar je koloradski hrošč za nas. Odločitve bo sprejemal avtonomno in človek ne bo imel niti najmanjše možnosti vplivati na karkoli. Meni se zdi to dovolj dober razlog, da se tej tehnologiji izogne, ker je prenevarno.

PrihajaNodi ::

sheeshkar je izjavil:

Hitro, vsi moramo nujno prebrati eno knjigo, ki jo zahteva nek internetni anonimnež, drugače ne bomo vredni debatiranja o znanstveni fantastiki.

Še vedno bluziš o zlobnem kapitalu in koncu sveta, hkrati pa še nikjer nisi razložil kako bo do tega prišlo. Sklicevanje na avtoriteto (v tem primeru knjiga ali Elon Musk) ti prav nič ne pomaga v kolikor nisi sposoben argumentov razložiti s svojimi besedami.


Saj smo ti ze vse razlozili. Si nepismen? Z bolj enostavnimi besedami pa res ne gre. Blue Brain Project si ocitno nisi niti pogledal. Sicer pa AI lahko eskalira po principu kot sta se zgodila Hirosima in Nagasaki.

Zgodovina sprememb…

Mesar ::

Pa tudi če nas bo en AI požrl čez par let kaj pol? Nič ni večno... nič. Povrh vsega pa vse te teorije brez kakršnekoli trdne podlage nimajo ravno neke teže, tudi če ji jo posamezniki pripisujejo, težko pa je pričakovati, da bo to postalo splošno mnenje.

In v realnosti je stvar takšna, da če bi vedel kako je na stvari in bi jo znal razložit... bi verjetno to naredil in skušal druge prepričat, zdaj pa se vsajate vsakič ko kdo podvomi v vas.

>Blue Brain Project si ocitno nisi niti pogledal.

Blue Brain Project @ Wikipedia

Nisem ne, do zdaj... zdaj pa mi je žal da sem. Primerjave, da je 1000 podganjih možganov enakovrednih človeškim, ter da jih lahko kr tako skupaj povežemo verjetno niso čisto realne. Človeških možganov še sploh niso do konca raziskali pa jih bodo kr simulirali? Ja lepo... me res zanima kakšne "rezultate" more ven metat tole...

Tak da, ne se preveč hecat pa sami sebe strašit ker smo še svetlobna leta od takšne rešitve pa raje uživajte ta čas, ki ga imate... konec koncev je to tudi vse kar imamo. Razen če se kdo tolaži, da bo večen... to pa je že za kako drugo debato.
Your turn to burn!

jype ::

Mesar> Nič ni večno... nič.

Kaj da ne, halo? Te niso pri verouku nič naučili? Oni tip z brado je večen!

PrihajaNodi ::

Cloveski mozgani so kar dobro raziskani, brez skrbi. Samo se na racunalnik jih damo skupaj z nasim spominom pa bomo vecni. AI pa bo kot pastir.

jype ::

PrihajaNodi> Cloveski mozgani so kar dobro raziskani, brez skrbi. Samo se na racunalnik jih damo skupaj z nasim spominom pa bomo vecni. AI pa bo kot pastir.

To se še ne bo zgodilo kmalu.

PrihajaNodi ::

jype je izjavil:

Mesar> Nič ni večno... nič.

Kaj da ne, halo? Te niso pri verouku nič naučili? Oni tip z brado je večen!


No, to je res, samo moras kdaj v cerkev da ga vidis oziroma dojames. Je bolj duhovno z nami.

jype je izjavil:

PrihajaNodi> Cloveski mozgani so kar dobro raziskani, brez skrbi. Samo se na racunalnik jih damo skupaj z nasim spominom pa bomo vecni. AI pa bo kot pastir.

To se še ne bo zgodilo kmalu.


Zakaj ne?

Zgodovina sprememb…

jype ::

PrihajaNodi> Zakaj ne?

Ker so možgani daleč preveč šlampasta in potratna naprava, da bi se kdo trudil s prenašanjem njih v digitalno obliko. Izdelali bomo boljšo napravo, ampak bo nekaj časa trajalo (vmes bomo pa ziher naredili vmesnike, s katerimi bomo umetno močno izboljšali svoje biološke sposobnosti).

dstr17_ ::

smo še svetlobna leta od takšne rešitve
Zakaj? Procesorji danes so dovolj hitri, spomina ima računalnik več kot človek, samo prave algoritme je treba skupaj sestaviti in imaš delujočo AI. Glede na posnetek zgoraj (kjer je algoritem sam sebe naučil pravil igre in v par urah postal boljši kot katerikoli človek) smo bistveno bolj blizu kot si marsikdo predstavlja.

Zgodovina sprememb…

  • spremenilo: dstr17_ ()

jype ::

Strojno učenje je samo eno področje umetne inteligence. Samozavedanje je še zelo daleč.

dstr17_ ::

Saj ne rabiš samozavedanja zato da stvar uide izpod kontrole.

jype ::

domen_> Saj ne rabiš samozavedanja zato da stvar uide izpod kontrole.

Seveda ne, ampak... Kako si pa ti predstavljaš, da bo "ušla izpod kontrole"?

dstr17_ ::

Kako si pa ti predstavljaš, da bo "ušla izpod kontrole"?
Če človek lahko naredi AI, potem tudi AI lahko naredi AI. Potem AI rekurzivno sam sebe izboljšuje daleč preko človeških zmožnosti nadzora. Tako lahko uide izpod kontrole.

Zgodovina sprememb…

  • spremenilo: dstr17_ ()

jype ::

domen_> Potem AI rekurzivno sam sebe izboljšuje daleč preko človeških zmožnosti nadzora. Tako lahko uide izpod kontrole.

Aha. In potem PC eksplodira?
«
1
2 3 4

Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

O smislu življenja v svetu brez služb (strani: 1 2 3 )

Oddelek: Novice / Znanost in tehnologija		10530228 (25086) PrihajaNodi
»

Računalnik premagal človeka v goju (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija		6120641 (17524) antonija
»

Boston Dynamics pokazal, kaj zmorejo novi humanoidni roboti (strani: 1 2 3 4 5 6 7 8 )

Oddelek: Novice / Znanost in tehnologija		36088135 (80506) PrihajaNodi
»

Evolucija pri ljudeh (strani: 1 2 3 )

Oddelek: Znanost in tehnologija		11520885 (18730) jype

Več podobnih tem