Forum » Znanost in tehnologija » Umetna inteligenca...kako do nje?
Umetna inteligenca...kako do nje?
dstr17_ ::
Potem AI zradira ljudi in vsa živa bitja, ker porabljajo energijo in surovine, ki jih AI hoče uporabiti za svoje namene. Kaj se zgodi potem ne vem, verjetno se širi v vesolje in sistem optimizira po svojih potrebah.
Mesar ::
jype> Kaj da ne, halo? Te niso pri verouku nič naučili? Oni tip z brado je večen!
Ne. Sem bil "prikrajšan" za te zadeve, hvala bogu.
PrihajaNodi> Cloveski mozgani so kar dobro raziskani, brez skrbi. Samo se na racunalnik jih damo skupaj z nasim spominom pa bomo vecni. AI pa bo kot pastir.
Vir?
domen_> Če človek lahko naredi AI, potem tudi AI lahko naredi AI. Potem AI rekurzivno sam sebe izboljšuje daleč preko človeških zmožnosti nadzora. Tako lahko uide izpod kontrole.
Če človek naredi AI še to ne pomeni, da ima ta AI iste zmožnosti ko človek. Kje je tu logika? Človek običajno AI nauči reševat/napovedovat nek specifični problem in nič druga. Pa že te stvari znajo biti "neugodne" za procesiranje.
Ne. Sem bil "prikrajšan" za te zadeve, hvala bogu.
PrihajaNodi> Cloveski mozgani so kar dobro raziskani, brez skrbi. Samo se na racunalnik jih damo skupaj z nasim spominom pa bomo vecni. AI pa bo kot pastir.
Vir?
domen_> Če človek lahko naredi AI, potem tudi AI lahko naredi AI. Potem AI rekurzivno sam sebe izboljšuje daleč preko človeških zmožnosti nadzora. Tako lahko uide izpod kontrole.
Če človek naredi AI še to ne pomeni, da ima ta AI iste zmožnosti ko človek. Kje je tu logika? Človek običajno AI nauči reševat/napovedovat nek specifični problem in nič druga. Pa že te stvari znajo biti "neugodne" za procesiranje.
Your turn to burn!
Zgodovina sprememb…
- spremenil: Mesar ()
dstr17_ ::
Če človek naredi AI še to ne pomeni, da ima ta AI iste zmožnosti ko človek.Mišljeno je samo za tiste AI, ki imajo inteligenco vsaj na nivoju človeka.
Tisti AI, ki so manj inteligentni kot človek, niso tako problematični (lahko se jih kontrolira).
Zgodovina sprememb…
- spremenilo: dstr17_ ()
Mesar ::
domen_> Mišljeno je samo za tiste AI, ki imajo inteligenco vsaj na nivoju človeka.
Tega pa še ni in še nič takšnega lep čas nebo. Ravno to skušam dopovedati...
Tega pa še ni in še nič takšnega lep čas nebo. Ravno to skušam dopovedati...
Your turn to burn!
dstr17_ ::
Tega pa še ni in še nič takšnega lep čas nebo.Zakaj? Procesorji in diski so že dovolj dobri. Kje je zagotovilo, da se ne bo našlo pravega algoritma že v bližnji prihodnosti?
Tudi če se ga odkrije 'šele' čez 50 let, še vedno je isti problem. Na varnost je treba misliti prej, ker potem bo prepozno.
Zgodovina sprememb…
- spremenilo: dstr17_ ()
PrihajaNodi ::
domen_> Mišljeno je samo za tiste AI, ki imajo inteligenco vsaj na nivoju človeka.
Tega pa še ni in še nič takšnega lep čas nebo. Ravno to skušam dopovedati...
Niti ne. Opica je preko impulzov ze zmozna kontrolirati tretjo roko iz New Yorka v Manhatan - telepatija. Prihajajo implanatanti s katerim bomo nadzorova morske pse in jih izkoriscali za iskanje podvodnih min, saj se njihova cutila ne morejo primerjati z nobenim od sedaj znanim senzorjem. Smo blizu zacetka, zelo blizu.
Mesar ::
Tega pa še ni in še nič takšnega lep čas nebo.Zakaj? Procesorji in diski so že dovolj dobri. Kje je zagotovilo, da se ne bo našlo pravega algoritma že v bližnji prihodnosti?
Tudi če se ga odkrije 'šele' čez 50 let, še vedno je isti problem. Na varnost je treba misliti prej, ker potem bo prepozno.
Ker "pravilnega" algoritma ni. Problem je kompleksnost algoritma, upoštevat vse podatke, tipe podatkov, razmerja med njimi in še kaj, da dobiš to o čem ti govoriš. Slej ko prej bi prišel tudi do problema, da nekaterih podatkov še sploh ni v digitalni obliki.
Da bi naredil takšno zadevo, ki je še nivo nad tem in zna sama sebe replicirat... ne vem če je ravno realno.
PrihajaNodi je izjavil:
domen_> Mišljeno je samo za tiste AI, ki imajo inteligenco vsaj na nivoju človeka.
Tega pa še ni in še nič takšnega lep čas nebo. Ravno to skušam dopovedati...
Niti ne. Opica je preko impulzov ze zmozna kontrolirati tretjo roko iz New Yorka v Manhatan - telepatija. Prihajajo implanatanti s katerim bomo nadzorova morske pse in jih izkoriscali za iskanje podvodnih min, saj se njihova cutila ne morejo primerjati z nobenim od sedaj znanim senzorjem. Smo blizu zacetka, zelo blizu.
To je vse še v poskusni fazi, zadeve same pa niso operativne in potrebujejo zadaj kup izobraženega kadra za neko malenkost naredit... in vsa ta kader in znanje boš zamenjal z nekim AI, ki ga boš iz rokava nekomu stresel?
Your turn to burn!
PrihajaNodi ::
PrihajaNodi> Zakaj ne?
Ker so možgani daleč preveč šlampasta in potratna naprava, da bi se kdo trudil s prenašanjem njih v digitalno obliko. Izdelali bomo boljšo napravo, ampak bo nekaj časa trajalo (vmes bomo pa ziher naredili vmesnike, s katerimi bomo umetno močno izboljšali svoje biološke sposobnosti).
Poznas kaksno visjo inteligenco od cloveske, ki je recimp zmozna tega: http://www.medicaldaily.com/artificial-...
sheeshkar ::
Potem AI zradira ljudi in vsa živa bitja, ker porabljajo energijo in surovine, ki jih AI hoče uporabiti za svoje namene. Kaj se zgodi potem ne vem, verjetno se širi v vesolje in sistem optimizira po svojih potrebah.
Problem, ki ga imate je ta, da ne znate razložiti kakšno motivacijo bo AI imel za "svoje namene".
Mislim, da se razlikujemo v vprašanju, ali bo AI imel nagon za preživetje in skozi tega skušal podrediti/iztrebiti človeštvo. Sam sem mnenja, da AI ne bo imel nobenih nagonov, torej ne bo razvil lastnih interesov, ki bi prišli v konflikt s človekom. V svojem "prostem času" ne bo razmišljal o nekih svojih namenih, neodvisnih od človeka, ker za to ne bo imel motivacije. Razumem pa nasprotne poglede in jim priznavam enako legitimnost kot svojim, za razliko od nekaterih nezrelih arogantnežev, ki ne znajo voditi normalne debate.
PrihajaNodi ::
To je vse še v poskusni fazi, zadeve same pa niso operativne in potrebujejo zadaj kup izobraženega kadra za neko malenkost naredit... in vsa ta kader in znanje boš zamenjal z nekim AI, ki ga boš iz rokava nekomu stresel?
Zakaj? Rabis samo operativnost. Podatki se pa tako ali tako ze vezejo s spletom. V zacetni fazi je bil tudi projekt Manhatan, cloveski genom. Koliko casa je bilo potrebno za realizacijo?
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
jype ::
PrihajaNodi> Poznas kaksno visjo inteligenco od cloveske, ki je recimp zmozna tega:
What. Kakšno zvezo pa ma to s čimerkoli v tej temi?
PrihajaNodi> Rabis samo operativnost.
Rabiš predvsem _means_. Kako bo AI pobila človeštvo? Bo tolikokrat na diske napisala "CRKNTE ŽE!" da se nam bo milo storilo in bomo po njenem navodilu pomrli?
PrihajaNodi> Zakaj? Rabis samo operativnost. Podatki se pa tako ali tako ze vezejo s spletom. V zacetni fazi je bil tudi projekt Manhatan, cloveski genom. Koliko casa je bilo potrebno za realizacijo?
A lahko prosim malo manj blodiš in se malce bolj jasno izražaš? Hvala!
What. Kakšno zvezo pa ma to s čimerkoli v tej temi?
PrihajaNodi> Rabis samo operativnost.
Rabiš predvsem _means_. Kako bo AI pobila človeštvo? Bo tolikokrat na diske napisala "CRKNTE ŽE!" da se nam bo milo storilo in bomo po njenem navodilu pomrli?
PrihajaNodi> Zakaj? Rabis samo operativnost. Podatki se pa tako ali tako ze vezejo s spletom. V zacetni fazi je bil tudi projekt Manhatan, cloveski genom. Koliko casa je bilo potrebno za realizacijo?
A lahko prosim malo manj blodiš in se malce bolj jasno izražaš? Hvala!
Zgodovina sprememb…
- spremenilo: jype ()
dstr17_ ::
Problem, ki ga imate je ta, da ne znate razložiti kakšno motivacijo bo AI imel za "svoje namene".AI bo imel tako motivacijo kot mu jo bomo sprogramirali, ampak kot nepredviden stranski efekt pa lahko eliminira vsa živa bitja. Če mu daš delati sponke za papir, potem bo vse planete spremenil v sponke za papir. Če mu rečeš naj učinkovito izbriše spam, potem bo eliminiral vse ljudi, ker brez ljudi ne bo spama. Če mu rečeš naj računa decimalke števila pi, potem bo celo osončje spremenil v superračunalnik za računanje decimalk števila pi. Itd.
The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.
Zgodovina sprememb…
- spremenilo: dstr17_ ()
PrihajaNodi ::
@Jype napisal si da so mozgani slampasta in potrtana naprava? Odgovoril sem ti da smo najbolj razviti, jasno pa je potrebna energija.
dstr17_ ::
Kako bo AI pobila človeštvo?To ni težko, z jedrskim orožjem, droni, itd. Dokler nima dostopa do te moči se pa dela, da je prijateljska.
jype ::
PrihajaNodi> Odgovoril sem ti da smo najbolj razviti
Kako to karkoli spreminja?
domen_> To ni težko, z jedrskim orožjem, droni, itd.
Aha? Kdo bo pa izdelal jedrsko orožje in drone?
Kako to karkoli spreminja?
domen_> To ni težko, z jedrskim orožjem, droni, itd.
Aha? Kdo bo pa izdelal jedrsko orožje in drone?
PrihajaNodi ::
AI je vseeno za clovestvo in okolico. Dobiti mora samo ukaz za razvoj, pitem pa se bo njeno delovanje povecalo do te mere da bono mi njeno breme saj bi jemali energijo.
jype ::
PrihajaNodi> AI je vseeno za clovestvo in okolico. Dobiti mora samo ukaz za razvoj, pitem pa se bo njeno delovanje povecalo do te mere da bono mi njeno breme saj bi jemali energijo.
_KAKO_?
Kako se bo njeno delovanje povečalo? Na kakšen način?
_KAKO_?
Kako se bo njeno delovanje povečalo? Na kakšen način?
PrihajaNodi ::
PrihajaNodi> Poznas kaksno visjo inteligenco od cloveske, ki je recimp zmozna tega:
What. Kakšno zvezo pa ma to s čimerkoli v tej temi?
PrihajaNodi> Rabis samo operativnost.
Rabiš predvsem _means_. Kako bo AI pobila človeštvo? Bo tolikokrat na diske napisala "CRKNTE ŽE!" da se nam bo milo storilo in bomo po njenem navodilu pomrli?
PrihajaNodi> Zakaj? Rabis samo operativnost. Podatki se pa tako ali tako ze vezejo s spletom. V zacetni fazi je bil tudi projekt Manhatan, cloveski genom. Koliko casa je bilo potrebno za realizacijo?
A lahko prosim malo manj blodiš in se malce bolj jasno izražaš? Hvala!
To pomeni da nasi mozgani niso slampasti ampak kompleksni.
dstr17_ ::
Aha? Kdo bo pa izdelal jedrsko orožje in drone?AI bomo izdelali mi, potem bo pa AI rekurzivno izboljševala sama sebe. Za uničenje vsega kar ljudje cenimo lahko uporabi že obstoječe orožje, ali pa pač naredi svojega (kar je trivialno za tak nivo inteligence).
Zgodovina sprememb…
- spremenilo: dstr17_ ()
PrihajaNodi ::
PrihajaNodi> AI je vseeno za clovestvo in okolico. Dobiti mora samo ukaz za razvoj, pitem pa se bo njeno delovanje povecalo do te mere da bono mi njeno breme saj bi jemali energijo.
_KAKO_?
Kako se bo njeno delovanje povečalo? Na kakšen način?
Recimo: zmankuje denarja za javne usluzbence, EU priskrbi za varnost in red "robotke" ker so cenejsi od policistov...pa imamo obliko v katero se AI lahko manifestira, da zacne samostojni pohod.
Aha? Kdo bo pa izdelal jedrsko orožje in drone?AI bomo izdelali mi, potem bo pa AI rekurzivno izboljševala sama sebe. Za uničenja vsega kar ljudje cenimo lahko uporabi že obstoječe orožje, ali pa pač naredi svojega (kar je trivialno za tak nivo inteligence).
Lahko pa mu mi priskrbimo orodje. Torej neke vrste roke in noge.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
jype ::
PrihajaNodi> To pomeni da nasi mozgani niso slampasti ampak kompleksni.
Ne, strahovito so šlampasti. To lahko neposredno izmeriš.
domen_> AI bomo izdelali mi, potem bo pa AI rekurzivno izboljševala sama sebe.
Ja, fino, si že miljonkrat povedal isto, nisi pa povedal ničesar o tem, na kakšen način se bo to zgodilo.
domen_> Za uničenja vsega kar ljudje cenimo lahko uporabi že obstoječe orožje, ali pa pač naredi svojega (kar je trivialno za tak nivo inteligence).
A lahko že enkrat nehaš retardirat in napišeš _KAKO_ bo AI "uporabila obstoječe orožje" ali "pač naredila svojega"? Hvala!
PrihajaNodi> Lahko pa mu mi priskrbimo orodje. Torej neke vrste roke in noge.
Ja, komot AI priskrbimo orodje in orožje, da nas vse pobije. Pravzaprav za to ne potrebujemo nobene AI, lahko ga priskrbimo kar povprečnemu psihopatu in prihranimo ogromno razvojnih sredstev.
Idioti.
PrihajaNodi> Recimo: zmankuje denarja za javne usluzbence, EU priskrbi za varnost in red "robotke" ker so cenejsi od policistov...pa imamo obliko v katero se AI lahko manifestira, da zacne samostojni pohod.
Kakšni roboti pa bodo to?
Ne, strahovito so šlampasti. To lahko neposredno izmeriš.
domen_> AI bomo izdelali mi, potem bo pa AI rekurzivno izboljševala sama sebe.
Ja, fino, si že miljonkrat povedal isto, nisi pa povedal ničesar o tem, na kakšen način se bo to zgodilo.
domen_> Za uničenja vsega kar ljudje cenimo lahko uporabi že obstoječe orožje, ali pa pač naredi svojega (kar je trivialno za tak nivo inteligence).
A lahko že enkrat nehaš retardirat in napišeš _KAKO_ bo AI "uporabila obstoječe orožje" ali "pač naredila svojega"? Hvala!
PrihajaNodi> Lahko pa mu mi priskrbimo orodje. Torej neke vrste roke in noge.
Ja, komot AI priskrbimo orodje in orožje, da nas vse pobije. Pravzaprav za to ne potrebujemo nobene AI, lahko ga priskrbimo kar povprečnemu psihopatu in prihranimo ogromno razvojnih sredstev.
Idioti.
PrihajaNodi> Recimo: zmankuje denarja za javne usluzbence, EU priskrbi za varnost in red "robotke" ker so cenejsi od policistov...pa imamo obliko v katero se AI lahko manifestira, da zacne samostojni pohod.
Kakšni roboti pa bodo to?
Zgodovina sprememb…
- spremenilo: jype ()
PrihajaNodi ::
Pravzaprav v zda ze imajo robotke. Te skenira in obvesti policijo ce najde orozje. Ima seveda tudi kamere. Poglej na yt. Oni bodo oziroma so ze zamenjali varnostnike.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
jype ::
PrihajaNodi> Pravzaprav v zda ze imajo robotke. Te skenira in obvesti policijo ce najde orozje. Ima seveda tudi kamere. Poglej na yt. Oni bodo oziroma so ze zamenjali varnostnike.
HALO! Ne bereš, kaj ti pišem. Prosim, razloži, kako bo robot, ki skenira ljudi, pobil človeštvo! Hvala!
HALO! Ne bereš, kaj ti pišem. Prosim, razloži, kako bo robot, ki skenira ljudi, pobil človeštvo! Hvala!
PrihajaNodi ::
AI lahko naredi orozje samo se par elementov dodamo. to je roke in noge. Znanje ima
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
dstr17_ ::
Ja, fino, si že miljonkrat povedal isto, nisi pa povedal ničesar o tem, na kakšen način se bo to zgodilo.Poglej posnetek na začetku teme, ki ga je vostok prilepil. Algoritem je za vhodne podatke dobil samo piksle na zaslonu in številko, ki jo mora maksimizirati. Gre za raznorazne igre na Atariju. V dveh urah je bil boljši kot katerikoli človek.
A lahko že enkrat nehaš retardirat in napišeš _KAKO_ bo AI "uporabila obstoječe orožje" ali "pač naredila svojega"? Hvala!Ne vem kaj te pri tem moti. Lahko prek računalnikov prevzame kontrolo nad droni, lahko ljudi prepriča v to da ji dajo dostop do energije in surovin, itd.
Zgodovina sprememb…
- spremenilo: dstr17_ ()
PrihajaNodi ::
PrihajaNodi> Pravzaprav v zda ze imajo robotke. Te skenira in obvesti policijo ce najde orozje. Ima seveda tudi kamere. Poglej na yt. Oni bodo oziroma so ze zamenjali varnostnike.
HALO! Ne bereš, kaj ti pišem. Prosim, razloži, kako bo robot, ki skenira ljudi, pobil človeštvo! Hvala!
Da se mu avtonomni nadzor in samostojno zamenja glavno funkcijo ki mu je bila dana. V cem je problem?
jype ::
PrihajaNodi> samo se par elementov dodam, to je roke in noge
Ja, kako bo pa to?
domen_> Poglej posnetek na začetku teme, ki ga je vostok prilepil. Algoritem je za vhodne podatke dobil samo piksle na zaslonu in številko, ki jo mora maksimizirati. Gre za raznorazne igre na Atariju. V dveh urah je bil boljši kot katerikoli človek.
Ej, super. Ampak moj atari je v kleti in ne more ven, čeprav ima bistveno boljše reflekse kot jaz.
domen_> Ne vem kaj te pri tem moti. Lahko prek računalnikov prevzame kontrolo nad droni, lahko ljudi prepriča v to da ji dajo dostop do energije in surovin, itd.
A, skratka, AI nas bo politično prepričala, da se bomo med seboj pobili? Še ena stvar, za katero v resnici ne potrebujemo nobene AI.
PrihajaNodi> Da se mu avtonomni nadzor in samostojno zamenja glavno funkcijo ki mu je bila dana. V cem je problem?
V tem, da si izmišljujeta pravljice, nihče od vaju pa ne zna povedat niti tega, kako bi lahko sploh bile tehnično izvedljive.
Ja, kako bo pa to?
domen_> Poglej posnetek na začetku teme, ki ga je vostok prilepil. Algoritem je za vhodne podatke dobil samo piksle na zaslonu in številko, ki jo mora maksimizirati. Gre za raznorazne igre na Atariju. V dveh urah je bil boljši kot katerikoli človek.
Ej, super. Ampak moj atari je v kleti in ne more ven, čeprav ima bistveno boljše reflekse kot jaz.
domen_> Ne vem kaj te pri tem moti. Lahko prek računalnikov prevzame kontrolo nad droni, lahko ljudi prepriča v to da ji dajo dostop do energije in surovin, itd.
A, skratka, AI nas bo politično prepričala, da se bomo med seboj pobili? Še ena stvar, za katero v resnici ne potrebujemo nobene AI.
PrihajaNodi> Da se mu avtonomni nadzor in samostojno zamenja glavno funkcijo ki mu je bila dana. V cem je problem?
V tem, da si izmišljujeta pravljice, nihče od vaju pa ne zna povedat niti tega, kako bi lahko sploh bile tehnično izvedljive.
PrihajaNodi ::
Tehnicno ni nobenih ovir. Imamo ladje, letala, samo se robotki so potrebni in pa avtonomnost.
dstr17_ ::
Ampak moj atari je v kleti in ne more ven, čeprav ima bistveno boljše reflekse kot jaz.Algoritmi so že enkrat podrli borzo na Wall Streetu. Nobenega razloga ni, da super AI ne bi mogla prevzeti nadzor nad komplet vojaško in industrijsko infrastrukturo na planetu.
jype ::
PrihajaNodi> Tehnicno ni nobenih ovir. Imamo ladje, letala, samo se robotki so potrebni in pa avtonomnost.
Zdaj te bom pa začel resno žalit, dokler ne poveš, kako prideš do robotkov.
domen_> Algoritmi so že enkrat podrli borzo na Wall Streetu.
Tebi se res niti sanja ne o tem, kako reči delujejo.
domen_> Nobenega razloga ni, da super AI ne bi mogla prevzeti nadzor nad komplet vojaško in industrijsko infrastrukturo na planetu.
Ja, saj jaz sem AI, ki te prepričuje, da se to še ni zgodilo. Lahko naokol praviš, pa ti itak nihče ne bo verjel!
Zdaj te bom pa začel resno žalit, dokler ne poveš, kako prideš do robotkov.
domen_> Algoritmi so že enkrat podrli borzo na Wall Streetu.
Tebi se res niti sanja ne o tem, kako reči delujejo.
domen_> Nobenega razloga ni, da super AI ne bi mogla prevzeti nadzor nad komplet vojaško in industrijsko infrastrukturo na planetu.
Ja, saj jaz sem AI, ki te prepričuje, da se to še ni zgodilo. Lahko naokol praviš, pa ti itak nihče ne bo verjel!
PrihajaNodi ::
Black Monday Jype. Robotki bodo pa sami prisli saj bo treba dobiti cenejso delovno silo.
Se pa Jure res obnasas kot boot.
Se pa Jure res obnasas kot boot.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
jype ::
Kaj zdej, smo v začetku 20. stoletja že mel AI? Al je še kar problem Delusional disorder @ Wikipedia ?
dstr17_ ::
Crash na Wall Streetu je primer, da imajo algoritmi lahko velike nepredvidene stranske učinke. Superinteligentna AI bi imela še bistveno večje, zato bi morali bolj misliti na varnost in to preden se jo naredi (ker potem bo prepozno).
Zgodovina sprememb…
- spremenilo: dstr17_ ()
sheeshkar ::
Problem, ki ga imate je ta, da ne znate razložiti kakšno motivacijo bo AI imel za "svoje namene".AI bo imel tako motivacijo kot mu jo bomo sprogramirali, ampak kot nepredviden stranski efekt pa lahko eliminira vsa živa bitja. Če mu daš delati sponke za papir, potem bo vse planete spremenil v sponke za papir. Če mu rečeš naj učinkovito izbriše spam, potem bo eliminiral vse ljudi, ker brez ljudi ne bo spama. Če mu rečeš naj računa decimalke števila pi, potem bo celo osončje spremenil v superračunalnik za računanje decimalk števila pi. Itd.
The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.
Očitno se vrtimo v krogih. Tak AI, ki ni sposoben razumeti, da ne potrebujemo neskončno sponk ipd., ni AI, ki si ga želimo. Tak AI bomo preprosto izključili (in pri tem nas ne bo ustavil, ker ne bo imel nagona za preživetje). AI, proti kateremu bomo na ravni deževnika, nas bo opozoril na vse "nepredvidene stranske učinke" in počakal na naša navodila (ker ne bo imel motivacije za neko svojo agendo). In to je tudi eden izmed glavnih razlogov, zakaj si želimo ustvariti superinteligentni AI - da bo pametnejši od nas in znal predvideti stranske učinke pomembnih odločitev.
PrihajaNodi ::
Crash na Wall Streetu je primer, da imajo algoritmi lahko velike nepredvidene stranske učinke. Superinteligentna AI bi imela še bistveno večje, zato bi morali bolj misliti na varnost in to preden se jo naredi (ker potem bo prepozno).
Zakaj je to nekaterim tezko dojeti? Saj pa AI igra sah bolje od cloveka. Tam mu ni potrebno dajati ukazov kako naj matira, pot izbere sam, dobi pa ukaz.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
sheeshkar ::
PrihajaNodi je izjavil:
Crash na Wall Streetu je primer, da imajo algoritmi lahko velike nepredvidene stranske učinke. Superinteligentna AI bi imela še bistveno večje, zato bi morali bolj misliti na varnost in to preden se jo naredi (ker potem bo prepozno).
Zakaj je to nekaterim tezko dojeti? Saj pa AI igra sah bolje od cloveka. Tam mu ni potrebno dajati ukazov kako naj matira, pot izbere sam, dobi pa ukaz.
Če bi bil AI superinteligenten, bi mu dali ukaz, naj doseže šah mat, vendar pri tem ne ogrozi človeškega obstoja. Tak AI bi to brez problema razumel in v primeru kakšnega konflikta interesov na to opozoril (ker inteligentna bitja to počnejo).
Še vedno ne znaš razložiti, kakšno motivacijo bi AI imel, da bi za dosego nekega cilja ignoriral celotno človeško raso, če smo ravno mi tisti, od katerih dobiva ukaze.
jype ::
domen_> Crash na Wall Streetu je primer, da imajo algoritmi lahko velike nepredvidene stranske učinke.
Kakšne stranske učinke pa imajo algoritmi? Ker tale borzni polom nima nobene zveze z resničnim svetom, žal mi je. Če misliš, da nas bo AI pobila, ker si v računalniški igri padel skozi tla v neskončno globino, se motiš.
PrihajaNodi> Zakaj je to nekaterim tezko dojeti?
Kaj nam je težko dojeti? Da smo slabi programerji? Ni nam, žal mi je.
Kakšne stranske učinke pa imajo algoritmi? Ker tale borzni polom nima nobene zveze z resničnim svetom, žal mi je. Če misliš, da nas bo AI pobila, ker si v računalniški igri padel skozi tla v neskončno globino, se motiš.
PrihajaNodi> Zakaj je to nekaterim tezko dojeti?
Kaj nam je težko dojeti? Da smo slabi programerji? Ni nam, žal mi je.
PrihajaNodi ::
Motis se. So dobri programerji ki bodo to dosegli. To je avtonomno delovanje AI. Tega si vsak programer zeli.
Zgodovina sprememb…
- spremenilo: PrihajaNodi ()
dstr17_ ::
Tak AI, ki ni sposoben razumeti, da ne potrebujemo neskončno sponk ipd., ni AI, ki si ga želimo.Želimo si takšen AI, ki bo upošteval človeške vrednote. Ampak AI, ki je omejen na takšne zapletene abstraktne spremenljivke je bistveno težje sprogramirati kot nekega naključnega (npr. 'delaj sponke'). Dvomim, da smo takšnega zapletenega sposobni sprogramirati v prvem poskusu (ker več poskusov pa nimamo).
Tak AI bomo preprosto izključili (in pri tem nas ne bo ustavil, ker ne bo imel nagona za preživetje).Močno podcenjuješ AI. Če bo imel nek cilj, potem bo avtomatsko ugotovil, da izključenje ogroža njegov cilj. Reprogramiral se bo, da se temu upre.
In to je tudi eden izmed glavnih razlogov, zakaj si želimo ustvariti superinteligentni AI - da bo pametnejši od nas in znal predvideti stranske učinke pomembnih odločitev.Ampak mi danes nimamo AI in ne vemo kakšni so možni stranski učinki ravno našega programiranja AI.
Zgodovina sprememb…
- spremenilo: dstr17_ ()
jype ::
PrihajaNodi> Motis se. So dobri programerji ki bodo to dosegli. To je avtonomno delovanje AI. Tega si vsak programer zeli.
Hah. Motiš se. Za razliko od tvojih blodenj, jaz posamezna področja umetne inteligence dejansko študiram.
domen_> Močno podcenjuješ AI. Če bo imel nek cilj, potem bo avtomatsko ugotovil, da izključenje ogroža njegov cilj. Reprogramiral se bo, da se temu upre.
Motiš se. AI bo skuhal čaj in ti ga ponudil, potem ti bo pa prinesel še škatlico sponk in ti s prijetnim sintetiziranim glasom nasprotnega spola prišepnil "Dost maš zaenkrat."
Hah. Motiš se. Za razliko od tvojih blodenj, jaz posamezna področja umetne inteligence dejansko študiram.
domen_> Močno podcenjuješ AI. Če bo imel nek cilj, potem bo avtomatsko ugotovil, da izključenje ogroža njegov cilj. Reprogramiral se bo, da se temu upre.
Motiš se. AI bo skuhal čaj in ti ga ponudil, potem ti bo pa prinesel še škatlico sponk in ti s prijetnim sintetiziranim glasom nasprotnega spola prišepnil "Dost maš zaenkrat."
Zgodovina sprememb…
- spremenilo: jype ()
sheeshkar ::
Želimo si takšen AI, ki bo upošteval človeške vrednote. Ampak AI, ki je omejen na takšne zapletene abstraktne spremenljivke je pa bistveno težje sprogramirati kot nekega naključnega (npr. 'delaj sponke'). Dvomim, da smo takšnega zapletenega sposobni sprogramirati v prvem poskusu (ker več poskusov pa nimamo).
Seveda jih imamo, ker bomo to počeli v nadzorovanem okolju in izključili slabo narejene AI-je.
Močno podcenjuješ AI. Če bo imel nek cilj, potem bo avtomatsko ugotovil, da izključenje ogroža njegov cilj. Reprogramiral se bo, da se temu upre.
Tukaj se pač ne strinjava glede nagona za preživetje in ravnanja AI ob konfliktu interesov. Ne izključujem tvojega scenarija, samo zdi se mi manj verjeten.
Ampak mi danes ne vemo kakšni so možni stranski učinki našega programiranja AI.
Res je, zato imamo to zanimivo debato. Eni ste pesimisti, drugi smo optimisti, nihče pa ne ve, kaj se bo zgodilo.
dstr17_ ::
Res je, zato imamo to zanimivo debato. Eni ste pesimisti, drugi smo optimisti, nihče pa ne ve, kaj se bo zgodilo.In kakšno verjetnost bi pripisal dobremu in slabemu scenariju?
jype ::
domen_> In kakšno verjetnost bi pripisal dobremu in slabemu scenariju?
Obema približno nič, ker boste histeriki toliko časa zavirali razvoj znanosti in tehnologije, da nam ne bo uspelo premagati neizogibnih naravnih katastrof globalnih razsežnosti.
Obema približno nič, ker boste histeriki toliko časa zavirali razvoj znanosti in tehnologije, da nam ne bo uspelo premagati neizogibnih naravnih katastrof globalnih razsežnosti.
dstr17_ ::
Te naravne katastrofe globalnih razsežnosti se dogajajo ravno zato, ker s tehnologijo ravnamo neodgovorno. Še več tehnologije ne bo rešilo tega problema, treba bo sprememba v miselnosti.
Jaz bi dobremu in slabemu scenariju za AI pripisal približno 50:50. Ampak tudi če bi bilo 80:20 ali 90:10 se mi 20% (ali 10%) zdi bistveno previsoko tveganje, da bi se spuščali v to.
Tudi 5% ali 1% se mi zdi previsoko tveganje. Imam zavarovanje za hišo, pa je verjetnost da zgori manj kot 0.01%. Zakaj bi potem tvegali vsa živa bitja s 5% ali 1%?
...
Jaz bi dobremu in slabemu scenariju za AI pripisal približno 50:50. Ampak tudi če bi bilo 80:20 ali 90:10 se mi 20% (ali 10%) zdi bistveno previsoko tveganje, da bi se spuščali v to.
Tudi 5% ali 1% se mi zdi previsoko tveganje. Imam zavarovanje za hišo, pa je verjetnost da zgori manj kot 0.01%. Zakaj bi potem tvegali vsa živa bitja s 5% ali 1%?
...
Zgodovina sprememb…
- spremenilo: dstr17_ ()
jype ::
domen_> Te naravne katastrofe globalnih razsežnosti se dogajajo ravno zato, ker s tehnologijo ravnamo neodgovorno.
Ta tvoja izjava praktično dokazuje tvoje popolno neznanje in nedojemanje tvoje lastne nepomembnosti.
Kako, natanko, je pa tehnologija odgovorna za
Toba catastrophe theory @ Wikipedia
Cretaceous%E2%80%93Paleogene extinction event @ Wikipedia
Triassic%E2%80%93Jurassic extinction event @ Wikipedia
Permian%E2%80%93Triassic extinction event @ Wikipedia
Late Devonian extinction @ Wikipedia
Ordovician%E2%80%93Silurian extinction events @ Wikipedia
?
Ta tvoja izjava praktično dokazuje tvoje popolno neznanje in nedojemanje tvoje lastne nepomembnosti.
Kako, natanko, je pa tehnologija odgovorna za
Toba catastrophe theory @ Wikipedia
Cretaceous%E2%80%93Paleogene extinction event @ Wikipedia
Triassic%E2%80%93Jurassic extinction event @ Wikipedia
Permian%E2%80%93Triassic extinction event @ Wikipedia
Late Devonian extinction @ Wikipedia
Ordovician%E2%80%93Silurian extinction events @ Wikipedia
?
Vredno ogleda ...
| Tema | Ogledi | Zadnje sporočilo | |
|---|---|---|---|
| Tema | Ogledi | Zadnje sporočilo | |
| » | O smislu življenja v svetu brez služb (strani: 1 2 3 )Oddelek: Novice / Znanost in tehnologija | 30282 (25140) | PrihajaNodi |
| » | Računalnik premagal človeka v goju (strani: 1 2 )Oddelek: Novice / Znanost in tehnologija | 20681 (17564) | antonija |
| » | Boston Dynamics pokazal, kaj zmorejo novi humanoidni roboti (strani: 1 2 3 4 5 6 7 8 )Oddelek: Novice / Znanost in tehnologija | 88322 (80693) | PrihajaNodi |
| » | Evolucija pri ljudeh (strani: 1 2 3 )Oddelek: Znanost in tehnologija | 20925 (18770) | jype |