» »

Smo ljudje neskončno pametni?

Smo ljudje neskončno pametni?

Okapi ::

Smo ljudje neskončno pametni? V smislu, da ni nobenega rešljivega problema, ki bi ga ne bili sposobni sčasoma rešiti? Zdi se malo verjetno, da bi bili tako zelo pametni. Kar pomeni, da obstajajo rešljivi problemi, ki jih nikakor nismo sposobni rešiti, vsaj ne brez pomoči (recimo s pomočjo AI). Ampak kako lahko vemo, da že AI ni tak sicer rešljiv problem, ki pa mu zaradi svojih možganskih omejitev ne bomo kos? Obstaja kaj več kot wishfull thinking, da smo dovolj pametni za razvoj AI, ali celo, da smo neskončno pametni?

O.

gendale ::

a sčasoma pomeni v končnem času/prostoru ali to ni nujno?
seznam zanč moderatorjev in razlogov da so zanč
http://pastebin.com/QiWny5dV
gor je mavrik apple uporabniček (mali možgani in mali penis)

Fave ::

V vesolju je lahko le končno mnogo problemov.
My mind's a hyper tool that fixes everything.

Invictus ::

itak da smo

poglej debate na tem forumu ...
"Life is hard; it's even harder when you're stupid."

http://goo.gl/2YuS2x

gendale ::

Invictus je izjavil:

itak da smo

poglej debate na tem forumu ...

jype != smo
seznam zanč moderatorjev in razlogov da so zanč
http://pastebin.com/QiWny5dV
gor je mavrik apple uporabniček (mali možgani in mali penis)

Looooooka ::

Za vecino problemov danes ni problem pamet ampak alternativni motivi posameznikov.
Fizika, matematika, kemija...pa clovestvo rabi samo dovolj casa.Tle verjetno mozganov se nismo napeli dovolj.

garamond ::

Okapi, sicer je meni tvoje razmišljanje nekoliko nejasno, ampak matematiki se ukvarjajo s podobnim vprašanjem, ki je še nerešeno (P %3D NP problem) @ Wikipedia.

Aston_11 ::

Se strinjam, pametni smo, kolikor želimo biti pametni, jure pa je najbolj.

WarpedGone ::

Smo ljudje neskončno pametni? V smislu, da ni nobenega rešljivega problema, ki bi ga ne bili sposobni sčasoma rešiti? Zdi se malo verjetno, da bi bili tako zelo pametni. Kar pomeni, da obstajajo rešljivi problemi, ki jih nikakor nismo sposobni rešiti, vsaj ne brez pomoči (recimo s pomočjo AI). Ampak kako lahko vemo, da že AI ni tak sicer rešljiv problem, ki pa mu zaradi svojih možganskih omejitev ne bomo kos? Obstaja kaj več kot wishfull thinking, da smo dovolj pametni za razvoj AI, ali celo, da smo neskončno pametni?

Treba je ločit med problemi, katere smo sposobni rešit sami, in problemi kjer lahko sodeluje več ljudi oz. poljubno mnogo ljudi.

En človek (katerikoli) ni sposoben rešit čisto vseh rešljivih problemov, ker je delovna množica podatkov, katere je treba obdelat, lahko poljubno velika. Je vedno končna a je lahko prevelika da bi jo obvladal z dvemi kg možganov. Al pa 5 kg. Slej ko prej jih je premalo.

Če lahko ljudje sodelujejo med sabo, pa slej ko prej rata problem komunikacija in pravilno razumevanje oz. pravilni prenos idej. Ergo, tudi poljubno mnogo ljudi, oz. poljubmno velik team ne more rešit vsega v principu rešljivega, ker zopet zadene ob mejo skupnega volumna/mase možganov, katero še dodatno bremeni šum v komunikaciji.

Tudi če možgane zamenjamo s kompjuterji (pogugli jupiter brain) še vedno ne bodo neskončno pametni v smislu, da bi kdaj izračunali čisto vse kar se v principu da izračunat. Bo prej zmanjkalo časa/energije.

Torej, vsaka pamet je končna. Vse ne bo nikoli izračunano.
Tudi če ignoriramo trivialne problemi z neskočno dolgim rezultatom (npr. število pi)
Zbogom in hvala za vse ribe

Zgodovina sprememb…

Saladin ::

Vse kar je fizikalno možno je realno možno - z dovolj časa in če smo dovolj pametni, inovativni in srečni nam lahko uspe dobesedno vse.

Seveda je naš vsakdanjik kompromis med navedenim - kompromis ki ga moramo spraviti v sprejemljive okvirje.

Z finitno resursi in časa smo lahko zgolj finitno pametni - kljub temu pa imamo realno "možnost" (in s tem egzistencialni imperativ) da si zagotovimo maks. p/p za maks. število ljudi za maksimalno dolgo. To pa je višanje biološke starosti, kot to npr. svetuje Aubrey de Grey, paralelno pa čisto tehnološko v smislu transhumanizma, posthumanizma pa vse do tehnološke singularnosti in popolne asimilacije dostopnih resursov.

Edini realni sinonim neskončnosti pa je multivers (neke vrste) in past eternity, kar privede do temeljnih egzistencialnih vprašanj (in "nujnosti"), ki ne spadajo sem.

Ali smo dovolj pametni (ali vsaj sposobni to pamet dovolj nadgraditi)? Da. Žal pa jo prevečkrat izkoriščamo destruktivno namesto konstruktivno - kar zgolj povečuje možnost nepovratne in totalne pogube - izumrtja še preden to fizikalne okoliščine vesolja (morda) zdiktirajo.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Okapi ::

Okapi, sicer je meni tvoje razmišljanje nekoliko nejasno, ampak matematiki se ukvarjajo s podobnim vprašanjem, ki je še nerešeno
Ja, malo sem poenostavil vse skupaj, drugače pa ima vprašanje več različnih vidikov.

Recimo - a lahko možgani "pogruntajo" sami sebe? V smislu, a lahko s svojo pametjo naredimo AI. A lahko več možganov v sodelovanju pogrunta delovanje (enih) možganov? Oziroma še korak naprej - a lahko človeška pamet pogrunta nekaj, kar je pametnejše od nje same? V fiziki bi bilo to recimo analogno "triku", da se za lase sam sebe potegneš iz vode. A obstaja analogna omejitev v informacijski teoriji?

Drug vidik je, kako tesno so povezani "gola" pamet (inteligenco), hitrost obdelave podatkov in velikosti pomnilnika. Oziroma, a lahko pamet sploh ločimo od hitrosti obdelave podatkov in velikosti pomnilnika.

O.

Okapi ::

z dovolj časa in če smo dovolj pametni, inovativni in srečni nam lahko uspe dobesedno vse.
Še eno prispodobo bom opisal. Šimpanzi so relativno pametni, marsikateri problem znajo rešiti. Kako se oni zavedajo lastnih razumskih omejitev morda ne bomo nikoli vedeli, lahko pa ljudje s svojo pametjo zanesljivo vemo, da šimpanzi nikoli ne bodo obvladali integralov.

A si je mogoče predstavljati neko tujo inteligenco, ki je od ljudi toliko naprednejša, kot smo ljudje naprednejši od šimpanzov? Ki nas opazuje, in si misli, saj so kar pametni, tile človeki, marsikateri problem znajo rešiti, ampak problema xxx pa nikoli ne bodo znali rešiti.

O.

Saladin ::

da šimpanzi nikoli ne bodo obvladali integralov.

Z dovolj časa v primernem okolju skozi evolucijo bi lahko.

A si je mogoče predstavljati neko tujo inteligenco, ki je od ljudi toliko naprednejša, kot smo ljudje naprednejši od šimpanzov? Ki nas opazuje, in si misli, saj so kar pametni, tile človeki, marsikateri problem znajo rešiti, ampak problema xxx pa nikoli ne bodo znali rešiti.

Saj si bral Thomasov Protokol in moja razmišljanja - vkomot si lahko predstavljamot tako inteligenco. Omejeni smo samo in zgolj z svojim okoljem (katerega direkten del smo) - z zmogljivostmi in omejitvami tega okolja. Seveda, ča nas nekdo omejuje (kot lobotomirance, simulirance,...) ali če je okolje "iluzija" (da je naša predstava realnosti res popolno zgrešena - da je tisočletno akumulirano znanje laž/iluzija), potem smo omejeni z takim okoljem.

Ampak večinski konsenz je, da nismo v takem okolju. Da je vesolje/okolje vsaj podobno temu, kakor si ga predstavljamo in predvsem realno in svobodno dostopno. Skladno s tem smo omejeni zgolj z realnostnmi in dostopnostmi tega okolja. Karkoli je fizikalno možno (da ni fizikalnih ovir proti v smislu kompletne rešitve A do Ž) je realno možno - na nam pa je, da poskušamo zrealizirati te možnosti.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Okapi ::

Z dovolj časa v primernem okolju skozi evolucijo bi lahko.
Ni nujno. Lahko da so zašli v slepo ulico razvoja in ne morejo več na pot večje inteligence. Ampak tudi če šimpanzi lahko sčasoma z evolucijo postanejo pametnejši, kot so sedaj, to še vedno ne pomeni, da lahko z evolucijo postanemo poljubno zelo pametni. Kot prvo je skoraj sigurno, da možgani ne morejo v nedogled rasti oziroma postajati čedalje bolj zapleteni, in kot drugo, tudi če smo še daleč od te omejitve, ni nujno, da smo na evolucijski poti do tja. Mogoče smo tudi mi zašli v slepo ulico in so morda hobotnice tiste, ki imajo potencial čez 100 milijonov let postati veliko pametnejše od sedanjih ljudi.

O.

Saladin ::

. Kot prvo je skoraj sigurno, da možgani ne morejo v nedogled rasti oziroma postajati čedalje bolj zapleteni,

Sigurno je to da "lahko" (ob primernih okoliščinah) postanejo toliko kompleksni, kot to dopušča okolica.

tudi če smo še daleč od te omejitve, ni nujno, da smo na evolucijski poti do tja

Kje je "tja"?
Kompleksnost človeškega znanja (kot celota) na dolgi rok vedno narašča. Tehnologija, zdravstvo, bioinženiring, nanoinženiring,... Vse dolgoročno narašča. Slepe ulice si lahko dopustimo - dokler le te niso brezizhodnega in nepovratnega značaja bomo vedno napredovali. Podobno velja za socialne vidike - težnja po maks. p/p vsem ljudem narašča - manjkajo nam le sredstva za to.

Kaj točno te zanima - kako veliki in kompleksni so bodo lahko človeški možgani? Na Zemlji si omejen z primernim telesom/ogrodjem za te možgane z primerno oskrbo in zaščito. Veliki so lahko toliko, da se ne sesedejo pod lastno težo/gravitacijo ali če se/jih spremenijo(spremenimo) na boljši substrat. Realno to ni praktično uporabno - je pa ob primernih pogojih praktično izvedljivo.

Potrebna bo sprememba na boljši substrat (kompaktnejši, neobčutljivejši, trajnejši, hitrejši,...)
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Okapi ::

Kompleksnost človeškega znanja (kot celota) na dolgi rok vedno narašča.
Ja, ampak pametni pa nismo verjetno nič bolj od kromanjoncev, sigurno pa ne bolj od ljudi v antiki. Vprašanje je, ali lahko s to pametjo sčasoma rešimo vse rešljive probleme. Ali je torej mogoče vse rešiti z našo pametjo plus pridnim & vztrajnim kopičenjem znanja, ali pa obstajajo rešljivi problemi, ki jih tako ni mogoče rešiti.

O.

Saladin ::

Ja, ampak pametni pa nismo verjetno nič bolj od kromanjoncev, sigurno pa ne bolj od ljudi v antiki.

Ultimativno ne šteje pamet posameznika - ampak globalno znanje skupine ali civilizacije.
Posameznik je izjemno omejen s tem, kar lahko izmisli in naredi sam. Za vsako malce bolj napredno tehniko potrebuje soljudi, skupno akumulirano znanje in moč, skupno organizacija resursov za predelavo v kompleksnejše enote, itd...

Vprašanje je torej - ali smo kot civilizacija dovolj pametni? Da - kot civilizacija imamo potencial narediti absolutno vse fizikalno zmožno. Posameznik tega potenciala nima (razen če mu je dan na roko od kake prejšnje civilizacije).
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Zgodovina sprememb…

  • spremenil: Saladin ()

Okapi ::

Da - kot civilizacija imamo potencial narediti absolutno vse fizikalno zmožno. Posameznik tega potenciala nima (razen če mu je dan na roko od kake prejšnje civilizacije).
A je to samo nedokazana hipoteza, wishfull thinking, ali imamo kakšen dokaz ali indic, ki bi govoril tej hipotezi v prid?

O.

jype ::

Verjetno je ponesreči mene štel zraven v to civilizacijo.

You humans are all alike.

Jaz sem prepričan, da obstajajo rešljivi problemi, ki jih ne bomo nikoli rešili, ker se vesolje širi.

Lonsarg ::

Jaz bi pa rekel, da če kakega problema ne bomo rešili, bo to zaradi omejitev samih zakonov fizike, ki nam tega ne dovoljujejo in ne bo omejitev premalo pameti, oziroma bo omejitev pač čas.

Trditev bi poskušal dokazati tako:
"pamet" je pač nek skupek algoritmov. Če je problem rešljiv, to pomeni da ziher obstaja vsaj en skupek algoritmov, ki ta problem reši.

V neskončno časa smo z našimi možgani zmožni neskončno skupkov algoritma ustvari(lahko evolucija, lahko random generator, lahko pametni selekcijski generator...) In med temi neskončno algoritmi je seveda tudi algoritem, za prav vsak rešljiv problem.

Torej poleg samih zakonov fizike zna biti tudi čas tista stvar, ki nam bo preprečila rešitev katere stvari. Samo to je dokaj malo verjetno bi jaz hiter gues naredil, ker ti niti slučajno ne rabiš random generatorja, pač pa lahko generiraš samo take, ki grejo v večjo kompleksnost, pa z tem porabiš manj dela, ker ne greš vseh neskončno kombinacij gledat, ampak si neskončnokrat hitrejši v približevanju pravega algoritma, kot je hiter naključni generator.

Zgodovina sprememb…

  • spremenil: Lonsarg ()

figula ::

Toliko uporabnikov tukaj je vesoljcev, da sem se že veselila, kaj vse bom v tej temi prebrala. Se bojijo, da jih bomo razkrili, če bodo pokazali preveč pameti, kaj? 8-)

OK. Mislim, da nismo pametni. Če pogledamo maso, se še vedno ravnamo po določilih pra-nagona in pravila preživetja. Če gredo vsi v eno smer – je bolje, da jo mahnemo z njimi, da nas ne pregazijo. In prispevamo v kolektivno pamet. Saj je nekaj te kolektivne pameti čisto pametno imeti, da nas drži v okvirjih pametnega obnašanja. :)

Tu in tam gre kakšna pamet po svoji poti in odskoči iz množice navzgor, pa navzdol, pa sama vase in tako naprej. Iz perspektive zunanjega opazovalca postane kolektivna pamet kot ježevec – znotraj je masa, ven pa štrlijo posamezne šprikle. Sčasoma se vedno več pameti iz mase odloči imeti svojo pamet in postanejo nove šprikle v ježevcu.

Ko iz ježevca gleda ustrezno veliko število šprikel, se izvede proces njegove mutacije = spremeni se v eno novo veliko kolektivno pamet, tokrat na malo višjem nivoju. Saj si predstavljate, ne?

Ciklus se je ponavljal skozi zgodovino nekajkrat, še vedno pa premalo, da bi bili pametni. Včasih nam jo zagodejo tudi šprikle, ki pozabijo na pamet in bi rade šle samo malo nabirat gobe tjale v oni gozdiček in tako močno rinejo, da se celotna kolektivna pamet odpravi po gobe.

Saladin ::

Jaz sem prepričan, da obstajajo rešljivi problemi, ki jih ne bomo nikoli rešili, ker se vesolje širi.

Ta problem je striktno fizikalen - lokalnost. Je fizikalna omejitev, preko katere (najverjetneje) ne moreš.
Vse, kar pa je znotraj (naših) fizikalnih zmožnosti - pa je tudi realno dostopno. Znotraj tega je možno fizikalno vse - razlika je le v verjetnostih, da zrealiziramo vse te možnosti.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

jype ::

Saladin> Vse, kar pa je znotraj (naših) fizikalnih zmožnosti - pa je tudi realno dostopno. Znotraj tega je možno fizikalno vse - razlika je le v verjetnostih, da zrealiziramo vse te možnosti.

Ampak zaradi narave vesolja je tega vedno manj.

Saladin ::

Ampak zaradi narave vesolja je tega vedno manj.

Poenostavljeno - da.
Če je naše vesolje (v brutto kontekstu prostor/časa karkšnekoli oblike) en samcat unikaten dogodek (tako za zdaj, vselej in vekomaj) iz Ex Nihila nazaj v Nihilo (ali future eternally dead), potem da.
Če nismo omejeni z svojo (ne)sposobnostjo in srečo, smo zasigurno z časom in entropijo.

Ampak trust me - ne gre se za unikatno vesolje ;)
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

jype ::

Saladin> Ampak trust me - ne gre se za unikatno vesolje ;)

What do you care, you're not getting into any others.

Saladin ::

jype je izjavil:

Saladin> Ampak trust me - ne gre se za unikatno vesolje ;)

What do you care, you're not getting into any others.


The question is - did others get here before us (in ne, ne mislim na male zelene možiclje)?
Ampak za to imamo druge teme - move on.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Zgodovina sprememb…

  • spremenil: Saladin ()

Okapi ::

in ne bo omejitev premalo pameti, oziroma bo omejitev pač čas.
Za šimpanzjo pamet je evidentno, da ne more rešiti vseh problemov, ne glede na to, koliko časa šimpanzi gruntajo (in ne sedaj čakati na evolucijo, da postanejo ljudje;)). Recimo, da smo ljudje dovolj pametni za vse probleme. Če predpostavimo, da je inteligenca vsaj približno zvezna, si lahko zamislimo 10 hipotetičnih bitij na lestvici pameti med nami in šimpanzi. Človeška vrsta ima povprečen IQ 100 (predpostavimo za hip, da IQ res meri inteligenco), šimpanzi pa recimo IQ 40. To pomeni, da bi nekaj teh bitij (oziroma vrst, civilizacij, da ne bo kdo razmišljal o posameznikih) bilo premalo pametnih za rešitev vseh problemov, nekaj pa dovolj. Ampak kako lahko vemo, da je meja res nekje med IQ 40 in 100 in smo ljudje na drugi strani te meje?

Kako lahko vemo, da je civilizacija, kjer je povprečni IQ 100, dovolj pametna za potencialno rešitev vseh rešljivih problemov. Kaj pa če mora biti povprečna inteligenca vrste 150, ali 250?

O.

Saladin ::

Kako lahko vemo, da je civilizacija, kjer je povprečni IQ 100, dovolj pametna za potencialno rešitev vseh rešljivih problemov.

Ne gre se za individualen ali povprečen IQ - ampak za skupek spretnosti, s katerimi si napravimo orodja, z katerimi presežemo svoje telesne omejitve (kar bo prej ko slej, v smislu čistega znanja, kak AI ali bruteforce komputacijski stroj)

IQ je zgolj eno izmed meril in označuje splošno znanje - ne pa tudi definitivne potrebne spretnosti. Večji IQ pomeni prednost in večjo verjetnost za dosego cilja - ni pa nobena garancija. Zakaj torej ljudje iin ne šimpanzi? Ker smo predaleč pred njimi da bi nas dohiteli (saj jim kaj takega tudi ne bi dopustili).

Ne zgolj prednost v IQ - govorim o prednosti v praktičnema akumuliranem znanju in spretnostih.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Okapi ::

Po tej logiki bi bila lahko dovolj pametna že kakšna od nas manj pametna bitja - ki so po pameti nekje med šimpanzi in nami. Kako lahko vemo, da smo ljudje res na drugi strani te meje in s tem dovolj pametni, da ne bomo naleteli na problem, ki mu nikakor ne bomo kos, in to zgolj zaradi omejitev, ki jih postavlja naša pamet?

O.

Saladin ::

Kako lahko vemo, da smo ljudje res na drugi strani te meje in s tem dovolj pametni, da ne bomo naleteli na problem, ki mu nikakor ne bomo kos, in to zgolj zaradi omejitev, ki jih postavlja naša pamet?

Zato ker imamo edini dovolj dobro predstavo o vesolju, o zmožnostih in omejitvah samega vesolja in zmožnostih in omejitvah nas samih (ter kako jih doseči/zaobiti).
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

GoodSatanist ::

Ma boli te kurac za neke fiktivne probleme zlaganja legokock. Vse se reši, sam smrt se ne reši, kot pravi stara ljudska modrost.

Torej poglejmo, kako blizu smo rešitvam:

-rak
-smrt
-staranje
-preselitev na druge planete
-hladna fuzija.

O teh problemih nimamo blage veze (še?).

Iatromantis ::

Okapi je izjavil:

Smo ljudje neskončno pametni? V smislu, da ni nobenega rešljivega problema, ki bi ga ne bili sposobni sčasoma rešiti? Zdi se malo verjetno, da bi bili tako zelo pametni. Kar pomeni, da obstajajo rešljivi problemi, ki jih nikakor nismo sposobni rešiti, vsaj ne brez pomoči (recimo s pomočjo AI). Ampak kako lahko vemo, da že AI ni tak sicer rešljiv problem, ki pa mu zaradi svojih možganskih omejitev ne bomo kos? Obstaja kaj več kot wishfull thinking, da smo dovolj pametni za razvoj AI, ali celo, da smo neskončno pametni?

O.

Dobro vprašanje, a mene moti izbira besede 'pametni', ki vprašanje naredi preveč lingvistično, nasproti praktičnemu - mislim v tem smislu, pamet invocira neumnost in za oboje pravzaprav ne obstaja dobra definicija, saj smo lahko oboje hkrati in to kaže na besedno naravo opisovanega pojma, kjer se trudimo ujeti neulovljivi smisel.

Mogoče je pa bolje reči, da smo npr. dovolj bistri, da v tem, ko stikamo in se posvečamo zunanjemu svetu, najdemo neke povezave, ki se kažejo v tehnološkem razvoju, vendar nismo mi tisti, ki smo tako 'pametni', da vse to izumimo, pač pa je nekaj v nas, kar se rado igra s stvarmi in to s seboj prinese neustavljive posledice, za katere pa sploh ni nujno, da jih dojamemo.

Če pogledaš moderni svet ali zgodovino dogajanja okoli prelomnih odkritij, potem ni čudno, da smo si za opis tega dogajanja izbrali besedo - disruptivno. In mogoče tukaj najdeš nekakšno nujnost, ki ni le wishufull thinking o možnostih AI-ja.

Saladin ::

Mogoče je pa bolje reči, da smo npr. dovolj bistri

Beseda ki jo iščeš je "spretni".
Na koncu štejejo zgolj spretnosti - kako si prišel do njih je sekundarno.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

nurmaln ::

GoodSatanist je izjavil:

Ma boli te kurac za neke fiktivne probleme zlaganja legokock. Vse se reši, sam smrt se ne reši, kot pravi stara ljudska modrost.

Torej poglejmo, kako blizu smo rešitvam:

-rak
-smrt
-staranje
-preselitev na druge planete
-hladna fuzija.

O teh problemih nimamo blage veze (še?).


-rak - bo rešeno z uploadom
-smrt - bo rešeno z uploadom
-staranje - bo rešeno z uploadom
-preselitev na druge planete - bo rešeno malo po uploadu, ko ne bo potrebno razmišljat preveč o ustrezni atmosferi, prehrani, temperaturi...
-hladna fuzija - hladna ali ne hladna ni tolk pomembno, važno da bo fuzija katere energijo bomo lahko ponucal, to pa ni prov daleč
"I will be quoted in someone's signature,
even if I have to do it myself!" - nurmaln

ripmork ::

Menim, da sta pojma "pamet" in "neskončno" že sama po sebi tako večplastna, da nekih realnih izpeljav tu ne more bit.
morda je pa prava pamet celo ustvaritev pogojev, s katerimi se izogneš nastanku problema, namesto samega umazanega procesa reševanja?
Ali je problem nekaj absolutno definiranega, ali govorimo o problemih, kot jih vidi (in si jih sam ustvarja) posameznik? Za eno najstnico je zdejle glavni življenjski problem, da imajo vrstnice večje joške. Kje je rešitev "problema" - v spremembi razmišljanja ali kakem čudežnemu odkritju, ki bi na naraven, instanten in učinkovit način poštimal fizikalijo?

vedno se omenja IQ, pogosto pa se pozablja EQ... ki je velikokrat še precej bolj pomemben.

Kar pomeni, da obstajajo rešljivi problemi, ki jih nikakor nismo sposobni rešiti, vsaj ne brez pomoči (recimo s pomočjo AI)

A ni ravno to uporaba prave pameti? Da ustvariš stroj, ki na videz nerešljiv problem reši namesto tebe? :)

Okapi ::

Ja, to je precej tricky zadeva. Če naredimo AI, ki je sposobna rešiti nek problem, ki ga ljudje sicer sami nismo sposobni rešiti, ali lahko vseeno rečemo, da je problem rešila naša pamet (ker je pač naredila orodje, s katerim smo rešili problem). Kaj pa, če lahko problem reši šele AI, ki ga je naredila AI?

Velja mogoče trditev, da ni naša pamet sposobna rešiti problema, ampak ga lahko reši samo AI, samo za probleme, za katere mi sploh ne vemo, da obstajajo, oziroma si jih sploh nismo sposobni predstavljati?

O.

WarpedGone ::

Nič od tega ni clear-cut, so odtenki sivine.
Zbogom in hvala za vse ribe

Saladin ::

da je problem rešila naša pamet

Naša spretnost

kaj pa, če lahko problem reši šele AI, ki ga je naredila AI?

Evolucija

Velja mogoče trditev, da ni naša pamet sposobna rešiti problema, ampak ga lahko reši samo AI, samo za probleme, za katere mi sploh ne vemo, da obstajajo, oziroma si jih sploh nismo sposobni predstavljati?

Itak.
Moraš seveda razlikovat med tem, kaj bomo realno sposobni skomputirat (da poznaš proces računanja - manjka ti le časa, da bi to ročno delal)
in med tem, česar sami nikoli ne bomo razumeli (preveč omejen intelekt - IQ kot temu praviš) - da je potrebna višja inteligenca ali AI ki to zmore.

Čeprav bo slednje prek ko slej postalo praktična realnost, pa vsaj na teoretičnem nivoju mislim, da lahko ljudje razumemo prav vse kot kak super AI - le da smo veliko bolj počasni v tem in da potrebujemo zadevo razčlenjeno v manjše kose z enostavnejšimi pravili.

Tudi osnošolec lahko "razume" vse formule v kvantni mehaniki (koliko je pač razumemo danes). Z dovolj časa in vztrajnosti bi razumel vsako posamezno formulo in kako sestavljajo celoto. Seveda pa ne bi mogel čisto vse formule poznati na pamet in jih sve paralelno sprocesirat.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Okapi ::

česar sami nikoli ne bomo razumeli (preveč omejen intelekt - IQ kot temu praviš) - da je potrebna višja inteligenca ali AI ki to zmore.
To je en del mojega vprašanja - če takšna omejitev obstaja, kako zelo smo lahko prepričani, da ni že sama AI tak problem, ki ga ne bomo uspeli sami rešiti (in potem se nam seveda zatakne še pri vse tistih, pri katerih bi nam pomagala AI).

Tudi osnošolec lahko "razume" vse formule v kvantni mehaniki
To je pa drugi del problema. Osnovnošolec mogoče res lahko razume kvantno mehaniko, ampak mogoče obstajajo problemi, v primerjavi s katerimi je kvantna mehanika preprosto tretje orehov (v dobesednem smislu, se pravi nekaj, za kar so dovolj pametni že šimpanzi).

Kako zelo smo lahko prepričani, da smo res dovolj pametni, da ...
... lahko ljudje razumemo prav vse kot kak super AI - le da smo veliko bolj počasni v tem in da potrebujemo zadevo razčlenjeno v manjše kose z enostavnejšimi pravili.
Obstaja kakšen otipljiv argument za to trditev, ali si le želimo, da bi bilo to res?

O.

GoodSatanist ::

nurmaln je izjavil:

GoodSatanist je izjavil:

Ma boli te kurac za neke fiktivne probleme zlaganja legokock. Vse se reši, sam smrt se ne reši, kot pravi stara ljudska modrost.

Torej poglejmo, kako blizu smo rešitvam:

-rak
-smrt
-staranje
-preselitev na druge planete
-hladna fuzija.

O teh problemih nimamo blage veze (še?).


-rak - bo rešeno z uploadom
-smrt - bo rešeno z uploadom
-staranje - bo rešeno z uploadom
-preselitev na druge planete - bo rešeno malo po uploadu, ko ne bo potrebno razmišljat preveč o ustrezni atmosferi, prehrani, temperaturi...
-hladna fuzija - hladna ali ne hladna ni tolk pomembno, važno da bo fuzija katere energijo bomo lahko ponucal, to pa ni prov daleč


Če verjameš v flying spaghetti monster.

Saladin ::

če takšna omejitev obstaja, kako zelo smo lahko prepričani, da ni že sama AI tak problem, ki ga ne bomo uspeli sami rešiti

Na temelju tehnološkega napredka (računalniški HW in SW), kateremu ni videti koncu. Dokler ne vidimo fizikalnih omejitev - jih ni.

Osnovnošolec mogoče res lahko razume kvantno mehaniko, ampak mogoče obstajajo problemi, v primerjavi s katerimi je kvantna mehanika preprosto tretje orehov

A si lahko zamisliš kak tak problem? Dokler si ne moreš niti zamislit takih omejitev, potem jih za vse praktične pojme ni.

.. lahko ljudje razumemo prav vse kot kak super AI - le da smo veliko bolj počasni v tem in da potrebujemo zadevo razčlenjeno v manjše kose z enostavnejšimi pravili.

Obstaja kakšen otipljiv argument za to trditev, ali si le želimo, da bi bilo to res?

Čisto vse kar poznamo in obdelujemo do dandanes tudi razumemo. Nismo ustvarili računalnika, ne da bi razumeli v detajle kako deluje - tudi če ne moremo direktno slediti kakšni kompleksni simulaciji v superračunalnikih.

Čisto vsako omejitev, ki smo jo včasih smatrali za nepremagljivo, smo ščasoma premagali. Razen ultimativnih fizikalnih (lokalnost, entropija, prostor/čas, ultimativen subsrat, "izven",..) in praktičnih omejitev ni utemeljenega razloga, da ne bi ščasoma osvojili čisto vse, kar nam je dostopno.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

Okapi ::

A si lahko zamisliš kak tak problem?
Ne morem si ga po definiciji (a si lahko zamisliš problem, ki si ga ne moreš zamisliti) ;) Ampak lahko pa si predstavljam šimpanza, ki rešuje svoje probleme (kako streti oreh, s čim izbezati termita ...) in probleme, ki se jih šimpanzi ne morejo niti približno zavedati (recimo hitrost svetlobe). Vidim torej, da obstajajo problemi, ki jih določena vrsta inteligentnih bitih lahko reši, in problemi, ki daleč presegajo sposobnosti teh inteligentnih bitij.

Čisto vsako omejitev, ki smo jo včasih smatrali za nepremagljivo, smo ščasoma premagali.
Ja, ampak ali res lahko na osnovi tega sklepamo, da se bo to še kar nadaljevalo, v nedogled? To je imho le optimistična hipoteza, brez kakšnih zelo otipljivih podkrepitev. Je pa seveda res, da tudi pesimistična različica nima kakšnih zelo otipljivih podkrepitev.

O.

Zgodovina sprememb…

  • spremenil: Okapi ()

Saladin ::

Ja, ampak ali res lahko na osnovi tega sklepamo, da se bo to še kar nadaljevalo, v nedogled? To je imho le optimistična hipoteza, brez kakšnih zelo otipljivih podkrepitev.

To ni hipoteza - ljudje smo brutto-globalno vedno napredovali. Razen če zaj... ali zavestno ustavimo napredek ni videt (ne moremo si niti predstavljat), da bi obstajale kake nerešljive ovire.
Znotraj omejitev našega samega vesolja, seveda.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

innerspace ::

Okapi je izjavil:

Vidim torej, da obstajajo problemi, ki jih določena vrsta inteligentnih bitih lahko reši, in problemi, ki daleč presegajo sposobnosti teh inteligentnih bitij.

O.


Torej lahko sklepas, da obstajajo problemi, ki se jih kot inteligentna bitja ne uspemo(nismo sposobni) zavedati, vsaj ne s trenutnim mindsetom.
Mi pride na pamet znana Einsteinova misel.


Saladin> Znotraj omejitev našega samega vesolja, seveda.

A ni ta koncept po defaultu podvrzen nasim omejitvam v razumevanju vesolja?


Ce parafraziram zacetno vprasanje; "Ali lahko evoluira neskoncna inteligenca(pamet)?"
Sounds familiar? :)
Donate BTC here: 35KR84u3rXN3in1kCw9YHRz4WF3r5kfFF4

Saladin ::

Saladin> Znotraj omejitev našega samega vesolja, seveda.

A ni ta koncept po defaultu podvrzen nasim omejitvam v razumevanju vesolja?

Primer:
Omejen sem z samo hitrostjo svetlobe.
Nisem pa omejen, da ne bi poznal omejitve svetlobe in maksimalno možne uporabnosti te svetlobe, z vsemi njenimi omejitvami in prednostmi.

Ta svetlobna omejitev res obstaja - ampak le ta velja za naše celotno vesolje in vse inteligence v njem. Tudi maks. možna inteligenca z max. IQ je ne more zaobiti (OK, evtl. backdoor z črnimi luknjami, črvinami, etc... - kar pa je dostopno tudi nam, če je to fizikalno možno).
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

innerspace ::

Saladin je izjavil:

...OK, evtl. backdoor z črnimi luknjami, črvinami, etc... - kar pa je dostopno tudi nam, če je to fizikalno možno.


Lih v tem je point; mi ne vemo, ce je to fizikalno mozno.
Lahko pa predpostavimo, da neskoncna inteligenca pozna vse moznosti.

A to ze spada v drugo temo.
Donate BTC here: 35KR84u3rXN3in1kCw9YHRz4WF3r5kfFF4


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Umetna inteligenca / AI debata (strani: 1 2 3 4 )

Oddelek: Problemi človeštva
17118965 (10692) pis-it
»

Človeški jezik (strani: 1 2 )

Oddelek: Znanost in tehnologija
7312678 (8993) kuall
»

Domače branje: Christopher Steiner: Automate This (2012) (strani: 1 2 )

Oddelek: Novice / Domače branje
7211370 (8152) jype
»

Vera - religija (strani: 1 2 )

Oddelek: Loža
769374 (8068) gruntfürmich

Več podobnih tem