Protokol

Okapi je 17. jan 2011 ob 01:08 izjavil:

Stvari so uresničljive, ampak ne čez 10 ali 20 let, temveč čez 100 ali 200 let. Jebiga, velik zalogaj
O.

Okapi zagotovo poznaš Kurzweila. On je nakakšen srednješolski standard za AI.
Pa povej, kje se v glavnem nesporna svetovna avtoriteta na tem področju moti.
Če smo na tem, da se oziramo dejansko na avtoritete na področjih. Ne more biti avtoriteta na področju AI Slavoj Žižek, ki ne loči Watson-IBM dosežka od projektov recimo Ben-a Goerzel-a.
Če si skeptik razloži. Da je zalogaj majhen ni rekel nihče. Kako velik je, pa menim da Kurzweil konkretno precej bolje ve po lastnih izkušnjah od vseh nas, saj ima na področju že kar nekaj prijavljenih patentov in dosežkov.

Pa pustimo zdaj 10 ali 20. To je zelo verjetno preoptimistično in tipično Thomasovsko:)

Skratka, teza, da je razviti AI v principu nekaj nemogočega, je skrajno malo verjetna. Sesuti bi se moral praktično celoten worldview, ki smo ga zgraditi od prosvetljenstva dalje in je doslej tako zelo dobro deloval...

Se ne morem bolj strinja. Nemožnost AI, pomeni elemantarno faljenost naše znanosti. Vendar VEČINA je prepričana, da to itak tako je, "ker znanost ne razloži duhovnosti" ali nek bluz v tem slogu.

Bo "računalnik delal samo kič, ta pa ni trajen" - ali nekaj temu podobnega.

Teh kreacionistov ne prepričaš, fertik.

takšnim in drugačnim kljukcem

Ja. Vendar sem spada 99% ljudi na Zemlji. Sicer meni je jasno, da njihovo mnenje ni vredno počenega groša, a če z njimi debatiraš, je to tko.

Katera večina?

Večina ljudi na Zemlji.

Večina ljudi aka povprečni indijanec v pragozdu ki ga vprašaš:)

Ja in seveda pozabil poudariti glavno:)

Zakaj biti pripravljen? In zakaj misliti naprej?
Hja to vendarle drugod že počasi počnemo. Ena taka meglena nevarnost, ki niti ni ne vem kako realno smrtonosna za človeštvo, po nobeni tezi, je CO2 kolobocija. In ta požre tone sociološke energije! +denarja, znanstvenih in sociološki 'resourcov', sponzoriranih privat in od države!

AI? Nemprimerno manj, vsaj sociološke energije, pa gre za stvar, ki po predvidevanjih praktično vseh strokovnjakov, lahko človeštvo enostavno scvre BREZ pardona, za vekomaj.

Pa povej, kje se v glavnem nesporna svetovna avtoriteta na tem področju moti.

Predvsem je veliko preveč optimističen v svojih napovedih

Drugače pa se mi zdi, da si nanotehnologijo in njene zmožnosti nekoliko preveč naivno predstavlja, pri zmogljivosti AI nekoliko spregleda, da "genius is one percent inspiration, ninety-nine percent perspiration" (poskus je vseeno treba fizično narediti, zgraditi teleskop ali pospeševalnik ...), pri singularnosti pa me "skrbi", da ni dobro premislil, kako veliko in redko je vesolje, in kako počasna je svetlobna hitrost.

Po mojem tudi dela malce "račune brez človeka". En tak primer sem nekoč že omenil - nihče od futuristov ni napovedal mobilcev, kot se sedaj uporabljajo, SMS-jev, tviterja ... Vsi so tehnološki napredek na tem področju videli zgolj utilitarno (komunikatorji v Startreku, recimo), nihče ni pomislil, da bodo ljudje to uporabljali za čvekanje. Podobno se zna zgoditi s še kakšno tehnologijo prihodnosti.

Upload (oziroma celo njegovi prvi približki) se na primer zna spremeniti v eno vsesplošno človeško zasvojenost z VR igrami. Če bodo do takrat rešeni glavni problemi človeštva (roboti bodo delali, energija bo brezplačna, bolezni in staranja ne bo več) je vprašanje, koga bo sploh še dovolj zanimalo karkoli drugega.

No, nekaj jih sigurno še bo, in ti se bodo verjetno razkropili po vesolju. Za katerega se bo izkazalo, da je preveliko in preredko, fizikalne omejitve (svetlobna hitrost, recimo), pa prevelike za praktične stike med različnimi deli vesolja.

Drugače je pa že Yogi Berra rekel - napovedovati je težko, še zlasti prihodnost

O.

Nanotehnologija?
morda je par let, nujnega razvoja preskočil, sicer pa polje dejansko obljublja.

Ne vem čisto točno, kako si to predstavlja Kurzweil, ampak takšnile nanorobotki, kot si jih navadno predstavljajo ljudje, da bodo popravljali naše celice, so fizikalno nemogoči.

Ne upoštevajo recimo, da kri v "nanomerilu" ni takšna tekočina, kot si predstavljamo, ampak gosto blato. Trenje, težnost ... v nanomerilu deluje zelo drugače.

Ampak odgovor je, ker upload obljublja še neprimerno več, ceneje (zastonj:) in trajnejše.

Nisem mislil, da se ne bi uploadali, ampak kaj bi v uploadu počeli. Če boš še naprej preganjal zmaje in reševal princeze, kaj smo pravzaprav s tem zares profitirali?

O.

Ogromno lahko profitiraš, že s čisto malo tweaka scenarija.

Na primer kaj?

O.

Okapi se samo pretvarja, da ne razume...

kot si lahko razočaran, ko ugotoviš, da na superduper hi-tech vzmetnici za 5 jurjev evrov in v postelji iz mahagonija z zlato intarzijo ne spiš nič bolje kot na čisto navadnem jogiju.

Ker imaš možgane iste. Če pa možgane zamenjaš je pa oboje lahko x*mil bolje.

Če pa možgane zamenjaš je pa oboje lahko x*mil bolje.

To je tudi samo wishful thinking. Z bolj kompliciranimi možgani si samo bolj zakompliciraš vse skupaj. Prav nobenega dokaza ni, še indica ne, da bi bil potem pa srečnejši, ali da bi lahko bolj užival, ali karkoli v tej smeri.

O.

Ja, lobotomija bi že imela tak učinek, verjetno.

O.

Ampak to še vedno ne spremeni vprašanja, kaj bi profitirali, oziroma kaj bi počeli v uploadu. Maksimalno srečen si lahko tudi s pravo drogo (ki jo bodo šele morali izumiti). Kaj bi počel v uploadu, da bi bilo tako drastično bolje od preganjanja zmajev in fukanja princesk?

O.

Kompliciraš okapi.

V končni fazi, boš lahko enstavno živel v simulaciji sedanjega sveta, če boš želel tudi le današnjih 80 let. Doživel boš vse občutke, ki bi jih tudi sedaj...če si tako želiš seveda. Odločitev bo bila sicer rahlo psihično boleča, ampak se da obiti tudi to.

Če ti rečem, da je možno, da že sedaj živiš v simulaciji a boš zaradi tega kej manj vesel? Sej ne boš vedu and nobody would be the wiser!

Opozarjam pa vse, da v kolikor se boste šli kakih cikličnih scen imejte contingency plan, če vidiš, da to ni to. Moje želje bi bile vse diskretne, torej časovno ali kako drugače omejene. Enostavno zato, da če sem izbral slabo kombinacijo, ne bom ujet za celo večnost not...če pa se bo izkazala kot dobra kombinacija po preteklih n letih lahko še vedno jo znova zaženem.

Dojemati svet zvezno je giant mindfuck. Pravzaprav nevem, če je sploh možno?!

2045: The Year Man Becomes Immortal
http://www.time.com/time/health/article...

Vsekakor je 2020 malce prezgodaj

guest #44 je 16. feb 2011 ob 20:22 izjavil:

Vsekakor je 2020 malce prezgodaj

Bilo kdaj se bo zgodilo bo 1 leto prej delovalo "še prezgodaj".

Watson I.B.M. ne pozna Slovenije ;p

A je v razvoju kakšno hardwersko okolje, kjer lahko poljubno eksperimentiraš z AI-ji, brez bojazni da bi koda na en ali drug način lahko ušla ven?
Recimo da (namerno ali nenamerno) prideš do kakšnega Skynet AI (visokointeligenten, visokonevaren in visokoprikrit) in da ga imaš lahko dovolj dolgo "zaprtega" dokler ne ugotoviš da je to res en tak nevaren AI in obenem kako tiktaka.

Govorim o striktno hardwerskem okolju brez vsakršne programske variante, da bi interno koda prišla ven.

Govorim o tem, da "kode" ne spustiš ven. inputi so klasični. Torej nobene povezave (ali možnosti povezave) do omrežja ali omreženih naprav. Inputi so strktno one-way, outputi pa so limitirane na neomrežene monitorje, zvočnike, itd.

Skratka, če si zamisliš najhujši sploh možen AI - ali smo sploh sposobni narediti varno okolje zanj za preučevanje?

Lahko izoliraš virus ko ga enkrat detektiraš izven škatle. Zatem ko analiziraš kaj in česa ne počne in tako veš iz kazga materijala mora bit flaša, da ti ne požre stene. Ne moreš pa zgradit škatle, v kateri boš zadržal katerikoli virus, ti boš pa lahko gledal not kaj ta počne. Sploh če je ta virus en tak turbo superduper virus, kar naj bi AI bil. Takšna izolacija je ekvivalent kisline, ki razžre vse - v čem jo pa hraniš?

Kje je limit česa je AI sposoben? V principu je AI sposoben vsega kar je možno narest, pa je to nam znano al pa ne
Ne moreš bit prepričan, da tvoja AI ne bo našla načina, da medtem ko jo opazuješ na ekranu, tisti signali ne bodo povzorčili neke zanimive resonanco v tvojih možganih in boš sproduciral dvojnik AI nekje izven škatle. Al pa odklenil vrata škatle.

Po domače: dreka ne morš šlatat brez da bi smrdel.

WarpedGone je 1. mar 2011 ob 10:13 izjavil:

Lahko izoliraš virus ko ga enkrat detektiraš izven škatle. Zatem ko analiziraš kaj in česa ne počne in tako veš iz kazga materijala mora bit flaša, da ti ne požre stene. Ne moreš pa zgradit škatle, v kateri boš zadržal katerikoli virus, ti boš pa lahko gledal not kaj ta počne. Sploh če je ta virus en tak turbo superduper virus, kar naj bi AI bil. Takšna izolacija je ekvivalent kisline, ki razžre vse - v čem jo pa hraniš?

Kje je limit česa je AI sposoben? V principu je AI sposoben vsega kar je možno narest, pa je to nam znano al pa ne
Ne moreš bit prepričan, da tvoja AI ne bo našla načina, da medtem ko jo opazuješ na ekranu, tisti signali ne bodo povzorčili neke zanimive resonanco v tvojih možganih in boš sproduciral dvojnik AI nekje izven škatle. Al pa odklenil vrata škatle.

Po domače: dreka ne morš šlatat brez da bi smrdel.

Če si pesimist potem itak nima nič smisla.

Če si pesimist potem itak nima nič smisla.

Pesimizem nima nič skupnega z izračunljivostjo. Sem pesimist ker ne verjamem v čarovnice?

Predstavitev, ki joje nalimal Thomas je fenomenalna. Edini problem je "if we BELIEVE in Moore's law"... gre za vero, ne za znanost. Moorov zakon ni nekaj, kar bi bilo matematično dokazano.

Žal.