Protokol

vostok_1 je 1. okt 2017 ob 20:46 izjavil:

Drugo je ko je potrebno ohranjati neko kompleksno gmoto, kjer vse mora delat kot švicarska ura.

Tako kot kuall imaš tudi ti napačne predstave o tem, kako AI deluje.

vostok_1 je 1. okt 2017 ob 20:46 izjavil:

Kakšen bo sistem odškodnin v protokolu. Nimam pojma...ampak vem pa da ne bo povsem pravičen.

A da Avstralec dobi raka je pa pravično? Kot rešitev te nepravičnosti pa predlagaš - večni mraz in temo?

vostok_1 je 1. okt 2017 ob 20:55 izjavil:

Zaenkrat podporniki bolj ali manj zagovarjajo neko komunistično verzijo.

Ti mešaš ljudi, ki sanjarijo o tehnološki utopiji, ter ljudi, ki ustvarjajo tehnične rešitve za praktične probleme.

vostok_1 je 1. okt 2017 ob 20:55 izjavil:

I hate to break it to you, ampak ta je najbolj neodporna na škodljive externalije.

Sanja se ti ne, kaj AI dejansko je. To, da bereš sci-fi, ne pove ničesar o tem, kako poglobljeno je tvoje razumevanje tehnologije.

vostok_1 je 1. okt 2017 ob 20:55 izjavil:

Tisti avstralec pač ne živi v takem sistemu, in ta rizik je pač potrebno sprejet. S pravico imajo problem predvsem tu naši nedeljski socialisti.

Seveda živi v takem sistemu.

jype je 1. okt 2017 ob 20:57 izjavil:

vostok_1 je 1. okt 2017 ob 20:55 izjavil:

Zaenkrat podporniki bolj ali manj zagovarjajo neko komunistično verzijo.

Ti mešaš ljudi, ki sanjarijo o tehnološki utopiji, ter ljudi, ki ustvarjajo tehnične rešitve za praktične probleme.

vostok_1 je 1. okt 2017 ob 20:55 izjavil:

I hate to break it to you, ampak ta je najbolj neodporna na škodljive externalije.

Sanja se ti ne, kaj AI dejansko je. To, da bereš sci-fi, ne pove ničesar o tem, kako poglobljeno je tvoje razumevanje tehnologije.

vostok_1 je 1. okt 2017 ob 20:55 izjavil:

Tisti avstralec pač ne živi v takem sistemu, in ta rizik je pač potrebno sprejet. S pravico imajo problem predvsem tu naši nedeljski socialisti.

Seveda živi v takem sistemu.

In pol meni BW briše poste.

Sheesh...

Of course it's not.
Ne rabim nič brat.

Dovolj, da vem, da niti fundamentov še nimamo, pa to ne tehnoloških.

Je pa zanimiv podatek v Kurzweilovem odgovoru, da ima načrt za človeške možgane samo okoli 50 megabajtov.

Saj važno je, kako jih narediti. Učenje pride tako rekoč samo od sebe, iz okolice. Ali drugače povedano, možgane znamo učiti, ne znamo pa jih narediti.

Oddahnite si. Nismo se v protokolu in zaenkrat se ni strahu, da bi nas kdo rebootal. Bojda.

https://cosmosmagazine.com/physics/phys...

BigWhale je 2. okt 2017 ob 19:09 izjavil:

Oddahnite si. Nismo se v protokolu in zaenkrat se ni strahu, da bi nas kdo rebootal. Bojda.

https://cosmosmagazine.com/physics/phys...

Zdej si me spomnil na planet earth to be recycled.

Verjetnost, da AI nastane sponatno je enaka, kot da hiša nastane spontano. Le skozi milijon let dolgo evolucijo lahko hiša nastane sama, pa še takrat jo mora naredit človk. :)

Saj s tem, ko pravim, da bo nastala spontano, ne pomeni, da se bo sama napisala. Vzniknila bo iz vsega, kar bo tisti trenutek narejenega. Človek ji bo nekako nezavedno "pomagal". Sicer po mojem mnenju izredno malo verjeten scenarij, a vseeno ne povsem nemogoč.

o+ nevone

Double_J je 1. okt 2017 ob 23:48 izjavil:

https://www.technologyreview.com/s/4257...

Pokomentirajte malo...

"near" meri dolzino v razvitosti tehnologije, ne casa (ker casa pac noben ne more predvidevati).
in realnost je res taka, da je tehnologija se dalec od cesa takega. ampak v 10 letih se lahko zgodi marsikaj. lahko tudi zelo malo.
podobno kot s self-driving avti. leta 2000 smo bili zelo dalec od njih, ker prakticno nobena tehnologija ni obstajala (ne ustrezen lidar, ne mocni procesorji, ne uspesne konvolucijske globoke nevronske mreze, ne software frameworki za razne stvari).
danes je stvar ze realnost (v nekem omejenem obsegu, ce pogledas recimo waymo).

Okapi je 2. okt 2017 ob 00:27 izjavil:

Je pa zanimiv podatek v Kurzweilovem odgovoru, da ima načrt za človeške možgane samo okoli 50 megabajtov.

hja, se vedno veliko. ne vem, koliko je sicer ta njegov nacrt utemeljen in natancen, ampak izgleda smiselno.
konec koncev je verjetno v teh 100 milijardah nevronov ogromno redundancne informacije, ker je pac ogromno nekega copy-paste na takem ali drugacnem nivoju.

tudi nacrt za moderen procesor z milijardo tranzistorjev verjetno v osnovi - tisti, s katero so razmisljali njegovi snovalci - zajema precej manj elementov kot milijardo.

Saj Kurzweil in Vinge v resnici tudi samo nakladata, samo da na obraten način - zdaj zdaj (še dvajset let ...) in bo singularnost, upload, ni da ni. Potem bodo pa ljudje razočarani nad znanostjo, ker bodo čudeže pričakovali.

Singularnost ni ravno religija sama po sebi, ampak hipoteza možnega razvoja znanosti oziroma tehnologije. Ampak temelji na preveč neznankah. Ena od njih je recimo, kako pametni smo v resnici ljudje, na absolutni lestvici "pametnosti". A lahko razumemo vse, ali pa morda obstajajo stvari v naravi (fizikalni pojavi, zakoni ...), ki so za nas tako nedoumljive, kot so integrali za šimpanze. Da jih ne samo nikakor ne moremo razumeti, ampak se niti zavedati ne moremo, da obstajajo.

Ker obstaja razlika med odkriti nekaj novega, in razumeti tisto. Malokdo je dovolj pameten, da bi sam od sebe odkril Pitagorov izrek (ali pa recimo e=mcc). Razume ga pa lahko skoraj vsak. Dovolj napredna umetna inteligenca bo odkrivala stvari, ki jih ljudje še dolgo ne bi odkrili, mogoče celo nikoli, razumeli jih bomo pa vseeno lahko, vsaj do neke mere.

Recimo AI bo mogoče izumil teleportacijo. Ljudem, morda tudi najbolj pametnim, ne bo čisto jasno, kako deluje, ampak razumeli bomo, da je nekaj v zvezi s kvantno prepletenostjo delcev, ukrivljenim prostorom, superstrunami ali karkoli pač že bo v ozadju delovanja. Teleporti brez AI morda tudi ne bodo delovali, ker bo izračun vseh potrebnih faktorjev za vsak posamezen prenos prekompliciran, ampak ljudje bomo vseeno načeloma razumeli, kaj se dogaja, ko stopiš skozi teleportal in odpotuješ na drug konec sveta, ali vesolja.

Zoprno pa bo postalo, če ljudje nismo dovolj pametni, da bi lahko vse razumeli, in bo AI odkrivala stvari, ki jih sploh ne bomo uspeli dojeti. Recimo kot cepljenje psov proti steklini. Zelo koristna stvar, ki pa je pes sploh ne more razumeti. Sploh se ne zaveda, kaj se dogaja, ko ga veterinar špikne.

Okapi je 15. okt 2017 ob 11:22 izjavil:

Ampak temelji na preveč neznankah.

Vprašanje za koga so to neznanke. Verjetno za tiste, ki bodo cepljeni proti steklini in se ne bodo niti zavedali kaj se dogaja, ampak bo nekaj za njih dobrega ;-).

nevone je 15. okt 2017 ob 11:26 izjavil:

Je pa seveda najbolj preprosto stvari, ki jih ne razumemo do potankosti, označiti za vero. Izvolite.

Nekateri verjamejo v angelčke, čeprav ni niti enega dokaza za njihov obstoj. To je vera. Singularnost pa je glede na razvoj samo vprašanje časa. Eni to vidijo, drugi pač ne. Slednji prve označujejo za vernike, ampak ne zaradi tega, ker verjamejo v nekaj za kar ni niti enega dokaza, ampak zato, ker si ne vzamejo časa in zadevo preštudirajo ali pa pač enostavno niso sposobni razumeti.

Okapi je 15. okt 2017 ob 11:28 izjavil:

Ja, pa ko te bodo sterilizirali, ali evtanazirali, ne da bi se zavedal, kaj se dogaja, tudi, ne?

Jup. Saj se že sedaj vsem nam dogajajo stvari, ki niso nujno dobre, pa se jih ne zavedamo. Zajebano.

Saj sem že povedal. Kaj pa za rešitve, ki bi jih sicer razumeli, ampak nimamo dovolj sposobnosti, da bi jih razumeli pravočasno.

Robot ti, pa odločitev, ki bodo diktirale prihodnost in jih je potrebno čimprej sprejet.
Vprašaš, ga naj ti vsako razloži preden se odločiš. Pol ti zdrdra 100k A3 strani polne teksta.
Da. Saj če se lotiš morda boš razumel. Ampak potreboval boš toliko časa, da bo škoda že trajna.

Preostane ti samo, da mu zaupaš.

Pri AlphaGo-ju, recimo se da vse poteze recimo razumet. Ampak still, človek poterbuje toliko več časa.
Skratka, omejenost človeške kognicije, ko gre za res pomembne in dolgoročne zadeve, je lahko usodna.

Jz sem to mislil za neko predhodno obdobje, kjer ljudje odločajo, mašine izvedejo. Če se takrat naredi napačno odločitev, you could potentially mess up things.

Singularnost je hipoteticna moznost.

Singularnost je atraktor, ki lahko (pri)pelje do prijaznejšega bivanja.

o+ nevone

ko pa je zanimivh tem za pogovor toliko na tem področju.

Saj se lahko odpre še kakšna tema. Nekatere so tudi že odprte.

predvsem bolj praktično bo treba začet debatirat,

Ja, praktičnost je potrebna za (pre)živetje.

ne pa sanjat o pravljicah o singularnosti, te pravljice so en velik dolgčas.

Pravljica današnjega dne, je (lahko) realnost jutrišnjega.

o+ nevone

rh^ je 16. okt 2017 ob 08:56 izjavil:

Bom kar vztrajal na svojem. Pa bova čez par desetletij videli (ali pa se ne bomo niti zavedali) kdo je imel prav.

Če prav razumem je to 20 let? Prav, bomo videli. Več kot 10 let je že, odkar je Thomas zapisal, da je do "uploada" samo še 10 let.

V vsakem primeru smo natanko 10 let bližje, ne glede na to, kdaj bo, če bo.

Pri vseh traparijah, ki jih drugi pribijate, je ta napoved (če je napačna) v bistvu malenkost. Precej več je bilo zanimivega napisanega, kar se je odražalo tudi na nivoju foruma.

o+ nevone

Morda. A teh debat, ki so izpostavile marsikaj zanimivega, brez kreatorja ne bi bilo.

o+ nevone

Takšno dojemanje velja samo za tiste, ki so v glavnem opazovalci, in se s samim problemom sploh ne ukvarjajo, razen kar dobijo serviranega.

V resnici ni še nihče v celoti ovrgel možnosti kopiranja zavesti oziroma mentalnih procesov.

Ja, lahko si malo bolj previden, kot je v resnici večina ljudi, ampak napredek so tudi v preteklosti ustvarjali/poganjali drzni ljudje.

o+ nevone

poweroff je 17. okt 2017 ob 08:33 izjavil:

nevone je 16. okt 2017 ob 19:25 izjavil:

Pri vseh traparijah, ki jih drugi pribijate, je ta napoved (če je napačna) v bistvu malenkost.

Mohamed je rekel, da tiste, ki se žrtvujejo v nebesih čaka 70 devic. Potem nek razsvetljenec začne dokazovati, da to ni mogoče. Ko matematično dokaže da ta podatek ne drži, pa mu Mohamed reče: "Pri vseh traparijah, ki jih drugi pribijate, je ta napoved (če je napačna) v bistvu malenkost."

Pač, mogoče ni 70 devic, mogoče jih je samo 20. Ali pa sploh ni devic, pa je vseeno večna sreča in radost. To so malenkosti, kajne?

Ne, osnovni problem je, da je to religija. Tako kot je bil socializem religija. Vsi bomo imeli dovolj, vsakemu se bo delilo po njegovih potrebah. Vsekakor ena izmed čisto mogočih prihodnosti. Samo verjetnost za to, da se uresniči je prekleto majhna. Kar pa vernikov ni ustavilo. Še danes slišiš, da ljudje nismo bili dovolj zreli za socializem. Da mogoče pa bomo čez... 100 let.

S to razliko, da je singularnost v svojem bistvu religija zapakirana v znanost.

nevone je 16. okt 2017 ob 21:44 izjavil:

Morda. A teh debat, ki so izpostavile marsikaj zanimivega, brez kreatorja ne bi bilo.

Oh, tudi brez Mohameda, Bude in Jezusa ne bi bilo zanimivih debat. Mogoče tudi verskih vojn ne. In kakšna zanimiva vprašanja so odprle verske vojne!

You are full of shit. Don't spread it around.

You can do better than that.

o+ nevone