Google suspendiral inženirja po izjavah, da bi njihov strojni algoritem lahko imel zavest

poweroff je 14. jun 2022 ob 19:36 izjavil:

Markoff je 14. jun 2022 ob 15:54 izjavil:

Hmm, Matej, po tvoji logiki so vsa podjetja de facto nacistični laboratoriji. Od delavca na traku ali komercialista se ne pričakuje, da se bosta vtikovala v poslovno politiko in jo komentirala javno.

To ne. Ampak če pa delavec v podjetju vidi nekaj kaznivega ali hudo neetičnega (korupcijo, kršitev predpisov o varnosti pri delu), ima pa po sedanji zakonodaji že celo pozitivno dolžnost, da o tem povzdigne glas.

Je pa potem seveda stvar organov, da ugotovijo ali je to res, ali si nestrokovnjak za korupcijo/varnost pri delu kaj narobe razlaga...

Saj ravno to pravi Google. Da tale možakar ni najbolj primeren za take trditve. Celo preverili so jih znotraj z drugo skupino, ki se na to spozna in ugotovili, da ni imel prav. Ampak ko se enkrat zadereš na internetu to potem odmeva, ne glede na resničnost originalne izjave.
Če reduciramo: oseba, ki ni dovolj strokovna za presojo tega vprašanja, je izpostavila neko trditev, ki so jo ostali, usposobljeni, zavrgli. Nato se je drla po internetu.

Ti pa napiši neko analogijo na nacije :)

So it begins :)

kje pa piše da ima zavest samo tisti ki zna komunicirat? zakaj zrno peska nebi moglo met zavesti?

Sej nisem reku, da je ne more imet, samo da mi ne moremo nikakor izvedet, da jo ima. Da bi kar po defaultu rekli, da jo ima, pa pač ne gre.

kaj pa človek recimo ob nesreči izgubi vsa čutila? ali ima zavest ali ne?

Da ima zavest sklepamo iz tega, da je človek in je zato mora imet. S čutili ali brez. V resnici ne vemo.

c3p0 je 15. jun 2022 ob 08:10 izjavil:

Jaz bi pa dal dva taka bota, naj debatirata med sabo o filozofiji. Če sta zavedna (itak zelo pospešeno komunicirata), bosta kmalu prišla do nečesa povsem novega.

To je že staro. Točno to se je zgodilo pri poizkusu fb.
https://www.google.com/amp/s/www.indepe...

Današnji AI je v osnovi chatbot z ogromno bazo vaših podatkov - nobenega kvantnega preskoka v AI ni bilo.

Ukvarjanje s pravicami strojev in algoritmov je bedarija, ki odvrača pozornost od dejanskega problema: pravice in etika ljudi, ki ustvarjajo stroje in programe.

Recimo, da tale "chatter bot" nima zavesti in samozavedanja.

V resnici so bolj zanimiva vprašanja naslednja: Kako lahko ločimo med "chatter botom", ki nima zavesti in jo zgolj zelo dobro emulira, ter AI entiteto, ki zavedanje ima? Ali lahko sploh za koga drugega razen zase rečemo, da ima zavest - običajno sklepamo po sebi in vsem ostalim ljudem priznavamo zavest; ampak, a je možno, da so vsi (ali vsaj nekateri) okoli mene nezavedni agenti, ki zgolj zelo dobro oponašajo obnašanje zavednega bitja?

Oziroma, če ne obstaja test, ki bi ločil med nezavednim agentom, ki zgolj do pičice natančno oponaša zares zavestnega agenta ter zavestnim agentom - ali potem sploh obstaja razlika med tema dvema? Kaj to pomeni za nas same?

Itak da to, da imajo drugi zavest ALI čustva lahko samo sklepamo z neko veliko verjetnostjo. Jaz npr sploh nisem ziher, da rastline nič ne čutijo. Vsi mislijo, da nič ne čutijo samo zato, ker so nam zelo različne, pač ker se ne premikajo. Podobno eni trdijo za ribe: da ne čutijo bolečine, no ti so bolj redki so pa. To pravijo zato, ker nimajo udov se se premikajo manj, bolj kot rastline v vetru in na podlagi ter podobnosti dobijo idejo, da nič ne čutijo.

Za marjetico si lahko siguren, da si nič grdega ne misli o tebi. Neko osnovo lahko dobiš preko kompleksnosti živčnega sistema, možganov.

Ne verjet vsemu kar piše. Mogoče si je inženir zaželel nove službe pa so se zmenili da jim naredi reklamo. Kolk mu je z reklamo padlo v denarnico seveda ne povejo.

Računalnik deluje na kontrastu nule in enke. Vseeno bi se tudi med računalničarji našel naivnež ki bi verjel o zavesti računalniškega programa.

Računalnik deluje na kontrastu nule in enke.

In zakaj to ne bi bilo dovolj za zavest?

c3p0 je 16. jun 2022 ob 15:31 izjavil:

To lahko razširiš na vesolje. Če smo sami, je brezveze emulirat vse te milijarde svetlobnih let prostora.

Ko človek stopica v vesolje, enostavno dosimuliraš tisti del.

Mogoče res lahko to razširiš na vesolje. Ne vidim pa razloga, zakaj bi bilo v tem primeru treba to vpletat zraven, ker zamegljuje vprašanje.

Pri vesolju se sprašuješ, ali v resnici fizično obstaja, ali pa nam računalnik zgolj dovolj dobro emulira širšo sliko vesolja, medtem dejanski fizikalni model teče samo za tisti del, ki ga poseljujemo mi. Se pravi, gre za vprašanje, ali obstajamo v fizičnem vesolju in smo "resnični", ali pa smo samo artificial life na CPU-ju, in nas poganja računalnik, ki torej vse nepotrebne elemente samo približno emulira.

Pri mojem vprašanju glede zavesti ni pomembno, ali smo v resničnem svetu ali pa kot artificial life tečemo znotraj računalnika. Gre za to, da (ne glede na podlago) zase trdimo, da smo zavestni. Vsak zase; pa tudi drugim ljudem, ki se obnašajo podobno kot mi, priznavamo zavest in samozavedanje (izjema so kakšni Alzheimer pacienti, pacienti v globoki komi po poškodbi možganov, ipd.) Nismo pa tega pripravljeni trditi za druge "agente", ki niso narejeni na biološkem substratu in/ali bi morebiti prišli k nam iz tujega osončja... Ne glede na to, da se obnašajo kakor da imajo zavest in kakor da imajo samozavedanje - če ne moremo 100% ugotoviti, ali pri svojih izjavah in dejanjih zgolj slepo sledijo programu in nas v popolnosti zavajajo, ali pa zares imajo zavest, potem dvom obstaja.


Ampak ne se ustavit tu. Da nimamo svobodne volje, je že "given". Torej tudi mi samo slepo sledimo "programu". Le da se mi zavedamo "objektov" (= misli, idej) v naši zavesti in živimo v iluziji, da imamo svobodno voljo.

Je potem AI, ki bi se "zavedal" vsebine svojih misli, pa bi podobno imel zgolj iluzijo svobodne volje, že lahko zavesten? Je dovoljeno reči, da je nekaj zavestno, če ne moremo razlikovati med dejanji zares zavestnega "agenta" in dejanji "agenta", ki se zgolj idealno pretvarja, da je zavesten?

In če ne, zakaj ne?

Nekaj postov nazaj sem demonstriral, zakaj zavest ne more biti posledica algoritma. Da jo poustvariš na siliciju, moraš goniti iste fizikalne procese kot v možganih (če ne še kaj več), enke in nule niso dovolj.

phantom je 14. jun 2022 ob 16:47 izjavil:

Tudi, ko se algoritem izvaja, je odvisen od tega, kako ga interpretiramo. Kaj smatramo kot vhode in izhode. Recimo algoritem seštevanja rezultat izpiše na ekran. Kaj je izpisal, je odvisno od tega, kako mi interpretiramo te znake. Ali smatramo 10 kot deset (desetiški sistem), dva (dvojiški) ali šestnajst (šestnajstiški). Morda kot izhod štejemo temperaturo procesorja, ko je izračun naredil. Podobno, kaj štejemo kot vhod? Tipke, ki smo jih pritisnili, gibe prstov, ki smo jih pri vtipkavanju naredili? Bite, ki so šli po kabli iz tipkovnice v računalnik?

Kaj dejansko algoritem počne, popolnoma odvisno od naše interpretacije. Če je algoritem bijekcija z dovolj velikim vhodom (številom bitov), lahko predstavlja karkoli, odvisno le od naše domišljije. Pravzaprav še več, vsak bijektiven proces v naravi lahko z nekaj domišljije interpretiramo, kot da izvaja poljuben algoritem.

Skratka, pridemo do sklepa, da lahko algoritem, ki "izvaja" zavest vidimo v praktično kateremkoli procesu v naravi, in kaj posamezen algoritem počne, je odvisno od naše interpretacije vhoda in izhoda. Torej je zavest v vsakem zrncu peska? Ali pa je predpostavka, da lahko algoritem porodi zavest napačna?

Naslednji problem je z unikatnostji zavesti. Moja zavest ni ista kot tvoja, sicer bi bil v dveh ljudeh hkrati. Če je zavest rezultat algoritma, bi bilo to možno, da bi bila ista zavest v več telesih hkrati, bi videl več slik ipd. Zavest se verjetno "poveže" na možgane, podobno kot se v Quakeu povežeš na enega igralca na levelu, ga upravljaš in vidiš skozi njegove oči.

Utk je 14. jun 2022 ob 14:47 izjavil:

Noben algoritem (tj. programirano navodilo) ni intrinzičen "produkt" svojega fizičnega "nosilca", torej ne more imeti psevdo-izkušnje (samo)zavedanja.

Tega ne veš. Algoritem, dokler je samo napisan nekje na papirju, seveda ne more imet zavesti. Ko se nekaj začne izvajat, je pa morda lahko teoretično pridobi. Kakorkoli obračaš, človek je en malo bolj kompliciran stroj. Nikjer ne piše, da se ga ne da simulirat. Pa ni treba niti človeka simulirat, tudi bolj enostavni možgani lahko morda pridobijo neko zavest.

Človeški možgani nimajo vnesenega programa, nimajo algoritma, so pa nezavedni. Slednje pomeni, da ne zaznajo intrinzičnih biofizičnih procesov (elektro-kemičnih impulzov, bio-kemičnih reakcij, tvorjenja sinaps, engramov, lastne nevro-plastičnosti ipd.), ki se vršijo v njihovih nevralnih omrežjih; in prav na mestu te nezmožnosti zaznavanja procesov kot neke vrste surogat vznikne psevdo-izkušnja (samo)zavedanja, mentalnih reprezentacij ("misli") ali pa psevdo-izkušnja (beri: iluzija) barv, vonja, okusa itd. Enostavno rečeno - ni biofizičnih procesov, ni psevdo-izkušnje (samo)zavedanja. Kaj so fizični procesi v Googlovih strojih, kaj v teh strojih je primerljivo z nevro-plastičnostjo možganov, s tvorjenjem engramov? Nič. Ergo - stroj ne more imeti psevdo-izkušnje (samo)zavedanja.

Zavest ne more biti posledica algoritma, ker potem ima vsako zrnce peska zavest. Algoritem je relativen glede na opazovalca.

Algoritme si ti domišljaš. To je zgolj tvoja interpretacija elektronov, ki frčijo po žicah. "Algoritem", ki se izvaja na nekem naravnem procesu je v celoti relativen glede na tvojo interpretacijo vhodov in izhodov. Algoritmi objektivno ne obstajajo, so zgolj tvoja subjektivna interpretacija realnosti.

phantom je 18. jun 2022 ob 20:55 izjavil:

Algoritme si ti domišljaš. To je zgolj tvoja interpretacija elektronov, ki frčijo po žicah. "Algoritem", ki se izvaja na nekem naravnem procesu je v celoti relativen glede na tvojo interpretacijo vhodov in izhodov. Algoritmi objektivno ne obstajajo, so zgolj tvoja subjektivna interpretacija realnosti.

Vsaj osnovi bi bilo dobro poznati. Sicer je pa vsaj upoštevati witgwnsteinovega Ludvika.

Ni Tomas tupil, da bi kloni bili nekako telepatsko povezani?

phantom je 20. jun 2022 ob 19:01 izjavil:

nekikr je 20. jun 2022 ob 14:00 izjavil:

Če je zavest rezultat algoritma, bi bilo to možno, da bi bila ista zavest v več telesih hkrati, bi videl več slik ipd.

Ne, ne bi jih. Če bi lahko nekako teleportiral ljudi, bi s tem ustvaril identične kopije (razen, če bi izvirnik pri teleportaciji uničil). Vsaka kopija zase bi imela v trenutku teleportacije identično zavest, spomine, začetno stanje, a bi takoj zatem nadaljevala svojo zgodbo. Ker zavest ni povezana s 5G WiFi ampak je lepo omejena na eno bučo ne bi videl večih slik ampak zgolj tisto "svojo" - katerakoli že kopija bi bil.

Ampak kateri od klonov bi bil ti? To bi lahko rekel za neke nežive entitete, ampak če imaš zavest, se ZAVEDAŠ, si v enem od klonov. Če so popolnoma identični, bi moral biti v vseh ali v nobenem hkrati. Po mojem je zavest ena zunanja entiteta, ki se zgolj poveže na možgane, tako kot se ti v multiplayer igri povežeš in upravljaš enega od igralcev. Zato pa mora v možganih teči en točno določen proces na fizikalni ravni, ne pa simulacija tega z nekim algoritmom.

c3p0 je 20. jun 2022 ob 17:28 izjavil:

Ni Tomas tupil, da bi kloni bili nekako telepatsko povezani?

Ja, to je edina neprotislovna rešitev. Razen za tiste, ki ne priznavajo/razumejo obstoja zavesti.

Bs, zavest je skupek električnih/kemičnih procesov povezanih z nevtroni. Ko umreš , se te procesi končajo. Puf, ni nekaj kar se prestavi nekaj drugam v drug bio kompjuter pri spočetju…. Ostalo je larifari da se ne ženeš preveč naprej in težiš k razvoju, ker če bi bilo to bistvo, bi socialni mediji izgledali danes čisto nekaj drugega.

phantom je 20. jun 2022 ob 19:57 izjavil:

Mr.B je 20. jun 2022 ob 19:16 izjavil:

Bs, zavest je skupek električnih/kemičnih procesov povezanih z nevtroni. Ko umreš , se te procesi končajo. Puf, ni nekaj kar se prestavi nekaj drugam v drug bio kompjuter pri spočetju…. Ostalo je larifari da se ne ženeš preveč naprej in težiš k razvoju, ker če bi bilo to bistvo, bi socialni mediji izgledali danes čisto nekaj drugega.

Povezanih z "nevtroni"? To je šele BS

Tvoj pogled na zavest privede do preveč paradoksov. Na primer, s prej omenjenim kloniranjem.

Nisem rekel, da se prenese kam drugam. Mogoče se, mogoče se ne. Mogoče se nikoli več ne poveže na nobene možgane.

Pa znaš našteti eno samo evolucijsko prednost zavesti? Kakšno prednost imaš pred neživim robotom, ki ima enako sposobnost razmišljanja kot ti in te je sposoben popolnima imitirati?

Ce si kloniral mozgane, si kloniral / transportiral star trek..vse bioloske procese, ergo elektro kemicne itd... Razen ce je pri transportu pislo da so se/ manjkajo/ narobe povezav pri tem sci/fi procesu, potem je lahko genericno dojemanje osebe / zavesti drugacno. Naprimer si izgubil povezavo med dojemanje toplote ogna, svetlobe in vrocine ognja. Potem bo interacija z ognjom klona / copije drugacna...
Lahko tudi drugace, ce si izgubil nevrone / povezave dojemanja uboja, je seveda osebnos ozirom dusa s strani dojemanja opazovalca druga..... itd..

Nekateri ne morete dojeti, kaj je to zavest ali duša, če jo želite tako imenovati. To je stvar, ki se je najbolj jasno zavedaš, in veš, da je unikatna, da si to ti. To vse te mahinacije s kopiranjem in uploadom ovrže.

Sem pa opazil, da dosti ljudem ni jasno, kaj mislim z zavestjo. In glej ga zlomka, ravno ljudje, ki ne dojemajo zavesti, trdijo enako kot ti, tisti, ki jo (ja, večinoma so ateisti), pa se strinjajo z mano. Mislim, da obstaja precej dobra korelacija med tem, kdo je že bil pod splošno anestezijo in tistim, ki ne dojema zavesti. To je sicer ni presenetljivo, ker med splošno anastezijo se zavest ustavi, prekine. Ko se zbudiš, ni razloga, da bi bila zavest še vedno ista kot prej, ali pa celo, da se sploh uspe nazaj vzpostavit. In postaneš bodisi zamenjan bodisi NPC. Verjetno bomo nekoč na anastezijo gledali kot na podobno barbarstvo kot lobotomijo. Slednja je norce spreminjala v idiote, anastezija pa žive ljudi v NPC-je.

phantom je 17. jun 2022 ob 16:14 izjavil:

Nekaj postov nazaj sem demonstriral, zakaj zavest ne more biti posledica algoritma. Da jo poustvariš na siliciju, moraš goniti iste fizikalne procese kot v možganih (če ne še kaj več), enke in nule niso dovolj.

na kaj pa delujejo človeški možgani? od 1 do N? ali kako bolj 'duhovno'? ali na 'je' signal ali 'ni' signal?

phantom je 21. jun 2022 ob 11:28 izjavil:

gruntfürmich je 21. jun 2022 ob 08:49 izjavil:

na kaj pa delujejo človeški možgani? od 1 do N? ali kako bolj 'duhovno'? ali na 'je' signal ali 'ni' signal?

Možgani, razum, so lahko na 1 do N, algoritem. Samo zavest to ne more biti. Ne moreš ti kar z enim algoritmom, ki itak samo fiktivno obstaja, kar ustvariti zavesti. Saj se ti zavedaš, da obstajaš, si to ti? Če je zavest nekaj, kar lahko s kemičnim procesom ustvarimo, ni razloga, da si ti ti, unikatnost ti sfali. Edina rešitev tega paradoksa je, da je zavest nek fizikalni zakon, ki obstaja od vekomaj, je del tega sveta in se zgolj poveže na možgane. Teza o algoritmu, da lahko porodi zavest pa je še bolj butasta, ker algoritem je nekaj, kar si mi domišljamo na podlagi procesov, ki jih vidimo. Teoretično ima potem vsak kamenček zavest, če je lahko to zgolj algoritem.

To tudi perfektno paše v sklop kvantne mehanike. Zavest mora obstajati, da lahko obstaja svet, zavest je tisto, kar skolapsira valovno funkcijo okoli sebe. Če recimo ne bi bilo nobene zavesti na svetu, bi ne bilo razlike med tem, če kaj obstaja ali če ne. Če ni nikogar, ki bi svet videl ali izkusil, ever, je enako, kot da ga ni. Saj zato je zavest nujna komponenta sveta, ki se potem povezuje na različna bitja (pravzaprav ne moremo vedeti ali je ena sama ali jih je več).

?
A je zavest to da ko se gledas v ogledalo, da se zavedas da si to ti. Kako bos to zapisal z 1 in 0 ? temu se rece inteligenca.
In da obstaja fiksna stevilka koliko varicij se lahko naredi.. Trnutno je človeške populacije 7 mijard... variacij ki jih lahko naredimo je cca 420 miljard na samo osnovne atgd pare...skupaj je lahko število unikatnih od boga narejeni človeških biij 3 x 10na614.
Tako da vem, cerkev je dolgo lepo nadzirala populacijo, se bos spovedal pa bo dusi odpusceno. Nop. Tudi dojencek nekaj casa rabi da dojame, ko gleda v ogledalo da se zave da je to on.

phantom je 21. jun 2022 ob 11:28 izjavil:

Če je zavest nekaj, kar lahko s kemičnim procesom ustvarimo, ni razloga, da si ti ti, unikatnost ti sfali. Edina rešitev tega paradoksa je, da je zavest nek fizikalni zakon, ki obstaja od vekomaj, je del tega sveta in se zgolj poveže na možgane.

Tvoja resitev paradoksa je "nekaj visjega".

Bolj verjetna resitev paradoksa pa je da unikatnost pac ne obstaja. Ce te nekdo skopira sta pac dve enaki zavesti, kaj je problem?

Eni ljudje imate res neizmerno potrebo po "verjeti v nekaj vec" in se vam kar upira sprijazniti da najbrz nismo nic ves. Najverjetneje smo samo skupek elektronov zvezan na dovolj kompleksen nacin da "mislimo da smo nekak vec".