Umor stroja?

v smislu mislečega človeka, skupaj s samozavedanjem in vsem. Ne zgolj prazne kalkulacije.

Kdo pravi, da naše misli niso samo primerno zapletene kalkulacije? Vse je samo delovanje kemičnih in električnih signalov velikega števila med seboj povezanih živčnih celic in njihovih sinaps.

O.

Glih par dni nazaj sem gledu Blade Runner, kjer imajo zanimov koncept replikantov - bioroboti, ki so popolnoma enaki ljudem, a to niso. So se pa vedno uporabljali le kot sužnji, dokler niso naredili masakra in so jih prepovedali na Zemlji.

Čeprav je sci-fi, je pomoje to točno tako, kakor bi stvar potekala tudi v resnici - kljub identičnosti ljudem nikoli ne bi bili priznani kot ljudje, ko bi pa prvi od njih naredil sranje (kar bi seveda bilo neizogibno), bi se vsi začeli spraševat, kako se jih znebit...

kljub identičnosti ljudem nikoli ne bi bili priznani kot ljudje,

Ni res. Natanko tako bi bilo, kot je bilo s sužnji. Najprej jim ne bi priznavali nobenih pravic, lastnik bi jih lahko po mili volji tudi ubil. Potem bi jih do neke mere zaščiti in z njimi ne bi več smeli kruto ravnati in jih ubijati, še vedno pa bi jih lahko kupovali in prodajali in ne bi bili svobodni. Potem bi jim začeli nekje priznavati še več pravic, recimo toliko, kot so jih imeli tlačani, potem bi jih osvobodili (ne povsod istočasno), ampak še vedno ne bi bili enakopravni in ne bi imeli volilne pravice, recimo, pa morda ne bi smeli zaposlovati ljudi. In potem bi jim pač počasi priznavali še vse druge pravice, skladno s tem, kolikor bi si zanje sami dejavno prizadevali. Kako miroljubno bi vse skupaj potekalo, pa je seveda odvisno od tega, koliko bi ljudje misleče stroje sploh potrebovali in kaj bi si stroji sami mislili o svojem položaju in o vlogi ljudi.

O.

Čeprav je sci-fi, je pomoje to točno tako, kakor bi stvar potekala tudi v resnici - kljub identičnosti ljudem nikoli ne bi bili priznani kot ljudje, ko bi pa prvi od njih naredil sranje (kar bi seveda bilo neizogibno), bi se vsi začeli spraševat, kako se jih znebit...

Saj pravim, me zanima kdo se bi/bo sploh resno lotil razvoja takih strojev, če nimaš vnaprej neke varovalke, da stroj ne dela sranja oziroma da lahko stroj ti svobodno uporabljaš za tisti namen, za katerega si ga sploh razvil.

Namreč, človeku pravice niso podeljene. Z njimi se rodiš in pika.

Takšno je trenutno aktualno gledanje. Pa 200 let nazaj? Pa čez 200 let? Razširi malo pogled.

Nikakor. Sicer koncept osebne svobode postvljam daleč najvišje - koncept zasebne lastnine pa je itak neločljiv del osebne svobode. Zato je povsem nesmiselno rangirat en ali drug koncept med seboj, ker sta neločljiva.

Osebi (ekvivalent obstoječega človeka), ki bi jo ti sestavil v svojem ultralaboratoriju, po tvoje ta osebna svoboda nebi pripadala - je nebi imela, ker si jo pač ti sestavil. Kaj je to druzga kot rangiranje konceptov? Tvoja zasebna lastnina je prevladala nad njegovo osebno svobodo.

Še enkrat pa vprašanje: zakaj bi se sploh loteval takega produkta, če ti potem gre stran?

To je problem tebe kot kreatorja. Ne vem zakaj bi te kdorkoli silil, da bi moral ustvarjat takšne subjekte.

Pa 200 let nazaj? Pa čez 200 let? Razširi malo pogled.

Čemu le? Kar sem napisal, je povsem skladno z načeli objektivizma (poguglaj po pojmih objectivism in Ayn Rand). Objektivizem temelji na dveh osnovnih aksiomih, ki se glasita "Realnost obstaja" in "A je enako A". Kakršnokoli 'razširjanje pogleda' nikoli ne more iti mimo teh osnovnih aksiomov - v nasprotnem primeru kontaminiraš svoj miselni proces, tako kot če bi si namenoma skrhal nož. Čemu le?

Osebi (ekvivalent obstoječega človeka), ki bi jo ti sestavil v svojem ultralaboratoriju, po tvoje ta osebna svoboda nebi pripadala - je nebi imela, ker si jo pač ti sestavil. Kaj je to druzga kot rangiranje konceptov? Tvoja zasebna lastnina je prevladala nad njegovo osebno svobodo.

Spet si že v začetku pogrnil.
Kar si ustvaril v laboratoriju, ni oseba, temveč stroj. Ker ni oseba, nikakor ne moremo govoriti o kaki osebni svobodi. End of story.
Nobenega rangiranja konceptov ni tle.
Strojeva 'osebna svoboda' ne obstaja, zato moja zasebna lastnina ne more prevladati nad strojevo osebno svobodo, ker slednje pač sploh ni.

darkolord:

Pri sužnjih, tlačanih in črncih je malo drugače, ker so vse to še vedno ljudje

Tako razumeš danes ti, ko ti koncept "ljudje" nekaj pomeni. Takrat za njih to niso bili ravno "današnji ljudje" ampak črnci, govoreče opice, orodje. Koncept "ljudje" je bil takrat hudo meglen in praktično nepomemben.

Tole sm omenjal že nekje na začetku teme, še enkrat: Koncept meje med "nami / drugimi" se skozi zgodovino širi. Zdej smo pretežno na tem da smo pomembni mi ljudje, drugi "neljudje" pa niso pomembni. Nekoč smo bili pomembni samo moški angleži al pa samo moški nemci, drugi so bli "ološ", še prej smo bili pomembni samo pripadniki našega plemena, vse ostalo je bilo "for us to use".

username:

Čemu le?

Ker bluziš. Človek se rodi le s tem kar tvori njegovo telo. Neke pravice itd. niso materialne zato se s tem ne rodi. Te pravice mu mora okolica priznat, sicer jih ni. Na podlagi česa, koliko in kdaj mu okolica te pravice prizna je pa stvar okapijevega "verjeli in priznali". Trenutno okolica pač ljudem te pravice priznava ob rojstvu. Popularna interpretacija pa je, da je to neki "človeku lastnega". Jajca. To je le rezultat doseženega razvoja družbe in trenutnega pojmovanja stvari. Sintaksa.

Kar si ustvaril v laboratoriju, ni oseba, temveč stroj. Ker ni oseba, nikakor ne moremo govoriti o kaki osebni svobodi. End of story.
Nobenega rangiranja konceptov ni tle.

Torej je bistvena razlika v tem, kdo je koga/kaj ustvaril?
Če je padel iz neba (evolucija), je svobodno bitje, če ga je sestavilo drugo svobodno bitje, je pa le še eno kladivo. Oprosti, no cigar.

Strojeva 'osebna svoboda' ne obstaja, zato moja zasebna lastnina ne more prevladati nad strojevo osebno svobodo, ker slednje pač sploh ni.

Sužnjeva 'osebna svoboda' ne obstaja...

Če se stroj umori a se ga nato popolnoma popravi, se to lahko še vedno šteje kot umor ali le kot materialna škoda ? :)

WarpedOne in Okapi: človeške pravice so absolutne in neodvisne od družbenih dogovorov. Od družbenih dogovorov je odvisno le, ali jih v praksi lahko uveljavljaš ali pa ti jih drugi posamezniki ('družba') kršijo.

Če so ti bile pravice, ki jih sedaj uživaš, podeljene par sto let, preden si se rodil, to še ne pomeni, da ti niso bile podeljene.

Glej, noben nima pravice rečt, da mi je podelil kakšno pravico. Mu rečem 'ma kaj boš ti nakladal, kako mi podeljuješ nekaj, kar je absolutno moje, neodvisno od tebe, ki si se zdajle primajal mimo. Mrš!"

Če je padel iz neba (evolucija), je svobodno bitje, če ga je sestavilo drugo svobodno bitje, je pa le še eno kladivo.

Točno tako.

Sužnjeva 'osebna svoboda' ne obstaja...

???
Seveda obstaja! Kaj govoriš, človek?
V praksi mu jo sicer žal nekdo krši (nasilno preprečuje uveljavljanje njegove svobode), ampak njegova osebna svoboda obstaja še vedno.
Če tebe nekdo ugrabi, tudi nimaš več osebne svobode. Ampak to je samo opis trenutnega stanja, ne pa opis tebe kot svobodnega bitja.

človeške pravice so absolutne in neodvisne od družbenih dogovorov.

No, potem jih pa naštej.

O.

Če je bil v stroju sentinten um, se šteje kot "telesna poškodba" ali celo kot "poskus umora", če je pri tem dejanju obstajal rizik izgube sentience.

Vendar, kaj pa če stroju ni pomembno da mogoče izgubi za tisti dan spominov, temveč bolj vrednoti svojo razumsko moč, mogoče skupek nevronov katerega se da brez večjih tveganj presajati iz 'ohišja v ohišje'.
Npr. delavski stroj, katerega je v rudniku zasula večja količina materiala, narejen tako, da matrica preživi neglede na zunanje poškodbe. Koliko je potem vredna ta nesreča ? Eno ohišje, mogoče dva ? Nadomestilo za povzročene duševne bolečine mogoče ?

Lahko to sploh primerjaš s trenutnimi nesrečami, kjer rudarji niso več med živimi ?

Kaj če je razlika med kirurškim in delavskim robotom samo v ohišju, bi si poškodovani robot lahko zahteval boljše ogrodje ter postal kirurg malce prej kot bi mu to uspelo s svojim trdim delom in prisluženim denarjem ?

Najbrž bi potem obstajal tudi trg ohišij, staro za novo, mogoče tudi _meatloaf_ ohišje mrtvega človeka ?

Nekako prideš do tega, da je um neprecenliv. Kako bi robota obsodil za umor drugega robota. Reboot in celotni izbris uma ? Bi mu v zameno moral dati svoje ohišje, ubobožani robot pa bi prevzel njegovo funcijo ?

Kaj pa če samo povzročiš da se tisti robotek zacikla v svoji funkciji in tako preneha biti sposoben opravljanja česarkoli dokler ga ne brcneš ven iz cikla ? Na primer pri pouku matematike, štej do neskončno (in nazaj !) :)

Pravica do osebne svobode, tudi do življenja ti je lahko odvzeta, če grobo prekršiš družbene norme. Torej to ni absolutna pravica. To so samo pravice, za katere se je v družbi odločilo, da jih poseduješ, če izpolnjuješ za to določene pogoje.

Morda ne razumeš pojma "absolutna pravica", ali pa ga ne razumeš v pravniškem pomenu, kjer ima to zelo določen pomen.

Ne moreš pa trditi, da so ta vprašanja nad pravom, zato ker je samo pravo tisto, ki našteva tvoje osebne pravice, oziroma te sploh razpozna kot "osebo". No. Da se popravim. Lahko trdiš, da so te stvari nad pravom, ampak tvoja mnenja nimajo nikakrše teže.

Dokler nekemu predmetu družba ne prizna pravic osebe - torej ga prepozna kot osebo - toliko časa je uničenje takšnega predmeta samo povzročanje materialne škode lastniku. Sužnje, mimogrede, se ni pobijalo, ampak se jih je uničivalo.

Sedaj se pa lahko vrnemo k metafizičnem: če misleče bitje ubijem, ali sem s tem dejansko ubil osebo? Kaj lahko definira "osebo", da se ne bo družba čez toliko generacij zgrozila nad lastnim početjem? Ali bomo lahko strojem kadarkli podelili človeške pravice in jim dali status oseb? In če je zavest v stroju praktično večna, ker je stroj praktično večen, ali no to že v bistvu drugačna oblika zavesti? Ali je to tudi oblika življenja? Ali je propagacija genov edini način, da nekaj sploh spoznamo za živo? Ali je "živo" nujen predpogoj za priznanje osebe?

Hm... ali je krščanski bog živ? Glede na to, da je večen in omnipotenten? Zagotovo tudi ni človek, čeprav je bil človek ustvarjen po njegovi podobi. Tako kot animatron ni človek, čeprav je lahko ustvarjen po človeški podobi.

Um je res neprecenljiv.

Znamo povedat zakaj tako?
Kaj je tako posebnega na umu/zavesti da ima tako visoko vrednost?
Kakšne sorte vrednost je sploh to?

Če stroja zavestno "ne briga" za svoje spomine (ker bi resurce raje optimiral za kaj drugega) je to drugo, kot pa izdelava stroja, ki ni sposoben "se brigati" za taka vprašanja.

V prvem primeru imaš svobodno sentienco, v drugem pa hendikepirano.

Še vedno nihče ni poskušal odgovoriti na vprašanje, ki sem ga postavil danes ob 16:31:07 , pa ga še enkrat postavljam:
"Recimo da ustvariš in zalaufaš sentienten stroj, pa šele po njegovem zagonu zaslutiš, da nekaj si v programu zašuštral ter da se bo stroj dokaj verjetno obrnil proti tebi in te morda ubil (ali pa koga drugega) - ali ga smeš proti njegovi volji izklopiti in modificirati program?"

Imam pa že nadaljevalno vprašanje in sicer:
Denimo, da si ustvaril sentienten stroj - robota, ki je sedaj dobil pravice in postal oseba itd. Skratka, ni več tvoj stroj, ampak samo svoja svobodna oseba.
Potem pa začne delati hude zločine (pobija itd) in izkaže se, da je kriv prvotni program, ki si ga ti napisal za tega robota.
Kdo je sedaj odgovoren za nastali kažin? Ustvarjalec stroja ali svobodni stroj sam?
Pa recimo da lahko to razdelimo v dve verziji: patološko programiranje si vgradil a) namenoma; ali b) nenamenoma, iz šlamparije?

Ja, username, hard questions.

Takšni defektni osebki so danes realnost, razlika je le da ni smiselno krivit staršev, da ima njihov potomec defekten DNK in posledično čudne psihične odklone. Ona sta se samo fajn mela, ratalo je pa kar je pač ratalo. Objektivno gledano nista imela vpliva na detajle mešanja DNK.

Ignorance is bliss.

Če se igraš z ognjem je morebiten požar realna možnost in se tega enostavno moraš zavedat in ustrezno zaščitit. Če vseeno zakuriš celo mesto, je vsaj del odgovornosti na tvojih plečih. Analogno velja, če uspeš spacat rahlo defektno osebo, ki se izkaže za hudga zločinca.

Kako velik naj bo ta procent odgovornosti ali celo krivde je pa vprašanje za bodoče pravnike in eksperte na tem področju. Odvisno koliko je takšna posledica sploh odvisna od začetnih pogojev, na katere si imel vpliv, koliko pa od česa druzga.

Ampak čist v osnovi mora še vedno veljat: opustitev odgovornega ravnanja je malomarnost. Za posledice takšnega ravnanja je treba odgovarjat.

BlueRunner:

tako tudi stvaritelj takšne "osebe" ne more biti kriv njenih zločinov.

Nah. Zgleda si spregledal del, kjer je username napisal:

izkaže se, da je kriv prvotni program, ki si ga ti napisal za tega robota.

Če sm kot kreator zahebal program novega osebka, je ta napaka moja "zasluga", posledično so tudi vse težave, ki iz nje izhajajo, moja odgovornost. Vprašanje je dokazovanje, koliko sm se js te napake morda zavedal, koliko sm jo namenoma vgradil, koliko varnostnih postopkov sem opustil, katere sm uporabil, itd.

Sentienten stroj najbrž lahko ustvarjaš in ugašaš po potrebi, vendar, ko ga enkrat daš v 'uporabo' preostalemu svetu ga prepustiš samemu sebi, do takrat pa je najbrž tvoja odgovornost

Zdaj, a bi se štelo za hujši zločin nekaj tako trivialnega kot trpljanje po hrbtu, pa mu po nesreči zbiješ baterijo ven in stvar umre ?
Ni nobene škode in še vedno lahko zadevo ponovno naložiš ter usposobiš za delovanje.
Ali naredijo potem stroj vrednega spomini in izkušnje ?

Sloppy programming je sloppy programming. Del krivde je nekako na robotu (saj z svojo inteligenco ni preprečil tega dejanja), vzrok in drugi del krivde pa na slabem programiranju.

Če sm kot kreator zahebal program novega osebka, je ta napaka moja "zasluga", posledično so tudi vse težave, ki iz nje izhajajo, moja odgovornost. Vprašanje je dokazovanje, koliko sm se js te napake morda zavedal, koliko sm jo namenoma vgradil, koliko varnostnih postopkov sem opustil, katere sm uporabil, itd.

Ti si pa spregledal del, kjer sem napisal: Tudi odgovornost za kažin je na strani takšne "osebe" in ne njenega stvaritelja, ker si jo definiral kot "svobodno osebo". To minimalno pomeni, da lahko samostojno sprejema lastne odločitve in razume posledice svojih odločitev in dejanj.

Skregam se z enim človekom in mi gre tako na jetra, da ga hočem ubiti. Pa ustvarim sentientnega robota in vanj naskrivaj vgradim mehanizem, ki bo povzročil, da bo tudi moj robot skrajno sovražil tega človeka. Ko robota dokončam, se mu zaradi njegove "sofisticiranosti" in "sentience" prizna, da ima pravice in je samo svoja svobodna oseba. Nato le še počakam, da gre robot fentat mojega sovražnika.

Če ustvariš "stvar", ki izvrši tvojo voljo, je vsa odgovornost na tvojih ramenih. Če ustvariš "osebo", je ta že po definiciji sposobna ločevati dobro od slabega oziroma družbeno sprejemljivo od nesprejemljivega. Ravno tako razume in se zaveda, da bo vsako njeno dejanje imelo posledice tudi za njo samo. Zavest ima za avtomatično posledico, da ta "oseba", ki si jo ustvaril lahko tudi ne izpolni tvoje volje in namena s katerim je bila ustvarjena. To je definicija polne zavesti...

Torej ne moreš reči, da si odgovoren, če si ustvaril resnično samostojno osebo. Ta se lahko po svoji svobodni volji tvojim željam upre, ali pa jih sprejme. Če jih sprejme, jih seveda sprejme na lastno odgovornost.

Hkrati pa ne moreš reči, da nisi odgovoren, če si ustvaril omejeno osebo. Recimo temu osebo prez opravilne sposobnosti. Vendar takšni stvaritvi ne moreš reči svobodna oseba, odgovornost pa je tukaj v celoti na tvoji strani, če si takšnega bolnika zlorabil kot orodje svoje volje.


Po domače bi rekel da serjete s pojmi kdaj je nekdo pred zakonom odgovoren in kdaj ne. Seveda lahko kot stvaritelj zaserješ, vendar pa to ne spremeni zakona in razmerij pred zakonom. Npr. kriv si umora, če psihičnega bolnika prepričaš, da izvrši tvojo voljo. Hkrati pa psihičen bolnik v takšnem primeru ne more biti kriv umora, zato, ker manjka bistvena komponenta: razumevanje odgovornosti. Bil je dobesedno orodje v rokah storilca. Seveda pa je tudi odgovornost skrbnika osebe, ki je spoznana za okolici nevarno, da okolico in osebo samo zavaruje pred njenimi škodljivimi dejanji.

Vse to seveda, če rečemo, da je "stvar" možno razglasiti za "osebo".


Še vedno pa nismo prišli do odgovora kdaj in kako je prestopljena meja med stvarjo in osebo. Kajti, če ustvarim nekaj, kar je po vseh parametrih obnašanja in razmišljanja samostojna oseba (npr. HAL), ali sem potem še vedno sam odgovoren za posledice njenih odločitev? Mislim, da ne. Seveda pa to pomeni, da ta "ne" obvelja samo in izključno v primeru, da sodišče takšno stvaritev prepozna kot samostojno osebo. Če ugotovi vse znake zavesti in ugotovi, da je svoje odločitve ta zavest sprejemala neodvisno od moje volje.

Še vedno pa nismo prišli do odgovora kdaj in kako je prestopljena meja med stvarjo in osebo.

Seveda smo, že parkrat. Natanko takrat, ko se družba odloči, da to ni več stvar, ampak oseba, in to zapiše v ustrezen zakon. Nima to dosti skupnega s samo pametjo in zavedanjem stroja. Ko bomo ljudje stroju priznali (ali bili prisiljeni priznati), da je oseba, bo oseba. Kdaj se bo stroj začel počutiti kot oseba, je pa drugo vprašanje. Bo treba stroj vprašati

O.

Še vedno pa nismo prišli do odgovora kdaj in kako je prestopljena meja med stvarjo in osebo.

Seveda smo, že parkrat. Natanko takrat, ko se družba odloči, da to ni več stvar, ampak oseba, in to zapiše v ustrezen zakon. Nima to dosti skupnega s samo pametjo in zavedanjem stroja. Ko bomo ljudje stroju priznali (ali bili prisiljeni priznati), da je oseba, bo oseba. Kdaj se bo stroj začel počutiti kot oseba, je pa drugo vprašanje. Bo treba stroj vprašati

Čista Matrica. Ja. Se strinjam. Stvar bo postala oseba, ko ji bo v zakonu priznana ta pravica.

Če pa se začnemo pogovarjati o pogojih, kdaj bomo ljudje takšno pravico sploh pripravljeni priznati kateri koli stvari, razen Homo Sapiensu, pa ratajo stvari zabavne. Če postavimo omejitve preozko, izpadejo ven bolne in prizadete osebe, če pa začnemo to definicijo širiti, pa nenadoma notri ulovimo primate, delfine, race in še kakšno stvar. Še preden pridemo do umetne intelegence se moramo soočiti s to, ki nas že obdaja.

Hkrati pa psihičen bolnik v takšnem primeru ne more biti kriv umora, zato, ker manjka bistvena komponenta: razumevanje odgovornosti. Bil je dobesedno orodje v rokah storilca.
Zdaj rabimo samo še puško z AI da zakompliciramo stvari

Če sm kot kreator zahebal program novega osebka, je ta napaka moja "zasluga", posledično so tudi vse težave, ki iz nje izhajajo, moja odgovornost. Vprašanje je dokazovanje, koliko sm se js te napake morda zavedal, koliko sm jo namenoma vgradil, koliko varnostnih postopkov sem opustil, katere sm uporabil, itd.

Takole pa ne gre.

Prvič, če si prej trdil, da je treba sentientnemu stroju priznati pravice ("misleči stroj je po delovanju nelorazločljiv od "od matere rojenega". A bo svoboden ali ne?"), s tem pridejo tudi dolžnosti. Kot sem te razumel, pri določeni stopnji inteligence/sentientnosti ne sme biti razlike med obravnavo strojev in "naravnih" ljudi. Ko kreator izgubi pravico vplivanja na delovanje svojega stroja (ker je slednji postal samostojna oseba), je najmanj nepravično zahtevati odgovornost kreatorja za dejanja, ki jih je stroj naredil po osamosvojitvi.

Drugič, dokazovanje odgovornosti se lahko izkaže za precej težavno v praksi - kako zares dokazati, da je nek zločin sentientni robot (SR) storil direktno zaradi kreatorjevega programiranja, ne pa zaradi nadaljnjega razvoja svoje osebnosti po osamosvojitvi?
Tudi s stališča ogroženih tretjih ljudi pa je varneje, da kreator vedno obdrži popolno oblast nad svojim SR; ker potem se takoj ve, koga klicati na odgovornost. Tako kot je jasno, da sem jaz odgovoren za škodo, ko pozabim zategnit ročno in moj avto zapelje po hribu v avto nekoga drugega. Temu drugemu moram jaz poravnati škodo, ker sem jaz lastnik avta.

Npr. kriv si umora, če psihičnega bolnika prepričaš, da izvrši tvojo voljo. Hkrati pa psihičen bolnik v takšnem primeru ne more biti kriv umora, zato, ker manjka bistvena komponenta: razumevanje odgovornosti. Bil je dobesedno orodje v rokah storilca. Seveda pa je tudi odgovornost skrbnika osebe, ki je spoznana za okolici nevarno, da okolico in osebo samo zavaruje pred njenimi škodljivimi dejanji.

No evo. V tem primeru psihični bolnik nima svobode, kar se manifestira z nasilnim zdravljenjem ali pa prizna kasneje, ko mu sodišče ne sodi kot polnopravni razumni osebi.

BlueRunner > Torej ne moreš reči, da si odgovoren, če si ustvaril resnično samostojno osebo.

Točno tako!

Če ustvariš "stvar", ki izvrši tvojo voljo, je vsa odgovornost na tvojih ramenih. Če ustvariš "osebo", je ta že po definiciji sposobna ločevati dobro od slabega oziroma družbeno sprejemljivo od nesprejemljivega. Ravno tako razume in se zaveda, da bo vsako njeno dejanje imelo posledice tudi za njo samo.

No tu moram pa tudi BlueRunnerja popravit.
Glede zadnjega stavka: SR (sentientni robot) nima le razuma, ampak tudi čustva. Slednja lahko zameglijo razumsko odločanje - pri ljudeh je tako, zakaj ne pri SR? Če bi rad ustvaril SR morilca svojih sovražnikov, lahko pri ustvarjanju svojega SR v AI algoritme pač vgradiš močna negativna čustva do tvojih sovražnikov.

Glede začetnih stavkov: hja, če ustvariš SR, mu bodo priznane človeške pravice le, če si ga dobro ustvaril, da zna ločiti dobro in slabo, le tako lahko postane 'oseba'. Če tega ne zna, ga ne bodo razglasili za 'osebo' - v praksi to pomeni, da bo ostal tvoja lastnina. Razvijalci sentientnih strojev bodo tako imeli močan motiv, da namenoma razvijejo SR s hudimi osebnostnimi pomenjkljivostmi, da obdržijo svojo lastnino.

Treba se je namreč vprašati, kako sentientni robot (SR) sploh lahko nastane. Ga bo kdo namenoma razvil? Zakaj le, saj je na svetu že na milijarde sentientov.
Razumen motiv bi bil ustvariti AI, ki ti bo pomagala rešiti nek problem. Se pravi, motiv je nekaj profitabilnega. Če ta tvoja AI razvije sentienco, se ti to zgodi neplanirano - ker sentientnost najverjetneje ne pripomore k tvojemu cilju (AI za lastno uporabo), precej lahko pa ti prinese kup težav. Nenazadnje ti lasten produkt proglasijo za 'osebo' in si ostal brez vloženih sredstev.

Zato bi rekel, da je pri razvoju AI pravzaprav najbolj razumno veliko truda vložiti v to, da se iz AI ne bi razvil sentientni algoritem. Če je možno, je torej najbolj pametno poskusiti v osnovne algoritme za AI vsaditi mehanizme, ki bi morebiten razvoj umetne sentience v kali zatrli.

če se bo nekega robota dalo znova ustvariti, potem njegovo uničenje ne bo umor, ker ga bodo znanstveniki lahko kadarkoli priklicali nazaj k življenju. mogoče bo kategorizirano kot kakšna ugrabitev.

če pa bo robota nemogoče znova ustvariti, ker si je nabral unikatne izkušnje in spomine in se še čustveno močno navezal na določene ljudi in ti ljudje na njega, potem bo to umor.

predvsem pa je to, ali bodo ljudje uničenje roboto imeli za umor ali ne, odvisno od tega, ali bodo ti roboti dovolj razviti, da se bodo ljudje lahko dovolj poistovetili z njimi oz. se postavili v njihovo kožo.

če bodo roboti na stopnji razvoja živali, potem se človek ne bo mogel tako poistovetiti z njimi. če pa bodo roboti razumeli zelo zapletene človeške stvari, potem pa se je z njimi lažje poistovetiti. če bi se z živalmi lahko pogovarjali o čemerkoli bi nedvomno dobile enake pravice kot ljudje. za to se gre: smiseln pogovor o čemerkoli, da te robot razume + da ima še čustva in unikatne spomine. potem bo njegovo uničenje nedvomno umor. mogoče je tole dober test, ali je robot dovolj človeško inteligenten ali ne: če ti je nerodno biti nag pred njim je, drugače ni. pred živalmi nam ni nerodno, pred ljudmi pa je. ali pa kakšen podoben test, ki vsebuje čustva sramežljivosti. pred živalmi nam ni čisto nič nerodno delati, pred ljudmi pa veliko stvari.

če bo človeštvo dovolj inteligntno, da bo ustvarilo tako pametne robote, bo najbrž tudi dovolj inteligentno, da jim bo dalo pravice, ki jim bodo logično šle. najbrž človeštvo takrat ne bo tako več tako primitivno kot civilizacije, ki so imele sužnje.

No tu moram pa tudi BlueRunnerja popravit.
Glede zadnjega stavka: SR (sentientni robot) nima le razuma, ampak tudi čustva. Slednja lahko zameglijo razumsko odločanje - pri ljudeh je tako, zakaj ne pri SR? Če bi rad ustvaril SR morilca svojih sovražnikov, lahko pri ustvarjanju svojega SR v AI algoritme pač vgradiš močna negativna čustva do tvojih sovražnikov.

Lahko jih. Ampak to bi IMHO pomenilo enako odgovornost zate, kot je v tem trenutku odgovornosti npr. enega starša, ki v otroka vcepi slepo sovraštvo do drugega starša. Če tak otrok zagreši zločin, bo del krivde zagotovo nosil tudi tisti, ki ga je naredil za tovrstnega invalida.

Seveda lahko najdemo množico primerov, ko imaš lahko neodvisno osebo, ki je sposobna delovati v naši družbi, hkrati pa je nevarna tempirana bomba. Npr. sociopati, psihopati, osebe z bipolarno motnjo, ... Patologija je tukaj kar obiširna. Mislim pa, da je razmerje med staršem in potomcem nekako primerljivo z razmerjem stvaritelj - umetno ustvarjena zavest. Bolj kot bo takšna stvaritev namerno "prizadeta", večja bo teža odgovornosti na strani stvaritelja. Bolj, kot bo stvaritev v svojem razmišljanju in morda celo čustvovanju blizu človeku, večja bo verjetnost, da jo bomo na koncu dejansko spoznali kot novo obliko "življenja".

Zato bi rekel, da je pri razvoju AI pravzaprav najbolj razumno veliko truda vložiti v to, da se iz AI ne bi razvil sentientni algoritem. Če je možno, je torej najbolj pametno poskusiti v osnovne algoritme za AI vsaditi mehanizme, ki bi morebiten razvoj umetne sentience v kali zatrli.

Tukaj si bi upal stopiti še korak dlje. Če se nam zavestno bitje "zgodi po naključju", potem je skoraj gotovo, da bo uničeno tako neusmiljeno in brez vprašanja, kot se uniči narobe delujočo napravo. Zagotovo pa takšne "emerging" zavesti realno ne bodo mogle razumeti kaj več, kot pa svojega obstoja. Pravice zavesti v odnosu na pravice oseb bodo za takšno novorojeno zavest verjetno popolna neznanka.

Kaj pa če takšne "emerging" zavesti sploh ne bomo prepoznali, temveč si jo bomo razlagali kot preprosto nepravilno delovanje programa. Kot takšno jo bomo seveda brez razmisleka takoj uničili. Bizaren primer: robot - raketa nenadoma sredi leta "ugotovi", da bo prinesla uničenje nedolžnim ljudem. Zato se deaktivira (disarm). Lastnik rakete je bo seveda razglasil za nepravilno delujočo (malfunctioning) in jo bo po kratkem postopku nevtraliziral - uničil njen blisk zavesti.

Mislim, da imajo edino realno možnost preživetja tiste zavesti, ki jih bomo sami zavestno (sic!) skonstruirali. Skonstruirali in poslali v družbo, ki bo za njih že imela pripravljena pravila.

O čemu sanjajo roboti?

username> "Recimo da ustvariš in zalaufaš sentienten stroj, pa šele po njegovem zagonu zaslutiš, da nekaj si v programu zašuštral ter da se bo stroj dokaj verjetno obrnil proti tebi in te morda ubil (ali pa koga drugega) - ali ga smeš proti njegovi volji izklopiti in modificirati program?"

Dokler ta stroj ni pravno priznan kot oseba - brez problema. Ko je enkrat priznan, imaš velik problem. Velikih odločitev pač ne sprejemaš zlahka. Če si sentientu dal vse pravice, ki pritičejo osebi in pred tem nisi preveril, da je dejansko zavestno bitje, ki je sposobno samorefleksije, ima svobodno voljo in se tudi samo zaveda posledic svojih dejanj - well, tough luck.


username> "Denimo, da si ustvaril sentienten stroj - robota, ki je sedaj dobil pravice in postal oseba itd. Skratka, ni več tvoj stroj, ampak samo svoja svobodna oseba.
Potem pa začne delati hude zločine (pobija itd) in izkaže se, da je kriv prvotni program, ki si ga ti napisal za tega robota.
Kdo je sedaj odgovoren za nastali kažin? Ustvarjalec stroja ali svobodni stroj sam?"

Spet - mislim, da je pravo vprašanje to, ali si pred podelitvijo pravic naredil domačo nalogo. IOW, ali si preveril njegovo kodo in naredil vse, da eliminiraš takšnele scenarije. Podeljevanja pravic, ki pritičejo osebam ne vidim kot nekakšne formalnosti; npr. kot pridobivanje državljanjstva. Zaradi same narave stroja in točno tega, na kar opozarjaš ti, bi vsak (človeško ustvarjen) sentient moral preko relativno dolge procedure.