Umor stroja?

Eno zanimivo filozofsko vprašanje.

Če danes nekdo namerno in zavestno ubije človeka, ni dvoma, da je to umor. Ne glede na raso ubitega (včasih ni bilo tako).

Predpostavimo, da se bo tehnologija umetne inteligence čez nekaj let ali desetletij zelo zelo razvila. Postavlja pa se mi vprašanje ali bi bilo tudi uničenje zelo naprednega robota z razvito AI umor. Ali je potem tudi izbris (npr. iz konzole, ne fizično uničenje) zelo naprednega AI algoritma z razvito nevronsko mrežo umor?

“Who was to say that a machine, endowed with the very spirit of man, did not deserve a fair hearing?”

(Animatrix)

Verjetno bi bilo unicenje taksnega stroja umor.

Sentienta ne smeš ubit. To prepoved je seveda potrebno razširiti tudi na tistole skalo, ki ji gledam tamle na hribu. Danes ji še ni prepovedano prikotaliti se dol in me pomečkati.

Protokol to mora popravt.

Ali je potem tudi izbris (npr. iz konzole, ne fizično uničenje) zelo naprednega AI algoritma z razvito nevronsko mrežo umor?

Umor ali izbris, to je pravno vprašanje.

Še pred tem je pravno vprašanje to, ali gre za osebo, ali ne. In še preden je pravno, je to vprašanje filozofsko.

Mislim, da bo v prihodnosti mogoče izdelati stroj/AI z dovolj človeškimi lastnosti in mu (pomembno) dodeliti status osebe. Če pa bo to kdaj de facto naša volja in interes, je pa drugo vprašanje.

A.Smith je dobro napisal: "oseba".

Ako AI oziroma umetno obliko življenja spoznamo za osebo, potem je izbris oz. kakršna koli oblika nasilne prekinitve obstoja te entitete umor.

Kdaj pa AI postane oseba?

Seveda. Ko se nekaj privleče v zakone, je to zakon. Prej pa ni, pa naj bo še tako "prav" ali še tako "narobe".

Večinoma ljudem strežejo po življenju sile, ki niso podložne našim zakonom. Virusi in bakterije, se požvižgajo nanje. Zaenkrat.

Naravo je potrebno omejiti z zakoni.

Ubiješ lahko vse kaj ni tvoje vrste. To velja danes in veljalo bo tudi v prihodnje.

Še celo znotraj določene vrste v določenih "tvorbah med ljudmi" ni narobe če ubiješ sicer pripadnika iste vrste ampak naprimer druge rase ali veroizpovedi ali če ga označiš naprimer da je terorist in je na osi zla ali podobna jajca...

To je realnost.

Torej da. Lahko boš ubil vse kaj se bo smatralo za stroj.

Ja no poškodovanje tuje lastnine in umor pa pač ni isto. Tema pa se sprašuje če bo kdaj uničenje stroja se smatralo kot umor.

Sam močno dvomim. Trenutno živimo v neki tvorbi ki je imenovana EU in ima zelo visoke standarde na vseh področjih.

In na kraj pameti ne pride nikomur da bi pobijanje določenih živih bitij se smatralo kot umor. Pa so kakšni delfini, oragutani, šimpanzi in drugi zelo visoko razvite vrste. Če bi v odstotkih ocenjevali podobnost vrjamem da bi pri določenih vrstah prišli dokaj blizu naši vrsti. Pa vendar ne smatramo poboj takšnih vrst kot umor. Da bi pa nekaj kaj klasificira naša vrsta kot "stroj" se pravno overdnotilo kot umor če bi to izklopili pa ne vrjamem da je možno.

Ker dokler piše pravila 1 vrsta je najvišje v hirearhiji prav ohranitev obstoja tiste vrste in to je najvišja vrednota ki dvomim da smo jo sami sposobni kadarkoli preseči.

Torej da možno je. Ampak le če bo to "pravilo" sprejela neka druga vrsta.

Ne bo se uzakonilo vrjemi. Hirearhija tega ne dopušča.

Že to da nam uspeva do neke meje (izumrtja) prepovedovati pobijanje določenih ogroženih živalskih vrst je pomoje dosežek ki si zasluži aplavz.

Za to bi morali stroju najprej podeliti pravno subjektiviteto ter mu priznati, da je sposoben imeti voljo in se zavedati posledic svojega ravnanja.

Kaj če bo Thomasov "upload" enkrat mogoč, da bomo svoje možgane "naložili" na "silicijevo osnovo"? Bo tisto stroj ali človek?

Če razmišlja in deluje enako kot človek - potem je to še vedno človek - ne glede na substrat, na katerem trenutno deluje.

Torej, če je I/O pri takem stroju enak kot pri povprečnem človeka, je ta stroj mentalno enakovreden človeku oz. sentient, ki mu pri pripadajo vse pravice človeka.

Ekonomija nima veze z vprašanjem "človečnosti".
Pomemben je zgolj I/O memepleksa oz. en res dober Turingov test.

Če nihče ne prepozna razliek med starim Janezom in "novim uploadanim" Janezom, je to še vedno isti Janez - ne glede na to, če je mlad ali star, lep ali pohabljen, na biološkem ali mehanskem substratu.

Um (trenutno zgolj v bioloških možganih) je tisto, kar šteje.

Kaj če bo Thomasov "upload" enkrat mogoč, da bomo svoje možgane "naložili" na "silicijevo osnovo"? Bo tisto stroj ali človek?

Če razmišlja in deluje enako kot človek - potem je to še vedno človek - ne glede na substrat, na katerem trenutno deluje.

Torej, če je I/O pri takem stroju enak kot pri povprečnem človeka, je ta stroj mentalno enakovreden človeku oz. sentient, ki mu pri pripadajo vse pravice človeka.

Pa vendar če s kladivom udariš po takšnem stroju ne boš obsojen za umor. A žival ki bi dokazala da ima IQ višji od povprečnega človeka in bi jo ubil bi bil obtožen za umor?

Edini način da bi bil obtožen za umor nečesa kar ni človek je zamik v hirearhiji. Niti enakost ni dovolj. Če ni človek mora biti vsaj stopnjo višje in še takrat vprašanje kdo bo "sodnik".

Da še malo razdelam zadevo. Na Youtube sem gledal trailer za film Terminator salvation. Sicer rahlo brezvezen film, v katerem se ljudje borijo proti robotom. Notri je en prizor, ko en človek robotu da strel v glavo.

Pustimo zdaj filmske fantazije, ampak če bi v vojni nek vojak ranjenemu sovražnemu vojaku dal strel v glavo, bi se to smatralo kot eksekucija in bi se temu vojaku sodilo. Kaj pa v primeru stroja?

Ja, seveda. Ampak zakoni ne padejo iz neba. Zakoni so naš odnos do sveta.

Po moje je ideja, da bi imel stoj "človekove pravice" danes tako nezamisljiva, kot ta, da so črnci svobodni pred 200 leti.

Po moje je ideja, da bi imel stoj "človekove pravice" danes tako nezamisljiva, kot ta, da so črnci svobodni pred 200 leti.

O resničnosti te izjave precej pove dejstvo, da lahko v marsikaterem odgovoru v tej temi besedo 'stroj' zamenjaš s 'črncem' in dobiš za pred 200 leti povsem smiselen sestavek.

Npr: - Namreč črnc je lastnina in pripada nekomu, človek pa po drugi strani ni lastnina nikogar drugega.
- Ostane še vprašanje črnca, ki je v povsem tvoji privatni lasti. Ga smeš fentat?
- Že zdaj ne smeš ubiti črnca, ki ni tvoj. To se knjiži pod "poškodovanje tuje lastnine"
...

Pa ne rabi niti biti 'črnc'; lahko smo bolj 'moderni' in uporabimo žide med WW2, ženske v Islamu, ipd.

Je pa treba biti s stroji malo bolj previden. Zatirane manjšine ljudi si slejkoprej izborijo svoje pravice, ne glede na to, kako dolgo je vladajoči večini potrebno, da to dejstvo sprejme. S stroji, si luksuza oklevanja ne bomo mogli privoščiti. Ko enkrat dosežejo nivo, da bomo o njihovih pravicah morali razmišljati, bodo ta nivo (in s tem tudi nas) hitro tudi presegli. Nočem videt vstaje strojev, ker jim kaki konzervativci ne bodo privoščili volilne pravice :)

Večini mesojedcev je to povsem samoumevno. Če jim rečeš da je ubijanje enostavno napačno, te samo zabodeno gledajo in te povprašajo po zdravju.

IMO prehitevaš. Jaz namreč to debato razumem kot razmišljanje, ali se uničenje stroja sploh lahko klasificira kot umor.

Primer psa je tudi neustrezen. Stroj je različen od katerekoli živali ali človeka, saj stroje si mora zamisliti človek in jih izdelati. V naravi stroji sami od sebe ne nastajajo. Zato se tudi reče, da kdor ima stroj, je lastnik stroja. Kdor ima žival, je zanj bolj pravilen izraz npr. gospodar/skrbnik.. Živali se ne izdeluje, ampak se jih vzreja.

V jedru te debate se torej skriva vprašanje spoštovanja pravice do zasebne lastnine. Vsak izdelek in vsak stroj je rezultat človeškega ustvarjanja, ki mu lahko po komponentah vedno sledimo do nekega konkretnega človeka, ki si je s svojim razumom nekaj zamislil in ustvaril. Brez njega in njegovega razuma tega ustvarjenega (ideje, izdelka, stroja) ne bi bilo. Zato je edino pravilno, da on svobodno razpolaga z rezultati svojega ustvarjanja. Če ne on, pa nekdo drug, ki je v prostovoljnem dogovoru te rezultate kupil od njega.

username: dobro si pojasnil, kako si pravilno razlagat trenutne zakone in točno kakšen efekt imajo trenutno. Ampak, kot je matthai zapisal:
"Ampak zakoni ne padejo iz neba. Zakoni so naš odnos do sveta."

Res je, zakoni ne padejo z neba. Naj bi bili kompatibilni z obstoječimi zakoni in odražali naj bi neka temeljna načela. Je med njimi tudi načelo spoštovanja pravice do zasebne lastnine?

Skratka: ali bodo tudi inteligentni stroji v prihodnosti lastnina nekoga ali bodo v nekem trenutku postali v pravnem/moralnem smislu samostojne osebe, kot so človeška bitja? V katerem trenutku se bo to zgodilo in po kakšnih kriterijih?

Če se bo to zgodilo, bo to avtomatsko pomenilo razlastninjenje oziroma suspenz določenih lastninskih pravic. Preprosteje: nekomu (nekemu človeku oziroma več ljudem) bo odvzeta njihova lastnina, ki so jo ustvarili.
Pri čemer primerjave s psi ali suženjstvom vnaprej zavračam, ker ni isto. Suženj ni stroj, ki ne bi prej obstajal , pa bi si ga nekdo s svojim razumom zamislil in ga ustvaril. Suženj je preprosto že bil človek, ki pa ga je nek drug človek zasužnjil, nasilno spremenil v svojo 'lastnino' in mu grobo kršil njegove pravice.

Stroj pa ni nekaj, kar bi lahko našel v naravi in pograbil zase. Moraš ga ustvariti (neposredno - da ga sam sestaviš; ali posredno, ko ga kupiš od originalnega ustvarjalca).

Tudi izdelki in drugi stroji, ki jih ustvarijo obstoječi stroji, so logično lastnina tistega, ki je lastnik prvega stroja. In tako naprej po verigi ustvarjanja/gospodarjenja.

Če torej ustvariš inteligenten stroj in ti ga vzamejo, se to v bistvu ne razlikuje od primera, da narediš hladilnik in ti ga zasežejo/ukradejo.

Praktična posledica vsega tega je med drugim seveda tudi to, da bodo ta pravna vprašanja vplivala na sam pojav inteligentnih strojev.
Namreč kdor bo vedel ali vsaj slutil, da lahko drugi njegovemu stroju 'priznajo pravice' (= mu ga vzamejo), bo precej manj motiviran, da bi sploh vlagal sredstva, čas in energijo v ustvarjanje takega stroja.

Podrekal si temo.

V momentu, ko se nekaj zave lastnega obstoja, postane subjekt

Pravno gledano to ne drži. Nekatere živali se zavedajo lastnega obstoja, pa pravo vse živali obravnava kot stvari.

Vidim kam ciljaš. V nekem smislu sm js tut ustvaru svojega otroka pa zato še ni moja zasebna lastnina.

Dajmo se ustaviti tukaj in razčistit.
'ustvariti otroka' je nekaj povsem drugega kot ustvariti stroj/katerokoli dobrino.

Za ustvarjanje otrok ne potrebuješ neke nove zamisli - pač slediš naravnim nagonom, kot so to počele neštete milijarde osebkov skozi stotine milijonov let.

'ustvarjanje otrok' ne zahteva nobenega mislenega napora v smislu uporabe razuma. Dva metulja ne rabita nobenega ustvarjalnega premišljevanja, da se parita.

Ustvarjanje strojev pa terja strogo uporabo razuma. In to v prvi fazi razuma nekega konkretnega posameznika.

"Pravna subjektiviteta" se skozi zgodovino širi.

Je že tako, da nikomur ni nič podarjeno. Psi in šimpanzi zato ne bodo nikoli dosegli takšnega statusa, ker se zanj ne znajo sami potegovati. Šimpanzi in gorile so že sedaj zaščiteni in se jih ne sme ubijati - v Ruandi so za krivolovce skoraj enako ostre kazni kot za morilce. Ampak iz živalskih vrtov jih pa IMHO ne bodo nikoli izpustili in tudi nujno potrebne medicinske poskuse bodo še vedno izvajali na šimpanzih. Tudi vegetarijanstvo ne bo nikoli obvezno.

Misleči stroji pa si bodo lahko svoje pravice sami izborili, v takšni meri, kot jim jih ljudje sami od sebi ne bi podelili. Tudi črnci in sužnji so si za svoje pravice sami prizadavali in ženske so si same izborile volilno pravico.

O.

Glede izdelave otrok. Teoretično bi bilo mogoče. Vzame se jajčece, semence in naredi umetno maternico (verjamem, da bo čez nekaj let to postalo nekako mogoče) in se pač "z razumom" naredi otroka.

Je tak otrok kaj manj človeški? Po moje ne.

Vmes je še en hec. Skoraj zanesljivo bo trajalo kar nekaj časa, preden bomo ljudje verjeli in si priznali, da stroj res misli in se zaveda samega sebe in da ni samo dobro programiran.

Hm, dokler se stroj ne bo sam sebe programiral in se ucil bo vedno 'zgolj' dobro sprogramiran. Pa magari ce je sprogramiran tako, da se zaveda lastnega obstoja.

Sprogramirati moramo stroj tako, da bo sam sebe prepoznal in se poslednicno zavedal samega sebe. Tako kot je prvi primat, ki je pogledal v mirno vodo videl drugega primata, mu pomahal in oni mu pomaha nazaj in potem vse za njim ponavlja, na koncu pa primat ugotovi, da gleda samega sebe v vodi.

V bistvu se mi zdi, da nam niti ne bo uspelo stroja sprogramirati do te mere, da se bo sam sebe zavedal podobno kot clovek. Prej bo sam evoluiral iz kaksnega manj kompleksnega stroja, ki se zna sam popravljati in programirati.

Glede izdelave otrok. Teoretično bi bilo mogoče. Vzame se jajčece, semence in naredi umetno maternico (verjamem, da bo čez nekaj let to postalo nekako mogoče) in se pač "z razumom" naredi otroka.

V bistvu bi moral v takem postopku izdelave otroka razvit iz nekih surovin, ne pa da vzameš še narejeno delo in pol zgolj omogočiš celicam, da se naforkajo. As in, skonstruiraj vse potrebne komponente, to pa bi bla izdelava.

Kot takšna, se komot pojavijo tudi v mislečih mašinah, ki imajo prosto pot da optimizirajo same sebe. Zakaj bi nas ohranile, če nas ne potrebujejo? Gentleman, without protocol, we are doomed.

Že sedaj (vsaj nekateri) ljudje ne gledamo na stvari kot na - to potrebujem, ohrani, tega ne, zavrzi. Zato pa mamo radi take iracionalnosti, kot je malo zelenja sredi mesta, čeprav bi tam lahko stal kak trgovski center, ki bi "produciral" milijone. Ni nujno, da bojo pametne mašine utilitaristi do jaja.

Malo zelenja bolj prispeva k zdravju meščanov kot še en trgovski center sredi betonske džungle. Magari če je do vrha naložen z zdravimi izdelki.

Kakorkoli že, tu ne moremo govoriti o umetni inteligenci in človeku kot o enakovrednih partnerjih, ker to nikoli ne bo mogoče. Človek je odvisen od lastnih čustev, izkušenj, hormonov itd., česar stroj nikoli ne bo imel. Lahko bo imitiral v obsegu programa, vendar ne bo nikoli človek.

Lahko pa definiramo umetno inteligenco posebej. Treba je najdi skupno definicijo, kot recimo pri človeku, vsem rasam rečemo 'človek', naj bo belec, črnec, poševnookec ali kanibalski domačin. Kaj bi bila skupna lastnost človeka ter napredne samostojne umetne inteligence?

Sentinent. Samozavedajoči. V to skupino bi morali vključiti tudi živalske vrste, za katere se izkaže, da se zavedajo, itd.