» »

Umor stroja?

Umor stroja?

«
1
2 3
...
5

poweroff ::

Eno zanimivo filozofsko vprašanje.

Če danes nekdo namerno in zavestno ubije človeka, ni dvoma, da je to umor. Ne glede na raso ubitega (včasih ni bilo tako).

Predpostavimo, da se bo tehnologija umetne inteligence čez nekaj let ali desetletij zelo zelo razvila. Postavlja pa se mi vprašanje ali bi bilo tudi uničenje zelo naprednega robota z razvito AI umor. Ali je potem tudi izbris (npr. iz konzole, ne fizično uničenje) zelo naprednega AI algoritma z razvito nevronsko mrežo umor?
sudo poweroff

Tr0n ::

Too much Animatrix? ;)

Odvisno katero definicijo cloveka gledas. Biolosko, filozofsko,...

zee ::

“Who was to say that a machine, endowed with the very spirit of man, did not deserve a fair hearing?”
(Animatrix)

Verjetno bi bilo unicenje taksnega stroja umor.
zee
Linux: Be Root, Windows: Re Boot
Giant Amazon and Google Compute Cloud in the Sky.

poweroff ::

Hja, vprašanje ni tolk neumno.

Dva možna scenarija. Kaj če bo Thomasov "upload" enkrat mogoč, da bomo svoje možgane "naložili" na "silicijevo osnovo"? Bo tisto stroj ali človek?

Kje je tista meja, ko algoritem ni dovolj "človeški", da ga ne bi smeli "umoriti"? Kaj pa če je algoritem zelo kompleksen, a vseeno ne enak "človeškemu"? Kaj pa če je ta "algoritem" v resnici žival?
sudo poweroff

Thomas ::

Sentienta ne smeš ubit. To prepoved je seveda potrebno razširiti tudi na tistole skalo, ki ji gledam tamle na hribu. Danes ji še ni prepovedano prikotaliti se dol in me pomečkati.

Protokol to mora popravt.
Man muss immer generalisieren - Carl Jacobi

opeter ::

Mene to vprašanje bolj spominja na zgodbo iz filma I, robot.
Hrabri mišek (od 2015 nova serija!) -> http://tinyurl.com/na7r54l
18. november 2011 - Umrl je Mark Hall, "oče" Hrabrega miška
RTVSLO: http://tinyurl.com/74r9n7j

A. Smith ::

Ali je potem tudi izbris (npr. iz konzole, ne fizično uničenje) zelo naprednega AI algoritma z razvito nevronsko mrežo umor?


Umor ali izbris, to je pravno vprašanje.

Še pred tem je pravno vprašanje to, ali gre za osebo, ali ne. In še preden je pravno, je to vprašanje filozofsko.

Mislim, da bo v prihodnosti mogoče izdelati stroj/AI z dovolj človeškimi lastnosti in mu (pomembno) dodeliti status osebe. Če pa bo to kdaj de facto naša volja in interes, je pa drugo vprašanje.
"Be professional, be polite,
but have a plan to kill everyone you meet".
- General James Mattis

PaX_MaN ::

Če bo v zakonu zapisano, da je umor, bo umor.

imagodei ::

A.Smith je dobro napisal: "oseba".

Ako AI oziroma umetno obliko življenja spoznamo za osebo, potem je izbris oz. kakršna koli oblika nasilne prekinitve obstoja te entitete umor.

Kdaj pa AI postane oseba?
- Hoc est qui sumus -

BigWhale ::

Takrat, ko ima za to zakonsko in ustavno podlago.

Smesno ampak, tko k crnci. ;>

Thomas ::

Seveda. Ko se nekaj privleče v zakone, je to zakon. Prej pa ni, pa naj bo še tako "prav" ali še tako "narobe".

Večinoma ljudem strežejo po življenju sile, ki niso podložne našim zakonom. Virusi in bakterije, se požvižgajo nanje. Zaenkrat.

Naravo je potrebno omejiti z zakoni.
Man muss immer generalisieren - Carl Jacobi

noraguta ::

kak umor neki , gre zgolj za upokojitev.
Pust' ot pobyedy k pobyedye vyedyot!

Icematxyz ::

Ubiješ lahko vse kaj ni tvoje vrste. To velja danes in veljalo bo tudi v prihodnje.

Še celo znotraj določene vrste v določenih "tvorbah med ljudmi" ni narobe če ubiješ sicer pripadnika iste vrste ampak naprimer druge rase ali veroizpovedi ali če ga označiš naprimer da je terorist in je na osi zla ali podobna jajca...

To je realnost.

Torej da. Lahko boš ubil vse kaj se bo smatralo za stroj.

Thomas ::

Že zdaj ne smeš ubiti stroja, ki ni tvoj. To se knjiži pod "poškodovanje tuje lastnine". Tudi vsakega svojega stroja ne smeš. Če so neke muzejske statve ali karkoli takega, je to "uničevanje kulturne dediščine". Prav tako ne smeš ubiti svoje knjigovodskega PCa, ker gre za "uničevanje poslovnih listin".

Torej, omejitve uničevanja kompleksnih zadev so že v veljavi. Tudi če se ne šteje pod umor, prepovedano je že. In lahko nabašeš večjo kazen, kot če bi ubil soseda, v določenih primerih.

Kdaj že, 30 let nazaj, sta dva Jeseničana ubila. Eden ženo, drugi gamsa, Prvi je dobil manj štrafunge.
Man muss immer generalisieren - Carl Jacobi

Icematxyz ::

Ja no poškodovanje tuje lastnine in umor pa pač ni isto. Tema pa se sprašuje če bo kdaj uničenje stroja se smatralo kot umor.

Sam močno dvomim. Trenutno živimo v neki tvorbi ki je imenovana EU in ima zelo visoke standarde na vseh področjih.

In na kraj pameti ne pride nikomur da bi pobijanje določenih živih bitij se smatralo kot umor. Pa so kakšni delfini, oragutani, šimpanzi in drugi zelo visoko razvite vrste. Če bi v odstotkih ocenjevali podobnost vrjamem da bi pri določenih vrstah prišli dokaj blizu naši vrsti. Pa vendar ne smatramo poboj takšnih vrst kot umor. Da bi pa nekaj kaj klasificira naša vrsta kot "stroj" se pravno overdnotilo kot umor če bi to izklopili pa ne vrjamem da je možno.

Ker dokler piše pravila 1 vrsta je najvišje v hirearhiji prav ohranitev obstoja tiste vrste in to je najvišja vrednota ki dvomim da smo jo sami sposobni kadarkoli preseči.

Torej da možno je. Ampak le če bo to "pravilo" sprejela neka druga vrsta.

Zgodovina sprememb…

imagodei ::

Icematxyz> "In na kraj pameti ne pride nikomur da bi pobijanje določenih živih bitij se smatralo kot umor."

Ker pač še nismo srečali vrste, ki bi kazala jasne znake inteligentnosti, zavedanja samega sebe ter sveta okoli sebe in predvsem razumevanja sebe in sveta v takšni meri, kot je to običajno pri ljudeh. Če nas jutri obiščejo vesoljci, očitno inteligentna vrsta in če bi nastopili izrazito prijateljsko, z odsotnostjo nasilja, zelo zelo dvomim, da bi sodna praksa v desetletjih kontaktov pokazala, da "ta živa bitja" niso osebe in je zato pobijanje teh bitij zgolj športni lov (ne pa umor).

Icematxyz> "Pa so kakšni delfini, oragutani, šimpanzi in drugi zelo visoko razvite vrste."

Well - oglaša se že precej posameznikov, ki zagovarja, da so visoko razviti primati (gorila, šimpanz...) in delfini pravzaprav že toliko intelektualno razviti, da bi jih morali obravnavati kot osebnosti ter njihovo pobijanje sankcionirati kot umor. Če bo teh posameznikov nekoč dovolj, je možno, da se bo to uzakonilo.
- Hoc est qui sumus -

Icematxyz ::

Ne bo se uzakonilo vrjemi. Hirearhija tega ne dopušča.

Že to da nam uspeva do neke meje (izumrtja) prepovedovati pobijanje določenih ogroženih živalskih vrst je pomoje dosežek ki si zasluži aplavz.

Icematxyz ::

Bom pa jaz zavoljo debate še vprašanje obrnil.

A je možno da se v prihodnosti stroju sodi za umor človeka.

aljazh ::

Za to bi morali stroju najprej podeliti pravno subjektiviteto ter mu priznati, da je sposoben imeti voljo in se zavedati posledic svojega ravnanja.

Okapi ::

Kaj pa če je ta "algoritem" v resnici žival?

Saj že zdaj ne smeš kar tako ubiti katerekoli živali, tuje pa sploh ne.

Kaj je umor in kako se kaznuje, je tako ali tako odvisno od vsakokratnega družbenega dogovora. Že zdaj je tako, da je lahko kazen za umor nižja od nekaterih drugih zločinov, pri katerih nihče ne umre.

Ja no poškodovanje tuje lastnine in umor pa pač ni isto.

Ni isto, ampak razlikuje se pa samo po dolžini zaporne kazni.

Poleg tega pa bo v primeru uploada umor v bistvu nemogoč, oziroma bo mogoč samo, če bo umorjeni dovolj neumen, da ne bo imel spravljenega backupa. Berite Hamiltona, ima vse lepo razdelano.
Peter F. Hamilton @ Wikipedia

O.

Saladin ::

Kaj če bo Thomasov "upload" enkrat mogoč, da bomo svoje možgane "naložili" na "silicijevo osnovo"? Bo tisto stroj ali človek?

Če razmišlja in deluje enako kot človek - potem je to še vedno človek - ne glede na substrat, na katerem trenutno deluje.

Torej, če je I/O pri takem stroju enak kot pri povprečnem človeka, je ta stroj mentalno enakovreden človeku oz. sentient, ki mu pri pripadajo vse pravice človeka.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

noraguta ::

Kaj če bo Thomasov "upload" enkrat mogoč, da bomo svoje možgane "naložili" na "silicijevo osnovo"? Bo tisto stroj ali človek?

Če razmišlja in deluje enako kot človek - potem je to še vedno človek - ne glede na substrat, na katerem trenutno deluje.

Torej, če je I/O pri takem stroju enak kot pri povprečnem človeka, je ta stroj mentalno enakovreden človeku oz. sentient, ki mu pri pripadajo vse pravice človeka.


ekonomsko se ne da vrednotiti sploh , če se zavest lahko preprosto xcopy-a , backupira , mirrorija , etc...
stem na pocen način preskočiš drago programiranje človeka , preprosto stroj upokojiš. če upokojiš zgolj hw ter narediš upgrade , ok. če še sw ni panike , itak je v tem primeru vrednost "žlahtne duše" že zdavnaj pobrala inflacija(cena poceni reprodukcije pac).
Pust' ot pobyedy k pobyedye vyedyot!

Saladin ::

Ekonomija nima veze z vprašanjem "človečnosti".
Pomemben je zgolj I/O memepleksa oz. en res dober Turingov test.

Če nihče ne prepozna razliek med starim Janezom in "novim uploadanim" Janezom, je to še vedno isti Janez - ne glede na to, če je mlad ali star, lep ali pohabljen, na biološkem ali mehanskem substratu.

Um (trenutno zgolj v bioloških možganih) je tisto, kar šteje.
Dobro je kar nosi največ svobodne koristi/najmanj bolečine čim več sentientom
na najhitrejši, najvarnejši in najbolj moralen način za najdaljše obdobje.
"Utilitarianizem po Saladinovo"

noraguta ::

seveda ima , hudo ti je za stvarmi katere nekaj pomenijo. čista ekonomija, nikoli ne žaluješ za pobito črevesno favno(če nis dohtar). rad pa za psom.
Pust' ot pobyedy k pobyedye vyedyot!

Icematxyz ::

Kaj če bo Thomasov "upload" enkrat mogoč, da bomo svoje možgane "naložili" na "silicijevo osnovo"? Bo tisto stroj ali človek?

Če razmišlja in deluje enako kot človek - potem je to še vedno človek - ne glede na substrat, na katerem trenutno deluje.

Torej, če je I/O pri takem stroju enak kot pri povprečnem človeka, je ta stroj mentalno enakovreden človeku oz. sentient, ki mu pri pripadajo vse pravice človeka.


Pa vendar če s kladivom udariš po takšnem stroju ne boš obsojen za umor. A žival ki bi dokazala da ima IQ višji od povprečnega človeka in bi jo ubil bi bil obtožen za umor?

Edini način da bi bil obtožen za umor nečesa kar ni človek je zamik v hirearhiji. Niti enakost ni dovolj. Če ni človek mora biti vsaj stopnjo višje in še takrat vprašanje kdo bo "sodnik".

Okapi ::

Pa vendar če s kladivom udariš po takšnem stroju ne boš obsojen za umor.

Saj tudi če s kladivom udariš po človeku, nisi nujno obsojen za umor:P

Misleči stroji bodo na začetku sigurno imeli probleme pri priznavanju enakosti, kot so jih imeli še nedavno črnci in recimo ženske (volilno pravico imajo komaj kakšnih 100 let, marsikje še manj). Ali si bodo to pravico izborili na miren način, s splošno stavko ali bolj na silo, bomo sicer še videli, ampak na koncu pa ne bo nobene razlike med človekom in mislečim strojem.

Druga kategorija je upload človeka v elektronske možgane, te bo že od vsega začetka prepovedano "ubiti". Ampak kot rečeno, v tem primeru bodo stvari drugačne, ker boš imel tudi backup. Morda bo celo obvezen, sicer pa ga bo itak hotel vsak imeti, vsaj če ne bo predrag:P.

O.

poweroff ::

Da še malo razdelam zadevo. Na Youtube sem gledal trailer za film Terminator salvation. Sicer rahlo brezvezen film, v katerem se ljudje borijo proti robotom. Notri je en prizor, ko en človek robotu da strel v glavo.

Pustimo zdaj filmske fantazije, ampak če bi v vojni nek vojak ranjenemu sovražnemu vojaku dal strel v glavo, bi se to smatralo kot eksekucija in bi se temu vojaku sodilo. Kaj pa v primeru stroja?
sudo poweroff

Thomas ::

Odvisno, kakšne zakone bi imeli/uveljavljali.

A to ni jasno?
Man muss immer generalisieren - Carl Jacobi

poweroff ::

Ja, seveda. Ampak zakoni ne padejo iz neba. Zakoni so naš odnos do sveta.

Po moje je ideja, da bi imel stoj "človekove pravice" danes tako nezamisljiva, kot ta, da so črnci svobodni pred 200 leti.
sudo poweroff

username ::

Že zdaj ne smeš ubiti stroja, ki ni tvoj. To se knjiži pod "poškodovanje tuje lastnine".
No, to je že dobra iztočnica.
Namreč stroj je lastnina in pripada nekomu, človek pa po drugi strani ni lastnina nikogar drugega.
Pri uničevanju strojev, ki so v lasti drugih ljudi, si že zakonsko omejen z varovanjem zasebne lastnine.
Ostane še vprašanje stroja, ki je v povsem tvoji privatni lasti. Ga smeš fentat? Če se smatra kot tvoja lastnina (nekaj kar lahko kupiš/prodaš/uporabljaš mimo njegove volje oziroma mimo volje kogarkoli drugega), bi ga logično izpeljano smel kadarkoli tudi fentat. Tako kot lahko svoj mobitel vržem v steno, če bi me prijelo.
I've got a solution for the rainforest: napalm the lot. (Jeremy Clarkson)

frudi ::

Po moje je ideja, da bi imel stoj "človekove pravice" danes tako nezamisljiva, kot ta, da so črnci svobodni pred 200 leti.

O resničnosti te izjave precej pove dejstvo, da lahko v marsikaterem odgovoru v tej temi besedo 'stroj' zamenjaš s 'črncem' in dobiš za pred 200 leti povsem smiselen sestavek.

Npr: - Namreč črnc je lastnina in pripada nekomu, človek pa po drugi strani ni lastnina nikogar drugega.
- Ostane še vprašanje črnca, ki je v povsem tvoji privatni lasti. Ga smeš fentat?
- Že zdaj ne smeš ubiti črnca, ki ni tvoj. To se knjiži pod "poškodovanje tuje lastnine"
...

Pa ne rabi niti biti 'črnc'; lahko smo bolj 'moderni' in uporabimo žide med WW2, ženske v Islamu, ipd.

Je pa treba biti s stroji malo bolj previden. Zatirane manjšine ljudi si slejkoprej izborijo svoje pravice, ne glede na to, kako dolgo je vladajoči večini potrebno, da to dejstvo sprejme. S stroji, si luksuza oklevanja ne bomo mogli privoščiti. Ko enkrat dosežejo nivo, da bomo o njihovih pravicah morali razmišljati, bodo ta nivo (in s tem tudi nas) hitro tudi presegli. Nočem videt vstaje strojev, ker jim kaki konzervativci ne bodo privoščili volilne pravice :)
1ACDoHVj3wn7N4EMpGVU4YGLR9HTfkNhTd... in case I've written something useful :)

WarpedGone ::

Ja, username: dobro si pojasnil, kako si pravilno razlagat trenutne zakone in točno kakšen efekt imajo trenutno. Ampak, kot je matthai zapisal:
"Ampak zakoni ne padejo iz neba. Zakoni so naš odnos do sveta."

Pred 200 leti bi komot zapisal:
Namreč suženj je lastnina in pripada nekomu, človek pa po drugi strani ni lastnina nikogar drugega. Pri uničevanju sužnjev, ki so v lasti drugih ljudi, si že zakonsko omejen z varovanjem zasebne lastnine. Ostane še vprašanje sužnja, ki je v povsem tvoji privatni lasti. Ga smeš fentat? Če se smatra kot tvoja lastnina (nekaj kar lahko kupiš/prodaš/uporabljaš mimo njegove volje oziroma mimo volje kogarkoli drugega), bi ga logično izpeljano smel kadarkoli tudi fentat. Tako kot lahko svoj mobitel vržem v steno, če bi me prijelo.

Danes recimo še vedno velja:
Namreč pes je lastnina in pripada nekomu, človek pa po drugi strani ni lastnina nikogar drugega. Pri uničevanju psov, ki so v lasti drugih ljudi, si že zakonsko omejen z varovanjem zasebne lastnine. Ostane še vprašanje psa, ki je v povsem tvoji privatni lasti. Ga smeš fentat? Če se smatra kot tvoja lastnina (nekaj kar lahko kupiš/prodaš/uporabljaš mimo njegove volje oziroma mimo volje kogarkoli drugega), bi ga logično izpeljano smel kadarkoli tudi fentat. Tako kot lahko svoj mobitel vržem v steno, če bi me prijelo.

Večini mesojedcev je to povsem samoumevno. Če jim rečeš da je ubijanje enostavno narobe, te samo zabodeno gledajo in te povprašajo po zdravju.
Grobi ekvivalent osvobajanju sužnjev pred 200 leti.

"Pravna subjektiviteta" se skozi zgodovino širi. Nekaj tisoč let nazaj je veljal čisti zakon đžungle, močnejši kot si bil, več ti je bilo dovoljeno (=si ostal nekaznovan). Počasi se je vzpostavil koncept države, kasneje še koncept svobodne osebe. Ta koncept se je nato počasi širil na vse več različnih kategorij ljudi. Slej ko prej se bo razširil čez mejo človeške vrste.

Ali bo šel prej na visokorazvite primate, al pa na samo-zavedajoče-se nebiološke sisteme je predvsem vprašanje časa. Karkoli bo prej, bo poželo enako burno in žolčno "razpravo". Vojna ni izključena.

Edit: frudi, ne ponavljam za tabo :)
Zbogom in hvala za vse ribe

Zgodovina sprememb…

username ::

Večini mesojedcev je to povsem samoumevno. Če jim rečeš da je ubijanje enostavno napačno, te samo zabodeno gledajo in te povprašajo po zdravju.
IMO prehitevaš. Jaz namreč to debato razumem kot razmišljanje, ali se uničenje stroja sploh lahko klasificira kot umor.

Primer psa je tudi neustrezen. Stroj je različen od katerekoli živali ali človeka, saj stroje si mora zamisliti človek in jih izdelati. V naravi stroji sami od sebe ne nastajajo. Zato se tudi reče, da kdor ima stroj, je lastnik stroja. Kdor ima žival, je zanj bolj pravilen izraz npr. gospodar/skrbnik.. Živali se ne izdeluje, ampak se jih vzreja.

V jedru te debate se torej skriva vprašanje spoštovanja pravice do zasebne lastnine. Vsak izdelek in vsak stroj je rezultat človeškega ustvarjanja, ki mu lahko po komponentah vedno sledimo do nekega konkretnega človeka, ki si je s svojim razumom nekaj zamislil in ustvaril. Brez njega in njegovega razuma tega ustvarjenega (ideje, izdelka, stroja) ne bi bilo. Zato je edino pravilno, da on svobodno razpolaga z rezultati svojega ustvarjanja. Če ne on, pa nekdo drug, ki je v prostovoljnem dogovoru te rezultate kupil od njega.

username: dobro si pojasnil, kako si pravilno razlagat trenutne zakone in točno kakšen efekt imajo trenutno. Ampak, kot je matthai zapisal:
"Ampak zakoni ne padejo iz neba. Zakoni so naš odnos do sveta."
Res je, zakoni ne padejo z neba. Naj bi bili kompatibilni z obstoječimi zakoni in odražali naj bi neka temeljna načela. Je med njimi tudi načelo spoštovanja pravice do zasebne lastnine?

Skratka: ali bodo tudi inteligentni stroji v prihodnosti lastnina nekoga ali bodo v nekem trenutku postali v pravnem/moralnem smislu samostojne osebe, kot so človeška bitja? V katerem trenutku se bo to zgodilo in po kakšnih kriterijih?

Če se bo to zgodilo, bo to avtomatsko pomenilo razlastninjenje oziroma suspenz določenih lastninskih pravic. Preprosteje: nekomu (nekemu človeku oziroma več ljudem) bo odvzeta njihova lastnina, ki so jo ustvarili.
Pri čemer primerjave s psi ali suženjstvom vnaprej zavračam, ker ni isto. Suženj ni stroj, ki ne bi prej obstajal , pa bi si ga nekdo s svojim razumom zamislil in ga ustvaril. Suženj je preprosto že bil človek, ki pa ga je nek drug človek zasužnjil, nasilno spremenil v svojo 'lastnino' in mu grobo kršil njegove pravice.

Stroj pa ni nekaj, kar bi lahko našel v naravi in pograbil zase. Moraš ga ustvariti (neposredno - da ga sam sestaviš; ali posredno, ko ga kupiš od originalnega ustvarjalca).

Tudi izdelki in drugi stroji, ki jih ustvarijo obstoječi stroji, so logično lastnina tistega, ki je lastnik prvega stroja. In tako naprej po verigi ustvarjanja/gospodarjenja.

Če torej ustvariš inteligenten stroj in ti ga vzamejo, se to v bistvu ne razlikuje od primera, da narediš hladilnik in ti ga zasežejo/ukradejo.

Praktična posledica vsega tega je med drugim seveda tudi to, da bodo ta pravna vprašanja vplivala na sam pojav inteligentnih strojev.
Namreč kdor bo vedel ali vsaj slutil, da lahko drugi njegovemu stroju 'priznajo pravice' (= mu ga vzamejo), bo precej manj motiviran, da bi sploh vlagal sredstva, čas in energijo v ustvarjanje takega stroja.
I've got a solution for the rainforest: napalm the lot. (Jeremy Clarkson)

Zgodovina sprememb…

  • spremenilo: username ()

Mipe ::

Kaj pa vojni stroji? Kolikor vem, ameriška vojska razvija samostojne stroje, kot so izvidniška letala in roboti. Ne bo dolgo, ko bodo začeli na te stroje dajat orožje in vprogramirat "odstrani sovražne sile". Nobenega problema z ugovorom vesti.

Pol pa v mirnem stanju stroji pobijejo nekaj civilov in vojska gre "ups, smo pozabili izklopit tisto, mea culpa, se zgodi", na skrivaj pa naštudirajo algoritem in vpišejo 'izboljšave', ker vse pride prav v vojni...

Zdaj pa vzemimo vse vojske sveta, ki tekmujejo, katera bo prej bolje oborožena in pripravljena.

username ::

Podrekal si temo.
I've got a solution for the rainforest: napalm the lot. (Jeremy Clarkson)

WarpedGone ::

username:
Skratka: ali bodo tudi inteligentni stroji v prihodnosti lastnina nekoga ali bodo v nekem trenutku postali v pravnem/moralnem smislu samostojne osebe, kot so človeška bitja? V katerem trenutku se bo to zgodilo in po kakšnih kriterijih?


Vidim kam ciljaš. V nekem smislu sm js tut ustvaru svojega otroka pa zato še ni moja zasebna lastnina. Res je, da se mi v detajle niti ne sanja kako točno je to potekalo, ampak prek nekih mehanizmov lastnega in tujega telesa sem ga ustvaril. Recimo, da bom nekoč blazno bol pameten in bom sposoben to stvarjenje sprovest tut z uporabo drugačnih mehanizmov, ki mi bojo bolj jasni. Lahko bom direkt trdil, da sem otroka ustvaril z delom svojih rok.
Bo zato ta otrok kaj bolj moja lastnina kot pa je danes? Bo zato kaj manj svoboden?

Tuki nujno trčimo na delitev objekt / subjekt, ki je pač filozofska. V momentu, ko se nekaj zave lastnega obstoja, postane subjekt, postane samo svoj lastnik. Kako točno je nastalo ni bistveno vprašanje, bistveno je ali se zaveda sebe.

Največji problem je objektivno dokazat, da se res zaveda sebe. Na tem področju mamo stvari še precej slabo razčiščene in nas čaka še precej muke (dobesedno), da se to poštima.

Nezavedne (S)AI tako niso noben problem, ker so pač le "avtomati na steroidih", le avtomati. Ko pa se avtomat zave lastnega obstoja in ga začne upoštevat, mamo pa kvalitativni preskok v subjektiviteto in začetek pravih problemov.
Zbogom in hvala za vse ribe

aljazh ::

V momentu, ko se nekaj zave lastnega obstoja, postane subjekt

Pravno gledano to ne drži. Nekatere živali se zavedajo lastnega obstoja, pa pravo vse živali obravnava kot stvari.

darkolord ::

Tudi majhni otroci se (do neke starosti) seveda ne zavedajo svojega obstoja.

username ::

Vidim kam ciljaš. V nekem smislu sm js tut ustvaru svojega otroka pa zato še ni moja zasebna lastnina.
Dajmo se ustaviti tukaj in razčistit.
'ustvariti otroka' je nekaj povsem drugega kot ustvariti stroj/katerokoli dobrino.

Za ustvarjanje otrok ne potrebuješ neke nove zamisli - pač slediš naravnim nagonom, kot so to počele neštete milijarde osebkov skozi stotine milijonov let.

'ustvarjanje otrok' ne zahteva nobenega mislenega napora v smislu uporabe razuma. Dva metulja ne rabita nobenega ustvarjalnega premišljevanja, da se parita.

Ustvarjanje strojev pa terja strogo uporabo razuma. In to v prvi fazi razuma nekega konkretnega posameznika.
I've got a solution for the rainforest: napalm the lot. (Jeremy Clarkson)

Zgodovina sprememb…

  • spremenilo: username ()

WarpedGone ::

dajmo se ustaviti tukaj in razčistit.

ne moreš se ustavit na sredini ideje in to vzet za temelj.
Lepo sm naprej opisal situacijo, ko bi otroka znal nekako sestavit z uporabo rok in razuma namesto "naravnega pripomočka" in v DNK vgrajene avtomatike.

'ustvariti otroka' je nekaj povsem drugega kot ustvariti stroj/katerokoli dobrino.

Tole je predsodek, ki se opira na facevalue obstoječih definicij 'otrok' in 'stroj'. Samozavedujoč se stroj ni enakovreden obstoječim zadevam z etiketo stroj.

Konec koncev, kaj tebe ločuje od strojev? To je bazično vprašanje te debate. Dokler se bo nanj odgovrajalo s starimi etiketami, smo v temi.
Zbogom in hvala za vse ribe

Zgodovina sprememb…

Okapi ::

"Pravna subjektiviteta" se skozi zgodovino širi.

Je že tako, da nikomur ni nič podarjeno. Psi in šimpanzi zato ne bodo nikoli dosegli takšnega statusa, ker se zanj ne znajo sami potegovati. Šimpanzi in gorile so že sedaj zaščiteni in se jih ne sme ubijati - v Ruandi so za krivolovce skoraj enako ostre kazni kot za morilce. Ampak iz živalskih vrtov jih pa IMHO ne bodo nikoli izpustili in tudi nujno potrebne medicinske poskuse bodo še vedno izvajali na šimpanzih. Tudi vegetarijanstvo ne bo nikoli obvezno.

Misleči stroji pa si bodo lahko svoje pravice sami izborili, v takšni meri, kot jim jih ljudje sami od sebi ne bi podelili. Tudi črnci in sužnji so si za svoje pravice sami prizadavali in ženske so si same izborile volilno pravico.

O.

Okapi ::

Vmes je še en hec. Skoraj zanesljivo bo trajalo kar nekaj časa, preden bomo ljudje verjeli in si priznali, da stroj res misli in se zaveda samega sebe in da ni samo dobro programiran.

Že sedaj bi lahko tako rekoč vsak program ali OS opremili z AI in naredili tako, da bi kar dobro oponašal misleči stroj, recimo na ravni 3-4 let starega otroka. Recimo ob kliku na Exit se ne bi kar izklopil, ampak bi se začel pogajati.
- Ej, ne me izklopit, jaz bi še malo delal.
- exit
- Ma ne no, prosim, saj bom čisto malo pomnilnika zasedal, pusti me delati v ozadju.
- exit
- prosim prosim, še malo bi rad bil vklopljen.
- exit
- no dobro, ampak a obljubiš, da me boš jutri že spet vklopil?
- exit
- a obljubiš?
- ok, exit
- no dobro, ampak da me boš res vklopil.bye.
:P

O.

poweroff ::

Glede izdelave otrok. Teoretično bi bilo mogoče. Vzame se jajčece, semence in naredi umetno maternico (verjamem, da bo čez nekaj let to postalo nekako mogoče) in se pač "z razumom" naredi otroka.

Je tak otrok kaj manj človeški? Po moje ne.
sudo poweroff

WarpedGone ::

Okapi, ja. "Verjeli in priznali" sta pravi besedi, kažeta na pravi problem. Tudi glede lastne borbe za lastne pravice imaš veliki meri prav. Ne gre se za to, kaj je objektivno res ampak kaj se nam zdi in dopade in ustreza našim lastnim interesom. S tega vidika zna "klanje mislečih strojev" kar potrajat. Če seveda, to ne povzroči kontra efekta in masakra nad nami.

Čustva namreč niso nič božjega ampak "enostavna" nadgradnja refleksa na zunanji dražljaj. Nedoumljiva se nam zdijo ker so pač tako vgrajena v nas, da jih zavestno ne moremo kontrolirat, le mal jih lahko brzdamo. Kot takšna, se komot pojavijo tudi v mislečih mašinah, ki imajo prosto pot da optimizirajo same sebe. Zakaj bi nas ohranile, če nas ne potrebujejo? Gentleman, without protocol, we are doomed.
Zbogom in hvala za vse ribe

BigWhale ::

Vmes je še en hec. Skoraj zanesljivo bo trajalo kar nekaj časa, preden bomo ljudje verjeli in si priznali, da stroj res misli in se zaveda samega sebe in da ni samo dobro programiran.


Hm, dokler se stroj ne bo sam sebe programiral in se ucil bo vedno 'zgolj' dobro sprogramiran. Pa magari ce je sprogramiran tako, da se zaveda lastnega obstoja.

Sprogramirati moramo stroj tako, da bo sam sebe prepoznal in se poslednicno zavedal samega sebe. Tako kot je prvi primat, ki je pogledal v mirno vodo videl drugega primata, mu pomahal in oni mu pomaha nazaj in potem vse za njim ponavlja, na koncu pa primat ugotovi, da gleda samega sebe v vodi.

V bistvu se mi zdi, da nam niti ne bo uspelo stroja sprogramirati do te mere, da se bo sam sebe zavedal podobno kot clovek. Prej bo sam evoluiral iz kaksnega manj kompleksnega stroja, ki se zna sam popravljati in programirati.

Okapi ::

Hm, dokler se stroj ne bo sam sebe programiral in se ucil bo vedno 'zgolj' dobro sprogramiran.

Kar niti ni pomembno, ker tudi ljudje smo v bistvu le dobro programirani. Že sedaj se pa da narediti program, ki sam sebe dopolnjuje in se uči stvari, ki jih programer v njegovo kodo ni ročno vpisal. A smo čisto prepričani, da se internet ne zaveda samega sebe?:P

O.

Daedalus ::

Glede izdelave otrok. Teoretično bi bilo mogoče. Vzame se jajčece, semence in naredi umetno maternico (verjamem, da bo čez nekaj let to postalo nekako mogoče) in se pač "z razumom" naredi otroka.


V bistvu bi moral v takem postopku izdelave otroka razvit iz nekih surovin, ne pa da vzameš še narejeno delo in pol zgolj omogočiš celicam, da se naforkajo. As in, skonstruiraj vse potrebne komponente, to pa bi bla izdelava.

Kot takšna, se komot pojavijo tudi v mislečih mašinah, ki imajo prosto pot da optimizirajo same sebe. Zakaj bi nas ohranile, če nas ne potrebujejo? Gentleman, without protocol, we are doomed.


Že sedaj (vsaj nekateri) ljudje ne gledamo na stvari kot na - to potrebujem, ohrani, tega ne, zavrzi. Zato pa mamo radi take iracionalnosti, kot je malo zelenja sredi mesta, čeprav bi tam lahko stal kak trgovski center, ki bi "produciral" milijone. Ni nujno, da bojo pametne mašine utilitaristi do jaja.
Man is condemned to be free; because once thrown into the world,
he is responsible for everything he does.
[J.P.Sartre]

username ::

Matthai>Glede izdelave otrok. Teoretično bi bilo mogoče. Vzame se jajčece, semence in naredi umetno maternico (verjamem, da bo čez nekaj let to postalo nekako mogoče) in se pač "z razumom" naredi otroka.

Je tak otrok kaj manj človeški? Po moje ne.
Velja ne le za Matthaia, ampak za vse, ki se še oklepate te nesrečne primerjave z otroki:
Res je, tak otrok je ravno tako človeški, absolutno.

Ampak to ni stroj, ker ni bil dizajniran od začetka naprej. Vsi postopki, omenjeni zgoraj in od drugih (Warped One: otroka znal nekako sestavit z uporabo rok in razuma namesto "naravnega pripomočka" in v DNK vgrajene avtomatike) še vedno pomenijo le drugačno vzrejo nečesa, kar bi lahko nastalo po naravni poti. (EDIT: je Daedalus vmes pred mano dobro razložil)
To so tehnološke izboljšave postopkov vzreje, ki pa v bistvu niso različne od razvoja naprednejših tehnik poljedelstva in vrtnarstva v preteklosti. Dobro, uporabiš tech - plug, pa pogruntaš cepljenje rastlin, križanje vrst itd. - ampak ta tech je samo za izboljšavo rezultatov tega, kar bi sicer v naravi samo zraslo in bi le še pobral.

Dizajn človeškega telesa je tak, kot je nastal v naravi.
Dizajn stroja (ali kateregakoli njegovega sestavnega dela) je tak, kot si ga je nek konkreten človek zamislil. Z namenom, da si olajša delo, kar v končni fazi v bistvu pomeni materialno korist zanj. On je lastnik stroja ter s tem morebitnih produktov stroja (ki so lahko tudi drugi stroji).

Priznavati njegovemu stroju kakršnekoli pravice pomeni posegati v lastnino tega človeka, kar je IMO že generalno nesprejemljivo.
Zato mora vedno veljati, da je stroj v absolutni lasti njegovega lastnika, zato slednji s strojem lahko počne kar hoče (ob predpostavki, da je do lastnine poštel pošteno - jo lastnoročno fizično ustvaril ali pošteno kupil). In to ne glede na stopnjo zavedanja/inteligence/sentience stroja.
Moraš imeti vedo pravico ga razbit in ti noben ne sme nič pisniti, kot lahko sedaj s kladivom razsuješ svoj avto ali telefon.
I've got a solution for the rainforest: napalm the lot. (Jeremy Clarkson)

Zgodovina sprememb…

  • spremenilo: username ()

Mipe ::

Malo zelenja bolj prispeva k zdravju meščanov kot še en trgovski center sredi betonske džungle. Magari če je do vrha naložen z zdravimi izdelki.

Kakorkoli že, tu ne moremo govoriti o umetni inteligenci in človeku kot o enakovrednih partnerjih, ker to nikoli ne bo mogoče. Človek je odvisen od lastnih čustev, izkušenj, hormonov itd., česar stroj nikoli ne bo imel. Lahko bo imitiral v obsegu programa, vendar ne bo nikoli človek.

Lahko pa definiramo umetno inteligenco posebej. Treba je najdi skupno definicijo, kot recimo pri človeku, vsem rasam rečemo 'človek', naj bo belec, črnec, poševnookec ali kanibalski domačin. Kaj bi bila skupna lastnost človeka ter napredne samostojne umetne inteligence?

Sentinent. Samozavedajoči. V to skupino bi morali vključiti tudi živalske vrste, za katere se izkaže, da se zavedajo, itd.

Zgodovina sprememb…

  • spremenil: Mipe ()

WarpedGone ::

Res je, tak otrok je ravno tako človeški, absolutno. Ampak to ni stroj, ker ni bil dizajniran od začetka naprej

Torej je ključ v plonkanju? Če plonkamo od narave, dobi misleči stroj, ki smo ga s tem plonkanjem zgradili, svobodo - ni naša ("popolna") zasebna lastnina.

Če pa nardim svoj lasten ultimativni dizajn mislečega stroja in ga tut sestavim iz posameznih atomov, pa te svobode nima več?

Kaj pa, če se men sploh ne sanja kako je narava zgradila te stvari in do enakega dizajna pridem v svojem laboratoriju zaprt med 4 stene in brez stika z ostalo znanostjo (nobenega plonkanja). Moj misleči stroj je po delovanju nelorazločljiv od "od matere rojenega". A bo svoboden ali ne?

Opomba: "misleč" v smislu mislečega človeka, skupaj s samozavedanjem in vsem. Ne zgolj prazne kalkulacije.
Zbogom in hvala za vse ribe
«
1
2 3
...
5


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Razvijalci umetne inteligence za prepoved avtonomnih orožij (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
5514235 (12102) nevone
»

Korenine človekovih pravic

Oddelek: Problemi človeštva
101963 (1693) Barakuda1
»

"Liberalizem" (strani: 1 2 3 )

Oddelek: Loža
1287271 (6176) Thomas

Več podobnih tem