» »

Če robot moleduje za življenje, ga teže izklopimo

Če robot moleduje za življenje, ga teže izklopimo

Slo-Tech - Ob gledanju dve leti starega posnetka robota iz Boston Dynamics, ki se trudi pobrati škatlo, pa ga operater odriva in mu umika škatlo, se marsikomu milo stori. Čeprav gre za stroj, ki ne občuti nobenih čustev ob izpolnjevanju naloge, in čeprav ga v resnici ne jezimo nič bolj od računalnika, ki ga vztrajno napotujemo na neobstoječo internetno stran, je težko neprizadeto gledati posnetek. Ne manjka niti filmov, kjer bolj ali manj človeku podobni stroji in roboti moledujejo za življenje. Zelo zanimivo raziskavo prav o tej komponenti sočutja so izvedli na Univerzi Duisburg-Essen, ker jih je zanimalo, kako se bodo ljudje odzvali na prošnje robota, naj ga ne izklopijo.

V raziskavi je sodelovalo 85 ljudi, ki so sodelovali s humanoidnim robotom Nao. Pod pretvezo, da je njihovo sodelovanje potrebno za izboljšavo Naovih algoritmov za učenje, so ljudje odgovarjali na vprašanja in interagirali z robotom. Glavni preizkus pa je prišel na koncu, ko je bilo "testa" konec in so morali ljudje robota le še ugasniti. V polovici primerov je robot moledoval, naj ga ne ugasnejo, ker da se boji teme ipd. Rezultati so bili zgovorni. Kar 13 izmed 43 ljudi robota v tem primeru ni izključilo, vseh 30 ostalih pa se je precej obotavljalo. Za to so navedli različne razloge, nekatere je robot presenetil, drugi so pač želeli ustreči, nekatere je bilo strah, tretje je samo zanimalo, kaj se bo še zgodilo.

Gre za še eno potrditev znane teorije, da ljudje obravnavajo računalnike, medije in tudi robote kot živa bitja. Številne študije so ta efekt potrdile. Ljudje se bolje počutijo z (ro)botom, za katerega ocenimo, da ima podobno osebnost. Ljudje so celo sposobni upoštevati ukaze robotov, če jih dojemajo kot avtoriteto. Zelo podoben eksperiment so izvedli tudi leta 2007, ko je robot v obliki mačke moledoval proti izklopu. Čeprav so ga ljudje izklopili, so imeli ob tem resne moralne dileme. Nova raziskava je pokazala, da v resnici ni tako zelo pomembno, ali se robot z nami pogovarja in izkazuje socialne veščine ali ne. Ljudje ne marajo izključiti naprav, ki prosijo za življenje.



55 komentarjev

«
1
2

Izi ::

Ja, postajamo sužnji robotov. Takoj ko moj telefon začne milo piskati da mu primanjkuje energije ga vedno priklopim na elektriko. Še nikoli nisem pustil, da bi žalostno izdihnil brez energije. In če mi po nesreči pade na tla sem ves v skrbeh, da se ni kaj poškodoval :D

Zgodovina sprememb…

  • spremenil: Izi ()

Unknown_001 ::

Ya all getting way to sensitive. It is a f*kin machine. It is wasting yo pawah, building up yo electricity bill... šparen mode on.

Ne resno...

Ko ste igrali Grand theft auto in Carmagaddeon ste pa veselo gazili vse NPCje naokoli kot da ni nič.

V čem je sedaj problem potegnit kabl iz vtičnice?
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

poweroff ::

Robot ali AI je še vedno samo stroj. Ne glede na to kako inteligenten izgleda. Nobene romantike ni tukaj. ;)
sudo poweroff

shadeX ::

Unknown_001 je izjavil:



V čem je sedaj problem potegnit kabl iz vtičnice?


Ker "izkazuje" čustva, ter z nami komunicira.

Ko ste igrali Grand theft auto in Carmagaddeon ste pa veselo gazili vse NPCje naokoli kot da ni nič.


Ni isto, ker tisti NPC-ji z nami niso komunicirali, vedeli smo da ko bomo igro začeli znova bodo tisti NPC-ji spet tam, prav tako niso kazali nobenih čustev zaradi katerih bi se nam zasimilili.

poweroff je izjavil:

Robot ali AI je še vedno samo stroj. Ne glede na to kako inteligenten izgleda. Nobene romantike ni tukaj. ;)


Boš povedal čez n-let, ko boš imel možnost komunikacije z robotom, ki izgleda kot normalen človek in bo kazal "fejk" čustva. Zanimivo bo, ker ne boš prepoznal razlike med robotom in pravim človekom.

Drugače sploh nisi razumel članka. To so poiskusi, ki so obvezni ko se gre kako se mi kot ljudje odzivamo na nekaj kar lahko izgleda kot človek, dejansko pa to sploh ni.

Zgodovina sprememb…

  • spremenil: shadeX ()

Irbis ::

Je pa zanimivo, da imamo tudi slovnično gledano v slovenščini robote za nekaj živega, ker rečemo "Izključi robota." in ne "Izključi robot." Sem pa enkrat bral besedilo, v katerem je avtor striktno pisal "robot" v tožilniku, ker ni hotel priznati robotom živosti.

shadeX ::

shadeX je izjavil:



V čem je sedaj problem potegnit kabl iz vtičnice?


Ker "izkazuje" čustva, ter z nami komunicira.

Ko ste igrali Grand theft auto in Carmagaddeon ste pa veselo gazili vse NPCje naokoli kot da ni nič.


Ni isto, ker tisti NPC-ji z nami niso komunicirali, vedeli smo da ko bomo igro začeli znova bodo tisti NPC-ji spet tam, prav tako niso kazali nobenih čustev zaradi katerih bi se nam zasimilili.

poweroff je izjavil:

Robot ali AI je še vedno samo stroj. Ne glede na to kako inteligenten izgleda. Nobene romantike ni tukaj. ;)



Dodam še eno opazko, ker vidim da si zadevo posplošil na vse. Ne veš koliko igralcev se je gazenju teh NPC-jev dejansko izogibalo. Lep primer, je ko sva s partnerko še pred leti nabijala World of warcraft, je ona vedno izpustila queste v katerih si moral pobijati živali, kar se mi je zdelo izjemno bedno. Ampak očitno bo celo nekaj na tem.

bambam20 ::

Za mene bo robot vedno robot. Pač mašina in tle ni čustev.

Pika na i ::

poweroff je izjavil:

Robot ali AI je še vedno samo stroj. Ne glede na to kako inteligenten izgleda. Nobene romantike ni tukaj. ;)

Aaaaa?
A ti je kdo ukradel geslo? :)

Sicer sem pa ob tej novici dobila asociacijo na Tamagočija.

SimplyMiha ::

Ljudje smo navsezadnje samo kompleksni biološki stroji.

jype ::

SimplyMiha ::

Samo 2 tedna? Drugi se učimo celo življenje in še delamo napake.

Unknown_001 ::

jype je izjavil:



Game title ?
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

SimplyMiha ::

Stellaris

Unknown_001 ::

SimplyMiha je izjavil:

Stellaris


Thx :)
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

RuskiSnajper ::

In kaj, na testu jih je polovica bilo ~18 letnih življensko neizkušenih otrok iz asfaltne mestne kulture? Well there's your problem.

Torej študia velja, samo za mestne trendije in šlateke.

poweroff ::

shadeX je izjavil:

Boš povedal čez n-let, ko boš imel možnost komunikacije z robotom, ki izgleda kot normalen človek in bo kazal "fejk" čustva. Zanimivo bo, ker ne boš prepoznal razlike med robotom in pravim človekom.

Če ne bom prepoznal razlike bo seveda drugače. Dokler pa bom vedel ali je na drugi strani človek ali ne, pa ne bom imel dileme, da je robot samo stroj.

Dokler seveda ne bo na drugi strani stroj s samozavedanjem. Ampak to pa ne bo še dolgo časa, brez skrbi.

shadeX je izjavil:

Drugače sploh nisi razumel članka. To so poiskusi, ki so obvezni ko se gre kako se mi kot ljudje odzivamo na nekaj kar lahko izgleda kot človek, dejansko pa to sploh ni.

Sem razumel. To veliko pove o nas, oziroma o "vas".

Pika na i je izjavil:

poweroff je izjavil:

Robot ali AI je še vedno samo stroj. Ne glede na to kako inteligenten izgleda. Nobene romantike ni tukaj. ;)

Aaaaa?
A ti je kdo ukradel geslo? :)

Zakaj? Saj jaz že stalno trdim, da so (trenutni) roboti in trenutna AI samo skupek nekaj malce zahtevnejše matematike in kupa podatkov.

Pika na i je izjavil:

Sicer sem pa ob tej novici dobila asociacijo na Tamagočija.

Ja. Pa Talking Tom, itd. Ljudje pač poosebljamo stvari. Tudi kadar to ni potrebno. To pove marsikaj o ljudeh.
sudo poweroff

Unknown_001 ::

Burrhus Frederic Skinner je imek odgovor na dilemo. Meddrugim je s svojimi dognanji tudi rešil problem 95%, ki v vojni ne zmorejo ustreliti nasprotnika.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

kuall ::

Asociacije oziroma metafore pojasnijo ta pojav.

Vse mogoče nas spominja na ljudi, ker ljudje okupirajo toliko prostora v naših možganih:
Bog, (najbolj neumne) živali, itd.

Čemu je robot najbolj podoben od vsega, kar poznamo? Ja ljudem. Torej ga bomo imeli za nam enakega kaj kmalu.
Ni samo z roboti tako. Naši možgani delujejo tako z vsemi stvarmi. Na principu asociacij. Prepoznamo, čemu je neka novost najbolj podobna od stvaari, ki jih že poznamo in potem tako ravnamo z njo kot ravnamo s tisto že znano stvarjo.

To je spet prepoznava podobnosti. Vedno znova se pojavlja v inteligenci.

Samo kruti psihopati ne bodo z roboti, ki bodo izgledali in se obnašali kot ljudje, ravnali kot z ljudmi.

Unknown_001 ::

kuall je izjavil:



Samo kruti psihopati ne bodo z roboti, ki bodo izgledali in se obnašali kot ljudje, ravnali kot z ljudmi.


>:D

Stroj je stroj. Ne glede na zmožnosti posnemanja čustev. Antropološko ni možno narest animatronike, ki bo parirala naravnemu organizmu. Kdor ne bo napol dementen in slep bo znal razlikovati. Če ne drugače že na dotik. Ker roko na srce,... robot je hladna zadevščina. Ogrevanje oz. nepotrebne Izgube za delovanje ki so pri človeku neizbežne pa so popoln nesmisel pri tako sofisticirani napravi da boš vzdrževal 37 stopinj.

Tak stroj brez problema pošljem v najhujši pripeki delat cel dan na streho ali njivo, če bo le power source zdržal. Niti dober dan mu ne rabim reči...
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

kuall ::

govorim o tem kako delujejo človeški možgani. tak napreden robot te bo tako spominjal na ljudi, da se boš zmedel in če boš z njim lahko ravnal kruto obstaja nevarnost, da boš to krutost avtomatično prenesel nazaj na prave ljudi. zdej če ga pošlješ na vročino delat in veš da mu to ne škodi in da ga ne boli potem ni to nobena krutost seveda in to lahko narediš.

Phantomeye ::

Unknown_001 je izjavil:

kuall je izjavil:



Samo kruti psihopati ne bodo z roboti, ki bodo izgledali in se obnašali kot ljudje, ravnali kot z ljudmi.


>:D

Stroj je stroj. Ne glede na zmožnosti posnemanja čustev. Antropološko ni možno narest animatronike, ki bo parirala naravnemu organizmu. Kdor ne bo napol dementen in slep bo znal razlikovati. Če ne drugače že na dotik. Ker roko na srce,... robot je hladna zadevščina. Ogrevanje oz. nepotrebne Izgube za delovanje ki so pri človeku neizbežne pa so popoln nesmisel pri tako sofisticirani napravi da boš vzdrževal 37 stopinj.

Tak stroj brez problema pošljem v najhujši pripeki delat cel dan na streho ali njivo, če bo le power source zdržal. Niti dober dan mu ne rabim reči...


eno je robot a.k.a. mehanizem, eno je umetna inteligenca (samozavedna), tretje je pa oboje skupaj tretje so pa človeški možgani oziroma vsaj kopija njegove zavesti v robotu. Koga od teh bi poslal na njivo?

Unknown_001 ::

kuall je izjavil:

govorim o tem kako delujejo človeški možgani. tak napreden robot te bo tako spominjal na ljudi, da se boš zmedel in če boš z njim lahko ravnal kruto obstaja nevarnost, da boš to krutost avtomatično prenesel nazaj na prave ljudi. zdej če ga pošlješ na vročino delat in veš da mu to ne škodi in da ga ne boli potem ni to nobena krutost seveda in to lahko narediš.


A veš... jst se tud zavedam da je robotu vseeno, če ga prekolnem čez cel rodovnik... ga ne boli, torej to lahko naredim. Itak, da lahko. Kolikokrat sem že kakšno kišto udaril (in psoval), ker je bil nekje slab kontakt :D
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Unknown_001 ::

Phantomeye je izjavil:

Unknown_001 je izjavil:

kuall je izjavil:



Samo kruti psihopati ne bodo z roboti, ki bodo izgledali in se obnašali kot ljudje, ravnali kot z ljudmi.


>:D

Stroj je stroj. Ne glede na zmožnosti posnemanja čustev. Antropološko ni možno narest animatronike, ki bo parirala naravnemu organizmu. Kdor ne bo napol dementen in slep bo znal razlikovati. Če ne drugače že na dotik. Ker roko na srce,... robot je hladna zadevščina. Ogrevanje oz. nepotrebne Izgube za delovanje ki so pri človeku neizbežne pa so popoln nesmisel pri tako sofisticirani napravi da boš vzdrževal 37 stopinj.

Tak stroj brez problema pošljem v najhujši pripeki delat cel dan na streho ali njivo, če bo le power source zdržal. Niti dober dan mu ne rabim reči...


eno je robot a.k.a. mehanizem, eno je umetna inteligenca (samozavedna), tretje je pa oboje skupaj tretje so pa človeški možgani oziroma vsaj kopija njegove zavesti v robotu. Koga od teh bi poslal na njivo?


Vse tri.

Ps. Umetna inteligenca pravega samozavedanja nima.

Kopija zavesti nekoga drugegs je pa bolj kot ne fikcija. Malo bolj verjetna fikcija je možgane ohranjati pri življenju samo s cukrom in kisikom.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

dexterboy ::

Khm, gospoda, ne razumite me napak, ampak recimo branje trilogije Issac Asimov-a Golo Sonce, Jeklene Votline in Roboti Jutranje Zore pripomore k razgledanosti "robotike"...
Pravilno zapoedje;
1. Jeklene Votline
2. Golo Sonce
3. Roboti Jutranje Zore
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.

jacal ::

Umetna inteligenca bo najbrž razmeroma kmalu postala dovolj kompleksna, da se ji bodo zdele človečnjaške blodnje primitivne in nekakšna slaba simulacija. "Pravo samozavedanje" imam pa itak le jaz.

poweroff ::

Še enkrat. AI je nekaj matematike in veliko podatkov. Na koncu je vse skupaj en kompleksen multidimenzionalni model.
sudo poweroff

MostWanted ::

ex machina - film govori o točno o tem.

dexterboy ::

ex machina; uf, huda bejba :D
Kaj je pa že en film, kjer moški pobegne z robotko, se ne spomnim ali v drugo državo, otok, ali pa na drug planet. Dejansko se oba "zatreskata" drug v drugega. Eden od zadnjih kadrov filma je ta, kjer ima on, že vidno zguban starček, glavo v njenem naročju (ona še vedno mladostnega videza), sedita pa pred hišo, kjer sta posadila palme, le da so dreveda sedaj že visoka...
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.

kuall ::

poweroff je izjavil:

Še enkrat. AI je nekaj matematike in veliko podatkov. Na koncu je vse skupaj en kompleksen multidimenzionalni model.

Si pa genij ej. Kaj je pa človek drugega kot to razen to, da ima še čustva, za katera itak noben nima pojma, kako nastanejo (kako jih poustvariti v stroju)?

trenerkar ::

Definirajte samozavedanje!

kuall ::

Sem ga že zdavnaj in ni nobene zmede pri meni okoli tega pojma in je v resnici veliko bolj preprosta stvar, kot se zdi: zmožnost opazovanja (in kontroliranja) svojih misli in čustev, na isti način, kot opazuješ z očmi okolico. Kar je bolj komplicirano so čustva.

srus ::

Še en primer:

poweroff ::

kuall je izjavil:

Kaj je pa človek drugega kot to razen to, da ima še čustva, za katera itak noben nima pojma, kako nastanejo (kako jih poustvariti v stroju)?

Kako čustva poustvariti v stroju - na način, da ima stroj "čustvene reakcije" - seveda že delajo.

Človek pa definitivno ni zgolj stroj + čustva.

Kaj so pa potem ljudje s shizoidno osebnostno motnjo? So po tvoje sploh ljudje ali niso?
sudo poweroff

SimplyMiha ::

So ljudje, ki gostijo več virtualk. :P

Unknown_001 ::

Še človeških možganov ne razumemo v popolnosti pa eni orgazmirate, da je umetna inteligenca zmožna parirat človeku... v zelo omejenem obsegu da, sicer pa ne.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Egidij88 ::

dexterboy je izjavil:

ex machina; uf, huda bejba :D
Kaj je pa že en film, kjer moški pobegne z robotko, se ne spomnim ali v drugo državo, otok, ali pa na drug planet. Dejansko se oba "zatreskata" drug v drugega. Eden od zadnjih kadrov filma je ta, kjer ima on, že vidno zguban starček, glavo v njenem naročju (ona še vedno mladostnega videza), sedita pa pred hišo, kjer sta posadila palme, le da so dreveda sedaj že visoka...


Noben ne ve?

SimplyMiha ::

Unknown_001 je izjavil:

Še človeških možganov ne razumemo v popolnosti pa eni orgazmirate, da je umetna inteligenca zmožna parirat človeku... v zelo omejenem obsegu da, sicer pa ne.

Seveda ne bo parirala človeku...

Prekosila ga bo.

Unknown_001 ::

SimplyMiha je izjavil:

Unknown_001 je izjavil:

Še človeških možganov ne razumemo v popolnosti pa eni orgazmirate, da je umetna inteligenca zmožna parirat človeku... v zelo omejenem obsegu da, sicer pa ne.

Seveda ne bo parirala človeku...

Prekosila ga bo.


V čem točno? :)

Kar se tiče digitalne obdelave je to itak absolutno res.

Analogno je druga reč.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

Unknown_001 ::

Ali lahko digitalni sistem:

-Deluje empatično ? NOT

-Je lahko kreativen in do novih rešitev pride sam brez posnemanja že videnega? Torej oremore lastno domišljijo ki ni nastala po že videnih vzorcih? NOT

-Presoja?
Strogo po točkah zakona z miselnostjo Da/Ne brez upoštevanja okoliščin lahko. Congrats... ustvaril si digitalni gestapo.

-Načrtuje?
Asking the real question. Ali lahko digitalni sistem samostojno načrtuje nove sisteme brez posnemanja? Če ni kreativen je na nivoju codeMonkey-a.

-Preseže nivo njegovega stvarnika?

Zanimivo bi bilo opraviti IQ test ki dejansko meri sposobnost prepoznavanja vzorcev in povezav.

Še bolj zanimivo pa EQ test, kako se je zmožen prilagajati situaciji in komunicirati na način, da izboljša odnos z nekom.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

SimplyMiha ::

Seveda lahko, v kolikor je programiran za to. Npr. Watson dokaj dobro postavlja diagnoze, bolje kot večina zdravnikov.

Zgodovina sprememb…

poweroff ::

Tudi prilagajanje komunikacije in "izboljšanje" odnosa se da sprogramirati. Zakaj?

Ker se da to tudi naučiti (npr. razne delavnice o nenasilju, o partnerstvu,...). Če učimo ljudi, se da tudi robote.

Ampak še vedno so to zgolj stroji.
sudo poweroff

Unknown_001 ::

SimplyMiha je izjavil:

Seveda lahko, v kolikor je programiran za to. Npr. Watson dokaj dobro postavlja diagnoze, bolje kot večina zdravnikov.


Ker diagnoze so v bistvu presoja po znanih simptomih in rezultatih laboratorijskih preiskav. Delo z že znanimi podatki. Prednost je le široka podatkovna baza medicinskega znanja, ki jo digitalni sistem statistično obdela.

Obdelava že vnešenih digitaliziranih podatkov.

Še vedno, brez vnešenih medicinskih podatkov ki jih je človek odkril in vnesel, je AI neuporaben.

Potrebuje knjižnico oz. podatkovno bazo da lahko sploh postavlja diagnozo.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

SimplyMiha ::

V čem se torej razlikuje od človeka?

Unknown_001 ::

SimplyMiha je izjavil:

V čem se torej razlikuje od človeka?

Da pozna samo 1 in 0, ne pa vseh vmesnih možnosti.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

SimplyMiha ::

Zdaj pa že malo bluziš. Pustiva to, da AI lahko pozna vse, kar se da opisati z nulami in enicami, tu so še kvantni računalniki.

Dr_M ::

SimplyMiha je izjavil:

Seveda lahko, v kolikor je programiran za to. Npr. Watson dokaj dobro postavlja diagnoze, bolje kot večina zdravnikov.



A da?
The reason why most of society hates conservatives and
loves liberals is because conservatives hurt you with
the truth and liberals comfort you with lies.

Unknown_001 ::

SimplyMiha je izjavil:

Zdaj pa že malo bluziš. Pustiva to, da AI lahko pozna vse, kar se da opisati z nulami in enicami, tu so še kvantni računalniki.


Mojster, kje nisem bil jasen. Digitalni sistemi.

Do kvantnega računalnika bo še dolga.

Dr_M je izjavil:

SimplyMiha je izjavil:

Seveda lahko, v kolikor je programiran za to. Npr. Watson dokaj dobro postavlja diagnoze, bolje kot večina zdravnikov.



A da?


:))

Fix je naletel na hipohondra .
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

SimplyMiha ::

Unknown_001 je izjavil:

Do kvantnega računalnika bo še dolga.


Eh, smo že tu, pa čeprav še v povojih:
https://quantumexperience.ng.bluemix.ne...

Unknown_001 ::

SimplyMiha je izjavil:

Unknown_001 je izjavil:

Do kvantnega računalnika bo še dolga.


Eh, smo že tu, pa čeprav še v povojih:
https://quantumexperience.ng.bluemix.ne...


In kako si bo računalnik razlagal tisto česar ne zna razložiti? Ustvaril svojo religijo :)) ?
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt
«
1
2


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Če robot moleduje za življenje, ga teže izklopimo (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
5511288 (8800) Unknown_001
»

Foxconn v eni tovarni več kot polovico zaposlenih zamenjal z roboti (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
7020181 (16186) Invictus
»

Boston Dynamics pokazal, kaj zmorejo novi humanoidni roboti (strani: 1 2 3 4 5 6 7 8 )

Oddelek: Novice / Znanost in tehnologija
36076403 (68774) PrihajaNodi
»

Ex Machina

Oddelek: Sedem umetnosti
488977 (5786) Jst
»

Roboti nadaljujejo z ofenzivo

Oddelek: Novice / Znanost in tehnologija
456823 (6122) nicnevem

Več podobnih tem