» »

Umetna inteligenca proti umetni inteligenci: sodelovati ali tekmovati

Umetna inteligenca proti umetni inteligenci: sodelovati ali tekmovati

Slo-Tech - V življenju je mnogo situacij, ki morajo udeleženci izbrati med dvema različnima strategijama - sodelovati ali tekmovati. Optimalne taktike ni vedno enostavno izračunati in se pogosto niti ne realizira, ker je Nashevo ravnotežje drugačno. Znamenit primer je zapornikova dilema, ko policija ločena pridrži kriminalca, ki imata na izbiro svojega partnerja izdati ali ne. Kdor izda drugega, je svoboden, drugi pa gre za tri leta v zapor. Če se izdata oba, gresta oba v zapor za dve leti, če pa ne spregovori nihče, gresta oba v zapor za eno leto. Kaj pa bi v takem primeru naredila umetna inteligenca?

To so se vprašali pri Googlovem DeepMindu (znanstveni članek) in umetni inteligenci naščuvali v igranje preprostih iger, ki ugotavljajo točno to . Umetni inteligenci sta odigrali na tisoče partij in se sproti učili (deep multi-agent reinforcement learning). V prvi igri (Gathering) sta morala igralca nabirati sadeže (jabolka), za katere sta bila nagrajena. Prav tako sta imela možnost drug drugega z laserjem začasno odstraniti iz igre. Po pričakovanjih sta v razmerah obilja nabirala jabolka, ko pa jih je začelo zmanjkovati, sta postajala čedalje agresivnejša in drug drugega čedalje pogosteje ovirala. Zanimivo je bilo, da je inteligentnejši igralec, torej tak z večjo računsko močjo, igral agresivneje. DeepMind pojasnjuje, da to ne pomeni nujno, da je agresija boljša taktika, temveč da preprosto zahteva več računske moči kakor nabiranje jabolk, zato je manj zmogljiva umetna inteligenca ni pogosto uporabljala.

V drugi igri (Wolfpack) pa sta morala igralca sodelovati. Lovila sta plen, točke od ujetega plena pa je dobil lovec in tudi tisti, ki je bil v trenutku ujetja dovolj blizu. Umetna inteligenca je hitro ugotovila, da je smiselno sodelovati. In res, pametnejša umetna inteligenca je sodelovala v večji meri, torej ravno obratno kot v zgornjem primeru. V tem primeru je namreč sodelovanje terjalo večjo računsko moč, zato si ga je v večjem obsegu privoščila boljša umetna inteligenca.

Morda se zdijo rezultati trivialni in pričakovani, a ni čisto tako. DeepMind je pokazal, da je mogoče z moderno umetno inteligenco raziskovati stara vprašanja družbenega sodelovanja in skrivnost njegovega nastanka v zgodovini. Takšni modeli so uporabni tudi za testiranje različnih ukrepov in subvencij, ki imajo v moderni, kompleksni in prepleteni družbi težko napovedljive učinke.

26 komentarjev

jype ::

Odlično! Veseli me, da Alphabet sredstva troši za takšne raziskave, ki bi sicer morale čakati na javni denar, še bolj me pa veseli, da redno in javno objavljajo rezultate.

vostok_1 ::

Torej...ljudje, ki so v dobrih časih pripravljeni na sodelovanje so pametnejši. Ko zavlada kriza pa se formira pleme z agresivno in pametno vodjo na čelu.
Makes sense.

Kot kaže bomo naredili full circle. In bo umetna inteligenca pravzaprav končala na isto mesto kot mi, sam da bo playgorund galaksija in ne ena vukujebina na robu nje.
There will be chutes!

Zgodovina sprememb…

  • spremenil: vostok_1 ()

tikitoki ::

vostok_1 je izjavil:

Torej...ljudje, ki so v dobrih časih pripravljeni na sodelovanje so pametnejši. Ko zavlada kriza pa se formira pleme z agresivno in pametno vodjo na čelu.
Makes sense.

Kot kaže bomo naredili full circle. In bo umetna inteligenca pravzaprav končala na isto mesto kot mi, sam da bo playgorund galaksija in ne ena vukujebina na robu nje.


Brez FTL je to cista utopija in nic drugega.

jype ::

vostok_1> Torej...ljudje, ki so v dobrih časih pripravljeni na sodelovanje so pametnejši. Ko zavlada kriza pa se formira pleme z agresivno in pametno vodjo na čelu.

Ne.

vostok_1> Makes sense.

Ja, če rezultate interpretiraš na podlagi svoje ideologije, potem zagotovo.

gus5 ::

Takšni modeli so uporabni tudi za testiranje različnih ukrepov in subvencij, ki imajo v moderni, kompleksni in prepleteni družbi težko napovedljive učinke.
Uporabni pri 'izračunavanju' učinkov v konkretnih družbenih situacijah le, če ljudi razumemo kot ekstremno preračunljiva nenačelna bitja, brez lastnih identitet, čustev in strasti, ki se vedno ravnajo sebično in svoje delovanje vedno podredijo etiki rezultatov.

Spura ::

Itak ljudje nismo 100% cost-benefit analiza. Ce na izbiro da bivsi zeni das 90% svojih prihodkov, ali pa da 100% le-teh vrzes v ogenj, bodo verjetno ljudje drugace izbrali kot AI.

AtaStrudl ::

Brez FTL je to cista utopija in nic drugega.


Za raazliko od ljudi ima AI cas, in ji to ne bo ovira.

jype ::

Spura> Itak ljudje nismo 100% cost-benefit analiza. Ce na izbiro da bivsi zeni das 90% svojih prihodkov, ali pa da 100% le-teh vrzes v ogenj, bodo verjetno ljudje drugace izbrali kot AI.

Mnogi so neracionalni, drži. Jaz bi raje dal 100% bivši ženi, kot 1% vrgel v ogenj, drži pa, da gredo vse moje potencialne bivše žene skozi zelo rigorozen proces preverjanja usposobljenosti za vlogo.

Dr_M ::

A ce ne prestanejo testa, jih vrzes v ogenj?
Doba pametnih naprav in neumnih ljudi.

Utk ::

Itak. Prvic, mora te prenasat, drugic, mora bit zenska. O drugi tocki se pa da tudi pogajat.

Sicer pa ne vem zakaj bi bila neracionalnost problem za AI. Ce ga tako naucijo, je njemu precej vseeno za racionalnost.

jype ::

Dr_M> A ce ne prestanejo testa, jih vrzes v ogenj?

Nikakor ne, zgolj kolikor zmorem prijazno zavrnem ponudbo.

Utk> Ce ga tako naucijo, je njemu precej vseeno za racionalnost.

Temeljna prednost racionalnosti je predvidljivo doseganje začrtanih ciljev. Drži, komot AI rečeš, da je glavni cilj povzročiti čimveč škode.

Zgodovina sprememb…

  • spremenilo: jype ()

Jst ::

Waw, na (slo-)TECH forumu je zelo zanimiva objava, da se je umetna intiligenca naučila/obnašala zakonitosti, ki smo jih ljudje ugotavljali skozi zgodovino, v zadnjih stoletjih tudi z matematiko in eksperimenti, vi pa sanjate o sosedovi joški... :/
Islam is not about "I'm right, you're wrong," but "I'm right, you're dead!"
-Wole Soyinka, Literature Nobelist
|-|-|-|-|Proton decay is a tax on existence.|-|-|-|-|

nevone ::

Dr_M> A ce ne prestanejo testa, jih vrzes v ogenj?

Nikakor ne, zgolj kolikor zmorem prijazno zavrnem ponudbo.


Why wouldn't you help someone less superior?

o+ nevone
The best way to predict the future is to create it yourself.

tikitoki ::

Spura je izjavil:

Itak ljudje nismo 100% cost-benefit analiza. Ce na izbiro da bivsi zeni das 90% svojih prihodkov, ali pa da 100% le-teh vrzes v ogenj, bodo verjetno ljudje drugace izbrali kot AI.


Seveda, racionlana osebe bo poiskala poklicnega morilca. Mamu ti pa 90%!

jype je izjavil:

Spura> Itak ljudje nismo 100% cost-benefit analiza. Ce na izbiro da bivsi zeni das 90% svojih prihodkov, ali pa da 100% le-teh vrzes v ogenj, bodo verjetno ljudje drugace izbrali kot AI.

Mnogi so neracionalni, drži. Jaz bi raje dal 100% bivši ženi, kot 1% vrgel v ogenj, drži pa, da gredo vse moje potencialne bivše žene skozi zelo rigorozen proces preverjanja usposobljenosti za vlogo.


Super, da si tak mucenik, da bos raje sam crknil od lakote, ker bo cisto vse pobrala tvoja sebicna bivsa. Dej premisli, preden take gluposti pises. Mislim, da ni ene same normlane osebe na svetu, ki bi bila sposobna kaj taksnega sprejeti. Ow wait, mogoce v kaksni zabaceni drzavi, kjer fuknejo zensko na cesto. Tist bi se verjetno drl na glas, kako je nehumano.

Zgodovina sprememb…

  • spremenilo: tikitoki ()

tikitoki ::

nevone je izjavil:

Dr_M> A ce ne prestanejo testa, jih vrzes v ogenj?

Nikakor ne, zgolj kolikor zmorem prijazno zavrnem ponudbo.


Why wouldn't you help someone less superior?

o+ nevone


A se javis? TI poiscemo primernega kandidata?

nevone ::

A se javis? TI poiscemo primernega kandidata?


Ga že imam.

o+ nevone
The best way to predict the future is to create it yourself.

vostok_1 ::

Zato nisem nikoli razumel rasizma.

Četudi se izkaže, da je neka skupina...khm..."slabša"...why be an asshole do njih?

Pes je tudi bolj butast od človeka, a ga zato treba tepst, zlorabljat itd.?
Šure...preprečiš mu, da bi poklal cel kokošnjak, ampak ni ga potrebno pri tem mučit.
To so spet neke psihične power motnje.
There will be chutes!

Zgodovina sprememb…

  • spremenil: vostok_1 ()

jype ::

nevone> Why wouldn't you help someone less superior?

Exploitation is not help.

Napajalc ::

Motivatorje/pisce za nečedno obnašanje AI bi bilo potrebno maximalno kaznovat. Človeku ni problem naročit umor, problem je pri izvajanju.
V osnovi je primer slab, ker je hitrost pobiranja jabolka konstantna, posledično neprimeren/prezmogljiv AI izvaja jalovo delo ker je motiviran, to je delo/programiranje človeka, če bi bil AI pisec bi odvečne AI porabil bodisi za izdelavo dodatnih sadovnjakov, bodisi za izdelavo svetovne ureditve, da bi vsak posameznik mislil da je v raju, vključno z živalmi za vsak slučaj.
011011100111010101100010

Grey ::

No, pa smo prišli do točke, ko človeški ambasadorji in politiki postanejo velik liability človeštvu. Vpišeš parametre (okarakteriziraš) posameznika v tak algoritem in izračunaš, kaj moraš narediti, da se posameznik ukloni...to sicer psihopati že počnejo, a je računalniški način hitrejši in več interakcij lahko zaobjame.

Relanium ::

vostok_1 je izjavil:

Torej...ljudje, ki so v dobrih časih pripravljeni na sodelovanje so pametnejši. Ko zavlada kriza pa se formira pleme z agresivno in pametno vodjo na čelu.
Makes sense.

The Walking Dead :)
Žalosten je človek, ki ima v podpisu svoj setup

nevone ::

Exploitation is not help.


You don't have to act that way. And even if?

o+ nevone
The best way to predict the future is to create it yourself.

Markoff ::

AtaStrudl je izjavil:

Brez FTL je to cista utopija in nic drugega.


Za raazliko od ljudi ima AI cas, in ji to ne bo ovira.

Cold death, big crunch ali pa big rip vsi predstavljajo omejitev razpoložljivega časa. Za ljudi ali AI.
Ad astra per aspera

gruntfürmich ::

AI bodo levičarji prepovedali...
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...

Zgodovina sprememb…

  • predlagal izbris: BigWhale ()

Jst ::

A niso big rip prepovedali? AI pa podpirajo z "Ethical society for neural networks".
Islam is not about "I'm right, you're wrong," but "I'm right, you're dead!"
-Wole Soyinka, Literature Nobelist
|-|-|-|-|Proton decay is a tax on existence.|-|-|-|-|

jype ::

tikitoki> Super, da si tak mucenik, da bos raje sam crknil od lakote

Jaz nisem nesposoben, zato me ne skrbi, da bi crknil od lakote, verjamem pa, da to skrbi tiste moške, ki se šlepajo na ženske.

gruntfürmich> AI bodo levičarji prepovedali...

Ti se pa slabo spoznaš na levičarstvo: https://ru.wikipedia.org/wiki/%D0%9E%D0...


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Še ena zmaga za umetno inteligenco: branje z ustnic (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
634854 (1082) crniangeo
»

AlphaGo v goju proti človeškemu prvaku vodi 2:0 (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
937882 (3644) Rok Woot
»

Tema o umetni inteligenci (strani: 1 2 3 )

Oddelek: Znanost in tehnologija
1055687 (2628) vostok_1
»

Umetna inteligenca kdaj?

Oddelek: Znanost in tehnologija
301925 (1168) Thomas
»

Umetna inteligenca

Oddelek: Loža
361048 (707) Thomas

Več podobnih tem