Humans need not apply

Okapi> Jype v resnici razmišlja romantično in si predstavlja, da nič ne more biti pametnejše od človeka, oziroma da lahko ljudje, če se dovolj potrudimo, razumemo čisto vse.

Nonsense, ampak nekdo, ki ne razume osnov, težko razume karkoli bolj zapletenega.

Tudi če bomo kdaj napisali super inteligenten program, ki se bo samega sebe zavedal in bo vmes postal zloben, dvomim da mu ne bomo vgradili reset tipke, v najslabšem primeru bomo pa še vedno lahko iz stene potegnili kabel za 230V~.

Tudi tebe daje kronično pomanjkanje domišljije. Dovolj pameten program bo znal poskrbeti, da ga ne boš mogel kar tako izklopiti. Dal bo recimo ukaz balistični raketi z jedrsko glavo, da se izstreli, če se ji vsake pol ure ne javi. Ali pa vsem jedrskim elektrarnam, da se izklopijo.

Mimogrede, ta scenarij je tudi že obdelan v ZF literaturi. Ko enkrat civilizacija postane odvisna od AI, je hudo, če se ji moraš nenadoma odpovedati (ker ugotoviš, da se njeni interesi ne skladajo s tvojimi). Predstavljaj si, da bi se morali od danes na jutri odpovedati internetu.

O.

V filmu so postavljene neke hipoteze, tukaj pa sprašujem ljudi, zakaj mislijo da se bodo tiste hipoteze uresničile, saj, kot sem že omenil, se skozi celotno človeško zgodovino dogaja povsem enako.

Samo da tokrat je drugače. Robot bo vzel delovno mesto človeku, novega delovnega mesta za človeka pa ne bo, ker bo robot boljši tudi za morebitno novo delovno mesto.

Večina ljudi bo brez dela in brez denarja, socialne razlike pa se bodo povečale iz 1:10^6 (recimo) na 1:10^12.

Še glede delitve dobičkov, UTD in podobno: trenutni trendi kažejo, da se gmotne in socialne razlike samo povečujejo. Po mojem mnenju to vodi v nestabilnost sistema. Tako stanje je mogoče vzdrževati le končno dolgo časa. Ko se bo število tistih pod pragom revščine povečalo do kritične točke bo pač počilo in dobrine se bodo nekoliko prerazporedile. Tudi to ni nič novega in se dogaja že skozi vso človeško zgodovino.

En robot lahko ustavi 1000 upornikov, če eden ni dovolj se jih pa lahko naredi na tisoče. V zgodovini so se revni lahko uprli s silo, ampak proti robotom to ni možno.

En robot lahko ustavi 1000 upornikov, če eden ni dovolj se jih pa lahko naredi na tisoče. V zgodovini so se revni lahko uprli s silo, ampak proti robotom to ni možno.

Bi šlo če odkrijemo gen za inteligenco. http://www.sciencedaily.com/releases/20...

Takrat so bili obravnavani kot orodje, kar pa je le posledica tedanje stopnje razvitosti človeške civilizacije.

Sicer ne spremljam politike in se od nje oddaljujem, pa mi vseeno niso ušla obvstila o neplačanih bosanskih delavcev v Sloveniji? Je to izjemen primer?

Okapi je 8. sep 2014 ob 14:43 izjavil:

Tudi če bomo kdaj napisali super inteligenten program, ki se bo samega sebe zavedal in bo vmes postal zloben, dvomim da mu ne bomo vgradili reset tipke, v najslabšem primeru bomo pa še vedno lahko iz stene potegnili kabel za 230V~.

Tudi tebe daje kronično pomanjkanje domišljije. Dovolj pameten program bo znal poskrbeti, da ga ne boš mogel kar tako izklopiti. Dal bo recimo ukaz balistični raketi z jedrsko glavo, da se izstreli, če se ji vsake pol ure ne javi. Ali pa vsem jedrskim elektrarnam, da se izklopijo.

Mimogrede, ta scenarij je tudi že obdelan v ZF literaturi. Ko enkrat civilizacija postane odvisna od AI, je hudo, če se ji moraš nenadoma odpovedati (ker ugotoviš, da se njeni interesi ne skladajo s tvojimi). Predstavljaj si, da bi se morali od danes na jutri odpovedati internetu.

O.

Potem bomo reset tipki dodali še firewall Povezavi v internet pa se verjetno ne bomo mogli izogniti, saj bo vrhovna inteligenca verjetno morala pregledati cel internet da bo imela dostop do znanja.

Okapi je 8. sep 2014 ob 14:51 izjavil:

Kaj pa če inteligenca (splošno gledano) sploh nima stopenj in je tole, kar smo dosegli ljudje absolutni maksimum (ne trdim da je tako, le vprašanje postavljam)?

Ja, to je tista romantična predstava, ki sem jo omenjal, da smo "višek stvarstva", in da bodisi lahko razumemo čisto vse, ali pa, če slučajno ne moremo razumeti čisto vsega, tega nihče ne more razumeti.

Da skratka ni možnosti, da bi bila naša pamet v primerjavi z neko nadpametjo kot šimpanzja pamet v primerjavi z našo.

Mimogrede, če inteligenca ne bi imela stopenj, potem ne bi mogli reči, da so šimpanzi pametnejši od pavijanov, da je bil Homo erectus pametnejši od šimpanzov in da je sapiens pametnejši od erectusa. Pa tud med ljudmi lahko opažamo razlike, ki niso zgolj posledica izobrazbe. Težko si je predstavljati, da nič ne more biti pametnejše od najpametnejšega človeka (in to ne glede na to, kaj pravzaprav je pamet, oziroma kako jo merimo).

O.

Seveda. Najprej sem pomislil, da AI, ki je od nas le bistveno hitrejša in ima za odločanje na voljo več podatkov ni nujno tudi inteligentnejša. Vendar pa bi tak stroj, ko bi mu postavili neko vprašanje (ali ob kakšni drugi drugi priložnosti) v trenutku lahko predelal vse možne scenarije in dal potem optimalen, torej pametnejši odgovor.

Potem bomo reset tipki dodali še firewall

Bistveno je, da o tem razmišljamo pravočasno. Ampak je problem, ker so stvari, še zlasti, če ne vemo točno, kaj pamet sploh je, lahko precej nepredvidljive. Morda en napreden AI program sploh ne bo problematičen, niti se ne bo zavedal samega sebe, deset takih programov, povezanih prek interneta, pa se bo nenadoma začelo zavedati samega sebe, ne da bi programerji to sploh zaslutili. In se zna zgoditi, da bomo opazili, da nismo več gospodarji, šele ko bo že prepozno za ukrepanje.

O.

dstr17_ je 8. sep 2014 ob 14:45 izjavil:

Samo da tokrat je drugače. Robot bo vzel delovno mesto človeku, novega delovnega mesta za človeka pa ne bo, ker bo robot boljši tudi za morebitno novo delovno mesto.

To so govorili že ludisti v 19. stoletju, vendar ko sem se danes, okoli 200 let pozneje sprehodil skozi proizvodni obrat, sem poleg popolnoma avtomatiziranih linij videl še precej operaterjev, ki skrbijo za nemoteno delovanje teh linij, serviserjev, ki vskočijo ob morebitnih okvarah, kontrolorjev, ki preverjano ustreznost izdelkov, ljudi z viličarji, tistih ki pakirajo in še koga. Še več ljudi sem videl v sosednji stavbi, ti pa so počeli še širši nabor del, od priprave hrane za vse ostale, naročanja surovin, prodajanja gotovih izdelkov, načrtovanja novih, analiziranja, vodenja, .... Teh drugih je bilo še precej več.
A misliš, da ko bo IBM skopiral Watsona po vseh zdravstvenih domovih, da bomo zdravnike ukinili? Ne bomo jih, le njihov delovni proces se bo nekoliko spremenil, saj bomo še vedno potrebovali ljudi z ustreznimi kvalifikacijami, ki bodo sposobni dela s takimi sistemi. Razlika navzven bo vidna le v tem, da bodo pri svojem delu hitrejši in natančnejši.

Okapi je 8. sep 2014 ob 15:06 izjavil:

Najprej sem pomislil, da AI, ki je od nas le bistveno hitrejša in ima za odločanje na voljo več podatkov ni nujno tudi inteligentnejša. Vendar pa bi tak stroj, ko bi mu postavili neko vprašanje (ali ob kakšni drugi drugi priložnosti) v trenutku lahko predelal vse možne scenarije in dal potem optimalen, torej pametnejši odgovor.

Hitrost ni ključna. Žepno računalo zna logaritme računati hitreje od človeka, in dati optimalno rešitev neke enačbe hitreje, ampak to ni merilo pameti.

Pravzaprav niti samo odgovarjanje na vprašanja ni pravo merilo pameti. Pravo merilo pameti je IMHO sposobnost zastavljanja smiselnih vprašanj, in razumevanje odgovorov nanje. Iskanje optimalnih odgovorov je pa "obrtniško" delo, ki ga lahko prepustimo strojem.

O.

Hotel sem reči, da že AI, ki je na nivoju človeške inteligence, le da je za nekaj velikostnih redov hitrejša in ima neomejeno bazo znanja (internet?) lahko deluje precej bolj inteligentno od nas.

jype je 8. sep 2014 ob 15:14 izjavil:

Tako je. In vsi ti ljudje bodo morali obvladat programiranje na nivoju, ki si ga danes ljudje težko predstavljajo. Pri tem jim bo izdatno pomagala tudi umetna inteligenca, ki jih ne bo pobila.

Seveda. In potem prideš spet do tega, da boš v prihodnosti, če ne boš znal programirati (v neki obliki) veljal za polpismenega.

In katera so ta delovna mesta, ki jih roboti ne bi mogli opravljati bolje?

Za začetek. Par drugih sem tudi omenil.

O.

domen_> In katera so ta delovna mesta, ki jih roboti ne bi mogli opravljati bolje?

Uživanje v brezdelju.

Če omenim preprost primer čevljarja, ki je včasih ročno izdeloval čevlje, en par v nekaj dneh. Odkar pa se izdelujejo strojno pa imamo oblikovalca, ki jih nariše, orodjarje, ki naredijo ustrezna orodja za stroje (ki jih je tudi nekdo načrtoval in izdelal), operaterja na stroju, serviserja, ki skrbi za svojo skupino strojev, ter kup ljudi, ki sem jih naštel zgoraj. V proces je udeleženih precej ljudi, vendar pa skupaj naredijo mnogo več parov čevljev, kakor bi jih enako število čevljarjev sešilo ročno.

Si že slišal za 3 D printanje? Tu boš pač potreboval samo dizajnerja to je vse, pa šnirnce boš dodal. Vse to kar gledaš in opazuješ je pass. Sicer pa takšnih del (manualnih) tako ali tako ne potrebujemo ker so življenju nevarna, baje.

Vsaj nekaj časa bodo za nekatera opravila ljudje tudi cenejši (tudi sedaj je kitajski delavec za marsikatero delo cenejši od japonskega robota).

U bistvu je to zadnja faza konkurence. Foxconn bo kmalu menjal ljudi z roboti. Kaj potem? Se bodo ti delavci po Juretovem scenariju učili programirati in delali kot freelancer-ji?

Ne, množični samomor bodo storili.

To so delali že prej v Foxconnu

Si sarkastičen vendar je takšen scenarij možen.

jype je 8. sep 2014 ob 14:08 izjavil:

To ni res.

3/4 programiranja je zgolj mal bolj fensi sestavljanka. Za proizvodne namene kaj več kot G-kodo ne rabiš. Pametna omrežja? Mala malica.
Osebno skoraj ne vidim uporabnih panog, kjer programiranje ne bi lahko bilo avtomatizirano.
Edina bastilija programiranja bo ostala kvečjemu AI, dokler AI seveda ne bo dosežen. Pol bo dejansko brisanje riti novorojenčku res donosnejše.

driver_x je 8. sep 2014 ob 15:38 izjavil:

dstr17_ je 8. sep 2014 ob 15:30 izjavil:

In katera so ta delovna mesta, ki jih roboti ne bi mogli opravljati bolje?

Prostitutka.

Resno: roboti še zdaleč niso tako avtonomni, da bi čisto vse počeli sami. Narejeni so tako, da počnejo točno in samo tisto stvar, za katero so predvideni. V naprej pa lahko predvidiš 1000 scenarijev, vendar ko se bo pojavil 1001., robot ne bo več vedel, kaj storiti. Film sicer omenja robote, ki se sami učijo tega, kaj morajo delati. Sam menim da so taki roboti bolj primerni za domačo rabo oz. zabavo, v industiji pa ni nobene potrebe po tem, oz. to celo predstavlja korak nazaj od tega, kamor gremo sedaj.

Hardcodeat scenarije je izjemno butasto...za takega robota. Danes sicer je to modus operandi, ampak ne več dolgo. (hint: Baxter)


@Okapi

Entertainment dopuščam, ampak opravila kot so varstvo otrok itd. bodo blazno marginalna. Rojstvo globalno bo po 2050 začelo upadati. Otrok bo vedno manj, ker ne bodo potrebni.

dstr17_ je 8. sep 2014 ob 14:45 izjavil:

V filmu so postavljene neke hipoteze, tukaj pa sprašujem ljudi, zakaj mislijo da se bodo tiste hipoteze uresničile, saj, kot sem že omenil, se skozi celotno človeško zgodovino dogaja povsem enako.

Samo da tokrat je drugače. Robot bo vzel delovno mesto človeku, novega delovnega mesta za človeka pa ne bo, ker bo robot boljši tudi za morebitno novo delovno mesto.

Večina ljudi bo brez dela in brez denarja, socialne razlike pa se bodo povečale iz 1:10^6 (recimo) na 1:10^12.

Še glede delitve dobičkov, UTD in podobno: trenutni trendi kažejo, da se gmotne in socialne razlike samo povečujejo. Po mojem mnenju to vodi v nestabilnost sistema. Tako stanje je mogoče vzdrževati le končno dolgo časa. Ko se bo število tistih pod pragom revščine povečalo do kritične točke bo pač počilo in dobrine se bodo nekoliko prerazporedile. Tudi to ni nič novega in se dogaja že skozi vso človeško zgodovino.

En robot lahko ustavi 1000 upornikov, če eden ni dovolj se jih pa lahko naredi na tisoče. V zgodovini so se revni lahko uprli s silo, ampak proti robotom to ni možno.

Tokratna revolucija bo žalostno kratkotrajna. Armija robotov pod nadzorom superpremožnežev bo kosila upornike kot travo.

driver_x je 8. sep 2014 ob 15:12 izjavil:

dstr17_ je 8. sep 2014 ob 14:45 izjavil:

Samo da tokrat je drugače. Robot bo vzel delovno mesto človeku, novega delovnega mesta za človeka pa ne bo, ker bo robot boljši tudi za morebitno novo delovno mesto.

To so govorili že ludisti v 19. stoletju, vendar ko sem se danes, okoli 200 let pozneje sprehodil skozi proizvodni obrat, sem poleg popolnoma avtomatiziranih linij videl še precej operaterjev, ki skrbijo za nemoteno delovanje teh linij, serviserjev, ki vskočijo ob morebitnih okvarah, kontrolorjev, ki preverjano ustreznost izdelkov, ljudi z viličarji, tistih ki pakirajo in še koga. Še več ljudi sem videl v sosednji stavbi, ti pa so počeli še širši nabor del, od priprave hrane za vse ostale, naročanja surovin, prodajanja gotovih izdelkov, načrtovanja novih, analiziranja, vodenja, .... Teh drugih je bilo še precej več.
A misliš, da ko bo IBM skopiral Watsona po vseh zdravstvenih domovih, da bomo zdravnike ukinili? Ne bomo jih, le njihov delovni proces se bo nekoliko spremenil, saj bomo še vedno potrebovali ljudi z ustreznimi kvalifikacijami, ki bodo sposobni dela s takimi sistemi. Razlika navzven bo vidna le v tem, da bodo pri svojem delu hitrejši in natančnejši.

Nekoč so proizvodni obrati imeli po tisoče delavcev. Danes konkretno manj.

Osebno mislim, da ne bo bitke med AI in man, ampak med man in man. Tisti tam spodaj se bodo pobijali za drobtinice, ki jim bodo tisti od zgoraj metali. Kot golobi v mestu.


@jype

Jah, idjotov, ki si lastijo AI me je še najbolj strah. Zato upam, da bo več podobnih Elonu Musku, ki ohranjajo neke vrednote kljub uspešnem kapitalističnem udejstvovanju.

vostok_1> 3/4 programiranja je zgolj mal bolj fensi sestavljanka.

Jasno. Saj to sestavljanje ni tisto, kar programerji danes počnejo. To počne računalnik.

P.S. Samo za občutek...veste kaj je glavna težava pri avtomatiziranem pobijanju ljudi? Ker zaenkrat se kontrolorje še da okrcat oz. jih nadzirajo ljudje, ki se jih da okrcat. Kot tega pogoja več ne bo


if (heartRate < 208 && heartRate > 60)
{
exterminate();
}

Najbližje mislim, da je Watson, ki je seveda napalil vse človeške konkurente.

PrihajaNodi je 8. sep 2014 ob 16:15 izjavil:

U bistvu je to zadnja faza konkurence. Foxconn bo kmalu menjal ljudi z roboti. Kaj potem? Se bodo ti delavci po Juretovem scenariju učili programirati in delali kot freelancer-ji?

Do takih izjav pa prihaja zaradi tega, ker ne poznate proizvodnih obratov. Če imaš možnost se enkrat sprehodi skozi kakšno proizvodno halo visoko razvitega podjetja (v Sloveniji jih imaš kar nekaj) in si malo poglej stanje, kaj počnejo roboti, kaj ljudje, in kako bi ljudi nadomestil z roboti.

vostok_1 je 8. sep 2014 ob 16:33 izjavil:

P.S. Samo za občutek...veste kaj je glavna težava pri avtomatiziranem pobijanju ljudi? Ker zaenkrat se kontrolorje še da okrcat oz. jih nadzirajo ljudje, ki se jih da okrcat. Kot tega pogoja več ne bo


if (heartRate < 208 && heartRate > 60)
{
exterminate();
}

Samo če kak šalabajzer pusti tak algoritem not. Če AI v pobijanju vseh ljudi ne vidi poante, tega ne bo izvedla. Škoda procesorskega časa!

Delno gre v tej smeri tehnologija v delih Petra F. Hamiltona: Commonwealth Saga @ Wikipedia

Pomembna razlika pa je, da je tam predstavljeno življenje po kolonizaciji večih planetov aka. praktično neomejene surovine, delo,...

Verjetno ne. Živi se lahko tudi od ene ure dovolj plačanega dela na teden.

O.

Mislim da je ta scenarij še najbolj verjeten, ampak ne kot v filmih ala terminator, ampak v obliki čipiranja naših možgan. Posledično ne bi več potrebovali računalnikov in telefonov, ker bo vse v "oblaku". Predstavljaj si 100% kredibilno wikipedio, ki je združena s praktičnim prikazom stvari in ti je na dosegu kadarkoli in kjerkoli. In s pomočjo tistega čipa bomo lahko instantno, tako kot po našem spominu, pobrskali po oblaku, in dobili željeno informacijo v 0.001ms. Thus AI. Ravnotako bomo lahko napisali sms, ali opravili klic.
Mislim da ta proces sodi v našo evolucijo, ker narava nas je razvila do te točke, ko imamo možgane toliko razvite, da se moramo naprej evolvirati sami. S pomočjo strojev seveda.

/fantasy mode off.

Nadzor nad serverji bosta imeli pa Google pa Microsoft. Torej nam bosta ti dve korporaciji dajali informacije. Hvala, ne hvala.

Verjetno ne. Živi se lahko tudi od ene ure dovolj plačanega dela na teden.

Koliko takšnih ljudi pa poznaš?

Hja, tisti, ki hodijo na sociologijo in filozofijo, res ne dobijo službe zlahka. Tehniki pa, vsaj zaenkrat še, zlahka dobijo službo.