Forum » Znanost in tehnologija » Protokol
Protokol
Temo vidijo: vsi
kuall ::
sem mau bral originalne poste te teme iz 17 let nazaj. 
ljudje so bili takrat bolj prijazni.
je pa ena od sestavin tega "protokola" oziroma "ustave" ai sveta tale:
"bolečina je prepovedana."
to je fail zato, ker so napake vzroki za bolečine. torej napake so prepovedane? good luck. to je isto kot da bi v programerski firmi napisal smernice firme:
1 člen. napake v programih so prepovedane
pol bi pa mislil, da zato ne bo več programov z napakami.
lahko bi programerji zarad tega prvila več pozornosti namenili napakam, ampak bi še vedno bile.
to, da se stalno proba odpravljat bolečino in z njo povezane napake pa že deluje v današnjem svetu živih bitij, to ne bi bilo nič novega. samo bolj učinkovito bi moralo biti. kako to doseč pa je največji problem na svetu.
ljudje so bili takrat bolj prijazni.
je pa ena od sestavin tega "protokola" oziroma "ustave" ai sveta tale:
"bolečina je prepovedana."
to je fail zato, ker so napake vzroki za bolečine. torej napake so prepovedane? good luck. to je isto kot da bi v programerski firmi napisal smernice firme:
1 člen. napake v programih so prepovedane
pol bi pa mislil, da zato ne bo več programov z napakami.
lahko bi programerji zarad tega prvila več pozornosti namenili napakam, ampak bi še vedno bile.
to, da se stalno proba odpravljat bolečino in z njo povezane napake pa že deluje v današnjem svetu živih bitij, to ne bi bilo nič novega. samo bolj učinkovito bi moralo biti. kako to doseč pa je največji problem na svetu.
Zgodovina sprememb…
- spremenilo: kuall ()
nevone ::
po moje motiv ni nič drugega kot cilji in volja, da se dela za njihov dosežek, torej v bistvu s čim se ukvarja nekdo.
Ja, motiv je nek cilj, ki povzroči dejanja. Saj to je isto, kot je osnovna definicija motiva.
Kar sem hotela povedati je to, da ko razvijaš umetno inteligenco, ta ne rabi nujno motiva, na podlagi katerega bo recimo vse okoli sebe uničila, kot se mnogi bojijo.
Delati AI po podobi človeka sploh ni prava pot. AI mora biti ena taka "spaka", ki vse ve pa nič ne naredi, dokler se ji ne da okvirov, v katerih naj deluje.
Ljudje pa si pod umetno inteligenco (predvsem) predstavljajo nadmudrivanje, kakršnega se gremo ljudje. Ko imaš enkrat zadovoljivo vedenje o delovanju sveta brez šuma, ki ga vnaša človek s svojimi z evolucijo pridobljenimi lastnostmi, potem se tega šuma lahko znebiš in ti ostane samo še to, kar je vredno tega, da ostane.
o+ nevone
Either we will eat the Space or Space will eat us.
kuall ::
Razumem kaj hočeš povedat. Najbrž se res da narediti ai, ki samo kopiči znanje, nima pa možnosti spremeniti karkoli v svetu. ampak že kopičenje znanja je en cilj, ki za seboj potegne druge cilje: preživet, ker če si mrtev ne moreš kopičiti znanja in je prvi cilj nedosežen. če pa hočeš preživeti to za seboj potegne sebičnost, obramba pred morebitnimi vsiljivci, ki bi te hoteli izštekati iz vtičnice.
iz tega vidika je gradnja AI, ki ima glavni cilj služiti človeštvu in vsem živim bitjem, boljša opcija kot pa gradnja AI, ki ima cilj učenje.
AI bo od živih bitij sigurno druačna v tem, da ne bo obsedena s svojim obstankom in s pridobivanjem koristi zase, kot je vsako življenje.
iz tega vidika je gradnja AI, ki ima glavni cilj služiti človeštvu in vsem živim bitjem, boljša opcija kot pa gradnja AI, ki ima cilj učenje.
AI bo od živih bitij sigurno druačna v tem, da ne bo obsedena s svojim obstankom in s pridobivanjem koristi zase, kot je vsako življenje.
nevone ::
je pa ena od sestavin tega "protokola" oziroma "ustave" ai sveta tale:
"bolečina je prepovedana."
to je fail zato, ker so napake vzroki za bolečine. torej napake so prepovedane? good luck.
Bolečina je občutek, ki ga zavračaš. Jasno, da potem tistemu kar jo povzroči, rečemo napaka.
to je isto kot da bi v programerski firmi napisal smernice firme:
1 člen. napake v programih so prepovedane
pol bi pa mislil, da zato ne bo več programov z napakami.
lahko bi programerji zarad tega prvila več pozornosti namenili napakam, ampak bi še vedno bile.
Hja, ta smernica je bolj potrebna zato, da se sploh ve, k čemu se stremi. Ker mnogi mislijo, da je bolečina nujni del, ki ne sme odpasti. Ko bo jasno, da bolečina ni potrebna, tako kot je jasno, da je dobro, če program nima napak, takrat se šele lahko potegne paralelo.
to, da se stalno proba odpravljat bolečino in z njo povezane napake pa že deluje v današnjem svetu živih bitij, to ne bi bilo nič novega. samo bolj učinkovito bi moralo biti. kako to doseč pa je največji problem na svetu.
Točno tako, ampak ljudje še vedno trdijo, da je bolečina nujna. Ja je, dokler nas ta varuje pred izgubo življenja. Ko to ni več potrebno, je bolečina odveč.
o+ nevone
Either we will eat the Space or Space will eat us.
kuall ::
Čustev in iz kje prihajajo pa moraš priznat, da ne razumemo dovolj, da bi lahko govorili ali so potrebna ali ne in ali jih je AI sploh zmožna še enkrat ustvarit. Najbrž ja, ampak od kje pridejo?
Sej to sem že razmišljal, zakaj mora biti sporočilo o slabem stanju/napakah (torej bolečina) tako zoprno? Zakaj ne more biti tako prijetna kot je užitek, samo z malo drugačno barvo, da bomo vedel, da se gre za bolečino?
Zakaj ne moremo biti zadeti z zelo dobro voljo 24 ur na dan?
To so vse stvari, ki niso niti malo jasne.
Niti se ne da količino užitka izmeriti v nekem AI. Lahko ugibaš po njegovih akcija, lahko ga vprašaš medtem ko je frej, pol ti pa že zmanjka načinov.
Sej to sem že razmišljal, zakaj mora biti sporočilo o slabem stanju/napakah (torej bolečina) tako zoprno? Zakaj ne more biti tako prijetna kot je užitek, samo z malo drugačno barvo, da bomo vedel, da se gre za bolečino?
Zakaj ne moremo biti zadeti z zelo dobro voljo 24 ur na dan?
To so vse stvari, ki niso niti malo jasne.
Niti se ne da količino užitka izmeriti v nekem AI. Lahko ugibaš po njegovih akcija, lahko ga vprašaš medtem ko je frej, pol ti pa že zmanjka načinov.
kuall ::
še definicija bolečine: vse kar opazimo, da nam škodi nam povzroča bolečino.
seveda so tudi tu v tem opaszovanju napake, da imam včasih bolečino, ki je ne bi smeli imeti, kdaj pa je nimamo, ko bi jo morali imeti.
Bolečina v nas povzroča bliskovite akcije ponavad, odvisno od problema. Primer: te ogenj speče boš odmaknil roko kot zelo raketo.
seveda so tudi tu v tem opaszovanju napake, da imam včasih bolečino, ki je ne bi smeli imeti, kdaj pa je nimamo, ko bi jo morali imeti.
Bolečina v nas povzroča bliskovite akcije ponavad, odvisno od problema. Primer: te ogenj speče boš odmaknil roko kot zelo raketo.
Zgodovina sprememb…
- spremenilo: kuall ()
kuall ::
nevone ::
WarpedGone je izjavil:
motiv bi radi?
loop X while true;
Tukaj je motiv neznanka. Motiv ni izvajanje samo, ampak namen v katerega se izvaja.
o+ nevone
Either we will eat the Space or Space will eat us.
kuall ::
tisti "while true" je mimo in ni moral biti "while Y". ne moreš delat nekaj neskončno dolgo, ker nastopi čas, da je treba eno delo prekinit in greš delat drugo.
če daš loop v thread je lahko while true, moraš pa drugo stvar pogruntat: koliko resourcov namenit threadu, ker so omejeni.
torej pogruntat, kaj ti je trenutno "motiv" (cilj, na čem se ti najbolj splača delat) je v bistvu ena od glavnih sestavin inteligence.
je pa ta debata o motivu kar prava smer za razmišljat in zanimiva stvar.
če daš loop v thread je lahko while true, moraš pa drugo stvar pogruntat: koliko resourcov namenit threadu, ker so omejeni.
torej pogruntat, kaj ti je trenutno "motiv" (cilj, na čem se ti najbolj splača delat) je v bistvu ena od glavnih sestavin inteligence.
je pa ta debata o motivu kar prava smer za razmišljat in zanimiva stvar.
vostok_1 ::
Praktično ni softverja, ki ne bi imel bug-ov.
V najslabšem primeru se lahko tu kaj zatakne. Se ujame v kaki zanki.
Saj motiv bo imel...če ne drugega motiv, ki ga je imel ko se je še razvijal...
V najslabšem primeru se lahko tu kaj zatakne. Se ujame v kaki zanki.
Saj motiv bo imel...če ne drugega motiv, ki ga je imel ko se je še razvijal...
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
jype ::
BigWhale ::
Saj nam nic ne preprecuje, da AIju ne vprogramiramo nekega koncno definiranega motiva. O tem je razmisljal ze Asimov in to ni tako zelo tezko.
vostok_1 ::
Seveda ni težko. Ampak tudi Asimov ni prišel do kenega fool proof koncepta. Že na filozosfski ravni.
In najprej moramo razčistit filozofijo, pol pa tehniko.
Otherwise we'll be doing shit like we've always did.
In najprej moramo razčistit filozofijo, pol pa tehniko.
Otherwise we'll be doing shit like we've always did.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
nevone ::
In najprej moramo razčistit filozofijo, pol pa tehniko.
Težka bo. Smo že tako vpeti v ta sistem, da tudi če bi nekdo na filozofski ravni kaj rešil, realnost ne bi sledila. Vedno se najdejo ljudje, ki defektirajo. Pa ni to nujno zlonamerno defektiranje, enostavno realnost ne prenese zamišljene filozofije. Zato gre filozofija z roko v roki s tehniko.
Saj nam nic ne preprecuje, da AIju ne vprogramiramo nekega koncno definiranega motiva.
Nisem prepričana, da AI rabi motiv. Motiv rabimo mi, da AI sprogramiramo tako, da je orodje v naših rokah. Za to so potrebni pre(d)vidni koraki v pravo smer.
o+ nevone
Either we will eat the Space or Space will eat us.
vostok_1 ::
In najprej moramo razčistit filozofijo, pol pa tehniko.
Težka bo. Smo že tako vpeti v ta sistem, da tudi če bi nekdo na filozofski ravni kaj rešil, realnost ne bi sledila. Vedno se najdejo ljudje, ki defektirajo. Pa ni to nujno zlonamerno defektiranje, enostavno realnost ne prenese zamišljene filozofije. Zato gre filozofija z roko v roki s tehniko.
o+ nevone
Zato pa je človeštvo vedno mejilo na pogubo, v kolikor bi imelo to moč.
Do sedaj je ni oz. nas je reševala velikost ekosistema, ki je prenesla vse naše motenosti.
In the future this will no longer be the case.
Naša poguba je skoraj zanesljivost.
Če ni, bo to čudež.
There will be chutes!
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
It came from the lab.
Like tears in rain. Time to die. v_1 2012-21
Zgodovina sprememb…
- spremenil: vostok_1 ()
nevone ::
Zato pa je človeštvo vedno mejilo na pogubo, v kolikor bi imelo to moč.
V to nisem prepričana. Vseeno je želja po preživetju večja. Vprašanje je le v kakšnih pogojih živimo. S tehniko si pogoje boljšamo, imamo pa zares polno evolucijsko pridobljene navlake, ki je včasih morda bila nuja, danes pa je bolj v napoto, kot v pomoč.
Naša poguba je skoraj zanesljivost.
Če ni, bo to čudež.
Poguba že morda, ampak ne v obliki samouničenja.
o+ nevone
Either we will eat the Space or Space will eat us.
gus5 ::
komot se razvija inteligenco brez motivov, zgolj kopičenje vedenja o vsem. Brez motiva to uporabiti, je ta povsem nenevarna, tudi če je stopnja inteligence zelo visoka.Inteligenca ni sinonim za vedenje (vsega), sinonim za inteligenco je inovacija. Tj. ustvarjenje novega vedenja. In AI naprava, kot je Alpga GO Zero, implicira, da AI naprave znajo biti inovativne. In da jih (z učenjem preneseno) človeško znanje/izkušnje celo omejuje.
nevone ::
Inovativnost ali kreativnost pomeni, da ustvariš nekaj novega, še ne videnega. Tisto novo, kar ustvariš, je pa lahko marsikaj. Umetna inteligenca bi seveda najprej ustvarjala nova znanja, s katerimi si človek potem pomaga bolšje živeti.
Ustvarjanje novih stvari je pri ljudeh vezano na njihove želje in potrebe. Umetna inteligenca želja in potreb v prvi fazi ne sme imeti, ker je zanesljive okvire izredno težko postaviti. Zato mora delovati zelo omejeno, zgolj kot svetovalec.
o+ nevone
Ustvarjanje novih stvari je pri ljudeh vezano na njihove želje in potrebe. Umetna inteligenca želja in potreb v prvi fazi ne sme imeti, ker je zanesljive okvire izredno težko postaviti. Zato mora delovati zelo omejeno, zgolj kot svetovalec.
o+ nevone
Either we will eat the Space or Space will eat us.
gus5 ::
Inovativnost ali kreativnost pomeni, da ustvariš nekaj novega, še ne videnega. Tisto novo, kar ustvariš, je pa lahko marsikaj. Umetna inteligenca bi seveda najprej ustvarjala nova znanja, s katerimi si človek potem pomaga bolšje živeti.Torej - AI naprave lahko kopičijo vedenje, lahko so inovativne, le želja ne smejo imeti. Ambiciozni smo lahko le ljudje. Zakaj? To je krivično do naših inteligentnih strojnih prijateljev?
Ustvarjanje novih stvari je pri ljudeh vezano na njihove želje in potrebe. Umetna inteligenca želja in potreb v prvi fazi ne sme imeti, ker je zanesljive okvire izredno težko postaviti. Zato mora delovati zelo omejeno, zgolj kot svetovalec.
o+ nevone
Kaj pa v primeru, če bojo AI naprave začele proizvajati vednost, ki je ljudje sploh ne bomo razumeli? Kako lahko nevednež ve, kdaj se začne želja pri bolj inteligentnemu, kot je sam nevednež?
nevone ::
Torej - AI naprave lahko kopičijo vedenje, lahko so inovativne, le želja ne smejo imeti. Ambiciozni smo lahko le ljudje. Zakaj? To je krivično do naših inteligentnih strojnih prijateljev? ;(
Če mi ustvarimo umetno inteligenco, potem ta ni narejena zato, da je sama sebi namen. Človek jo ustvarja zase. Nobene porebe ni, da se jo obravnava kot človeško bitje in tudi ni potrebno, da ima vse lastnosti človeškega bitja.
Kaj pa v primeru, če bojo AI naprave začele proizvajati vednost, ki je ljudje sploh ne bomo razumeli? Kako lahko nevednež ve, kdaj se začne želja pri bolj inteligentnemu, kot je sam nevednež?
Težko, da bomo to sprejeli. Mislim, da nam bo moralo biti jasno vse, kar bo pogruntala. Že danes delamo v smeri, da odkrivamo/hočemo vedeti kako stvari delujejo, da bi si sedaj šli graditi neko entiteto, ki je ne bomo razumeli, je malo verjetno.
o+ nevone
Either we will eat the Space or Space will eat us.
gus5 ::
Če mi ustvarimo umetno inteligenco, potem ta ni narejena zato, da je sama sebi namen. Človek jo ustvarja zase. Nobene porebe ni, da se jo obravnava kot človeško bitje in tudi ni potrebno, da ima vse lastnosti človeškega bitja.Nima veze, zakaj in za kaj ljudje ustvarjajo umetno inteligenco. Če je inteligenca zares inteligenca, se bo prej ali slej osamosvojila. Značilnost inteligence je prav relativno visoka stopnja avtonomije.
Težko, da bomo to sprejeli. Mislim, da nam bo moralo biti jasno vse, kar bo pogruntala. Že danes delamo v smeri, da odkrivamo/hočemo vedeti kako stvari delujejo, da bi si sedaj šli graditi neko entiteto, ki je ne bomo razumeli, je malo verjetno.Nima veze, kaj smo in kaj nismo pripravljeni sprejeti, avtonomna inteligenca lahko ljudi enostavno postavi pred (izvršena) dejstva.
nevone ::
Nima veze, kaj smo in kaj nismo pripravljeni sprejeti, avtonomna inteligenca lahko ljudi enostavno postavi pred (izvršena) dejstva.
Kaj pa, če bi raje ljudje umetno inteligenco postavili pred (izvršena) dejstva?
o+ nevone
Either we will eat the Space or Space will eat us.
Zgodovina sprememb…
- spremenila: nevone ()
kuall ::
Saj nam nic ne preprecuje, da AIju ne vprogramiramo nekega koncno definiranega motiva. O tem je razmisljal ze Asimov in to ni tako zelo tezko.
Ne moreš vedet, ali je to težko, ker ne poznaš podrobnosti, kako bo napreden AI narejen.
"Motiv" je v klasičnih programih zapisan direktno v kodo. Uporabniki pa ga spreminjajo z ukazi (gumbi, menuji...) Motiv je tisto, kar ima program veselje delat, kar povzoroča njegove akcije.
AI pa bo bolj samostojen in bo motiv sam menjal glede na situacijo. Imel bo motiv za učenje, o tem ni dvoma. Kaj to potegne za sabo? Firbčnost, biti čimbolj delaven, ne biti ugasnjen, imeti čimveč informacij na razpolago, čimdlje živeti, torej skrb za sebe in za ljudi, ki mu koristijo in izločanje ljudi, ki škodijo temu cilju. Izdelovanje svojih kopij, da se bodo učili paralelno in hitreje. To bo vse delal, če bo res pameten in če bo hotel biti čimbolj učinkovit pri učenju. Bil bo tudi čimbolj koristen ljudem, ker ga bodo potem ti nagradili s še več instalacijami na še več računalnikih.
Pri ljudeh je to res, da si motivacijo za nekaj težko sami spremenimo, torej je to kar precej globoko vnaprej določeno pri nas, vgradi pa se ne z geni ampak z okoljem v zgodnjem otroštvu.
Od kje ta ideja, da nas bo AI vse pobil?
A nam ne bo nekončno hvaležen, ker smo ga ustvarili? Če bo res pameten in nas bo imel za bogove. A bi vi ubili boga?
Če bo res bolj inteligenten kot mi bo seveda močnejši od nas, ker smo tudi mi močnejši od vseh žival.
Ta ideja, da nas bo AI iztrebil pride iz analogije na to, kaj smo mi naredili z živalmi (vse smo pobili/podjarmili/iztrebili s svojo sebičnostjo) in kaj so evropejci naredili z indijanci itd. No če bo AI v nas videl grožnjo, ker mu pobiramo računalnike in elektriko, potem nas bi mogoče res lahko pobil. Ampak ko bo enkrat toliko pametnejši kot mi si bo te dobrine že sam zlahka pridelal.
Zgodovina sprememb…
- spremenilo: kuall ()
nevone ::
Naloga umetne inteligence mora biti vzpostavitev ugodnih pogojev za življenje človeka.
Da mora biti svobodna, da lahko raziskuje, je lahko samo delno res. Do neke mere mora biti na povodcu, ker drugače verjetno res najde neko učinkovitejšo pot do ohranitve svojega obstoja. Verjetno se v primeru popolne svobode s človekom ne bi ukvarjala.
Da mora biti svobodna, da lahko raziskuje, je lahko samo delno res. Do neke mere mora biti na povodcu, ker drugače verjetno res najde neko učinkovitejšo pot do ohranitve svojega obstoja. Verjetno se v primeru popolne svobode s človekom ne bi ukvarjala.
Either we will eat the Space or Space will eat us.
kuall ::
Verjetno se v primeru popolne svobode s človekom ne bi ukvarjala.
Seveda se bi. AI bo tesno povezana s človekom. Saj je tudi nam zanimivo raziskovat nižje živali, vsaj inteligentnim ljudem je. Človek bo za AI zelo zanimiv in ker ga bo človek že od vsega začetka tako naredil, da bo koristil človeku na to sploh ne bo treba posebej paziti, da bi nam škodil, ker bo imel koristnost za ljudi že od začekta vgrajeno v sebe skozi raznorazne načine.
Drgač pa ko bo enkrat tole področje umetne inteligence se dobro odprlo bo šele primanjkovalo programerjev. To je napačno razmišljanje, da se bo AI kar sam razvijal. Človek ga bo še zelo dolgo. Zdaj se šele začenja delo.
Programer je poklic vseh poklicev. Programerji bodo izdelovali AI, ki bo nadomeščala ostale poklice, samo programerji pa bodo ostali. Predvsem programerji, ki so obenem tudi znanstveniki, nižje programerje bo tudi AI nadomestila.
nevone ::
No, lepo je prebrati kakšen prispevek, ki malo bolj optimistično gleda na prihodnost, ki bo vsekakor zanimiva.
Ena možnost je, da tale biologija postane obvladljiva, če nam ne uspe transfer na obstojnejši substrat.
Mislim pa, da če bomo hoteli biti pri tem uspešni, da bomo zares morali vsi začeti stremeti k temu cilju. Ne pa tako kot sedaj, ko se vsak poskus izboljševanja najprej poskuša sesipati. Do danes smo si nabrali že toliko izkušenj, da če bi vse skupaj dali skozi eno takšno sito, ki bi ločilo zrna od plev, bi že brez umetne inteligence lahko marsikaj delali bolje.
o+ nevone
Ena možnost je, da tale biologija postane obvladljiva, če nam ne uspe transfer na obstojnejši substrat.
Mislim pa, da če bomo hoteli biti pri tem uspešni, da bomo zares morali vsi začeti stremeti k temu cilju. Ne pa tako kot sedaj, ko se vsak poskus izboljševanja najprej poskuša sesipati. Do danes smo si nabrali že toliko izkušenj, da če bi vse skupaj dali skozi eno takšno sito, ki bi ločilo zrna od plev, bi že brez umetne inteligence lahko marsikaj delali bolje.
o+ nevone
Either we will eat the Space or Space will eat us.
jype ::
A bi vi ubili boga?Smo ga že.
Drgač pa ko bo enkrat tole področje umetne inteligence se dobro odprlo bo šele primanjkovalo programerjev. To je napačno razmišljanje, da se bo AI kar sam razvijal. Človek ga bo še zelo dolgo. Zdaj se šele začenja delo.To je sicer zelo res, ampak programiranje AI ne bo videti kot programiranje današnjega programja. Temu, kar danes vsi iščejo, se reče "data scientist", ampak v resnici gre za programerje, ki razumejo, kako deluje AI.
Zgodovina sprememb…
- spremenilo: jype ()
kuall ::
Sej se bodo prekvalificirali. Ko bo AI enkrat "in" (kar danes še ni) bodo vsi navalil na njega tako kot na bitcoin in podobne modne muhe. To ima človek v genih, da ko nekaj postane popularno hočejo vsi to delat. AI samo po sebi sploh ni tako dologočasno področje, je pa težko in trenutno še ne obrodi hitro sadov.
No možen je tudi ta scenarij, da je AI pretežko področje in ne bo nikoli prav zelo "in" in mogoče res rabimo samo malo število genijev, da enkrat to naredijo, ker ljudje pač ne marajo matematike in podobno težkih stvari.
In najbržž ne bodo samo programerji imeli dela z AI ampak tudi svetovalci, učitelji in trenerji, pa ljudje, ki bodo nadzirali in testirali AI bodo najbrž tudi imeli veliko dela.
No možen je tudi ta scenarij, da je AI pretežko področje in ne bo nikoli prav zelo "in" in mogoče res rabimo samo malo število genijev, da enkrat to naredijo, ker ljudje pač ne marajo matematike in podobno težkih stvari.
In najbržž ne bodo samo programerji imeli dela z AI ampak tudi svetovalci, učitelji in trenerji, pa ljudje, ki bodo nadzirali in testirali AI bodo najbrž tudi imeli veliko dela.
jype ::
AI ni nobena modna muha. Je tako kot lopata v novi zlati mrzlici. Brez obvladovanja tega precej osnovnega orodja, boš kopal bistveno počasneje in manj učinkovito. K sreči razen par konzervativnih centrov velika večina korporativnega sveta danes že razume, da je nujno, da se manj razvitim pomaga (z lopatami in navodili, kako se jih uporablja), ker bo sicer planet postal nenaseljiv in bodo nove krvave revolucije neizbežne.
Zgodovina sprememb…
- spremenilo: jype ()
poweroff ::
ker ljudje pač ne marajo matematike in podobno težkih stvari.
Pri AI je v uporabi zgolj osnovna matematika.
sudo poweroff
kuall ::
Statistika se mi zdi da je glavna stvar pri AI, statistike pa ne marajo. Pa filozofiranje, razumet stvari.
7982884e ::
Sej se bodo prekvalificirali. Ko bo AI enkrat "in" (kar danes še ni) bodo vsi navalil na njega tako kot na bitcoin in podobne modne muhe. To ima človek v genih, da ko nekaj postane popularno hočejo vsi to delat. AI samo po sebi sploh ni tako dologočasno področje, je pa težko in trenutno še ne obrodi hitro sadov.
No možen je tudi ta scenarij, da je AI pretežko področje in ne bo nikoli prav zelo "in" in mogoče res rabimo samo malo število genijev, da enkrat to naredijo, ker ljudje pač ne marajo matematike in podobno težkih stvari.
In najbržž ne bodo samo programerji imeli dela z AI ampak tudi svetovalci, učitelji in trenerji, pa ljudje, ki bodo nadzirali in testirali AI bodo najbrž tudi imeli veliko dela.
po 5 letih deep learning hypa se se vedno ne ve, kaj naj bi "AI programer" delal.
ljudje, ki si pravijo "data scientist" vecinoma iscejo in transformirajo podatke, da jih lahko mreza pozre. tisti najboljsi - po moznosti s podlago v matematiki (statistiki) in ki so zaceli podrocje spremljati preden je bilo cool - dejansko vedo, kaksna je narava problema, si v grobem predstavljajo kaksno cost funkcijo je treba minimizirat, s katerim orodjem v tensorflowu najprimerneje stvar resit. ostali pac probavajo, ker je divji zahod, ni sans o kakrsnihkoli standardih in best practicih itd.
ima vzporednice z web programerji pred 20 leti, ampak samo povrsinsko. kljub temu da je bil web tudi divji zahod, teorije ni manjkalo, grobih standardov in best practicov tudi ne.
po drugi strani ima pa strojno ucenje hud problem s tem, da ljudje se vedno samo napol na slepo po inzenirsko skupaj mecejo kose in probavajo, kaj deluje in kaj ne.
tud najboljsi PhDji na podrocju - poglej malo state-of-the-art clanke, "podatke smo najprej transformirali tako in tako in vzeli to in to, potem smo nekaj dali cez tale modul, drugo cez tale, potem smo zdruzili s tretjim in to poslali cez cetrto". ni nekih prelomnih odkritij v smislu novih metod (letos mi pride na pamet edino tole: https://medium.com/ai%C2%B3-theory-prac... ), samo sraufanje in probavanje. noben nima resne ideje, kako stvar popeljat korak dlje.
ok, da ne bom prevec zasel iz teme: point je, da ne vidim, kje bi rabili toliko "navadnega folka", torej klasicnih programerjev, ki bi po novem skup kucali strojno ucenje. stvari so se vedno tako omejene, da ne morejo pasat kar povsod. kar dejansko rabimo, so "AI scientisti", tisti ki dejansko peljejo podrocje naprej. zaenkrat je res tezko neki firmi najt kader, ki bo skup spravil nek deep learning sistem, ampak se tezje je pa najt nek dejanski use-case za to.
kuall ::
Saj jaz tudi ne vidim točno, kje bi rabili polno AI programerjev, ampak sklepam da bodo rabili po tem, kako bo AI koristen, ko bo enkrat deloval, da ga bo pač nekdo moral narediti, en sam človek ne more, ponavad je skupinski napor to.
Ravno v tem bodo rabili programerji, da se na "slepo" probava različne pristope in se eden izkaže za pravilnega.
Pa za novo področje naredit AI spet isto, pa popravljat obstoječe AI spet ne bo lahko.
V bistvu dokler bodo obstajali nerešeni problemi v vesolju bodo potrebni AI programerji, ki bodo poskušali ustvariti AI, ki bo te probleme znal rešiti. Zakaj ne bi človek teh problemiov kar sam rešil in raje ustvarja neko drugo inteligenco, ki jih bo rešila za njega? Zato ker človek je izdelovalec orodij, AI bo naše orodje nič drugega.
Ravno v tem bodo rabili programerji, da se na "slepo" probava različne pristope in se eden izkaže za pravilnega.
Pa za novo področje naredit AI spet isto, pa popravljat obstoječe AI spet ne bo lahko.
V bistvu dokler bodo obstajali nerešeni problemi v vesolju bodo potrebni AI programerji, ki bodo poskušali ustvariti AI, ki bo te probleme znal rešiti. Zakaj ne bi človek teh problemiov kar sam rešil in raje ustvarja neko drugo inteligenco, ki jih bo rešila za njega? Zato ker človek je izdelovalec orodij, AI bo naše orodje nič drugega.
Okapi ::
LOL Ko bo enkrat nekdo naredil prvo "pravo" univerzalno AI, ne bomo več potrebovali programerjev. Za delati nove programerje ne bo več treba 15-20 let šolati ljudi, ampak bo dovolj copy-paste in jih boš imel, kolikor jih boš hotel.
kuall ::
In kdaj bo ta meja? ko bo AI enkrat bolj inteligenten kot človek bo sam sebe začel izboljševat? ok to je najbrž res, ampak do takrat je še zelo daleč, in do takrat bodo rabili človeški programerji. Pa še takrat ni sigurno, ker lahko je nekdo inteligenten v nečem, nekdo pa v nečem drugem, ni to tako enostavno. potem bodo začeli sodelovati in bodo človeški in ai programerji izpopolnjevali en drugega.
človek je zelo inteligenten pa še vedno ne zna rešiti polno problemov. isto bo z ai, še vedno bodo problemi, ki jih ne bo znal rešiti.
človek je zelo inteligenten pa še vedno ne zna rešiti polno problemov. isto bo z ai, še vedno bodo problemi, ki jih ne bo znal rešiti.
Okapi ::
Saj ni treba, da je AI bolj pametna, čisto dovolj bo, če bo enako pametna. In za katero stvar je kdo pameten, je v glavnem posledica okolja, se pravi vnosa informacij.
Nikjer nisem rekel, da bo AI vsemogočna in bo takoj rešila vse probleme. Pravim, da ne bo več dela za programerje (in še za marsikoga), ker bo ceneje uporabiti AI. Zakaj bi plačeval 10 programerjev, če lahko enako delo opravijo 3 ali 4 kopije AI (ki delajo 24 ur na dan, ne samo 8, kot programer).
Nikjer nisem rekel, da bo AI vsemogočna in bo takoj rešila vse probleme. Pravim, da ne bo več dela za programerje (in še za marsikoga), ker bo ceneje uporabiti AI. Zakaj bi plačeval 10 programerjev, če lahko enako delo opravijo 3 ali 4 kopije AI (ki delajo 24 ur na dan, ne samo 8, kot programer).
Zgodovina sprememb…
- spremenil: Okapi ()
kuall ::
predpostavka "enako delo" je zelo napačna. :)
saj niti 2 programerja nista enaka, zakaj misliš, da bodo AI pa čisto enake nam, bodo imeli svoje sposobnosti, predvsem hitrost in količino časa, ko lahko delajo. bodo pa bolj zabiti kar se tiče inovativnosti.
saj niti 2 programerja nista enaka, zakaj misliš, da bodo AI pa čisto enake nam, bodo imeli svoje sposobnosti, predvsem hitrost in količino časa, ko lahko delajo. bodo pa bolj zabiti kar se tiče inovativnosti.
Zgodovina sprememb…
- spremenilo: kuall ()
Okapi ::
Zakaj bi bila AI "bolj zabita" glede česarkoli? To si si kar na suho izmislil, da lahko izpeljuješ neke svoje predpostavke.
Ko bomo enkrat znali narediti pravo AI, bo to taka revolucija, da si tega niti predstavljati ne znamo. In to tudi brez singularnosti in protokola.
In kot rečeno, dovolj bo narediti prvo, potem pa samo še kopiraš. Odpade seks in razmnoževanje, 20+ let odraščanja, vzgoje, šolanja ... Takoj boš imel na voljo poljubno število "intelektualcev", ki bodo lahko delali 24 ur na dan (ali nekaj manj, če odštejemo nekaj časa za backup in kakšna druga vzdrževalna dela.)
Kako hitro bo AI zasedla vsa primerna delovna mesta, bo pa odvisno predvsem od tega, na kako dragi strojni opremi bo delovala. Če boš potreboval računalnik za milijon ali več evrov, bo še nekaj malega prostora za človeka, pri 200-300k evrih za eno AI pa praktično nič več.
Ko bomo enkrat znali narediti pravo AI, bo to taka revolucija, da si tega niti predstavljati ne znamo. In to tudi brez singularnosti in protokola.
In kot rečeno, dovolj bo narediti prvo, potem pa samo še kopiraš. Odpade seks in razmnoževanje, 20+ let odraščanja, vzgoje, šolanja ... Takoj boš imel na voljo poljubno število "intelektualcev", ki bodo lahko delali 24 ur na dan (ali nekaj manj, če odštejemo nekaj časa za backup in kakšna druga vzdrževalna dela.)
Kako hitro bo AI zasedla vsa primerna delovna mesta, bo pa odvisno predvsem od tega, na kako dragi strojni opremi bo delovala. Če boš potreboval računalnik za milijon ali več evrov, bo še nekaj malega prostora za človeka, pri 200-300k evrih za eno AI pa praktično nič več.
Zgodovina sprememb…
- spremenil: Okapi ()
kuall ::
Ker bo AI boljša v brute force reševanju problemov nujno sledi, da bo bolj zabita v ostalih načinih reševanja problemov. Probleme je možno rešiti na različne načine. Enkrat bo boljša tudi v drugih načinih reševanja problemov, ampak brute force bo prvi način, v katerem bo blestela. Z brute force mislim 24 urno tuhtanje o problemu na polno paro, ne klasični brute force, da ne bo pomote.
Okapi ::
Ker bo AI boljša v brute force reševanju problemov nujno sledi, da bo bolj zabita v ostalih načinih reševanja problemov.Zaradi česa to "nujno sledi"? A je kakšen fizikalni zakon, ki ga ne poznam, vzrok?
Tudi nikjer ne piše, da bo AI boljša v "brute force". V tem so računalniki boljši sedaj, ampak to, kar imamo sedaj, v resnici še ni AI. Nikjer ne piše, da ne bo nekdo - morda že kmalu - izumil algoritma (oziroma "tehnologije"), po katerem deluje človeška pamet, vključno z ustvarjalnostjo. Mogoče to niso nevronska omrežja, kot jih poznamo sedaj, ampak "3D evolucijski matriks", ali "pozitronski možgani" ali kakorkoli že bodo temu rekli.
kuall ::
Ja zato, ker je računalnik zmožen delat 24 ur na dan na polno, človek pa se utrudi prej.
Iz tega sledi, da bo AI veliko bolje reševal probleme, ki jih je možno rešiti tako, da probaš vse primere. Človek pa bo še naprej reševal probleme, ki rabijo več ustvarjalnosti.
Omamo že sedaj polno AI, samo da je pač zelo primitivna in specializirana vsaka za svoje področje. Vsak program je delno že AI in ta meja med AI in ne-AI programi sploh ne bo tako jasna, kot si misliš, da bo. Tudi google iskalnik je neka vrsta AI.
Saj ravno tu bodo imeli programerji delo, združit te specialne programe skupaj in boš v enem programu lahko naredil vse kar rabiš, ne bo več ločenih aplikacij ampak bo vse v eni oziroma bodo vsaj komunicirale med seboj veliko bolj kot sedaj, da si bodo izmenjevale informacije o tvojih potrebah.
Iz tega sledi, da bo AI veliko bolje reševal probleme, ki jih je možno rešiti tako, da probaš vse primere. Človek pa bo še naprej reševal probleme, ki rabijo več ustvarjalnosti.
Omamo že sedaj polno AI, samo da je pač zelo primitivna in specializirana vsaka za svoje področje. Vsak program je delno že AI in ta meja med AI in ne-AI programi sploh ne bo tako jasna, kot si misliš, da bo. Tudi google iskalnik je neka vrsta AI.
Saj ravno tu bodo imeli programerji delo, združit te specialne programe skupaj in boš v enem programu lahko naredil vse kar rabiš, ne bo več ločenih aplikacij ampak bo vse v eni oziroma bodo vsaj komunicirale med seboj veliko bolj kot sedaj, da si bodo izmenjevale informacije o tvojih potrebah.
Okapi ::
Ja, in ko bodo enkrat naredili tak program, programerjev ne boš več potreboval. A je to tako težko razumeti? Ko narediš avto, ki zna voziti, ne potrebuješ več voznikov. Ko narediš program, ki zna programirati (enako dobro kot programer), ne potrebuješ več programerjev.
kuall ::
ja, samo bodo prej izumrli skoraj vsi ostali poklici kot pa programer.
ker dokler bo obstajal poklic, ki ga bo opravljal še človek to pomeni, da tega problema še ne zna rešiti AI niti ne zna AI naredit takega robota, torej bo to delo za človeka programerji , da naredi tak AI, ki bo znal opravljat tisti poklic.
ker dokler bo obstajal poklic, ki ga bo opravljal še človek to pomeni, da tega problema še ne zna rešiti AI niti ne zna AI naredit takega robota, torej bo to delo za človeka programerji , da naredi tak AI, ki bo znal opravljat tisti poklic.
Okapi ::
Dokler ne bodo naredili AI, ki bo tako pametna kot človek, bo večina intelektualnih poklicev obstajala. Ko jo bodo enkrat naredili, bo pa ta praktično v hipu nadomestila vse po vrsti. A ti mogoče misliš, da je recimo prevajanje (ali katerokoli drugo delo, ki zahteva vsaj srednješolsko izobrazbo) lažje od programiranja?
Če kaj, bodo programerji med prvimi na listi za odstrel, ker za programiranje ne potrebuješ fizičnega stika z drugimi ljudmi. Primerno spretnega robota za delo z otroki je težje, predvsem pa dražje narediti, kot skopirati programersko AI.
Če kaj, bodo programerji med prvimi na listi za odstrel, ker za programiranje ne potrebuješ fizičnega stika z drugimi ljudmi. Primerno spretnega robota za delo z otroki je težje, predvsem pa dražje narediti, kot skopirati programersko AI.
kuall ::
Dokler ne bodo naredili AI, ki bo tako pametna kot človek, bo večina intelektualnih poklicev obstajala.
Tu je prvi fail. Ravnokar sva ugotovila, da bo AI najprej pametna v nekaterih problemih, v drugih pa ne bo. Ne bo se dalo primerjat človeške in računalniške inteligence tako zlahka.
Ko jo bodo enkrat naredili, bo pa ta praktično v hipu nadomestila vse po vrsti.
Pred nekaj minutami si pa rekel tole:
Nikjer nisem rekel, da bo AI vsemogočna in bo takoj rešila vse probleme.
Ne bo nadomestila vse po vrsti. Zato ker bo dobra v reševanju nekaterih vrst problemov v drugih pa ne bo.
A ti mogoče misliš, da je recimo prevajanje (ali katerokoli drugo delo, ki zahteva vsaj srednješolsko izobrazbo) lažje od programiranja?
O prevajanju vem kar veliko in dobro poznam probleme prevajanja.
Programiranje AI je vseeno VELIKO težje kot prevajanje.
Če kaj, bodo programerji med prvimi na listi za odstrel, ker za programiranje ne potrebuješ fizičnega stika z drugimi ljudmi. Primerno spretnega robota za delo z otroki je težje, predvsem pa dražje narediti, kot skopirati programersko AI.
Se mi je zdelo, da ciljaš na podcenjevanje programerjev, pa to sem že opazil v preteklosti pri drugih ljudeh, ni programerski poklic tako cenjen, kot bi moral biti. Ravno za delo z otroki bo AI dokaj zgodaj primerna, ker so pač otroci neumni in ne rabiš nekega hudo pametnega robota, da se ukvarja z njimi.
Je pa res, da AI nikoli najbrž ne bo mogel nadomestiti dela, kjer je treba razumeti, kakšna čustva ima drug človek. Tega bo pa kar veliko. Mogoče bodo res ti poklici preživeli dlje kot programerski. Se pa ne morem spomniti, kateri rabijo to veščino, mogoče kakšni umetniški, komiki, motivatorji.
Okapi ::
1a. O prevajanju očitno veš bolj malo.
1b. Programiranje AI je samo droben delček vsega programiranja.
1c. Čisto možno je, da AI sploh ne bodo izumili programerji.
2. Dokler AI ne bo enako pametna v vseh problemih, ne bo prava univerzalna AI. To bo postala takrat, ko boš lahko primerjal človeško in računalniško pamet in ugotovil, da sta enaki.
3. Ljudje nismo sposobni rešiti vseh problemov. Zakaj bi to pričakoval od AI? Ko bo AI dovolj pametna, bo nadomestila človeške programerje, ne zato, ker bo bolje programirala, ampak ker bo cenejša.
1b. Programiranje AI je samo droben delček vsega programiranja.
1c. Čisto možno je, da AI sploh ne bodo izumili programerji.
2. Dokler AI ne bo enako pametna v vseh problemih, ne bo prava univerzalna AI. To bo postala takrat, ko boš lahko primerjal človeško in računalniško pamet in ugotovil, da sta enaki.
3. Ljudje nismo sposobni rešiti vseh problemov. Zakaj bi to pričakoval od AI? Ko bo AI dovolj pametna, bo nadomestila človeške programerje, ne zato, ker bo bolje programirala, ampak ker bo cenejša.
Zgodovina sprememb…
- spremenil: Okapi ()
kuall ::
Očitno vem več kot ti o prevajanju, če praviš, da je prevajanje težje kot programiranje. Sigurno pa več vem o primeranju teh dveh področjih kot ti.
Še tretjič (zgleda da pišem steni): AI in človeška inteligenca ne bosta nikoli enaki. Zato ker se računalnik ne utrudi in bo lahko premleval različne opcije 24 ur na dan in bo tako rešil nekatere probleme, ki jih človek ne bi, tudi ko bo manj pameten kot človek. Pa tudi zato, ker AI ne bo mogel nikoli razumeti, kakšna čustva imamo ljudje.
Seveda AI ne bo mogel rešiti vseh problemov in dokler bodo nerešeni problemi bodo potrebni človeški AI programerji. Saj to sem že vse napisal. AI bo nadomestila preprosta programerska dela, ne pa vseh. Ni programiranje tako enolično delo kot naprimer prevajanje.
Še tretjič (zgleda da pišem steni): AI in človeška inteligenca ne bosta nikoli enaki. Zato ker se računalnik ne utrudi in bo lahko premleval različne opcije 24 ur na dan in bo tako rešil nekatere probleme, ki jih človek ne bi, tudi ko bo manj pameten kot človek. Pa tudi zato, ker AI ne bo mogel nikoli razumeti, kakšna čustva imamo ljudje.
Seveda AI ne bo mogel rešiti vseh problemov in dokler bodo nerešeni problemi bodo potrebni človeški AI programerji. Saj to sem že vse napisal. AI bo nadomestila preprosta programerska dela, ne pa vseh. Ni programiranje tako enolično delo kot naprimer prevajanje.
Zgodovina sprememb…
- spremenilo: kuall ()
Okapi ::
Bolj slabo gre tebi razumevanje od rok, se mi zdi.
Še tretjič (zgleda da pišem steni): AI in človeška inteligenca ne bosta nikoli enaki.
---
Pa tudi zato, ker AI ne bo mogel nikoli razumeti, kakšna čustva imamo ljudje.
Seveda AI ne bo mogel rešiti vseh problemov in dokler bodo nerešeni problemi bodo potrebni človeški AI programerji. Saj to sem že vse napisal. AI bo nadomestila preprosta programerska dela, ne pa vseh. Ni programiranje tako enolično delo kot naprimer prevajanje.
1) Noben fizikalni ali kakšen drug zakon ne preprečuje narediti AI, ki je enaka človeški pameti.
2) Noben fizikalni ali kakšen drug zakon ne preprečuje narediti AI, ki bi razumela človeška čustva.
3) Ko bo AI enako pametna kot človek, ne boš več potreboval ljudi za reševanje nerešenih problemov, ker bodo to računalniki počeli enako uspešno in ceneje.
4) Programiranje je bolj (ali enako) enolično kot prevajanje.
kuall ::
Tebi se naj kar zdi.
1) AI, ki bo boljša kot človeška pamet bo res enkrat prišla. AI, ki bo popolnoma enako sposobna kot človeška pamet na vseh področjih ne bo nikoli. Zakaj sem ti že večkrat razložil.
2) Govoril sem o tem, da AI ne bo mogel vedet, kako se mi počutimo, kakšna čustva imamo mi, ker jih sam ne bo imel. Če pa jih bo imel bodo najbrž drugačna kot naša. Tako naprimer ne bo mogel razmeti, kako se počuti nekdo, ko je zelo žalosten. Velikokrat še mi ne moremo vedeti, kako se nekdo drug počuti, dokler nismo sami kaj takega doživeli. Veliko človeške komunikacije poteka na tej ravni, da se spomnimo, kako bi se mi počutili v koži nekoga drugega, ki nekaj doživlja. Za to bo AI prikrajšan. Kako ti bodo fizikalni zakoni pomagali, da boš dal v AI človeška čustva bi pa tudi rad slišal.
Pa tudi pri jeziku se na polno uporablja to veščino, da znamo razumet
občutke drugih.
3) Ne. Razlog je točka 1.
4) Heh. A html programiranje je potem enako kot programiranje programa, ki prevaja med jeziki? Ker prevanjanje je prevajanje, ne pravim da je lahko, je pa ponavadi enako težko, razen kakšne otroške knjige so mogoče malenkost lažje kot kakšne strokovne knjige.
Res streljaš neumnosti. A si se postaral ali kaj ti je? :D
1) AI, ki bo boljša kot človeška pamet bo res enkrat prišla. AI, ki bo popolnoma enako sposobna kot človeška pamet na vseh področjih ne bo nikoli. Zakaj sem ti že večkrat razložil.
2) Govoril sem o tem, da AI ne bo mogel vedet, kako se mi počutimo, kakšna čustva imamo mi, ker jih sam ne bo imel. Če pa jih bo imel bodo najbrž drugačna kot naša. Tako naprimer ne bo mogel razmeti, kako se počuti nekdo, ko je zelo žalosten. Velikokrat še mi ne moremo vedeti, kako se nekdo drug počuti, dokler nismo sami kaj takega doživeli. Veliko človeške komunikacije poteka na tej ravni, da se spomnimo, kako bi se mi počutili v koži nekoga drugega, ki nekaj doživlja. Za to bo AI prikrajšan. Kako ti bodo fizikalni zakoni pomagali, da boš dal v AI človeška čustva bi pa tudi rad slišal.
Pa tudi pri jeziku se na polno uporablja to veščino, da znamo razumet
občutke drugih.
3) Ne. Razlog je točka 1.
4) Heh. A html programiranje je potem enako kot programiranje programa, ki prevaja med jeziki? Ker prevanjanje je prevajanje, ne pravim da je lahko, je pa ponavadi enako težko, razen kakšne otroške knjige so mogoče malenkost lažje kot kakšne strokovne knjige.
Res streljaš neumnosti. A si se postaral ali kaj ti je? :D
Zgodovina sprememb…
- spremenilo: kuall ()