Slo-Tech - Zares ne vemo, kako deluje umetna inteligenca, je dejal izvršni direktor Anthropica Dario Amodei. V svojem eseju je zapisal, da bi bili nepoznavalci presenečeni in zgroženi, če bi vedeli, da tudi ustvarjalci umetne inteligence ne vedo natančno, kako umetna inteligenca deluje. Zato so upravičeno zaskrbljeni, dodaja, saj česa takšnega v zgodovini še ni bilo. Nikoli še nismo tako množično uporabljali tehnologije, za katero ne bi natančno vedeli, kako deluje - ne uporabniki, temveč vsaj ustvarjalci.
Amodei je dejal tudi, da bo umetna inteligenca do leta 2027 presegla človeško inteligenco. Bliža se torej splošna umetna inteligenca (general artificial intelligence), ki bo lahko nadomestila večino človeških "stvari". A po drugi strani Roger Penrose meni, da umetna inteligenca ni zares inteligentna, ker nima zavesti. To morda res drži, a Amodei ob tem dodaja, da potrebujemo še veliko dela, da bomo umetno inteligenco razumeli do te mere, da jo bomo lahko zares nadzorovali. Ošvkrnil je tudi OpenAI, ki naj bi pri razvoju hitel in ubiral bližnjice na področju varnosti.
Saj ni noben bav bav. Ti za učenje šibaš milijarde in milijarde podatkov v nekaj nivojev nevronskih mrež in poskušaš optimizirati nevrone, da se ravno prav "učijo" (mešanica prekrivanja z vhodnimi podarki vs halucinacije na drugi).
Če ob koncu učenja pogledaš celotno nevronsko mrežo, je to en ogromen šmorn uteži, nekakšna agregacija vseh podanih vhodnih podatkov. In ne, tega šmorna ne moreš razvozlati v obliko, ki bi imela za človeka smisel. Torej nevronskih mrež v resnici "ne razumemo". Ampak za konkretne probleme smo jih pa že dodobra stestirali, tako da približno vemo, kako kvaliteten odgovor lahko pričakujemo.
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več. Za AI sicer vemo kako dela, kako je prišla do nekega odgovora, in ne do nekega drugega, pa niti ne. Če bi hoteli to vedet, bi morali razumet in poznat vse vire iz katerih se je učila, kar je praktično nemogoče in bi zahtevalo še eno AI zraven.
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.
V novici omenjeni R. Penrose ima zanimivo razlago o tako imenovani umetni inteligenci oziroma o njeni "neintelegenci" ter o tem, da UI ne bo imela zavesti, katero naj bi potrebovala da postane Skynet . Po njegovem samo zelo hitro premetava in pregleduje goro podatkov ter jih servira, da bi enkrat nekako presegla samo sebe pa ni prav verjetno. Pravi da so to samo hitri in zmogljivi računski stroji s svojimi omejitvami glede razmišljanja v človeškem smislu, katerga naj ne bi dosegli. Najbrž sem precej narobe povedal in marsikaj zgrešil ampak nekako v tem smislu sem ga razumel.
če seješ veter, boš po vsej verjetnosti požel vihar...
pa lep dan želim :)
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več. Za AI sicer vemo kako dela, kako je prišla do nekega odgovora, in ne do nekega drugega, pa niti ne. Če bi hoteli to vedet, bi morali razumet in poznat vse vire iz katerih se je učila, kar je praktično nemogoče in bi zahtevalo še eno AI zraven.
Inteligentnih ifov ne uvrščaš v nevronsko mrezo ker namesto tega imaš utezi. Kakovostni vhodni podatki negirajo določeno vsebino in se zapeče kot edina resnica dokler je ne moreš dokazati da jo lahko ovrzeš. Lahko pa določeno vsebino odstraniš Iz modela.
V bistvu pa ni Dario povedal nič novega. Že dolgo nazaj je veljalo ali pa je vsaj prof Bratko tako menil, da nevronske mreže niso tako zaželene, ker so v bistvu črna skrinjica in ne moreš preveriti/razložiti zakaj smo dobili nekaj na izhodu.
No ja, po nesreci ali zavestno ... ni bistvene razlike, it is here to stay and evolve.
Darvinizem uči, da je psevdo izkušnja zvesti pogojena z evolucijo živih bitij, evolucijo pa "poganjata" naravna selekcija oz. boj za obstanek. Omrežja ali simulacije omrežij, ki omogočajo UI, niso živa, ne poznajo eksistenčne "stiske" oz. pritiska okolja in so (posledično) sama nezmožna evolucije. Ergo - nikoli ne bodo dočakala psevdo izkušnje zavedanja.
v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni.
Naključja so dokazana, eter, o katerem pišeš, pa še ne. (Samo)zavedanje ni del možganov, je njihova funkcija. Inteligenca ni nič substancialnega, je le manifestacija nevroplastičnosti in elektro/kemičnih procesov v nevralnih omrežjih možganov. Stopnja inteligence korelira s številom in dinamiko povezav med neokortikalnimi celicami. Kaj so fizični procesi v omrežjih, ki omogočajo UI, kaj v njih je primerljivo z nevro-plastičnostjo možganov, s tvorjenjem engramov? Nič. Ergo - "togo" omrežje ne more imeti psevdo izkušnje (samo)zavedanja.
V bistvu pa ni Dario povedal nič novega. Že dolgo nazaj je veljalo ali pa je vsaj prof Bratko tako menil, da nevronske mreže niso tako zaželene, ker so v bistvu črna skrinjica in ne moreš preveriti/razložiti zakaj smo dobili nekaj na izhodu.
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več. Za AI sicer vemo kako dela, kako je prišla do nekega odgovora, in ne do nekega drugega, pa niti ne. Če bi hoteli to vedet, bi morali razumet in poznat vse vire iz katerih se je učila, kar je praktično nemogoče in bi zahtevalo še eno AI zraven.
Inteligentnih ifov ne uvrščaš v nevronsko mrezo ker namesto tega imaš utezi. Kakovostni vhodni podatki negirajo določeno vsebino in se zapeče kot edina resnica dokler je ne moreš dokazati da jo lahko ovrzeš. Lahko pa določeno vsebino odstraniš Iz modela.
No no, ampak če bi bila samo nevronska mreža, brez neinteligentnih ifov, zakaj je potem vseeno nekako omejena. Zakaj vsaj nekateri modeli sprejemajo samo neke vrste datotek, ne kar vseh (vsaj teh, katere imajo javne standarde), ali pa zakaj recimo chatgpt v browserju dela drugače kot prek apija tudi če izbereš isti model. Vsaj neko predprocesiranje se očitno dogaja, ki ni posebno inteligentno, ampak načeloma bi pa lahko bilo tudi to del mreže.
Ali pa recimo pri iskanju dejstev. Se je mreža naučila, da ljudje bolj verjamejo .gov in .edu virom ali so ustvarjalci dali tem ročno malo večjo težo...
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.
offtopic warning! s tole stvarjo, etrom, se zavestno srečujem šele kratek čas, kake tri mesece. kaj je to? energija, ki je fizika ne zazna in je ni sposobna opisati, predstava, zavest posameznika ali več njih?
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.
offtopic warning! s tole stvarjo, etrom, se zavestno srečujem šele kratek čas, kake tri mesece. kaj je to? energija, ki je fizika ne zazna in je ni sposobna opisati, predstava, zavest posameznika ali več njih?
Skratka, se en nateg za idiote, ki dajo prednost nakladacem pred znanostjo..
Tega ne pisem jaz, sem se cepil proti Covidu in sem ze leta mrtev. Baje.
Ljudje, ki najbolj mahajo z zastavami, si je ne zasluzijo imeti.
Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.
Za tiste bolj mundane je pa možnost razlage preko kvantne prepletenosti.
V bistvu pa ni Dario povedal nič novega. Že dolgo nazaj je veljalo ali pa je vsaj prof Bratko tako menil, da nevronske mreže niso tako zaželene, ker so v bistvu črna skrinjica in ne moreš preveriti/razložiti zakaj smo dobili nekaj na izhodu.
A to implicira, da ljudje nismo zazeleni? Tako kot zapremo dolocene ljudi, bomo morali preganjati/ugasniti dolocene nevronske mreze.
Glede na elito, ki hoče depopularizirati Zemljo, najbrž res nismo...
Sam sem se 1x igral z samoučečimi algoritmi, pri Dobnikarju smo imeli celo seminarsko, pa se je algoritem tako naučil igrico, da je bilo nemogoče zmagati...
