» »

Anthropic: umetne inteligence ne razume nihče

Anthropic: umetne inteligence ne razume nihče

Slo-Tech - Zares ne vemo, kako deluje umetna inteligenca, je dejal izvršni direktor Anthropica Dario Amodei. V svojem eseju je zapisal, da bi bili nepoznavalci presenečeni in zgroženi, če bi vedeli, da tudi ustvarjalci umetne inteligence ne vedo natančno, kako umetna inteligenca deluje. Zato so upravičeno zaskrbljeni, dodaja, saj česa takšnega v zgodovini še ni bilo. Nikoli še nismo tako množično uporabljali tehnologije, za katero ne bi natančno vedeli, kako deluje - ne uporabniki, temveč vsaj ustvarjalci.

Amodei je dejal tudi, da bo umetna inteligenca do leta 2027 presegla človeško inteligenco. Bliža se torej splošna umetna inteligenca (general artificial intelligence), ki bo lahko nadomestila večino človeških "stvari". A po drugi strani Roger Penrose meni, da umetna inteligenca ni zares inteligentna, ker nima zavesti. To morda res drži, a Amodei ob tem dodaja, da potrebujemo še veliko dela, da bomo umetno inteligenco razumeli do te mere, da jo bomo lahko zares nadzorovali. Ošvkrnil je tudi OpenAI, ki naj bi pri razvoju hitel in ubiral bližnjice na področju varnosti.



28 komentarjev

Glugy ::

Kako je to sploh lahko mogoče?

Ales ::

Uh, kaka "novica". Ne verjet vsakemu BS, ki ga nekdo nekje blebeta...

gddr85 ::

Glugy je izjavil:

Kako je to sploh lahko mogoče?

nekak tko, da verjameš v Skynet in terminatorja :))

k4vz0024 ::

He, he, Skynet se je vklopil, Terminator se vrača iz prihodnosti...Slo-tech je pogubljen;((

WhiteAngel ::

Glugy je izjavil:

Kako je to sploh lahko mogoče?


Saj ni noben bav bav. Ti za učenje šibaš milijarde in milijarde podatkov v nekaj nivojev nevronskih mrež in poskušaš optimizirati nevrone, da se ravno prav "učijo" (mešanica prekrivanja z vhodnimi podarki vs halucinacije na drugi).

Če ob koncu učenja pogledaš celotno nevronsko mrežo, je to en ogromen šmorn uteži, nekakšna agregacija vseh podanih vhodnih podatkov. In ne, tega šmorna ne moreš razvozlati v obliko, ki bi imela za človeka smisel. Torej nevronskih mrež v resnici "ne razumemo". Ampak za konkretne probleme smo jih pa že dodobra stestirali, tako da približno vemo, kako kvaliteten odgovor lahko pričakujemo.

Utk ::

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
Za AI sicer vemo kako dela, kako je prišla do nekega odgovora, in ne do nekega drugega, pa niti ne. Če bi hoteli to vedet, bi morali razumet in poznat vse vire iz katerih se je učila, kar je praktično nemogoče in bi zahtevalo še eno AI zraven.

SkyNet ::

k4vz0024 je izjavil:

He, he, Skynet se je vklopil, Terminator se vrača iz prihodnosti...Slo-tech je pogubljen;((


Dobro jutro 8-)
right minus opens, into bump easy left, flat out right, into mcdrive 3 bigmacs

gus5 ::

umetna inteligenca ni zares inteligentna, ker nima zavesti
To pomeni, da UI ne ve, da (nekaj) ve. Zazdaj. ;)

link_up ::

No ja, po nesreci ali zavestno ... ni bistvene razlike, it is here to stay and evolve.
In and Out

dronyx ::

Utk je izjavil:

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.

To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.

cypena ::

V novici omenjeni R. Penrose ima zanimivo razlago o tako imenovani umetni inteligenci oziroma o njeni "neintelegenci" ter o tem, da UI ne bo imela zavesti, katero naj bi potrebovala da postane Skynet . Po njegovem samo zelo hitro premetava in pregleduje goro podatkov ter jih servira, da bi enkrat nekako presegla samo sebe pa ni prav verjetno. Pravi da so to samo hitri in zmogljivi računski stroji s svojimi omejitvami glede razmišljanja v človeškem smislu, katerga naj ne bi dosegli.
Najbrž sem precej narobe povedal in marsikaj zgrešil ampak nekako v tem smislu sem ga razumel.
če seješ veter, boš po vsej verjetnosti požel vihar...
pa lep dan želim :)

Günther ::

Utk je izjavil:

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
Za AI sicer vemo kako dela, kako je prišla do nekega odgovora, in ne do nekega drugega, pa niti ne. Če bi hoteli to vedet, bi morali razumet in poznat vse vire iz katerih se je učila, kar je praktično nemogoče in bi zahtevalo še eno AI zraven.

Inteligentnih ifov ne uvrščaš v nevronsko mrezo ker namesto tega imaš utezi.
Kakovostni vhodni podatki negirajo določeno vsebino in se zapeče kot edina resnica dokler je ne moreš dokazati da jo lahko ovrzeš. Lahko pa določeno vsebino odstraniš Iz modela.

DamijanD ::

V bistvu pa ni Dario povedal nič novega. Že dolgo nazaj je veljalo ali pa je vsaj prof Bratko tako menil, da nevronske mreže niso tako zaželene, ker so v bistvu črna skrinjica in ne moreš preveriti/razložiti zakaj smo dobili nekaj na izhodu.

Zimonem ::

Saj žensk tudi nihče ne razume, pa jih uporabljamo.

gus5 ::

link_up je izjavil:

No ja, po nesreci ali zavestno ... ni bistvene razlike, it is here to stay and evolve.
Darvinizem uči, da je psevdo izkušnja zvesti pogojena z evolucijo živih bitij, evolucijo pa "poganjata" naravna selekcija oz. boj za obstanek. Omrežja ali simulacije omrežij, ki omogočajo UI, niso živa, ne poznajo eksistenčne "stiske" oz. pritiska okolja in so (posledično) sama nezmožna evolucije. Ergo - nikoli ne bodo dočakala psevdo izkušnje zavedanja.

dronyx je izjavil:

v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni.
Naključja so dokazana, eter, o katerem pišeš, pa še ne. (Samo)zavedanje ni del možganov, je njihova funkcija. Inteligenca ni nič substancialnega, je le manifestacija nevroplastičnosti in elektro/kemičnih procesov v nevralnih omrežjih možganov. Stopnja inteligence korelira s številom in dinamiko povezav med neokortikalnimi celicami. Kaj so fizični procesi v omrežjih, ki omogočajo UI, kaj v njih je primerljivo z nevro-plastičnostjo možganov, s tvorjenjem engramov? Nič. Ergo - "togo" omrežje ne more imeti psevdo izkušnje (samo)zavedanja.

Zimonem ::

Eh Darwin je bolj malo vedel o organizmih ki bazirajo na silicijevem substratu. Pa še to je bolj dawkizem kot darvinizem.

Ring0Ruin ::

Zimonem je izjavil:

Eh Darwin je bolj malo vedel o organizmih ki bazirajo na silicijevem substratu. Pa še to je bolj dawkizem kot darvinizem.

A to ti je kreacionisticni duhovnik povedal, tacas, ko si mu ga oblizoval?
Tega ne pisem jaz, sem se cepil proti Covidu in sem ze leta mrtev. Baje.

Ljudje, ki najbolj mahajo z zastavami, si je ne zasluzijo imeti.

Zimonem ::

Zadrtež, ljubezen s posvečenim bitjem , ni nič slabega. Mogoče za vas komunajzerje , ki malikujete komisarje.

Potem pa pobijate. Pa še to ste skopirali od naše svete inkvizicije.

Zgodovina sprememb…

  • spremenilo: Zimonem ()

hogorq ::

DamijanD je izjavil:

V bistvu pa ni Dario povedal nič novega. Že dolgo nazaj je veljalo ali pa je vsaj prof Bratko tako menil, da nevronske mreže niso tako zaželene, ker so v bistvu črna skrinjica in ne moreš preveriti/razložiti zakaj smo dobili nekaj na izhodu.


črna skrinjica ali pandorina?

Zimonem ::

Hec je da danes llm bolje piše prolog kot bratkotovi študentje.

Utk ::

Günther je izjavil:

Utk je izjavil:

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.
Za AI sicer vemo kako dela, kako je prišla do nekega odgovora, in ne do nekega drugega, pa niti ne. Če bi hoteli to vedet, bi morali razumet in poznat vse vire iz katerih se je učila, kar je praktično nemogoče in bi zahtevalo še eno AI zraven.

Inteligentnih ifov ne uvrščaš v nevronsko mrezo ker namesto tega imaš utezi.
Kakovostni vhodni podatki negirajo določeno vsebino in se zapeče kot edina resnica dokler je ne moreš dokazati da jo lahko ovrzeš. Lahko pa določeno vsebino odstraniš Iz modela.

No no, ampak če bi bila samo nevronska mreža, brez neinteligentnih ifov, zakaj je potem vseeno nekako omejena. Zakaj vsaj nekateri modeli sprejemajo samo neke vrste datotek, ne kar vseh (vsaj teh, katere imajo javne standarde), ali pa zakaj recimo chatgpt v browserju dela drugače kot prek apija tudi če izbereš isti model. Vsaj neko predprocesiranje se očitno dogaja, ki ni posebno inteligentno, ampak načeloma bi pa lahko bilo tudi to del mreže.

Ali pa recimo pri iskanju dejstev. Se je mreža naučila, da ljudje bolj verjamejo .gov in .edu virom ali so ustvarjalci dali tem ročno malo večjo težo...

Zgodovina sprememb…

  • spremenil: Utk ()

hogorq ::

dronyx je izjavil:

Utk je izjavil:

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.

To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.


offtopic warning! s tole stvarjo, etrom, se zavestno srečujem šele kratek čas, kake tri mesece. kaj je to? energija, ki je fizika ne zazna in je ni sposobna opisati, predstava, zavest posameznika ali več njih?

Zimonem ::

Potreba

Ring0Ruin ::

hogorq je izjavil:

dronyx je izjavil:

Utk je izjavil:

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.

To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.


offtopic warning! s tole stvarjo, etrom, se zavestno srečujem šele kratek čas, kake tri mesece. kaj je to? energija, ki je fizika ne zazna in je ni sposobna opisati, predstava, zavest posameznika ali več njih?


Skratka, se en nateg za idiote, ki dajo prednost nakladacem pred znanostjo..
Tega ne pisem jaz, sem se cepil proti Covidu in sem ze leta mrtev. Baje.

Ljudje, ki najbolj mahajo z zastavami, si je ne zasluzijo imeti.

TucoX ::

dronyx je izjavil:

Utk je izjavil:

Mene pa res zanima ali je nevronska mreža res vse kar je, ali je vseeno pred njo en kup čisto nič inteligentnih if-ov, ki rešujejo razne specifike. Če so, upam da jih čim prej ne bo več.

To je čista naivnost. Možgani so samo vmesnik. Naša zavest, interpretacija resničnost, občutki itd. to vse se ne izvaja v možganih, ampak v Etru, katerega del smo. Zato delujejo tudi pojavi, kot je sinhronost, ko recimo na nekoga pomisliš in te pokliče ali ga kje srečaš na cesti. Če bi bili mi povsem fizično ločeni eden od drugega, ti pojavi ne bi bili možni. Jaz sem prepričan, da napredne civilizacije komunicirajo z mislimi. To je danes za nas nepredstavljivo.


Za tiste bolj mundane je pa možnost razlage preko kvantne prepletenosti.

gozdar1 ::

Eter je samo ostanek fizike 19 stol. Svetloba se širi tudi v vakuumu in ne potrebuje nobenega medija.

kow ::

DamijanD je izjavil:

V bistvu pa ni Dario povedal nič novega. Že dolgo nazaj je veljalo ali pa je vsaj prof Bratko tako menil, da nevronske mreže niso tako zaželene, ker so v bistvu črna skrinjica in ne moreš preveriti/razložiti zakaj smo dobili nekaj na izhodu.


A to implicira, da ljudje nismo zazeleni? Tako kot zapremo dolocene ljudi, bomo morali preganjati/ugasniti dolocene nevronske mreze.

Zgodovina sprememb…

  • spremenil: kow ()

bm1973 ::

Glede na elito, ki hoče depopularizirati Zemljo, najbrž res nismo...

Sam sem se 1x igral z samoučečimi algoritmi, pri Dobnikarju smo imeli celo seminarsko, pa se je algoritem tako naučil igrico, da je bilo nemogoče zmagati...


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Večina ne uporablja umetne inteligence (strani: 1 2 3 4 )

Oddelek: Novice / Znanost in tehnologija
17612741 (5731) Mr.B
»

Še eno v vrsti javnih opozoril na nevarnosti umetne inteligence (strani: 1 2 )

Oddelek: Novice / NWO
8713867 (9746) darkolord
»

Strah pred umetno inteligenco je odveč (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
5915842 (13626) Cange
»

Človek 1, IBM Debater 1

Oddelek: Novice / Znanost in tehnologija
176185 (4573) DOOM_er
»

Tema o umetni inteligenci (strani: 1 2 3 )

Oddelek: Znanost in tehnologija
10518675 (15616) vostok_1

Več podobnih tem