» »

Nobelova nagrada za fiziko 2024

Nobelova nagrada za fiziko 2024

Slo-Tech - Letošnja prejemnika Nobelova nagrade za fiziko 2024 sta fizik John J. Hopfield s Princetona in Geoffrey E. Hinton z Univerze v Torontu, ki sta bila nagrajena za ključna odkritja in izume, ki so omogočili strojno učenje z umetnimi nevronskimi mrežami. Hopfield je ustvaril strukture, ki zmorejo shranjevati podatke in rekonstruirati informacije, Hinton pa je odkril metodo za iskanje vzorcev v podatkih. Posledice teh odkritij vidimo in uporabljamo vsakodnevno, denimo pri strojnem prevajanju, prepoznavanju slik in uporabi umetne inteligence. Slednja je pogosto zgolj širok izraz, s katerim v resnici mislimo na nevronske mreže.

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu. Klasični računalniški programi so bili strogo deterministični v smislu, da so delovali kot recept. Koraki so bili jasno opredeljeni, rezultati predvidljivi in razumljivi. Pri strojnem učenju pa računalniku ne damo recepta, temveč se uči sam. Navdih so raziskovalci dobili v naravi, saj se človeški možgani učijo na povsem enak način. Nihče se nikoli ni naučil, kaj je stol, tako da bi si zapomnil definicijo, temveč z opazovanjem stolov in prigovarjenjem staršev, da je to - stol. Kanadski psiholog Donald Hebb je že pred skoraj stoletjem pojasnjeval učenje z izgradnjo in krepitvijo povezav v možganih. Na enak način so se spočetka lotili umetne inteligence. Nevrone so predstavljala vozlišča, ki so lahko imela različne vrednosti in so bila povezana med seboj v predvidljivem zaporedju. Takšne nevronske mreže se učijo z določanjem uteži, ki pripadajo posameznim povezavam.

A začetnemu navudšenju v 50. in 60. letih je sledila prva zima, ki je trajala do 80. let. V tem času se je zdelo, da praktične uporabnosti primitivne nevronske mreže ne bodo imele. John Hopfield je leta 1982 razvil Hopfieldovo mrežo, ki deluje kot asociativni pomnilnik. Takšna mreža si lahko zapomni vzorce, nato pa jih reproducira iz približnega vnosa. Takšna mreža ima vozlišča, ki jih povezujejo sinapse, vrednosti povezav pa se imenujejo sinaptične uteži. Te imajo takšne vrednosti, da je stabilno stanje mreže (pri različnih vhodih) enako podatku, ki ga želimo shraniti, kar lahko dosežemo s Hebbovim učenjem. Hopfield je tak sistem primerjal s fizikalnim sistemom, kjer opazujemo spin koreliranih delcev.

Izkaže pa se, da je možno v takšni nevronski mreži shraniti več vzorcev, glede na vhod pa lahko mreža razlikuje med njimi. Od tod do mreže, ki zmore prepoznavati slike, ni več daleč. Hopfield je postavil temelje nevronskih mrež, ki predstavljajo asociativni pomnilnik. Z vprašanjem, ali lahko računalniki prepoznavajo vzorce - in predvsem se tega spontano oziroma zgolj z vajo naučijo sami - podobno kot ljudje, se je ukvarjal tudi Hinton. Začel se je prav s Hopfieldovimi mrežami in jih razvil v Boltzmannov stroj. Ta ima nevrone v dveh vrstah slojev: vidnih in skritih. Medtem ko so v Boltzmannovem stroju povezave tudi med nevroni v istem sloju, jih v omejenem Boltzmannovem stroju ni. Tovrstne mreže se lahko učijo tako, da jim predložimo vzorce, nato pa so sposobne prepoznavati tudi vzorce, ki jih niso videle še nikoli. Prve vrste teh strojev so bile neučinkovite, kasneje pa so jih z natančnim premislekom, katere povezave med nevroni so zares potrebne, bistveno pospešli. Danes jih srečujemo povsod, tudi ko nam Netflix predlaga filme, ki bi nas lahko zanimali.

13 komentarjev

gus5 ::

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu.
Če drži biološka teza, da so zavedanje in kognitivne funkcije rezultat naravne selekcije, potem stroji nikoli ne bodo razvili zavesti in mišljenja. Četudi je umetna inteligenca posledica oponašanja narave:
...jih razvil v Boltzmannov stroj. Ta ima nevrone v dveh vrstah slojev: vidnih in skritih.
Imitacija (neo)kortikalnih slojev?

Zgodovina sprememb…

  • spremenilo: gus5 ()

gruntfürmich ::

'biološka' teza ne more držati, ker potem bi bili 'bogovi'.
tako pa nastanemo iz popolnoma zamenljivih atomov in molekul, tako da je čisto vseeno kaj se poimuje kot 'biologija'. zato je človek čisto navaden 'biološki' stroj.
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...

JanBrezov ::

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu.

Moja teza je, da zavesti ne morejo razviti, ker imajo "stop condition", tj. podajo odgovor in prenehajo s procesiranjem. Ljudje razmišljamo dalje, tudi kot je cilj (podan odgovor; prepoznan vzorec; izvedena akcija) dosežen. Edini stop condition je uničenje mreže / smrt.

Če bi bila zgolj ena instanca nevronske mreže/LLM, ki odgovarja na vsa vprašanja vseh uporabnikov, vsi odgovori pa bi šli tudi nazaj kot input v mrežo in bi to bil konstanten proces, vključno s praznim promptom (sistemski interupt, ki v LLM pošlje prazen prompt, če ni drugih promptov), ali ne bi ta proces / tok podatkov lahko imenovali zavest?

FrRoSt ::

JanBrezov je izjavil:

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu.

Moja teza je, da zavesti ne morejo razviti, ker imajo "stop condition", tj. podajo odgovor in prenehajo s procesiranjem. Ljudje razmišljamo dalje, tudi kot je cilj (podan odgovor; prepoznan vzorec; izvedena akcija) dosežen. Edini stop condition je uničenje mreže / smrt.

Če bi bila zgolj ena instanca nevronske mreže/LLM, ki odgovarja na vsa vprašanja vseh uporabnikov, vsi odgovori pa bi šli tudi nazaj kot input v mrežo in bi to bil konstanten proces, vključno s praznim promptom (sistemski interupt, ki v LLM pošlje prazen prompt, če ni drugih promptov), ali ne bi ta proces / tok podatkov lahko imenovali zavest?


TAKO (nekako) DA!! :)
Zavest je še en (nekaj) korakov naprej, ali pa en (nekaj) nivojev višje! To je vsa UMETNOST! 8-)

Kot je pa nekdo (pravilno) na/povedal, naj bi s to UI dobili (neko) intelektualno moč, tako kot smo dobili v industrijski in tehnološki dobi neko (močno) strojno moč.
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

AmokRun ::

Če drži biološka teza, da so zavedanje in kognitivne funkcije rezultat naravne selekcije, potem stroji nikoli ne bodo razvili zavesti in mišljenja.

To je podobno kot bi rekel, če je letenje (ptice) rezultat naravne selekcije, potem stroji nikoli ne bodo leteli.

c3p0 ::

Tudi če je, bi lahko zevolviral umetni model do te stopnje, da bi se začel samozavedat. To je mislil tudi "legendarni" član Thomas, ampak on se je že 2012 nekam očitno uploadal in ga ni več tu.

Drugo je še, kako mu verjet, da je pa zdaj model zavesten, mu boš verjel na besedo? Tudi če postane resnično "emergent", ni nujno, da bo imel tudi zavest, aka "I am".

JanBrezov ::

c3p0 je izjavil:

Drugo je še, kako mu verjet, da je pa zdaj model zavesten, mu boš verjel na besedo?

Lahko ljudem verjamemo na besedo?

Philosophical zombie @ Wikipedia
A philosophical zombie (or "p-zombie") is a being in a thought experiment in the philosophy of mind that is physically identical to a normal human being but does not have conscious experience.

For example, if a philosophical zombie were poked with a sharp object, it would not feel any pain, but it would react exactly the way any conscious human would.

c3p0 ::

Ne moremo, ampak pri sebi veš, da se zavedaš in induktivno sklepaš, da se tudi ostali. I think, therefore I am, or so it goes. :)

FrRoSt ::

AmokRun je izjavil:

Če drži biološka teza, da so zavedanje in kognitivne funkcije rezultat naravne selekcije, potem stroji nikoli ne bodo razvili zavesti in mišljenja.

To je podobno kot bi rekel, če je letenje (ptice) rezultat naravne selekcije, potem stroji nikoli ne bodo leteli.


NATANČNO TAKO! Na Darwinov (Naravni) ZAKON, ki je v tem primeru nesporen, uporabiš negacijo sedanjih strojev/letal!

c3p0 je izjavil:

Tudi če je, bi lahko zevolviral umetni model do te stopnje, da bi se začel samozavedat. To je mislil tudi "legendarni" član Thomas, ampak on se je že 2012 nekam očitno uploadal in ga ni več tu.


Možno je. Vsaj teoretično. Verjetno bo pa tudi bolj praktično, ko se bo tale UI poglobila, ali pa nadgradila!
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

Zgodovina sprememb…

  • spremenilo: FrRoSt ()

Ajnstajn` ::

kako je pri teh nobelovih nagradah, ali to lahko dobi vsak, tudi če je nekaj razkril pred xx leti?
Namreč tale prvi možakar je star 94 let in dvomim da je tale možakar danes v letu 2024 izumil karkoli. dvomim da je kdorkoli izumil kaj pri 94 letih.
//

FrRoSt ::

Pri teh Nobelovih nagradah je tako, da mora biti nagrajenec še živ! :)) Povedano drugače: tudi če kaj pametnega odkriješ, narediš,moraš še kar dolgo živeti, da se lahko pozeguješ za Nobelovo. ... kar se znanost tiče! Ni pa vedno tako! Obama je nagrado za mir dobil na zalogo! :))
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

Zimonem ::

JanBrezov je izjavil:

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu.

Moja teza je, da zavesti ne morejo razviti, ker imajo "stop condition", tj. podajo odgovor in prenehajo s procesiranjem. Ljudje razmišljamo dalje, tudi kot je cilj (podan odgovor; prepoznan vzorec; izvedena akcija) dosežen. Edini stop condition je uničenje mreže / smrt.

Če bi bila zgolj ena instanca nevronske mreže/LLM, ki odgovarja na vsa vprašanja vseh uporabnikov, vsi odgovori pa bi šli tudi nazaj kot input v mrežo in bi to bil konstanten proces, vključno s praznim promptom (sistemski interupt, ki v LLM pošlje prazen prompt, če ni drugih promptov), ali ne bi ta proces / tok podatkov lahko imenovali zavest?

Pa saj delajo tudi to. Recimo agenti so prva široko dostopna zadeva. Kjer kombinirš llm, search, eksperne sisteme in dobiš ven nek precej dober zmazek. Za zaprtimi vrati kjer je na voljo precej več štroma in silicija se gredo pa tudi povratne znake. ve bistvu vsi servisi katere nam ponujajo openai , Google , ms, so tako cenzurirani , da zadeve niso uporabne. Ampak na srečo sta obstajajo necenzurirane mreže. Tam tebpa zaskrbi. Zadeve so precej brihtne. Samo zaenkrat je to še drago poganjati doma.

Jazon ::

Sabine Hossenfelder, teoretična fizičarka iz Nemčije v svojem YT prispevku trdi, da sta Nobelovo nagrado za fiziko prejela nefizika. (Ja, na wiki piše, da je John Hopfield fizik.)

Kot v glasbi potem:"You now Steve (Howe, YES), electric guitar, not a real instrument." (Vangelis, 1980)


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Človeški jezik (strani: 1 2 )

Oddelek: Znanost in tehnologija
7317146 (13461) kuall
»

IBM razvil umetne nevrone

Oddelek: Novice / Znanost in tehnologija
2011741 (9360) antonija
»

Neural Networks

Oddelek: Znanost in tehnologija
106257 (5243) rasta
»

Česa računalnik ne bo nikoli mogel, kar človek pa lahko? (strani: 1 2 3 4 5 )

Oddelek: Znanost in tehnologija
24817543 (13805) gzibret

Več podobnih tem