Slo-Tech - Letošnja prejemnika Nobelova nagrade za fiziko 2024 sta fizik John J. Hopfield s Princetona in Geoffrey E. Hinton z Univerze v Torontu, ki sta bila nagrajena za ključna odkritja in izume, ki so omogočili strojno učenje z umetnimi nevronskimi mrežami. Hopfield je ustvaril strukture, ki zmorejo shranjevati podatke in rekonstruirati informacije, Hinton pa je odkril metodo za iskanje vzorcev v podatkih. Posledice teh odkritij vidimo in uporabljamo vsakodnevno, denimo pri strojnem prevajanju, prepoznavanju slik in uporabi umetne inteligence. Slednja je pogosto zgolj širok izraz, s katerim v resnici mislimo na nevronske mreže.

Za zdaj velja konsenz, da računalniki in stroji ne morejo razviti zavesti in misliti, a rezultati njihovega delovanja so hudo podobni temu. Klasični računalniški programi so bili strogo deterministični v smislu, da so delovali kot recept. Koraki so bili jasno opredeljeni, rezultati predvidljivi in razumljivi. Pri strojnem učenju pa računalniku ne damo recepta,...

The New York Times - Britansko-kanadski raziskovalec Geoffrey Hinton, ki velja za enega od utemeljiteljev globokega učenja z nevronskimi mrežami, pompozno zapušča Google, kjer je delal zadnjih deset let. In sicer predvsem iz strahu, da nam nadzor nad strojnimi algoritmi uhaja iz rok (plačljiv vir, alternativa).

Leta 1986 so David Rumelhart, Geoffrey Hinton in Ronald Williams v odmevni objavi pokazali, kako uporabiti metodo vzvratnega razširjanja (backpropagation) za bistveno pospešitev zmogljivosti učenja nevronskih mrež, kar velja za enega od mejnikov v strojnem učenju. Hinton ima razen tega na spisku še vrsto drugih dosežkov, denimo razvoj arhitekture nevronskih mrež AlexNet, z Alexom Krizhevskyjem in Ilyo Sutskeverjem. Ta iznajdba družine algoritmov za prepoznavo slik namreč pomeni enega od povodov za bliskovito širjenje strojne inteligence med spletne tehnologije v preteklem desetletju. Zaradi opisanih uspehov Geoffrey Hinton velja za enega od očetov umetne inteligence in je pred štirimi leti tudi...

Slo-Tech - Zveza za računske stroje (ACM) je sporočila, da Turingovo nagrado za dosežke na področju računalništva prejmejo Geoff Hinton z Univerze v Toronu in Google Braina, Yann LeCun z Univerze New York in vodja umetne inteligence pri Facebooku, ter Yoshua Bengio z Univerze v Montrealu. Nagrajenci si bodo milijon dolarjev nagrade razdelili za pionirsko delo na področju globokega učenja (deep...

Slo-Tech - IBM je že pred tremi leti predstavil prvo verzijo "kognitivnega čipa", kakor so označili svoj čip TrueNorth. Želeli so ustvariti računalnik, ki deluje na podobnih principih kot človeški možgani, ne kot von Neummanov stroj. V okviru projekta SyNapse, ki ga sofinancira tudi DARPA, razviti TrueNorth ima danes 4096 jeder, ki imajo skupaj 5,4 milijarde tranzistorjev, 256 milijonov programljivih sinaps (povezav) in milijon programljivih nevronov.

Uvide iz razumevanja delovanja človeških možganov pri strojnem učenju in nevronskih mrežah že dlje časa uspešno uporabljamo, a vsi ti tečejo kot emulacija na klasičnih procesorjih. IBM (in tudi drugi) že dlje časa ugotavlja, da je to potratno in da...

IBM - Raziskovalci iz IBM-a so razvili prve umetne nanometrske nevrone iz pomnilnika na fazne spremembe (PCM), ki se obnašajo zelo podobno kot naravni nevroni v živih bitjih. Ekipa IBM Researcha v Zürichu je iznašla postopek za njihovo izgradnjo ter postavila omrežje 500 takih nevronov, s čimer se odpira pot k širši uporabi strojnega učenja in, če se optimistično zazremo v prihodnost, h gradnji umetnih možganov.

Že dolgo časa je sprejeto dejstvo, da s klasičnimi računalniki in proceduralnim programiranje ne bomo umetni inteligenci prišli niti blizu. Človeški možgani pač delujejo drugače in trenutno so edini pametni model kolikor toliko univerzalne inteligence, ki nam je poznan. Strojno učenje, ki svoj razcvet doživlja v zadnjih...

Slo-Tech - Google je eno izmed vodilnih podjetij na področju prepoznavanja slik in govora ter strojnega prevajanja. Vsem trem problemom je skupno dejstvo, da niso rešljivi z enostavnimi sekvenčnimi algoritmi, ker ne moremo predvideti vseh možnih vhodnih podatkov. Največ na tem področju obljubljajo umetne nevronske mreže (ANN). Google je v zadnji objavi pokazal nekaj fantastičnih slik, ki dajejo vpogled v delovanje ANN.

Kot tolikokrat v zgodovini je tudi zamisel ANN navdahnila narava, ki je imela milijarde let časa, da poišče rešitve za probleme. Te niso vedno optimalne, so pa v okviru možnosti in potreb zelo dobre. Kjer bi se s klasičnim zaporednim algoritmom zaleteli v zid, so se ozrli po bioloških nevronskih mrežah oziroma možganih. To je zelo logična poteza, saj so človeški možgani izjemno dobri pri reševanju problemov, za katere jih je evolucija...