» »

Geoffrey Hinton z opozorili na nevarnosti strojnega učenja zapušča Google

Geoffrey Hinton z opozorili na nevarnosti strojnega učenja zapušča Google

The New York Times - Britansko-kanadski raziskovalec Geoffrey Hinton, ki velja za enega od utemeljiteljev globokega učenja z nevronskimi mrežami, pompozno zapušča Google, kjer je delal zadnjih deset let. In sicer predvsem iz strahu, da nam nadzor nad strojnimi algoritmi uhaja iz rok (plačljiv vir, alternativa).

Leta 1986 so David Rumelhart, Geoffrey Hinton in Ronald Williams v odmevni objavi pokazali, kako uporabiti metodo vzvratnega razširjanja (backpropagation) za bistveno pospešitev zmogljivosti učenja nevronskih mrež, kar velja za enega od mejnikov v strojnem učenju. Hinton ima razen tega na spisku še vrsto drugih dosežkov, denimo razvoj arhitekture nevronskih mrež AlexNet, z Alexom Krizhevskyjem in Ilyo Sutskeverjem. Ta iznajdba družine algoritmov za prepoznavo slik namreč pomeni enega od povodov za bliskovito širjenje strojne inteligence med spletne tehnologije v preteklem desetletju. Zaradi opisanih uspehov Geoffrey Hinton velja za enega od očetov umetne inteligence in je pred štirimi leti tudi prejel Turingovo nagrado, z Yoshuo Bengiom in Yannom LeCunom. Leta 2013 se je sicer zaposlil pri Googlu, po tem ko je velikan prevzel njegovo podjetje DNNresearch.

Sedaj je te zgodbe konec, saj Hinton Google zapušča, in to precej gromoglasno, z opozorili, da se razvoj strojnega učenja - ali pa vsaj njegovo širjenje v uporabne izdelke, odvija prehitro. V intervjuju za New York Times je precej črnogled: pravi, da je doslej menil, da se bo strojna inteligenca pričela kosati s človeško šele čez 30 do 50 let, ne pa že v bližnji prihodnosti. Zato da ga obhajajo strahovi in obžalovanje glede njegove vloge pri razvoju takšnih algoritmov, a da se tolaži s tem, da bi to slej ko prej napravil nekdo drug. Kot bistvena problema, ki ju vidi v tem oziru v bližnji prihodnosti, navaja nevarnost širjenja strojno generiranih dezinformacij in pa izgubo delovnih mest. Odmevnega pisma iz marca, v katerem je kopica strokovnjakov in javnih oseb opozorila na podobne nevarnosti, sicer ni podpisal.

Treba je poudariti, da Hinton Googla ni zapustil zato, ker bi podjetje krivil za nastalo situacijo, temveč, da mu ne bi bilo treba več toliko paziti na izjave. Kljub temu strokovni opazovalci cinično komentirajo, da je prav panika pri Googlu, ki jo je sprožil uspeh ChatGPTja, nemajhen krivec za novo "oboroževalno tekmo" med tehnološkimi velikani, kjer se izdelke potiska na trg, še preden se jih izpopolni in dobro razume njihove posledice.

6 komentarjev

starfotr ::

Ali bo svoje prmeoženje dal v sklad kot Nobel, ker ga je pekla vest glede dinamita? In bomo dobili Hintonovo nagrado?

Gregor P ::

Kot razumem je sedaj vložil denar v neko drugo AI podjetje.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Ghost7 ::

starfotr je izjavil:

Ali bo svoje prmeoženje dal v sklad kot Nobel, ker ga je pekla vest glede dinamita? In bomo dobili Hintonovo nagrado?


Te cajti so mimo, brezskrbi, je zrežirano po njihovih željah, zakaj, pa samo oni vedo kaj je skrita agenda.
https://www.bitstamp.net/ref/OM6lA9mwoeRO5Rba/

jebitese ::

Zdaj, ko ni več v dirki, bi pa rad ročno zavoro potegnil.

kotnikd3 ::

Jaz opozorila znanstvenikov iz tega področja razumem predvsem kot opozorila pred močjo privatnih podjetij, ki si lastijo umetno inteligenco, in z njo upravljajo tako, da bodo profiti še večji: "Draga umetna inteligenca, prosim generiraj take informacije, ki bodo meni prinašale profit. Pri tem ni najbolj pomembno to, ali so informacije resnične in dobre.".

Dodal bi še, da je s časom in razvojem znanosti naša odgovornost do razmišljanja večja.

Zgodovina sprememb…

  • spremenil: kotnikd3 ()

Gregor P ::

... tole me spominja na ...

The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Računalnik zna iz navodil generirati video

Oddelek: Novice / Znanost in tehnologija
86496 (5485) lemur233
»

Roboti so zaobvladali sortiranje v skladišču (strani: 1 2 3 )

Oddelek: Novice / Znanost in tehnologija
10316572 (12929) Mr.B
»

Industrija išče naslednika globokega učenja

Oddelek: Novice / Znanost in tehnologija
156045 (3736) jype
»

Prelomen hibridni čip za pospeševanje različnih tipov strojne inteligence

Oddelek: Novice / Procesorji
197342 (5307) blay44
»

Umetna inteligenca / AI debata (strani: 1 2 3 4 )

Oddelek: Problemi človeštva
17128800 (20527) pis-it

Več podobnih tem