Geoffrey Hinton z opozorili na nevarnosti strojnega učenja zapušča Google

Britansko-kanadski raziskovalec Geoffrey Hinton, ki velja za enega od utemeljiteljev globokega učenja z nevronskimi mrežami, pompozno zapušča Google, kjer je delal zadnjih deset let. In sicer predvsem iz strahu, da nam nadzor nad strojnimi algoritmi uhaja iz rok (plačljiv vir, alternativa).

Leta 1986 so David Rumelhart, Geoffrey Hinton in Ronald Williams v odmevni objavi pokazali, kako uporabiti metodo vzvratnega razširjanja (backpropagation) za bistveno pospešitev zmogljivosti učenja nevronskih mrež, kar velja za enega od mejnikov v strojnem učenju. Hinton ima razen tega na spisku še vrsto drugih dosežkov, denimo razvoj arhitekture nevronskih mrež AlexNet, z Alexom Krizhevskyjem in Ilyo Sutskeverjem. Ta iznajdba družine algoritmov za prepoznavo slik namreč pomeni enega od povodov za bliskovito širjenje strojne inteligence med spletne tehnologije v preteklem desetletju. Zaradi opisanih uspehov Geoffrey Hinton velja za enega od očetov umetne inteligence in je pred štirimi leti tudi prejel Turingovo nagrado, z Yoshuo Bengiom in Yannom LeCunom. Leta 2013 se je sicer zaposlil pri Googlu, po tem ko je velikan prevzel njegovo podjetje DNNresearch.

Sedaj je te zgodbe konec, saj Hinton Google zapušča, in to precej gromoglasno, z opozorili, da se razvoj strojnega učenja - ali pa vsaj njegovo širjenje v uporabne izdelke, odvija prehitro. V intervjuju za New York Times je precej črnogled: pravi, da je doslej menil, da se bo strojna inteligenca pričela kosati s človeško šele čez 30 do 50 let, ne pa že v bližnji prihodnosti. Zato da ga obhajajo strahovi in obžalovanje glede njegove vloge pri razvoju takšnih algoritmov, a da se tolaži s tem, da bi to slej ko prej napravil nekdo drug. Kot bistvena problema, ki ju vidi v tem oziru v bližnji prihodnosti, navaja nevarnost širjenja strojno generiranih dezinformacij in pa izgubo delovnih mest. Odmevnega pisma iz marca, v katerem je kopica strokovnjakov in javnih oseb opozorila na podobne nevarnosti, sicer ni podpisal.

Treba je poudariti, da Hinton Googla ni zapustil zato, ker bi podjetje krivil za nastalo situacijo, temveč, da mu ne bi bilo treba več toliko paziti na izjave. Kljub temu strokovni opazovalci cinično komentirajo, da je prav panika pri Googlu, ki jo je sprožil uspeh ChatGPTja, nemajhen krivec za novo "oboroževalno tekmo" med tehnološkimi velikani, kjer se izdelke potiska na trg, še preden se jih izpopolni in dobro razume njihove posledice.