Ilya Sutskever ustanavlja novo podjetje

Nekdanji šef raziskav v OpenAI, Ilya Sutskever, ustanavlja družbo Safe Superintelligence Inc., katere deklarirani namen je razvoj napredne strojne inteligence brez komercialnih pritiskov.

Ko smo lansko jesen spremljali kaotičen izgon - in nato vrnitev - Sama Altmana iz OpenAIja, je bil eden od glavnih akterjev dogajanja Ilya Sutskever, vodja raziskav v podjetju. Po tem ko je bil sprva eden glavnih pobudnikov Altmanovega odhoda, se je kmalu pokesal in pomagal organizirati njegovo vrnitev. Toda čeprav sta takrat na površini za silo zgladila spore, je bilo presneto očitno, da je zaupanje med ključnima človekoma v OpenAI nepopravljivo porušeno. Sutskever je bil pripadnik stare garde, ki je zagovarjala počasnejši razvoj zavoljo višje varnosti - in na račun tržne uspešnosti; v ta namen je nenazadnje OpenAI tudi pomagal ustanoviti. Altman narekuje trenutno paradigmo podjetja, po kateri morajo dobavljati tržno uspešne izdelke, saj naj bi bili zgolj na takšen način zmožni pokrivati stroške razvoja novih generacij algoritmov, ki skokovito rastejo, saj za trening modelov potrebujejo na desettisoče (Nvidiinih) čipov. Ko je Sutskever maja letos naposled zapustil OpenAI, ni to presenetilo nikogar.

Ker gre za človeka, ki je bistveno sodeloval pri razvoju področja umetne inteligence, kot ga poznamo danes - med drugim je bil soavtor ključnega algoritma konvolucijskih nevronskih mrež, AlexNeta, se govorice o njegovi nadaljnji poti vse odtlej niso umirile. Tudi tu je razplet pravzaprav pričakovan: Sutskever ustanavlja približno takšno podjetje, kakršno je bilo OpenAI v svojih rosnih časih. Družba Safe Superintelligence Inc. (SSI) se bo po uvodni objavi na spletni strani sodeč ukvarjala z razvojem strojne superinteligence, in sicer "brez motenj s strani tržnikov", torej pritiskov glede razvoja stvarnih izdelkov. Pri ustanovitvi sodelujeta Daniel Levy, kolega iz OpenAI, in pa Daniel Gross, ki je med leti 2013 in 2017 vodil razvoj strojnega učenja v Applu.

Možakar ne pojasnjuje, kakšno finančno zaledje podjetje ima, oziroma kako bo zagotovil njegovo dejansko neodvisnost, se je pa v intervjuju za Bloomberg kanec bolj razgovoril glede ciljev razvoja. Kot je razvidno že iz imena, ekipa ne bo ciljala zgolj na človeku primerljivo strojno inteligenco (AGI - artificial general intelligence), kamor stremijo denimo v OpenAI, temveč želijo neposredno do varne superinteligence, se pravi entitete, ki je še znatno sposobnejša od človeka, a pod njegovim nadzorom, oziroma v sozvočju s človekom. "Pri tem se ne bomo ustavljali na vmesnih točkah," vehementno pravi Sutskever. Vsekakor sila ... pogumne namere, ki so v stroki že sprožile več posmehljivih odzivov. Nenazadnje niti človeških vrst inteligence ne poznamo spodobno in tudi bombastične najave industrije glede AGI so še vedno nekje visoko v oblakih.