Slo-Tech - OpenAI išče novega direktorja oddelka za pripravljenost (Head of Preparedness), ki bo snoval strategije in ukrepe za izboljšanje varnosti in obvladovanje tveganj, ki jih prinaša uporaba umetne inteligence za ljudi. Zlasti letos je bil OpenAI tarča številnih tožb zaradi domnevnih negativnih učinkov na duševno zdravje ljudi, v nekaterih primerih so ljudje storili tudi samomore, za kar OpenAI očitajo sokrivdo. Direktor Sam Altman je priznal, da je potencialni vpliv umetne inteligence na duševno zdravje pomembna tema letošnjega leta, ki bo v prihodnosti prinesla številne izzive.

Vodja pripravljenosti bo torej ključno delovno mesto, ki bo tudi dobro plačano. Ponujajo 555.000 dolarjev letno in delež v podjetju. Bodoči vodja bo vodil tehnično strategijo in izvedbo ukrepov v okvirnem načrtu za pripravljenost. To delovno mesto je do sredine minulega leta zasedal Aleksander Madry, ko sta ga nasledila Joaquin Quinonero Candela in Lilian Weng. Candela je kasneje postal vodja kadrovske službe,...

Slo-Tech - ChatGPT, ki preverja starost uporabnikov, bo kmalu polnoletnim uporabnikom ponudil več razposajenosti kot doslej. Spočetka je bil ChatGPT že precej sproščen, a so se po nekaterih hudih zgodbah in samomorih mladoletnih uporabnikov letos odločili, da močno zaostrijo dovoljene načine interakcije. Decembra, ko bo zelo jasno, koliko je kdo star, bodo začeli odrasle uporabnike obravnavati bolj odraslo, je dejal Sam Altman.

Trenutna verzija je omejena zaradi možnosti, da bi vplivala na duševno zdravje in predvsem poslabšala težave pri ljudeh, ki trpijo zaradi različnih bolezni. To pa je za uporabnike, ki nimajo nobenih težav, pomenilo dolgočasnejšo izkušnjo, je dejal Altman. Z novimi orodji bo ChatGPT laže ugotovil, kdo je ogrožena skupina, preostalim pa bo ponudil polnejšo izkušnjo. Ta bo vključevala tudi erotične vsebine, je dodal.

Prvikrat so jo ponudili že februarja, a so potem marca z novo nadgradnjo to možnost ukinili. Povod za nadgradnjo je bila prevelika ustrežljivost...

Slo-Tech - Nekdanji šef raziskav v OpenAI, Ilya Sutskever, ustanavlja družbo Safe Superintelligence Inc., katere deklarirani namen je razvoj napredne strojne inteligence brez komercialnih pritiskov.

Ko smo lansko jesen spremljali kaotičen izgon - in nato vrnitev - Sama Altmana iz OpenAIja, je bil eden od glavnih akterjev dogajanja Ilya Sutskever, vodja raziskav v podjetju. Po tem ko je bil sprva eden glavnih pobudnikov Altmanovega odhoda, se je kmalu pokesal in pomagal organizirati njegovo vrnitev. Toda čeprav sta takrat na površini za silo zgladila spore, je bilo presneto očitno, da je zaupanje med ključnima človekoma v OpenAI nepopravljivo porušeno. Sutskever je bil pripadnik stare garde, ki je zagovarjala počasnejši razvoj zavoljo višje varnosti - in na račun tržne uspešnosti; v ta namen je nenazadnje OpenAI tudi pomagal ustanoviti. Altman narekuje trenutno paradigmo podjetja, po kateri morajo dobavljati tržno uspešne izdelke, saj naj bi bili zgolj na takšen način zmožni pokrivati stroške...

Slo-Tech - Špekuliralo se je, da bi lahko GPT-5 dobili že letos poleti, a trenutno nič ne kaže na to. Ravno nasprotno, saj so iz OpenAI sporočili, da so pravkar začeli trening novega modela, ki bo nasledil GPT-4. Prihajajoči GPT-5 se je torej začel uriti, kar bo trajalo več mesecev, morda tudi leto dni. Tudi ko bo trening končan, pa GPT-5 ne bo takoj romal na splet. Pred tem ga morajo temeljito preizkusiti in preveriti, da ne počne (preveč) neumnosti, nato pa prilagoditi za končno uporabo. To vključuje tudi blokado določenih poizvedb, ki so neprimerne za širšo rabo zaradi etičnih ali zakonskih omejitev ali pa zgolj v neskladju s politiko podjetja. Po zelo optimističnem scenariju to izid postavlja v sredino leta 2025.

Ali Sam Altman govori res govori o GPT-5 ali pa morda celo o njegovem nasledniku, ne vemo. Označil ga je kot "frontier model", kar označuje sposobnejši model od trenutnih. Končni cilj podjetja je seveda ustvariti splošno umetno inteligenco (AGI), ki se bo kosala z ljudmi na vseh...

Slo-Tech - Eden izmed pionirjev umetne inteligence nove generacije, OpenAI, se dogovarja o novem financiranju. Po neuradnih podatkih bo podjetje zbiralo sveži kapital z vrednotenjem 100 milijard dolarjev, s čimer bo postalo drugi najdražji ameriški start-up, takoj za SpaceX-om. Za zdaj potekajo pogajanja s potencialnimi investitorji, na katerih bodo dorekli pogoje, časovnico in natančno vrednotenje. Poleg novega kroga financiranja bodo januarja v OpenAI zaposlenim omogočili prodajo lastnih delnic po vrednotenju 86 milijard. Povpraševanja po njih je več kot ponudbe.

OpenAI je avtor priljubljenega orodja ChatGPT, ki je povsem spremenilo odnos do umetne inteligence in jo približalo domačemu uporabniku. Pomemben lastnik podjetje je Microsoft, ki je vanj vložil že 13 milijard dolarjev, s čimer si je kupil tudi pravico do uporabe tehnologije. Zato ni presenetljivo, da se ChatGPT plazi tako v Windows kakor v Bing. Konkurenca, denimo Amazon in Alphabet (Google), medtem obilno vlaga v Anthropic.

V...

openai.com - V eni najbolj presenetljivih letošnjih novic s področja strojnega učenja so iz podjetja OpenAI sporočili, da odpuščajo svojega izvršnega direktorja Sama Altmana, ker naj bi upravi podjetja prikrival informacije.

V aktualnem razmahu generativne strojne inteligence in velikih jezikovnih modelov je Sam Altman gotovo eden od poglavitnih obrazov industrije. Kot soustanovitelj in od leta 2020 tudi izvršni direktor družbe OpenAI je ključno usmerjal njeno pot od sprva neprofitnega raziskovalnega laboratorija proti enemu od najmočnejših igralcev na tržišču sodobnih storitev umetne inteligence, z orodji, kot sta pogovorni bot ChatGPT in generator slik DALL-E. Sodeloval je praktično na vseh pomembnih diskusijah v industriji, na pogajanjih in zaslišanjih z ameriško politiko ter konferencah, na katerih si razvijalci prizadevajo regulatorje in javnost prepričati, da njihova novodobna orodja prinašajo več koristi kot nevarnosti. Med drugim je v začetku novembra sodeloval na prvem mednarodnem...