Slo-Tech - Nekdanji šef raziskav v OpenAI, Ilya Sutskever, ustanavlja družbo Safe Superintelligence Inc., katere deklarirani namen je razvoj napredne strojne inteligence brez komercialnih pritiskov.

Ko smo lansko jesen spremljali kaotičen izgon - in nato vrnitev - Sama Altmana iz OpenAIja, je bil eden od glavnih akterjev dogajanja Ilya Sutskever, vodja raziskav v podjetju. Po tem ko je bil sprva eden glavnih pobudnikov Altmanovega odhoda, se je kmalu pokesal in pomagal organizirati njegovo vrnitev. Toda čeprav sta takrat na površini za silo zgladila spore, je bilo presneto očitno, da je zaupanje med ključnima človekoma v OpenAI nepopravljivo porušeno. Sutskever je bil pripadnik stare garde, ki je zagovarjala počasnejši razvoj zavoljo višje varnosti - in na račun tržne uspešnosti; v ta namen je nenazadnje OpenAI tudi pomagal ustanoviti. Altman narekuje trenutno paradigmo podjetja, po kateri morajo dobavljati tržno uspešne izdelke, saj naj bi bili zgolj na takšen način zmožni pokrivati stroške...

Slo-Tech - Avstrijska hekerska skupnost in CCC Dunaj organizirajo hekerski tabor Håck-ma’s Castle. Tabor bo ob koncu poletnih počitnic, med 28.8. in 1.9.2024 na gradu Ottenschlag v spodnji Avstriji.

Tabor je namenjen vsem entuziastom iz področja računalništva in elektrotehnike. Dogodek je neprofiten in ga v celoti organizirajo prostovoljci. Namen tabora je izmenjava idej, zanimivih projektov, izmenjava znanja, skupno eksperimentiranje in povezovanje z drugimi hekerji iz sosednjih držav. Aktivnosti se bodo izvajale v notranjih prostorih gradu Ottenschlag in zunaj na tabornem prostoru pred gradom. Spanje je na voljo v lastnem šotoru na tabornem prostoru, na voljo pa je tudi manjše število sob v grajskem poslopju.



Redna cena tabora je 161€, možno pa je zaprositi tudi za znižano ceno oz. t.i. "friends ticket" na kontakt@hack-mas.at s pripisom "friends ticket". Če je to dogodek za vas, si priskrbite vstopnico kar takoj. Več informacij je na voljo na spletni strani Tabora.


Drugi podobni...

Anthropic - Pri Anthropicu so predstavili družino velikih jezikovnih modelov Claude 3, s katero neposredno žugajo Geminiju in GPT-4.

Medtem ko se pod soji luči vrši dvoboj med navezo OpenAI-Microsoft in Googlom, ter Meta v bližini nekaj motovili z lamami, si skuša na področju velikih jezikovnih modelov svoj kos pogače odrezati tudi kopica manjših izzivalcev. Med bolj prepoznavnimi je družba Anthropic, ki so jo pred tremi leti ustanovili odpadniki iz OpenAI, ki so Samu Altmanu po povezavi z Microsoftom očitali prehitro komercializacijo. Sami razvijajo modele družine Claude, katere posebnost je vdelava spiska dodatnih zavor in smernic, po katerih naj bi se strojna pamet ravnala, čemur pravijo "constitutional AI". Zanimiva je tudi njihova dolgoročna strategija, po kateri želijo prispeti do algoritmov, ki bi se znali - vsaj na določenem ožjem področju - učiti sami in bi bili lahko osnova močnim pametnim pomočnikom. To se pravi, podobno kot pri OpenAI, le da še kanec bolj ambiciozno.

Medtem ko...

Slo-Tech - Sprememba pogojev uporabe na OpenAI-jevih straneh, ki se je potihoma prikradla minuli teden, ni bila naključje ali razmišljanje na zalogo. OpenAI je danes potrdil, da sodelujejo s Pentagonom v več projektih in za ameriško vojsko razvijajo več orodij.

Med njimi so orodja, ki uporabljajo umetno inteligenco za zaščito ključne infrastrukture pred računalniškimi napadi. Prav tako se pogovarjajo o morebitnem sodelovanju pri preprečevanju samomorov pri veteranih. Podpredsednica za globalne zadeve v podjetju Anna Makanju je v intervjuju v Davosu povedala še, da je prejšnja široka prepoved preprečevala tudi delo na opisanih projektih. Ti se skladajo s politiko podjetja in predstavljajo spremembe, ki jih podjetje želi videti v svetu, zato jih podpirajo. Sam Altman, izvršni direktor podjetja, je dodal še, da krepijo razvoj orodij za večjo varnost volitev. Preprečiti želijo uporabo OpenAI-jevih orodij za širjenje političnih dezinformacij na prihajajočih ameriških in drugih volitvah v tem...

Slo-Tech - Eden izmed pionirjev umetne inteligence nove generacije, OpenAI, se dogovarja o novem financiranju. Po neuradnih podatkih bo podjetje zbiralo sveži kapital z vrednotenjem 100 milijard dolarjev, s čimer bo postalo drugi najdražji ameriški start-up, takoj za SpaceX-om. Za zdaj potekajo pogajanja s potencialnimi investitorji, na katerih bodo dorekli pogoje, časovnico in natančno vrednotenje. Poleg novega kroga financiranja bodo januarja v OpenAI zaposlenim omogočili prodajo lastnih delnic po vrednotenju 86 milijard. Povpraševanja po njih je več kot ponudbe.

OpenAI je avtor priljubljenega orodja ChatGPT, ki je povsem spremenilo odnos do umetne inteligence in jo približalo domačemu uporabniku. Pomemben lastnik podjetje je Microsoft, ki je vanj vložil že 13 milijard dolarjev, s čimer si je kupil tudi pravico do uporabe tehnologije. Zato ni presenetljivo, da se ChatGPT plazi tako v Windows kakor v Bing. Konkurenca, denimo Amazon in Alphabet (Google), medtem obilno vlaga v Anthropic.

V...

Slo-Tech - Zagovorniki odprtega razvoja strojno učenih algoritmov so ustanovili združenje AI Alliance, s katerim se želijo zoperstaviti nevarnosti prevlade najbolj razvpitih komercialnih aplikacij te vrste, ki so v veliki meri zaprte.

Nedavni prevrat v OpenAIju je vnovič razplamtel debate okoli načina, na katerega je najprimerneje raziskovati in razvijati moderne strojno učene algoritme, kot so veliki jezikovni in sorodni generativni modeli. V OpenAI sta se namreč po doslej znanih podatkih pretežno skregali dve poglavitni struji strokovnjakov, ki menita, da nepremišljen razvoj lahko pripelje do slabo nadzorovane splošne umetne inteligence (AGI), ki bi lahko pomenila nevarnost za človeško civilizacijo. Toda kjer je upravni odbor zagovarjal stališče, da mora biti razvoj počasnejši in nekomercialen, bolj po vzoru univerzitetnih raziskav, je krog okoli Altmana menil, da nujno potrebuje Microsoftov denar, če naj izvaja raziskave z dovolj visoko hitrostjo, da ne bo zaostal za konkurenco. Tokrat je...

Slo-Tech - Pretekli teden je poleg drame v OpenAI postregel tudi s kopico novosti in posodobitev v širše uporabljanem programju s področja generativne umetne inteligence.

Direndaj v OpenAI, kjer so Sama Altmana najprej vrgli na cesto, nakar se je po bizarni kolobociji zmagoslavno vrnil na najvišji stolček, je industrijo širše spodbudil v lansiranje novih ali prenovljenih lastnih rešitev. Seveda so bile te brez dvoma v pripravi že dlje časa, toda gola količina novosti v preteklem tednu ustvarja vtis, da so inženirji ... malce pohiteli; na strani Microsofta in OpenAI zato, da bi podpornike pomirili, da njihove naložbe niso v nevarnosti, na strani konkurence zato, da bi si nemara odrezali nov košček pogače. OpenAI je še med burlesko odprl glasovno-pogovorne zmogljivosti ChatGPTja za vse uporabnike. Močno dejavni so bili v Googlu, najprej s posodobitvijo Barda. Ta zna v preizkusni različici po novem precej bolje kot ob septembrskem prvem lansiranju funkcije povzemati posnetke z YouTuba. To...

Slo-Tech - Ni povsem jasno, kaj se dogaja v podjetju OpenAI, od koder so v petek nepričakovano odpustili soustanovitelja in izvršnega direktorja Sama Altmana. Ko je odjeknila vest o njegovem odhodu, so Microsoftove delnice - ker je Microsoft najpomembnejši vlagatelj v OpenAI - hipno izgubile 16 odstotkov vrednosti, a so nato po koncu uradnega trgovanja večino izgub nadoknadile. Po neuradnih informacijah je bil Microsoftov direktor Satya Nadella besen.

V sporu naj bi bila predvsem Altman in soustanovitelj, član upravnega odbora in glavni razvojnik Ilya Sutskever. Jabolko spora je prihodnost tehnologije in hitrost razvoja, kjer Altman zagovarja drznejši in bolj komercialno usmerjen pristop, Sutskever pa bolj previdnega in manj profitnega. OpenAI ima sicer neobičajno strukturo, saj je profitna pravna osebna v lasti neprofitne fundacije. Altman naj bi se zavzemal za več investicij, tako je na primer prepričeval Softbank v milijardni vložek, česar pa odbor ni odobraval.

Kmalu po vesti o...

Axios - Strojni algoritem za pisanje besedil GPT-3 - naslednik razvpitega GPT-2, ki si ga laboratorij OpenAI sprva menda ni upal spustiti v divjino - je prešel v fazo polodprtega javnega testiranja. Preizkuševalci so večjidel navdušeni, a zadeva še vedno kaže jasne omejitve trenutne generacije takšnih algoritmov.

Lanskega februarja je ena najbolj izpostavljenih razvojnih hiš za strojno učene algoritme, OpenAI, pokazala GPT-2, strojno inteligenco za pisanje prepričljivih besedil. Inženirji so takrat populistično dejali, da bi bilo program "tvegano ga kar tako spustiti iz laboratorijskih soban", zainteresirana javnost pa je seveda ugibala, ali gre za marketinško puhlico ali realne nevarnosti. GPT-2 je bil nedvomno korak naprej, saj je v nekaterih primerih izpisal srhljivo prepričljive skupke teksta, obenem pa je bila OpenAI takrat zares še neprofitna firma. Toda tekom lanskega leta se je situacija spremenila: družba se je usmerila v komercialne vode in v ta namen ustanovila tržno podružnico...

Slo-Tech - Microsoft in OpenAI sta se odločila za tesnejše sodelovanje: Microsoft bo v enega glavnih laboratorijev za razvoj strojnega učenja na svetu vložil milijardo ameriških dolarjev, medtem ko bo OpenAI v celoti prešel na platformo Azure in zanjo razvijal programje.

Laboratorij za strojno učenje OpenAI iz San Francisca so konec leta 2015 ustanovili Elon Musk, Sam Altman in drugi vplivni investitorji z namenom odgovornega razvoja umetne inteligence (Musk je sicer zaradi potencialnega konflikta interesov lani zapustil vodstvo). Doslej je poskrbel že za vrsto odmevnih objav, saj tamkajšnja strojna pamet tepe najboljše ljudi v Doti 2, navdušuje z rokovanjem predmetov in sama piše novinarske članke ... vsaj v grobem. Ustanova je bila dolgo...

openai.com -

Pretekli konec tedna je ob robu megaturnirja v Doti 2 - The International 2018 - potekal tudi spopad med strojno inteligenco firme OpenAI in ljudmi, kjer sta zmagali človeški ekipi.

Stroji se družijo
Računalniške igre so za raziskovalce strojnega učenja nadvse hvaležno okolje za eksperimentiranje, saj predstavljajo digitalne kompleksne sisteme s striktno določenimi zakonitostmi, v katerih se strojna pamet lahko pomeri tudi s človekom in se tako od njega uči. Pretepanja vsakovrstnih botov v Quakih in drugih naslovih smo vajeni že dolgo. Zadnji krik mode v umetni inteligenci so ekipe botov, ki znajo med seboj dobro sodelovati. Alphabetov laboratorij DeepMind je tako na primer julija pokazal gručo AI agentov, ki je v...