»

Raziskava: aktualni veliki jezikovni modeli nimajo pojavnih lastnosti

Slo-Tech - Po velikanskem uspehu ChatGPT, ki je novembra 2022 v splošno javnost prinesel zavedanje o sposobnostih umetne inteligence, in hitrem razvoju velikih jezikovnih modelov, ki je sledil, si je marsikdo postavil vprašanje, kam to vodi. Ali je razvoj umetne inteligence - ali pa vsaj njegovo hitrost - možno napovedati ali pa gre za nenadejane skoke? Raziskovalci s Stanforda so preverjali predpostavke, da aktualni veliki jezikovni modeli izkazujejo pojavne lastnosti (emergent properties). Ugotovili so, da to ne drži.

Kot povsod je tudi pri merjenju sposobnosti umetne inteligence vsaj enako pomembno, kako merimo. Če so metode in metrike okorne, se lahko zdi, da s povečevanjem modelov dosežemo točko prevoja, kjer se pojavijo pojavne lastnosti. To deluje, kakor da modeli po neki kritični velikosti pridobijo kvalitativno drugačne lastnosti, ki jih v manjši inačici nimajo. A raziskovalci v najnovejši študiji to imenujejo privid. Resnica je dolgočasnejša, do umetne splošne inteligence (AGI) pa...

34 komentarjev

Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5

Slo-Tech - Silovit razmah velikih jezikovnih modelov v tem letu daje napačen občutek, da so računalniki šele sedaj prvikrat res obvladali naravni človeški jezik. Resnično so čedalje boljši, a že pred sedmimi desetletji se je ELIZA pogovarjala z ljudmi. Enega prvih robotov za pogovore (chatbot) je na MIT-u razvil Joseph Weizenbaum. Najnovejši preizkus, ki sta ga izvedla raziskovalca z Univerze v San Diegu, kaže, da je ELIZA bolj človeška od GPT-3.5. Rokopis študije še ni recenziran.

Cameron Jones in Benjamin Bergen sta modele podvrgla Turingovemu testu. Gre za znameniti preizkus, ki si ga je Alan Turing zamislil leta 1950 v članku The Imitation Game. Turingov test je eden najbolj znanih poizkusov, s katerim lahko ugotavljamo, ali se umetna inteligenca lahko uspešno predstavi kot človek. V testu sodelujeta človek in umetna inteligenca, ki z izpraševalcem komunicirata prek računalnika. Izpraševalec ju lahko sprašuje karkoli, nato pa mora iz odgovorov ugotoviti, ali je na drugi strani človek ali...

9 komentarjev

Elon Musk je predstavil Grok

Slo-Tech - Elon Musk je predstavil prvi izdelek svojega podjetja xAI, ki se ukvarja z umetno inteligenco. Grok je jezikovni pomočnik (chatbot), ki temelji na velikem jezikovnem modelu, zato se lahko z njim pogovarjamo podobno kot z Bingom, Bardom ali ChatGPT-jem. Grok ima dostop do X-a (bivši Twitter) v realnem času, kar naj bi bila prednost pred ostalimi velikimi jezikovnimi modeli. Po Muskovih besedah se Grok rad odziva cinično ali sarkastično, za uporabo pa potrebujemo čvrst smisel za humor, dodaja.

Za zdaj Grok splošni javnosti ni na voljo, je pa v fazi zaprte beta verzije. To pomeni, da ga lahko testira omejeno število ljudi. Kmalu ga bodo odprli za naročnike na X Premium+, torej najdražji naročniški paket. Musk pravi, da je Grok narejen po vzoru Štoparskega vodnika po galaksiji, čemur so primerni tudi njegovi odzivi. Če ga na primer vprašate, kako sintetizirati kokain, bo odgovoril, da potrebujete diplomo iz kemije, licenco in laboratorij na odročni lokaciji - nato pa bo dodal, da je...

25 komentarjev

Microsoft in Epic bosta pripeljala GPT-4 v medicino

Slo-Tech - Microsoft in Epic Systems sta sporočila, da bosta združila moči in pripeljala veliki jezikovni model GPT-4 v medicino. Z njim želita olajšati delo zdravstvenemu osebju, saj bo z njim možno pisati sporočila in analizirati zdravstvene kartone. Skeptiki so zelo zaskrbljeni.

Epic je največji ponudnik programske opreme za ameriške bolnišnice. Ocenjujejo, da njegove programe, denimo MyChart, uporablja približno 30 odstotkov ameriških bolnišnic. Po celem svetu ima elektronske kartone v njihovem sistemu več kot 300 milijonov pacientov. To pomeni, da ima Epic dostop do velikanske količine podatkov.

Microsoft pa je po drugi strani investitor v Open in nudi dostop do GPT-4 prek svojih storitev Azure (na voljo je API). To dvoje bi sedaj združili, pri čemer bi umetna inteligenca pomagala v dveh pogledih. GPT-4 je odličen v pisanju besedil in bo zdravstvenim delavcem pomagal pri snovanju sporočil za komunikacijo s pacienti. To je povsem smiselna uporaba, saj bo besedila tako ali tako še nekdo...

28 komentarjev

Vrsta strokovnjakov poziva k polletni ustavitvi razvoja strojnega učenja

Slo-Tech - Organizacija Future of Life Institute je objavila javno pismo, v katerem več vidnih osebnosti s področja strojnega učenja in informacijskih tehnologij poziva k šestmesečnemu moratoriju na razvoj in lansiranje novih produktov s področja strojnega učenja.

Izjemno nagel razvoj rešitev s področja strojnega učenja v zadnjem letu, posebno veliki jezikovni modeli in generatorji podob, vzbuja strah, da pravna in akademska stroka ter zakonodajna telesa izgubljajo bitko za uspešno razumevanje in nadzorovanje takšne napredne tehnologije. Investicijska banka Goldman Sachs je na začetku tedna objavila poročilo, v katerem ugotavlja, da naj bi generativna strojna pamet v naslednjem desetletju v razvitih državah ob službo spravila okoli 300 milijonov ljudi, v zameno za od 7- do 10-odstotni dvig bruto družbenega proizvoda. Najnovejši modeli, kot je nedavno lansirani GPT-4, s skokovitim tempom izboljšujejo svojo učinkovitost in se na nekaterih testih jezikovnega znanja že odrežejo skoraj tako dobro...

67 komentarjev

OpenAI naznanil GPT-4

openai.com - Kot smo že nekaj časa pričakovali, so v OpenAI naposled najavili veliki jezikovni model GPT-4. Za rahlo presenečenje pa so obenem poskrbeli v Microsoftu, s priznanjem, da novi Bing Chat v bistvu na njem sloni že od začetka testiranja.

Skoraj 3 leta nas že ločijo od prvih vnašanj ukazov generativnemu jezikovnemu algoritmu, oziroma velikemu jezikovnemu modelu (LLM) GPT-3. Umotvor laboratorija OpenAI je postal eden od sinonimov za eksplozijo generativne strojne inteligence, ki je lani dosegla nove nivoje z generatorji slik in jesenskim lansiranjem pogovornega bota ChatGPT, letos pa z nebrzdano naglico poganja novo tekmo med tehnološkimi velikani. Posledica norije je bilo seveda mrzlično čakanje na novo različico GPTja, ki so ga sicer inženirji medtem iterativno nadgrajevali, tako da je bila lani v bistvu aktualna različica 3.5. Tudi šef OpenAIja, Sam Altman, je večkrat opozoril, da so pričakovanja bržkone prevelika in da bo GPT-4 nova evolucijska stopnja ter še daleč od kakšne...

27 komentarjev

Turingov test še vedno ostaja nedosegljiv

Slo-Tech - Minuli teden je računalnik domnevno prestal Turingov test, kar se še ni zgodilo nikoli. Ker omenjeni test preverja, ali je računalnik zmožen inteligentnega človeškega vedenja, smo se vprašali, kaj to pomeni. Teden dni pozneje se zdi, da Turingov test v resnici še vedno ostaja nepremagana ovira.

Debat o (umetni) inteligenci je bilo že cel kup, enoznačnega odgovora pa ni. Tudi človeški možgani, ki so neizpodbitno zmožni inteligentnega razmišljanja in vedenja, so polni skrivnosti. Tak simpatičen argument je kitajska soba, kjer v miselnem preizkusu v sobo postavimo človeka, ki nima pojma o kitajščini. V njegovem maternem jeziku mu damo navodila, kako naj se odzove na posamezna navodila v kitajščini. Kitajsko govoreči preizkuševalec, ki mu bo pod vrati v sobo...

59 komentarjev