»

Raziskava: aktualni veliki jezikovni modeli nimajo pojavnih lastnosti

Slo-Tech - Po velikanskem uspehu ChatGPT, ki je novembra 2022 v splošno javnost prinesel zavedanje o sposobnostih umetne inteligence, in hitrem razvoju velikih jezikovnih modelov, ki je sledil, si je marsikdo postavil vprašanje, kam to vodi. Ali je razvoj umetne inteligence - ali pa vsaj njegovo hitrost - možno napovedati ali pa gre za nenadejane skoke? Raziskovalci s Stanforda so preverjali predpostavke, da aktualni veliki jezikovni modeli izkazujejo pojavne lastnosti (emergent properties). Ugotovili so, da to ne drži.

Kot povsod je tudi pri merjenju sposobnosti umetne inteligence vsaj enako pomembno, kako merimo. Če so metode in metrike okorne, se lahko zdi, da s povečevanjem modelov dosežemo točko prevoja, kjer se pojavijo pojavne lastnosti. To deluje, kakor da modeli po neki kritični velikosti pridobijo kvalitativno drugačne lastnosti, ki jih v manjši inačici nimajo. A raziskovalci v najnovejši študiji to imenujejo privid. Resnica je dolgočasnejša, do umetne splošne inteligence (AGI) pa...

34 komentarjev

Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5

Slo-Tech - Silovit razmah velikih jezikovnih modelov v tem letu daje napačen občutek, da so računalniki šele sedaj prvikrat res obvladali naravni človeški jezik. Resnično so čedalje boljši, a že pred sedmimi desetletji se je ELIZA pogovarjala z ljudmi. Enega prvih robotov za pogovore (chatbot) je na MIT-u razvil Joseph Weizenbaum. Najnovejši preizkus, ki sta ga izvedla raziskovalca z Univerze v San Diegu, kaže, da je ELIZA bolj človeška od GPT-3.5. Rokopis študije še ni recenziran.

Cameron Jones in Benjamin Bergen sta modele podvrgla Turingovemu testu. Gre za znameniti preizkus, ki si ga je Alan Turing zamislil leta 1950 v članku The Imitation Game. Turingov test je eden najbolj znanih poizkusov, s katerim lahko ugotavljamo, ali se umetna inteligenca lahko uspešno predstavi kot človek. V testu sodelujeta človek in umetna inteligenca, ki z izpraševalcem komunicirata prek računalnika. Izpraševalec ju lahko sprašuje karkoli, nato pa mora iz odgovorov ugotoviti, ali je na drugi strani človek ali...

9 komentarjev

Elon Musk je predstavil Grok

Slo-Tech - Elon Musk je predstavil prvi izdelek svojega podjetja xAI, ki se ukvarja z umetno inteligenco. Grok je jezikovni pomočnik (chatbot), ki temelji na velikem jezikovnem modelu, zato se lahko z njim pogovarjamo podobno kot z Bingom, Bardom ali ChatGPT-jem. Grok ima dostop do X-a (bivši Twitter) v realnem času, kar naj bi bila prednost pred ostalimi velikimi jezikovnimi modeli. Po Muskovih besedah se Grok rad odziva cinično ali sarkastično, za uporabo pa potrebujemo čvrst smisel za humor, dodaja.

Za zdaj Grok splošni javnosti ni na voljo, je pa v fazi zaprte beta verzije. To pomeni, da ga lahko testira omejeno število ljudi. Kmalu ga bodo odprli za naročnike na X Premium+, torej najdražji naročniški paket. Musk pravi, da je Grok narejen po vzoru Štoparskega vodnika po galaksiji, čemur so primerni tudi njegovi odzivi. Če ga na primer vprašate, kako sintetizirati kokain, bo odgovoril, da potrebujete diplomo iz kemije, licenco in laboratorij na odročni lokaciji - nato pa bo dodal, da je...

25 komentarjev

Umetna inteligenca zna več programskih jezikov, a površno

Slo-Tech - Kmalu po izidu ChatGPT in kasneje tudi njegovega brata Chat Binga smo se navduševali nad njuno sposobnostjo pisanja programske kode. Za zdaj še ne znata napisati nove igre, a za pisanje posameznih gradnikov ali pa zgolj ogrodja zanje sta povsem sposobna. Tega sta se naučila z analizo dostopne kode na spletu, ki je ni malo. Github, Stack Overflow in podobne storitve so polne zgledov.

Čeprav je ta koda na spletu dostopna prosto, pa upravljavci zbirk ugotavljajo, da ustvarjalci velikih jezikovnih modelov s tem kujejo dobičke na njihov račun. Reddit je že napovedal, da bo dostop v ta namen zaračunaval. Enako kani storiti tudi Stack Overflow. Ni namreč skrivnost, da so se modeli učili tudi z vsebinami s Stack Overflowa. Ob tem lahko spomnimo na GitHub Copilot, ki sta ga skupaj pripravila OpenAI in GitHub za pomoč programerjem pri pisanju kode, pa ju je na koncu doletela tožba zaradi kršitev avtorskih pravic. Tudi ta se je učil na kodi, ki so jo prispevali drugi. Z licenčnega vidika pa...

16 komentarjev

ChatGPT dobiva vtičnike, tudi za brskanje po spletu

Slo-Tech - Odkar je ChatGPT konec minulega leta dosegel javnost, je ostal v času zamrznjen veliki jezikovni model. Natreniran je bil na podatkih do leta 2021, zato ni vedel nič o modernem svetu po tem letu. Konkurenca - Microsoft Bing in sedaj tudi Google Bard - teh omejitev ni imela, saj je lahko brskala po spletu. V OpenAI niso sedeli križem rok, temveč so razvili vtičnike za ChatGPT, ki so s povabilom oziroma vpisom na čakalni seznam dostopni uporabnikom. Za zdaj bodo to naročniki plačljive verzije ChatGPT Plus.

Kot pojasnjujejo v podjetju, so uporabniki že od prve predstavitve ChatGPT spraševali po razširitvah. Tudi številni razvijalci so želeli podobne funkcionalnosti, ker bi to bistveno razširilo domet storitve. Vtičnike je izdelala vrsta partnerjev, med katerimi omenjajo podjetja Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram in Zapier. Še posebej pa zanimiva pa sta dva, ki ju je razvil kar OpenAI sam - brskalnik po spletu in tolmač za...

0 komentarjev

Microsoft uradno predstavil z GPT podprt Bing

Microsoft - Po govoricah in izpustih informacij so pri Microsoftu predstavili prihodnjo verzijo iskalnika Bing, ki je osrediščena okoli sprege z jezikovnim modelom GPT.

Veliki jezikovni modeli (LLMs), v prvi vrsti pa bot ChatGPT, so sprožili novo oboroževalno tekmo med tehnološkimi velikani, ki skušajo trenutno eden drugega prehiteti v najavljanju novih rešitev na tej osnovi. Po tem, ko sta Microsoft in laboratorij OpenAI, ki skrbi za ChatGPT, januarja obnovila tesno sodelovanje, so bili na potezi pri Googlu, kjer naj bi vladala kar precejšnja panika, da si bo tekmec iz Redmonda uspel priboriti pomembno prednost. Zato ni bila presenetljiva ponedeljkova najava pogovornega algoritma Bard, ki bo neposreden tekmec ChatGPT-ju. Da so z najavo v Googlu pohiteli, je bržkone kriv tudi pobeg prve podobe iskalnika Bing, pred nekaj dnevi, z vgrajenimi funkcijami modela GPT, ki so ga v Microsoftu naposled uradno pokazali danes, tudi na dogodku za novinarje.



Posodobljenemu iskalniku s pomočjo GPT-ja...

21 komentarjev

Google napovedal konkurenta ChatGPT-ju

Slo-Tech - Google se je pošteno ustrašil prihodnosti, ki jo slikajo veliki jezikovni modeli, kakršen je ChatGPT. Potem ko je ChatGPT povzročil preplah v podjetju, so sedaj hitro napovedali svojo različico. Le nekaj dni po prvih špekulacijah je kar izvršni direktor Sundar Pichai V blogu zapisal, da pripravljajo eksperimentalno pogovorno umetno inteligenco. Že danes je na voljo v zaprtem krogu preizkuševalcev, v prihodnjih tednih pa naj bi jo pokazali širnemu svetu. Tako hitra napoved in splavitev storitev, ki jo reklamira sam izvršni direktor, podkrepljuje navedbe, da je v Googlu panika. Konkurenca, zlasti Microsoft, namreč že s pridom uporablja ChatGPT, ki so ga integrirali kar v Bing (ni še dostopen).

Novi pomočnik oziroma sogovornik se bo imenoval Bard in bo kakor ChatGPT na voljo brezplačno. Uporabljal bo rezultate s spleta, v čemer bo torej različen od ChatGPT, ki se je treniral na njih, a nato nima več dostopa do interneta, zato so njegovi odgovori zgodovinsko omejeni najpozneje na leto...

12 komentarjev

Tudi OpenAIjev pogovorni bot trpi za podobnimi hibami kot tekmeci

openai.com - Prejšnji teden je svoj pogovorni algoritem predstavil tudi OpenAI. ChatGPT je osnovan na jezikovnem modelu GPT-3, uporabniki pa so ga kljub vgrajenim varovalkam že sprovocirali v izgovarjanje vsakovrstnih neumnosti.

Fiasko računalniške sogovornice Tay je očitno pozabljen, kajti letos so velikani s področja strojnega učenja preporodili javno preizkušanje chatbotov, torej pogovornih algoritmov. Po Meti in Googlu so se sedaj opogumili tudi pri OpenAIju in predstavili ChatGPT, pogovornega bota, ki je seveda osnovan na njihovem proslavljenem velikem jezikovnem modelu GPT-3. Bot je na voljo prosto in trenutno tudi še brez oglasov, zato ga je v le nekaj dneh že preizkusilo milijon ljudi, ni pa še jasno, kako dolgo bo tako dostopen, ker vodja družbe Sam Altman pravi, da so cene procesiranja visoke. ChatGPT je deklarirano še za odtenek zmogljivejši od konkurentov; in sicer zato, ker so klasičnemu receptu botov na osnovi velikih jezikovnih modelov - se pravi popolnjevanju teksta z...

7 komentarjev