»

Raziskava: aktualni veliki jezikovni modeli nimajo pojavnih lastnosti

Slo-Tech - Po velikanskem uspehu ChatGPT, ki je novembra 2022 v splošno javnost prinesel zavedanje o sposobnostih umetne inteligence, in hitrem razvoju velikih jezikovnih modelov, ki je sledil, si je marsikdo postavil vprašanje, kam to vodi. Ali je razvoj umetne inteligence - ali pa vsaj njegovo hitrost - možno napovedati ali pa gre za nenadejane skoke? Raziskovalci s Stanforda so preverjali predpostavke, da aktualni veliki jezikovni modeli izkazujejo pojavne lastnosti (emergent properties). Ugotovili so, da to ne drži.

Kot povsod je tudi pri merjenju sposobnosti umetne inteligence vsaj enako pomembno, kako merimo. Če so metode in metrike okorne, se lahko zdi, da s povečevanjem modelov dosežemo točko prevoja, kjer se pojavijo pojavne lastnosti. To deluje, kakor da modeli po neki kritični velikosti pridobijo kvalitativno drugačne lastnosti, ki jih v manjši inačici nimajo. A raziskovalci v najnovejši študiji to imenujejo privid. Resnica je dolgočasnejša, do umetne splošne inteligence (AGI) pa...

34 komentarjev

Umetna inteligenca iz 60. let bolj človeška od lanskega GPT-3.5

Slo-Tech - Silovit razmah velikih jezikovnih modelov v tem letu daje napačen občutek, da so računalniki šele sedaj prvikrat res obvladali naravni človeški jezik. Resnično so čedalje boljši, a že pred sedmimi desetletji se je ELIZA pogovarjala z ljudmi. Enega prvih robotov za pogovore (chatbot) je na MIT-u razvil Joseph Weizenbaum. Najnovejši preizkus, ki sta ga izvedla raziskovalca z Univerze v San Diegu, kaže, da je ELIZA bolj človeška od GPT-3.5. Rokopis študije še ni recenziran.

Cameron Jones in Benjamin Bergen sta modele podvrgla Turingovemu testu. Gre za znameniti preizkus, ki si ga je Alan Turing zamislil leta 1950 v članku The Imitation Game. Turingov test je eden najbolj znanih poizkusov, s katerim lahko ugotavljamo, ali se umetna inteligenca lahko uspešno predstavi kot človek. V testu sodelujeta človek in umetna inteligenca, ki z izpraševalcem komunicirata prek računalnika. Izpraševalec ju lahko sprašuje karkoli, nato pa mora iz odgovorov ugotoviti, ali je na drugi strani človek ali...

9 komentarjev

Elon Musk je predstavil Grok

Slo-Tech - Elon Musk je predstavil prvi izdelek svojega podjetja xAI, ki se ukvarja z umetno inteligenco. Grok je jezikovni pomočnik (chatbot), ki temelji na velikem jezikovnem modelu, zato se lahko z njim pogovarjamo podobno kot z Bingom, Bardom ali ChatGPT-jem. Grok ima dostop do X-a (bivši Twitter) v realnem času, kar naj bi bila prednost pred ostalimi velikimi jezikovnimi modeli. Po Muskovih besedah se Grok rad odziva cinično ali sarkastično, za uporabo pa potrebujemo čvrst smisel za humor, dodaja.

Za zdaj Grok splošni javnosti ni na voljo, je pa v fazi zaprte beta verzije. To pomeni, da ga lahko testira omejeno število ljudi. Kmalu ga bodo odprli za naročnike na X Premium+, torej najdražji naročniški paket. Musk pravi, da je Grok narejen po vzoru Štoparskega vodnika po galaksiji, čemur so primerni tudi njegovi odzivi. Če ga na primer vprašate, kako sintetizirati kokain, bo odgovoril, da potrebujete diplomo iz kemije, licenco in laboratorij na odročni lokaciji - nato pa bo dodal, da je...

25 komentarjev

Microsoft in Epic bosta pripeljala GPT-4 v medicino

Slo-Tech - Microsoft in Epic Systems sta sporočila, da bosta združila moči in pripeljala veliki jezikovni model GPT-4 v medicino. Z njim želita olajšati delo zdravstvenemu osebju, saj bo z njim možno pisati sporočila in analizirati zdravstvene kartone. Skeptiki so zelo zaskrbljeni.

Epic je največji ponudnik programske opreme za ameriške bolnišnice. Ocenjujejo, da njegove programe, denimo MyChart, uporablja približno 30 odstotkov ameriških bolnišnic. Po celem svetu ima elektronske kartone v njihovem sistemu več kot 300 milijonov pacientov. To pomeni, da ima Epic dostop do velikanske količine podatkov.

Microsoft pa je po drugi strani investitor v Open in nudi dostop do GPT-4 prek svojih storitev Azure (na voljo je API). To dvoje bi sedaj združili, pri čemer bi umetna inteligenca pomagala v dveh pogledih. GPT-4 je odličen v pisanju besedil in bo zdravstvenim delavcem pomagal pri snovanju sporočil za komunikacijo s pacienti. To je povsem smiselna uporaba, saj bo besedila tako ali tako še nekdo...

28 komentarjev

OpenAI naznanil GPT-4

openai.com - Kot smo že nekaj časa pričakovali, so v OpenAI naposled najavili veliki jezikovni model GPT-4. Za rahlo presenečenje pa so obenem poskrbeli v Microsoftu, s priznanjem, da novi Bing Chat v bistvu na njem sloni že od začetka testiranja.

Skoraj 3 leta nas že ločijo od prvih vnašanj ukazov generativnemu jezikovnemu algoritmu, oziroma velikemu jezikovnemu modelu (LLM) GPT-3. Umotvor laboratorija OpenAI je postal eden od sinonimov za eksplozijo generativne strojne inteligence, ki je lani dosegla nove nivoje z generatorji slik in jesenskim lansiranjem pogovornega bota ChatGPT, letos pa z nebrzdano naglico poganja novo tekmo med tehnološkimi velikani. Posledica norije je bilo seveda mrzlično čakanje na novo različico GPTja, ki so ga sicer inženirji medtem iterativno nadgrajevali, tako da je bila lani v bistvu aktualna različica 3.5. Tudi šef OpenAIja, Sam Altman, je večkrat opozoril, da so pričakovanja bržkone prevelika in da bo GPT-4 nova evolucijska stopnja ter še daleč od kakšne...

27 komentarjev

Google napovedal konkurenta ChatGPT-ju

Slo-Tech - Google se je pošteno ustrašil prihodnosti, ki jo slikajo veliki jezikovni modeli, kakršen je ChatGPT. Potem ko je ChatGPT povzročil preplah v podjetju, so sedaj hitro napovedali svojo različico. Le nekaj dni po prvih špekulacijah je kar izvršni direktor Sundar Pichai V blogu zapisal, da pripravljajo eksperimentalno pogovorno umetno inteligenco. Že danes je na voljo v zaprtem krogu preizkuševalcev, v prihodnjih tednih pa naj bi jo pokazali širnemu svetu. Tako hitra napoved in splavitev storitev, ki jo reklamira sam izvršni direktor, podkrepljuje navedbe, da je v Googlu panika. Konkurenca, zlasti Microsoft, namreč že s pridom uporablja ChatGPT, ki so ga integrirali kar v Bing (ni še dostopen).

Novi pomočnik oziroma sogovornik se bo imenoval Bard in bo kakor ChatGPT na voljo brezplačno. Uporabljal bo rezultate s spleta, v čemer bo torej različen od ChatGPT, ki se je treniral na njih, a nato nima več dostopa do interneta, zato so njegovi odgovori zgodovinsko omejeni najpozneje na leto...

12 komentarjev