Slo-Tech - Strojni odgovori, ki jih v Googlovem iskalniku postreže z Geminijem podprta tehnologija AI Overviews, so v preteklem tednu postali predmet posmeha širom spleta, saj pogosto halucinirajo.

Sredi maja so pri Googlu na dogodku I/O 2024 predstavili vrsto novosti na temelju Geminija, svoje osrednje platforme generativnih algoritmov. Med njimi AI Overviews, dodatek k običajnim rezultatom svojega iskalnika, ki postreže z jedrnatim generiranim odgovorom na podlagi dosegljivih spletnih vsebin, kakršnih smo zadnje čase vajeni od pogovornih botov. V dneh po prireditvi so pričeli tehnologijo postopno lansirati za uporabnike čez Lužo ... in ti so hitro naleteli na milo rečeno nenavadne in zabavne odgovore ter predloge, ki jim jih je iskalnik vrnil. Med množico hecnih idej iskalnika so trditve, da v ligi NBA igrajo psi, da je Barack Obama musliman, ali da so imeli nekateri ameriški predsedniki po ducat diplom. Največ razburjenja pa je upravičeno povzročil napotek, da naj na pico dodamo nekaj...

Slo-Tech - Po velikanskem uspehu ChatGPT, ki je novembra 2022 v splošno javnost prinesel zavedanje o sposobnostih umetne inteligence, in hitrem razvoju velikih jezikovnih modelov, ki je sledil, si je marsikdo postavil vprašanje, kam to vodi. Ali je razvoj umetne inteligence - ali pa vsaj njegovo hitrost - možno napovedati ali pa gre za nenadejane skoke? Raziskovalci s Stanforda so preverjali predpostavke, da aktualni veliki jezikovni modeli izkazujejo pojavne lastnosti (emergent properties). Ugotovili so, da to ne drži.

Kot povsod je tudi pri merjenju sposobnosti umetne inteligence vsaj enako pomembno, kako merimo. Če so metode in metrike okorne, se lahko zdi, da s povečevanjem modelov dosežemo točko prevoja, kjer se pojavijo pojavne lastnosti. To deluje, kakor da modeli po neki kritični velikosti pridobijo kvalitativno drugačne lastnosti, ki jih v manjši inačici nimajo. A raziskovalci v najnovejši študiji to imenujejo privid. Resnica je dolgočasnejša, do umetne splošne inteligence (AGI) pa...

Slo-Tech - Med nadvse burnim tednom v OpenAI-ju, ko so najprej odpustili Sama Altmana, nato pa se je v velikem slogu vrnil in so raje zamenjali upravni odbor, je podjetje izdalo tudi novo funkcijo v ChatGPT. Za naročnike na plačljivi ChatGPT je bil ChatGPT with voice na voljo že od septembra, sedaj pa ga lahko uporabljajo tudi brezplačni uporabniki. Potrebujejo le pametni telefon in aplikacijo ChatGPT za Android ali iOS.

Da bodo ikono za pogovarjanje s ChatGPT ugledali vsi uporabniki, bo še treba malce počakati, ker funkcijo širijo postopoma. A ko jo enkrat dobimo, lahko odpremo aplikacijo, pritisnemo na gumb s podobo slušalkami in postavijo vprašanje. ChatGPT ima vgrajeno prepoznavanje glasu, odgovor pa takisto poda v zvočni obliki, saj ima tudi soliden sintetizator glasu. Slednje ni nič posebnega, ker pomočniki (Apple, Amazon, Google) to poznajo že dolgo časa, medtem ko novega seveda poganja veliki jezikovni model. Razlika je v funkcionalnosti: medtem ko so omenjeni vgrajeni v operacijski...

Slo-Tech - Elon Musk je predstavil prvi izdelek svojega podjetja xAI, ki se ukvarja z umetno inteligenco. Grok je jezikovni pomočnik (chatbot), ki temelji na velikem jezikovnem modelu, zato se lahko z njim pogovarjamo podobno kot z Bingom, Bardom ali ChatGPT-jem. Grok ima dostop do X-a (bivši Twitter) v realnem času, kar naj bi bila prednost pred ostalimi velikimi jezikovnimi modeli. Po Muskovih besedah se Grok rad odziva cinično ali sarkastično, za uporabo pa potrebujemo čvrst smisel za humor, dodaja.

Za zdaj Grok splošni javnosti ni na voljo, je pa v fazi zaprte beta verzije. To pomeni, da ga lahko testira omejeno število ljudi. Kmalu ga bodo odprli za naročnike na X Premium+, torej najdražji naročniški paket. Musk pravi, da je Grok narejen po vzoru Štoparskega vodnika po galaksiji, čemur so primerni tudi njegovi odzivi. Če ga na primer vprašate, kako sintetizirati kokain, bo odgovoril, da potrebujete diplomo iz kemije, licenco in laboratorij na odročni lokaciji - nato pa bo dodal, da je...

Slo-Tech - Kmalu po izidu ChatGPT in kasneje tudi njegovega brata Chat Binga smo se navduševali nad njuno sposobnostjo pisanja programske kode. Za zdaj še ne znata napisati nove igre, a za pisanje posameznih gradnikov ali pa zgolj ogrodja zanje sta povsem sposobna. Tega sta se naučila z analizo dostopne kode na spletu, ki je ni malo. Github, Stack Overflow in podobne storitve so polne zgledov.

Čeprav je ta koda na spletu dostopna prosto, pa upravljavci zbirk ugotavljajo, da ustvarjalci velikih jezikovnih modelov s tem kujejo dobičke na njihov račun. Reddit je že napovedal, da bo dostop v ta namen zaračunaval. Enako kani storiti tudi Stack Overflow. Ni namreč skrivnost, da so se modeli učili tudi z vsebinami s Stack Overflowa. Ob tem lahko spomnimo na GitHub Copilot, ki sta ga skupaj pripravila OpenAI in GitHub za pomoč programerjem pri pisanju kode, pa ju je na koncu doletela tožba zaradi kršitev avtorskih pravic. Tudi ta se je učil na kodi, ki so jo prispevali drugi. Z licenčnega vidika pa...

Slo-Tech - Veliki jezikovni modeli, kakršna sta ChatGPT in Chat Bing, so se morali učiti na milijonih besedil. Če so ta avtorsko zaščitena, potem model verjetno ne more ustvarjati izdelkov z bolj permisivno licenco. Sodišče o tem še ni reklo zadnje besede, a tožb ne manjka, prav tako ne poizkusov monetizacije. Reddit, ki je eden popularnih virov učnega gradiva za umetno inteligenco, se je odločil, da to ne bo več zastonj.

Ustanovitelj podjetja Steve Huffman je dejal, da bodo morali za dostop prek API, ki bi omogočil prenos dobrih 18 let arhivov za učenje, naročniki plačati. Reddit takšne pogoje lahko postavlja, saj ga kot pomemben vir priznavata tako ChatGPT kakor Bing. Na Redditu je namreč moderirana vsebina, ki so jo v vrsti let ustvarili ljudje, zato je najbolj pristna. Huffman se tega zaveda in tega ne namerava več deliti brezplačno.

Hkrati je Huffman povedal še, da bodo razvijalcem in moderatorjem dali boljša orodja za delo v skupnosti. Aplikacija na iOS in Androidu bodo na primer...

Slo-Tech - Z manjšo zamudo se je skupini z velikimi jezikovnim modeli (LLM) pridružil še Google, ki je izdal svojega sogovornika z imenom Bard. Konceptualno je zelo podoben OpenAI ChatGPT in še bolj Microsoft Bing Chatu, saj ima dostop do spleta in s tem informacije o modernih dogodkih. ChatGPT pozna svet, kakršen je bil leta 2021, medtem pa Bard brska po spletu in se odziva s podatki o novih dogodkih, svoje odgovore pa podkrepi tudi z viri.

Google se je splavitve nove storitve lotil pazljivo. Bard je za zdaj na voljo le v ZDA in Veliki Britaniji, pa še tam se je treba za uporabo vpisati v čakalno vrsto in potrpeti, dokler ne pridemo na vrsto. Google ob tem opozarja, da je Bard še vedno v eksperimentalni fazi in da so njegovi odgovori lahko netočni in zavajajoči. Ker informacije črpa iz vsebin na internetu, ki so odsev trenutnega sveta in ljudi, ki so jih ustvarjali, se lahko nauči enakih predsodkov in surovosti. Občasno si lahko kaj tudi izmisli, saj ga je treba uporabljati po pameti....

Slo-Tech - Google se pridružuje jezikovnim modelom, ki so kljub že precej dolgi zgodovini šele v zadnjih mesecih obnoreli svet. Da ne bi OpenAI s svojimi modeli GPT pobegnil predaleč, je Google odprl API za dostop do svojega modela PaLM. Ta je podoben kot GPT ali Metin LLaMA, prvikrat pa so ga napovedali že pred letom dni. PaLM je večnamenski model, ki ga lahko natreniramo za pisanje kode, iskanje informacij, povzemanje besedil ali zgolj pogovarjanje.

Hkrati je Google izdal še aplikacijo MakerSuite, ki omogoča lažje rokovanje s PaLM-om. Z njim lahko enostavno vnašamo pozive (prompt), dodajamo sintetične podatke v podatkovne zbirke in prilagajamo obstoječe modele. To lahko storimo kar v brskalniku, računsko zahtevnejši del pa se izvede v Google Cloudu. Poleg tega je Google predstavil še precej orodij za poslovni svet, kjer moramo omeniti platformo Vertex AI za generativno umetno inteligenco - z njo podjetja urijo lastne modele strojnega učenja, ima pa dostop do nekaterih modelov Google...

Slo-Tech - ChatGPT je zaslovel, ker je bil dovolj dober in in dostopen sleherniku, a še zdaleč ni edini. Svoj jezikovni model (LLM) je razvila tudi Meta, ki se je pohvalila, da je primerljivo kakovosten, dasiravno desetkrat manjši. Poimenovali so ga LLaMA in prihaja v več inačicah, ki imajo od sedem do 65 milijard parametrov. GPT-3, na katerem temelji ChatGPT, jih ima 175 milijard. LLaMA-13B s trinajst milijardami parametri naj bi bil že boljši od ChatGPT, trdi Meta.

Meta trdi, da je njihov model povsem združljiv z avtorskimi pravicami, saj so pri treningu uporabljali le prosto dostopna besedila. V praksi so to na primer Wikipedia, korpus Common Crawl in C4. Zato je lahko celoten model tudi javno dostopen, če se bo Meta za to odločila. Za zdaj se še ni v celoti, tako da ga enostavno ne moremo preizkusiti, lahko pa to storijo raziskovalci. Oskubljena lama je na voljo na Githubu, raziskovalci pa lahko zaprosijo za dostop do polnega modela.

Znižanje zahtevnosti modela in njegova odprtost...

Slo-Tech - Microsoftova vključitev ChatGPT v Bing je v resnici spodletela podobno kot Googlov poizkus z Bardom, le da je javnost ni tako strogo sodila. Bing Chat je trenutno na voljo v beta verziji, ki je dostopna s povabilom in po krajšem čakanju, se namreč vede izrazito nenavadno. Microsoft ga je bil zato prisiljen pošteno pohabiti, dokler ga ne popravijo.

Njegovi nefiltrirani odzivi so bili milo rečeno bizarni. Uporabnikom je grozil, jim izpovedoval ljubezen, se spraševal o smislu svojega obstoja in podobno. Izkazalo se je, da so pogovori postajali čedalje bolj nenavadni, ko se je njihova dolžina povečevala. Bing Chat si za razliko od ChatGPT zapomni ves kontekst in skuša odgovarjati v skladu z njim. Hkrati je imel dostop do spleta, torej do aktualnih vsebin. Rezultat je bil nepričakovano buren.

Microsoft se je odločil ukrepati, zato so mu omejili odzive in ga bodo predelali. Za začetek so pogovore omejili na 50 replik dnevno (in pet v posameznem pogovoru) in mu prepovedali nekatere...

Slo-Tech - Po velikanskem uspehu jezikovnega modela ChatGPT so se novosti oklenili vsi večji igralci na tem področju. Ta teden je Microsoft že predstavil integracijo v svoj iskalnik Bing, ki se je leta neuspešno kosal z Googlom, sedaj pa je morda našel svojo nišo. ChatGPT v sodelovanju z Bingom omogoča enostavnejše iskanje, kjer z iskalnikom komuniciramo kot s človekom in mu postavljamo vprašanja. Novo sodelovanje ni presenetljivo, saj je Microsoft med večjimi vlagatelji v OpenAI, ki so napisali ChatGPT.

Sledil je Google, ki je s svojim konkurentom Bard zaostal za pričakovanji. V reklami je med drugim Bard dejal, da je teleskop James Webb poskrbel za prvi posnetek eksoplaneta, kar še zdaleč ne drži, saj so prvi posnetki že iz leta 2004. Ko se je spodrsljaj razširil po spletu, so delnice podjetja padle za 10 odstotkov. Seveda razlog ni zgolj en spodrsljaj - spomnimo, da je Windows 98 med uradno predstavitvijo Plug and Play pokazal modri zaslon - temveč Googlov zaostanek na tem področju. Sredi...

Google - Pri Googlu so naznanili novosti v svojih spletnih storitvah, ki pa niso presegle ali nadgradile ponedeljkove najave pogovornega algoritma Bard.

Drugi teden v letošnjem februarju odzvanja v udarcih, ki si jih izmenjujeta Google in Microsoft v novem spopadu, osrediščenem okoli rabe strojnega učenja. Najprej so pri prvem za 8. februar najavili tiskovno konferenco z novostmi ... ki so jo v Redmondu prehiteli z lastnim novinarskim dogodkom dan prej. Zato je Googlov Sundar Pichai pohitel in že v ponedeljek - še dan prej - napovedal pogovornega bota Barda, neposrednega tekmeca ChatGPTju. Pikre pripombe, da je šlo v tem primeru zgolj za poskus prehiteti Microsoft, ker jih je ta našel na levi nogi, so se sedaj izkazale za precej tehtne, saj je ponedeljkova najava sredinemu dogodku Live in Paris vzela precej vetra iz jader. Za nameček ga Bard že lomi z zavajajočimi trditvami, saj je v eni od demonstracij dejal, da naj bi teleskop James Webb "prvi posnel eksoplanet", kar ni res, ker to...

Microsoft - Po govoricah in izpustih informacij so pri Microsoftu predstavili prihodnjo verzijo iskalnika Bing, ki je osrediščena okoli sprege z jezikovnim modelom GPT.

Veliki jezikovni modeli (LLMs), v prvi vrsti pa bot ChatGPT, so sprožili novo oboroževalno tekmo med tehnološkimi velikani, ki skušajo trenutno eden drugega prehiteti v najavljanju novih rešitev na tej osnovi. Po tem, ko sta Microsoft in laboratorij OpenAI, ki skrbi za ChatGPT, januarja obnovila tesno sodelovanje, so bili na potezi pri Googlu, kjer naj bi vladala kar precejšnja panika, da si bo tekmec iz Redmonda uspel priboriti pomembno prednost. Zato ni bila presenetljiva ponedeljkova najava pogovornega algoritma Bard, ki bo neposreden tekmec ChatGPT-ju. Da so z najavo v Googlu pohiteli, je bržkone kriv tudi pobeg prve podobe iskalnika Bing, pred nekaj dnevi, z vgrajenimi funkcijami modela GPT, ki so ga v Microsoftu naposled uradno pokazali danes, tudi na dogodku za novinarje.



Posodobljenemu iskalniku s pomočjo GPT-ja...

Slo-Tech - Google se je pošteno ustrašil prihodnosti, ki jo slikajo veliki jezikovni modeli, kakršen je ChatGPT. Potem ko je ChatGPT povzročil preplah v podjetju, so sedaj hitro napovedali svojo različico. Le nekaj dni po prvih špekulacijah je kar izvršni direktor Sundar Pichai V blogu zapisal, da pripravljajo eksperimentalno pogovorno umetno inteligenco. Že danes je na voljo v zaprtem krogu preizkuševalcev, v prihodnjih tednih pa naj bi jo pokazali širnemu svetu. Tako hitra napoved in splavitev storitev, ki jo reklamira sam izvršni direktor, podkrepljuje navedbe, da je v Googlu panika. Konkurenca, zlasti Microsoft, namreč že s pridom uporablja ChatGPT, ki so ga integrirali kar v Bing (ni še dostopen).

Novi pomočnik oziroma sogovornik se bo imenoval Bard in bo kakor ChatGPT na voljo brezplačno. Uporabljal bo rezultate s spleta, v čemer bo torej različen od ChatGPT, ki se je treniral na njih, a nato nima več dostopa do interneta, zato so njegovi odgovori zgodovinsko omejeni najpozneje na leto...

Slo-Tech - Pustimo vnemar pomisleke o uporabnostih in nevarnostih velikih jezikovnih modelov (LLM), med katerimi je najbolj znan ChatGPT, a vseeno je marsikdaj koristno vedeti, ali so napisali kakšno besedilo ali ne. Raziskovalci na Stanfordu so zato izdelali orodje DetectGPT, ki počne točno to. Za posamezno besedil oceni, kako verjetno je njegov avtor ChatGPT. Podrobnosti pojasnjujejo v znanstvenem rokopisu, v laični obliki pa na Twitterju. Delujoč primerek še ni na voljo javnosti, bo pa kmalu, so obljubili.

Podobna orodja že obstajajo, a to pot so uporabili zanimiv pristop, ki ne potrebuje posebnega urjenja. Ker imajo namreč dostop do orodja samega, torej do ChatGPT, lahko uporabijo kar to. Za sestavek, katerega avtentičnost želijo ugotoviti, izdelajo več manjših variacij, v katerih spreminjajo posamezne dele. Potem izračunajo log-porazdelitveno funkcijo in preverijo, kje na njej ležijo te modifikacije. Če imajo te nižjo vrednost od prvotnega sestavka, torej je slednji na delu z negativno...

Slo-Tech - Čeprav se zdi, da je ChatGPT nenadoma revolucionarno spremenil nastajanje besedil in storil, se to ni zgodilo čez noč niti ni edini. Nekateri strokovnjaki, denimo vodja umetne inteligenci pri Meti Yann LeCun, poudarjajo, da gre za lep paket, a ni nič pretresljivega, česar ni bi znali narediti tudi drugod. Podobno počnejo tudi Meta, Google in številna zagonska podjetja, dodaja.

To je sicer res, a dokler izdelek ni dostopen javnosti, težko spremeni svet. Zato se javnost največ ukvarja s ChatGPT, ki je pač dostopen sleherniku. Na sloviti univerzi Stanford imajo podobne težave kot po vseh šolah v svetu, saj so študentje začeli množično uporabljati ChatGPT. Nekateri profesorji so že prilagodili svoje predmete novi tehnologiji, prilagodili so se tudi študentje. Njegove uporabe še niso opredelili v disciplinskih pravilih, se bo pa to kmalu zgodilo. Ena izmed anket je namreč pokazala, da je vsaj 17 odstotkov študentov uporabljalo ChatGPT pri opravljanju študijskih obveznosti. Večina ga je...

Slo-Tech - Čudenje sveta nad zmožnostmi sogovornika ChatGPT ne jenja, temveč ljudje iščejo nove načine uporabe. ChatGPT se je uradno prebil tudi med znanstvenike ali pa vsaj soavtorje znanstvenih prispevkov, saj so se pojavili že štirje članki oziroma rokopisi, kjer so raziskovalci pri pisanju uporabili ChatGPT in ga tudi navedli med soavtorji. Jasnih pravil na tem področju še ni, zato bodo morali uredniki, založniki in raziskovalci stakniti glave in ugotoviti, kako regulirati novo tehnologijo. Od novembra, ko je postala javno dostopna, jo namreč lahko uporablja kdorkoli.

Kot veliki jezikovni model in napreden algoritem strojnega učenja se je ChatGPT naučil iz ogromnih količin besedil na internetu. Rezultat je prepričljivo posnemanje človeškega jezika, a o globljem razumevanju ne moremo govoriti, saj se ChatGPT brez težave tudi zlaže ali odgovori popolne neumnosti. Medtem ko so njegovi eseji za šolsko rabo videti prepričljivi, je v znanosti trenutno žgoče vprašanje, kako in v kolikšni meri...

Slo-Tech - Odkar je ChatGPT javno dostopen, se uporabniki čudijo nad najrazličnejšimi vlogami, ki jih je sposoben prevzeti, in nalogami, ki jim je kos. Mednje sodi tudi pisanje povzetkov (abstract) znanstvenih člankov, ki predstavljajo ključno vstopno točko v objavo in često določajo, ali bo nek članek pritegnil pozornost bralca. Pri tem je ChatGPT tako dober, da v številnih primerih znanstveniki ne morejo ugotoviti, ali je nek povzetek napisal človek ali ChatGPT. Raziskovalci z dveh chicaških univerz v (še nerecenziranem) rokopisu poročajo o raziskavi, kjer so ugotavljali, kako dobri so ti povzetki.

Rezultati so zaskrbljujoči, saj ChatGPT piše povzetke, ki so dovolj dobri, da znanstvenike često preslepijo. Za 50 medicinskih revij so poiskali primerne naslove, ki so bili že objavljeni, nato pa ChatGPT naročili, naj napiše povzetek članka glede na ta naslov. Te so potem primerjali z resničnimi povzetki na različne načine. Uporabili so detektor plagiatorstva, detektor pisanja z umetno...

openai.com - Prejšnji teden je svoj pogovorni algoritem predstavil tudi OpenAI. ChatGPT je osnovan na jezikovnem modelu GPT-3, uporabniki pa so ga kljub vgrajenim varovalkam že sprovocirali v izgovarjanje vsakovrstnih neumnosti.

Fiasko računalniške sogovornice Tay je očitno pozabljen, kajti letos so velikani s področja strojnega učenja preporodili javno preizkušanje chatbotov, torej pogovornih algoritmov. Po Meti in Googlu so se sedaj opogumili tudi pri OpenAIju in predstavili ChatGPT, pogovornega bota, ki je seveda osnovan na njihovem proslavljenem velikem jezikovnem modelu GPT-3. Bot je na voljo prosto in trenutno tudi še brez oglasov, zato ga je v le nekaj dneh že preizkusilo milijon ljudi, ni pa še jasno, kako dolgo bo tako dostopen, ker vodja družbe Sam Altman pravi, da so cene procesiranja visoke. ChatGPT je deklarirano še za odtenek zmogljivejši od konkurentov; in sicer zato, ker so klasičnemu receptu botov na osnovi velikih jezikovnih modelov - se pravi popolnjevanju teksta z...