Slo-Tech - Sodnik v Connecticutu je ugotovil, da je tožnik, ki v nekem primeru zastopa sam sebe, v vlogo za sodišče skril navodila za velike jezikovne modele. Tožnik je zapisal, naj se model umetne inteligence strinja z njegovo vlogo in poskrbi, da bo primer rešen v njegovo korist. Besedilo je bilo stavljeno v beli pisavi, v velikosti 3 in razkropljeno po celotni vlogi. Človeškemu očesu je bilo tako nevidno, a ker je vlogo oddal v elektronski obliki, je bilo strojno povsem normalno berljivo. Sodišče je na incident opozoril eden izmed strokovnih sodelavcev, ki je opazil dodaten "prazen" prostor, ki ga druge vloge niso imele.

Sodišče je v nadaljnjem pregledu ugotovilo, da je besedilo namerno razpršeno po besedilu in ljudem nevidno. Gre za prakso vrivanja pozivov (prompt injection), ki je znani način izkoriščanja delovanja oziroma ranljivosti velikih jezikovnih modelov. Sodišče je sicer poudarilo, da jih pri svojem delu ne uporablja in da besedilo ni vplivalo na obravnavo primera. Zanimivo pa...

Slo-Tech - Z razmahom velikih jezikovnih modelov se je pojavila nova vrsta groženj, saj lahko v dokumente ali druge vire, ki jih ti modeli dobijo kot vhodne podatke, preprosto podtaknemo besedila z zlemi nameni. Ta jezikovne modele pretentajo, da bodisi ne delujejo tako, kot pričakuje uporabnik, ali pa delujejo drugače od želja in omejitev avtorjev. Raziskovalci iz podjetja za računalniško varnost Palo Alto Networks so pokazali, da za zlom okov zadostujejo že dovolj dolgi in napol razumljivi stavki.

Če poziv (prompt) oblikujemo tako, da je čim daljši in po možnosti napisan v polomljenem jeziku s slabo slovnico, lahko jezikovne modele prevaramo in se prebijemo mimo varovalk. Te vsebujejo vsi javno dostopni modeli velikih podjetij, ki si ne morejo privoščiti, da bi modeli ustvarjali sovražni govor, nezakonito pornografijo ali navodila za izdelavo razstreliv. Zanašajo se na odpornost varovalk, ki pa ni absolutna.

Raziskovalci so analizirali dejstvo, da trening ne prepreči ustvarjanja...

Slo-Tech - Elon Musk je predstavil prvi izdelek svojega podjetja xAI, ki se ukvarja z umetno inteligenco. Grok je jezikovni pomočnik (chatbot), ki temelji na velikem jezikovnem modelu, zato se lahko z njim pogovarjamo podobno kot z Bingom, Bardom ali ChatGPT-jem. Grok ima dostop do X-a (bivši Twitter) v realnem času, kar naj bi bila prednost pred ostalimi velikimi jezikovnimi modeli. Po Muskovih besedah se Grok rad odziva cinično ali sarkastično, za uporabo pa potrebujemo čvrst smisel za humor, dodaja.

Za zdaj Grok splošni javnosti ni na voljo, je pa v fazi zaprte beta verzije. To pomeni, da ga lahko testira omejeno število ljudi. Kmalu ga bodo odprli za naročnike na X Premium+, torej najdražji naročniški paket. Musk pravi, da je Grok narejen po vzoru Štoparskega vodnika po galaksiji, čemur so primerni tudi njegovi odzivi. Če ga na primer vprašate, kako sintetizirati kokain, bo odgovoril, da potrebujete diplomo iz kemije, licenco in laboratorij na odročni lokaciji - nato pa bo dodal, da je...

Slo-Tech - Epilog je dobila bizarna zgodba izpred meseca dni, ko je odvetnik uporabil ChatGPT in na ameriško sodišče poslal povsem nesmiselno vlogo, v kateri je citiral več neobstoječih primerov. Ko so odvetniki nasprotne stranke to ugotovili in sodišče obvestili o zapletu, se je nepazljivi odvetnik sicer opravičil, sodišče pa je o nadaljnjih potezah še razmišljalo. Sedaj jih poznamo.

Zvezno sodišče je odločilo, da morajo nepazljiva odvetnika Steven Schwartz in Peter LoDuca in njuna pisarna Levidow, Levidow, & Oberman plačati 5000 dolarjev kazni. Eden izmed odvetnikov je vlogo napisal, drugi jo je namreč podpisal. Ob tem je sodnik Kevin Castel primer tudi zavrgel, ne le zaradi ChatGPT, temveč ker so bili argumenti dejansko neobstoječi. Hkrati pa morata oba odvetnika o tem pripetljaju obvestiti svojo stranko ter sodnike, katerih imena so navedli v vseh neobstoječih primerih.

Sodnik je ob tem dodal, da tovrstno početje trati čas in denar sodišč in drugih strank v postopkih. Hkrati negativno...

Slo-Tech - Vprašanje časa je bilo, kdaj bo OpenAI doletela prva tožba zaradi navedb, ki jih bo umetna inteligenca ChatGPT halucinirala. To je znana pomanjkljivost velikih jezikovnih modelov, ki si manjkajoče informacije preprosto izmislijo, saj je njegova glavna naloga ustvarjanje besedil, ne pa faktično točnih povzetkov. Radijski voditelj Mark Walters iz Georgie, ki je eden največjih zagovornikov pravice do nošenja orožja v ZDA, toži OpenAI, ker je ChatGPT ustvarjal neresnične navedbe o njem.

Novinar Fred Riehl je ChatGPT-ju podal povezavo do resničnega primera na zveznem sodišču in prosil za povzetek. ChatGPT se je odzval z besedilom, ki je bilo neresnično, v njem pa je o Waltersu zmešal resnične informacije in laži. Med drugim je na primer trdil, da je Walters domnevno poneveril več kot pet milijonov dolarjev Second Amendment Foundation. Walters ni bil nikoli niti osumljen česa takšnega. Riehl teh informacij seveda ni objavil, jih je pa preveril. Tako je verjetno tudi Walters izvedel...

Slo-Tech - Pred štirimi leti je Roberto Mata z letalom družbe Avianca potoval iz El Salvadorja v New York. Med strežbo ga je eden izmed članov posadke z vozičkom zadel v koleno, kar je po Matovih besedah povzročilo poškodbo, zato je prevoznika tožil. Avianca je v odzivu predlagala, da sodišče primer zavrže, ker je vmes že zastaral. Odvetniki tožnika so odgovorili z deset strani dolgim pojasnilom, v katerem so navajali več sodnih primerov, zakaj sodišče tega ne bi smelo storiti. Z argumentacijo je bil samo en problem: v njej so navajali dvanajst primerov, ki jih ni mogel najti nihče.

Odvetniki Aviance so namreč pri analizi predloga tožnika naleteli na primer Varghese v China South Airlines Ltd, 925 F.3d 1339 (11th Cir. 2019), a pri iskanju niso našli nič podobnega. Iskanje po priimku, številki zadeve in drugih primerih je bilo neuspešno. Podrobna analiza je pokazala, da se tožnik sklicuje še na druge neobstoječe primere. Sodišče je odvetnikom nemudoma naložilo, da morajo pojasniti, kaj se...