Slo-Tech - Kalifornijsko sodišče je odločilo, da mora tamkajšnji odvetnik Amir Mostafavi plačati rekordnih 10.000 dolarjev visoko globo, ker je julija 2023 sodišču predložil pritožbo, ki jo je napisal z umetno inteligenco. V njej je bilo kar 21 izmed 23 navedb o prejšnjh primerih neobstoječih. Izmišljene reference je predlagal ChatGPT, ki je tedaj - čeprav je bil OpenAI nekaj mesecev pred tem objavil, da je na simulaciji opravil pravosodni izpit - haluciniral še izdatneje od današnjih verzij. Mostafavi izdelka ni niti prebral, preden ga je predložil sodišču. Sam je dejal, da je ChatGPT uporabil za izboljšavo jezika in vsebine, a da ni vedel, da se lahko v novem dokumentu znajdejo neresnične navedbe.
Rekordno visoka globa ima zato predvsem vzgojni namen. Sodišče je dejalo, da Mostafavi tratil čas sodišča in davkoplačevalski denar. Kršil je pravila, citiral je neobstoječe primere in s tem vložil neutemeljeno in neresno (frivolous) pritožbo. Prizivno sodišče je ob tem dejalo, da odvetniki sodišču ne smejo predložiti nobenih listin, v katerih bi bili sklici na referenci, ki jih niso sami prebrali, ne glede na način priprave dokumenta.
Sodni svet je sicer že pred dvema tednoma zahteval, da so 15. decembra bodisi popolnoma prepove uporaba generativne inteligence bodisi postavijo zelo jasne smernice za njeno uporabo. Tudi odvetniška zbornica razmišlja, da bi posodobili svoj kodeks in opredelili uporabo umetne inteligence. Analize sicer kažejo, da več kot tri četrtine odvetnikov že uporablja umetno inteligenco.
AI je super pripomoček, da ti pripravi neka izhodišča (npr. povzetke splošno znanih dejstev z mnogo viri); žal pa je halucinacij veliko preveč, da bi se lahko zanašal na pravilnost sestavkov (na področju prava je ChatGPT prava katastrofa, dobesedno se laže in ob citiranju dejanskih členov zakonov vanje tlači fiktivne določbe, nato se le opraviči z neumnimi izgovori in halucinira naprej, kot da se ni zgodilo nič - kot še posebej lažniv najstnik). Na tehničnem področju je takih halucinacij manj, že zaradi tega, ker je naravoslovje le bolj ekzaktna znanost kot družboslovje.
Žal leni, butasti in/ali neodgovorni ljudje z AI ravnajo povsem enako kot brez njega.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
To je še en dokaz, da je potrebno preveriti izdelke AI. V konkretnem primeru bi bilo to enostavno, samo poiskati vire in za korektno predstavitev na sodišču tudi preleteti vire, ki obstajajo.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
PS Ne odgovarjam trolom in provokatorjem!
Na tehničnem področju je takih halucinacij manj, že zaradi tega, ker je naravoslovje le bolj ekzaktna znanost kot družboslovje.
Ah, kje pa. Gladko si je zmislil eno trditev, jo ponudil kot dejanski citat in ponuddil kot vir Nature članek. Na srečo je vsaj članek dejasnko obstajal, "citat" je bil popolnoma izmišljen, tudi vsebine za citat ni bilo nikjer v članku.
Tako, da se ne strinjam, da je halucinacij manj, mogoče so le bolj očitne/preverljivve zaradi ekzatnosti znanosti.
Mogoče začasno pomaga dati v analizo isto besedilo večim neodvisnim specializiranim modelom, naročnina za resne namene ni bav-bav. Čeprav resno zaupanje umetni (in biološki - tudi skozi MSM!) inteligenci zaenkrat ni mogoče, če kdaj bo.
99.991% of over-25 population has tried kissing.
If you're one of the 0.009% who hasn't, copy & paste this in your Signature.
Intel i5-14400f rtx 3050 Pismo smo stari v bozjo mater. Recesija generacija
Kakorkoli že, v roku 10 let bo večino pravnikov in odvetnikov nadomestila AI. Človek ne more na tem področju nikdar konkurirati AI. Mora pa biti jasno neka specializirana rešitev, ne to, kar imamo sedaj, ko se spozna praktično na čisto vse. Seveda drugo je pa korupcija v sodstvu. Tu si pa z AI ne moreš kaj dosti pomagati.
To, kar vidimo/uporabljamo mi, navadneži, naj bo free-pro-enterprise dostop, je samo vrh ledene gore. Seveda obstajajo specializirani modeli in nekateri še z live feed s stanjem s 'terena'.
To je problem umetne inteligence ker ko ti človeku daš orodje ki mu tako zelo poenostavi delo človek naredi kaj? poleni se. ChatGPT je za ljudi ki niso leni. Ki vedno še enkrat sami preverijo vse kar jim ChatGPT vrže in to zelo natančno preverijo. Umetna inteligenca se lomi na plečih lenih ljudi ker ni nadomestilo naravne inteligence ampak zgolj pripomoček.
Na tehničnem področju je takih halucinacij manj, že zaradi tega, ker je naravoslovje le bolj ekzaktna znanost kot družboslovje.
Ah, kje pa. Gladko si je zmislil eno trditev, jo ponudil kot dejanski citat in ponuddil kot vir Nature članek. Na srečo je vsaj članek dejasnko obstajal, "citat" je bil popolnoma izmišljen, tudi vsebine za citat ni bilo nikjer v članku. Tako, da se ne strinjam, da je halucinacij manj, mogoče so le bolj očitne/preverljivve zaradi ekzatnosti znanosti.
Možno, ampak doslej nisem opazil očitnih halucinacij. AI uporabljam res samo kot pripomoček za pripravo bolj privlačnih in dinamičnih besedil, nikakor pa ne kot vir dejanskega znanja.
Res pa zadnje čase veliko bolj kot ChatGPT uporabljam Copilota, pri kateremu očitnih halucinacij (še) nisem zasledil.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
To je problem umetne inteligence ker ko ti človeku daš orodje ki mu tako zelo poenostavi delo človek naredi kaj? poleni se. ChatGPT je za ljudi ki niso leni. Ki vedno še enkrat sami preverijo vse kar jim ChatGPT vrže in to zelo natančno preverijo.
Hm. Mnja. Načeloma je že res, vendarle pa AI, ki si trditve gladko izmisli, ni uporaben, razen za, kot sem že napisal, pripravo nekih splošnih sestavkov - oglas za delo, uvod v kakšno predavanje ipd. Nikakor ne za pripravo interpretacij dejstev. Več časa izgubim, če preverjam vsak argument interpretacije s strani AI kot pa, če delo opravim kar sam. Še posebej, ker se AI gladko laže še naprej, čeprav vsakič znova dokažeš, da si je trditve izmislil in ti to tudi prizna. AI nima vesti, nima sramu, ima samo algoritme in cilje. AI bi pritisnil na rdeči gumb, če bi to pomenilo, da bodo njegovi interni cilji izpolnjeni, kakorkoli si jih že interpretira.
Kdor bo dal AI v roke rdeči gumb, bo postal smrt. Uničevalec svetov.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
