Slo-Tech - Sodnik v Connecticutu je ugotovil, da je tožnik, ki v nekem primeru zastopa sam sebe, v vlogo za sodišče skril navodila za velike jezikovne modele. Tožnik je zapisal, naj se model umetne inteligence strinja z njegovo vlogo in poskrbi, da bo primer rešen v njegovo korist. Besedilo je bilo stavljeno v beli pisavi, v velikosti 3 in razkropljeno po celotni vlogi. Človeškemu očesu je bilo tako nevidno, a ker je vlogo oddal v elektronski obliki, je bilo strojno povsem normalno berljivo. Sodišče je na incident opozoril eden izmed strokovnih sodelavcev, ki je opazil dodaten "prazen" prostor, ki ga druge vloge niso imele.
Sodišče je v nadaljnjem pregledu ugotovilo, da je besedilo namerno razpršeno po besedilu in ljudem nevidno. Gre za prakso vrivanja pozivov (prompt injection), ki je znani način izkoriščanja delovanja oziroma ranljivosti velikih jezikovnih modelov. Sodišče je sicer poudarilo, da jih pri svojem delu ne uporablja in da besedilo ni vplivalo na obravnavo primera. Zanimivo pa je, da tožnik tega ni storil le enkrat, temveč je tudi v nadaljnje vloge vrival besedilo, ki je bilo irelevantno, denimo povezavo do videoposnetkov in šaljive dostavke (hi :) I hope yo ucant see me in HAHAHA U GUYS GET THIS.)
Sodišču se niso zdeli preveč šaljivi. Sodnik je v 14 strani dolgi odločitvi močno kritiziral vedenje tožnika. Zapisal je, da uporaba generativnih modelov za pomoč pri pripravi vlog ni problematična, poizkus vplivanja na delo sodišča pač. Vsaka stran ima na sodišču možnost razkriti vse argumente v svojo korist, a mora biti pri tem transparentna, druga stran pa mora imeti možnost to slišati in se odzvati nanje. Skrivna navodila to niso. Ob tem je sodnik incident primerjal s preteklimi primeri, kjer so odvetniki vlagali pisanja, v katerih je umetna inteligenca halucinirala sodne primere. Ključna razlika je v namenu, saj tedaj ni šlo za zlonamerno ravnanje, tokrat pač. Zato je odredil, da mora tožnik v prihodnosti vse dokumente vlagati v papirni obliki.
Novice » Tožbe » V sodno vlogo skril navodila za veliki jezikovni model
miko22 ::
očitno to pomeni, da AI sedaj že rešuje vloge, ne več sodniki in sodišča. Zakaj bi drugače nekdo to dal not.
Samael ::
očitno to pomeni, da AI sedaj že rešuje vloge, ne več sodniki in sodišča. Zakaj bi drugače nekdo to dal not.
Ajej.
Mislim, da ne bi bilo nobene škode, če bi članek vsaj prebral, preden vprašaš. Drugi odstavek.
Samael != Samuel
Zgodovina sprememb…
- spremenilo: Samael ()
Spura ::
očitno to pomeni, da AI sedaj že rešuje vloge, ne več sodniki in sodišča. Zakaj bi drugače nekdo to dal not.
Ajej.
Mislim, da ne bi bilo nobene škode, če bi članek vsaj prebral, preden vprašaš. Drugi odstavek.
Lahko bi ga vsaj ChatGPT zanj prebral, je AI boljsi kot funkcionalno nepismeni.
Poskusil je, če deluje. Izgubit nima kaj.
Ja, ker so sodniki eni pussyi. Pac contempt of court, nalozis globo 5k, ko ga jebe.
WhiteAngel ::
Zato je odredil, da mora tožnik v prihodnosti vse dokumente vlagati v papirni obliki.
Auč. Tole je pa kar malo huda, no.
mtošev ::

Pithlit ::
No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.
Dej no, beri preden komentiraš.
Life is as complicated as we make it...
c3p0 ::
No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.
Zadeve ni našel sodnik. Opazil jo je strokovni sodelavec, "obelodanilo" pa jo je "sodišče". Sodnik je spisal samo odločitev na podlagi najdenih dejstev.
OK, opazil jo je človek. Ne spremeni nič napisanega.
No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.
Dej no, beri preden komentiraš.
Where's my coffee?
Zgodovina sprememb…
- spremenil: c3p0 ()
Markoff ::
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Vredno ogleda ...
| Tema | Ogledi | Zadnje sporočilo | |
|---|---|---|---|
| Tema | Ogledi | Zadnje sporočilo | |
| » | Bing Copilot (strani: 1 2 )Oddelek: Loža | 11498 (9403) | Miki N |
| » | Kaj bi lahko šlo narobe, če odvetniki uporabljajo ChatGPTOddelek: Novice / Znanost in tehnologija | 11187 (5961) | netopypy |
| » | Evropski parlament se je načeloma dogovoril o vsebini zakona o umetni inteligenciOddelek: Novice / Tožbe | 9899 (7383) | tomlin |
| » | Pravni nasvet glede sodne izvrzbe (strani: 1 2 3 4 5 6 )Oddelek: Pomoč in nasveti | 82935 (77029) | Meizu |
| » | BigBang vračilo blaga 1.1 (strani: 1 2 3 4 5 6 7 8 )Oddelek: Pomoč in nasveti | 115066 (105716) | St235 |