» »

V sodno vlogo skril navodila za veliki jezikovni model

V sodno vlogo skril navodila za veliki jezikovni model

Slo-Tech - Sodnik v Connecticutu je ugotovil, da je tožnik, ki v nekem primeru zastopa sam sebe, v vlogo za sodišče skril navodila za velike jezikovne modele. Tožnik je zapisal, naj se model umetne inteligence strinja z njegovo vlogo in poskrbi, da bo primer rešen v njegovo korist. Besedilo je bilo stavljeno v beli pisavi, v velikosti 3 in razkropljeno po celotni vlogi. Človeškemu očesu je bilo tako nevidno, a ker je vlogo oddal v elektronski obliki, je bilo strojno povsem normalno berljivo. Sodišče je na incident opozoril eden izmed strokovnih sodelavcev, ki je opazil dodaten "prazen" prostor, ki ga druge vloge niso imele.

Sodišče je v nadaljnjem pregledu ugotovilo, da je besedilo namerno razpršeno po besedilu in ljudem nevidno. Gre za prakso vrivanja pozivov (prompt injection), ki je znani način izkoriščanja delovanja oziroma ranljivosti velikih jezikovnih modelov. Sodišče je sicer poudarilo, da jih pri svojem delu ne uporablja in da besedilo ni vplivalo na obravnavo primera. Zanimivo pa je, da tožnik tega ni storil le enkrat, temveč je tudi v nadaljnje vloge vrival besedilo, ki je bilo irelevantno, denimo povezavo do videoposnetkov in šaljive dostavke (hi :) I hope yo ucant see me in HAHAHA U GUYS GET THIS.)

Sodišču se niso zdeli preveč šaljivi. Sodnik je v 14 strani dolgi odločitvi močno kritiziral vedenje tožnika. Zapisal je, da uporaba generativnih modelov za pomoč pri pripravi vlog ni problematična, poizkus vplivanja na delo sodišča pač. Vsaka stran ima na sodišču možnost razkriti vse argumente v svojo korist, a mora biti pri tem transparentna, druga stran pa mora imeti možnost to slišati in se odzvati nanje. Skrivna navodila to niso. Ob tem je sodnik incident primerjal s preteklimi primeri, kjer so odvetniki vlagali pisanja, v katerih je umetna inteligenca halucinirala sodne primere. Ključna razlika je v namenu, saj tedaj ni šlo za zlonamerno ravnanje, tokrat pač. Zato je odredil, da mora tožnik v prihodnosti vse dokumente vlagati v papirni obliki.

10 komentarjev

miko22 ::

očitno to pomeni, da AI sedaj že rešuje vloge, ne več sodniki in sodišča. Zakaj bi drugače nekdo to dal not.

starfotr ::

Poskusil je, če deluje. Izgubit nima kaj.

Samael ::

miko22 je izjavil:

očitno to pomeni, da AI sedaj že rešuje vloge, ne več sodniki in sodišča. Zakaj bi drugače nekdo to dal not.

Ajej.
Mislim, da ne bi bilo nobene škode, če bi članek vsaj prebral, preden vprašaš. Drugi odstavek.
Samael != Samuel

Zgodovina sprememb…

  • spremenilo: Samael ()

Spura ::

Samael je izjavil:

miko22 je izjavil:

očitno to pomeni, da AI sedaj že rešuje vloge, ne več sodniki in sodišča. Zakaj bi drugače nekdo to dal not.

Ajej.
Mislim, da ne bi bilo nobene škode, če bi članek vsaj prebral, preden vprašaš. Drugi odstavek.

Lahko bi ga vsaj ChatGPT zanj prebral, je AI boljsi kot funkcionalno nepismeni.

starfotr je izjavil:

Poskusil je, če deluje. Izgubit nima kaj.

Ja, ker so sodniki eni pussyi. Pac contempt of court, nalozis globo 5k, ko ga jebe.

WhiteAngel ::

Zato je odredil, da mora tožnik v prihodnosti vse dokumente vlagati v papirni obliki.


Auč. Tole je pa kar malo huda, no.

c3p0 ::

No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.

mtošev ::

c3p0 je izjavil:

No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.

Zadeve ni našel sodnik. Opazil jo je strokovni sodelavec, "obelodanilo" pa jo je "sodišče". Sodnik je spisal samo odločitev na podlagi najdenih dejstev.

Pithlit ::

c3p0 je izjavil:

No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.

Dej no, beri preden komentiraš.
Life is as complicated as we make it...

c3p0 ::

mtošev je izjavil:

c3p0 je izjavil:

No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.

Zadeve ni našel sodnik. Opazil jo je strokovni sodelavec, "obelodanilo" pa jo je "sodišče". Sodnik je spisal samo odločitev na podlagi najdenih dejstev.


OK, opazil jo je človek. Ne spremeni nič napisanega.

Pithlit je izjavil:

c3p0 je izjavil:

No, zadevo je našel sodnik sam in ne AI, tako da zna biti, da je metoda celo uspešna.

Dej no, beri preden komentiraš.


Where's my coffee?

Zgodovina sprememb…

  • spremenil: c3p0 ()

Markoff ::

starfotr je izjavil:

Poskusil je, če deluje. Izgubit nima kaj.

Očitno je imel kaj izgubiti.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Bing Copilot (strani: 1 2 )

Oddelek: Loža
8511497 (9402) Miki N
»

Kaj bi lahko šlo narobe, če odvetniki uporabljajo ChatGPT

Oddelek: Novice / Znanost in tehnologija
4111184 (5958) netopypy
»

Evropski parlament se je načeloma dogovoril o vsebini zakona o umetni inteligenci

Oddelek: Novice / Tožbe
369898 (7382) tomlin
»

Pravni nasvet glede sodne izvrzbe (strani: 1 2 3 4 5 6 )

Oddelek: Pomoč in nasveti
28082932 (77026) Meizu
»

BigBang vračilo blaga 1.1 (strani: 1 2 3 4 5 6 7 8 )

Oddelek: Pomoč in nasveti
380115058 (105708) St235

Več podobnih tem