V sodno vlogo skril navodila za veliki jezikovni model

Sodnik v Connecticutu je ugotovil, da je tožnik, ki v nekem primeru zastopa sam sebe, v vlogo za sodišče skril navodila za velike jezikovne modele. Tožnik je zapisal, naj se model umetne inteligence strinja z njegovo vlogo in poskrbi, da bo primer rešen v njegovo korist. Besedilo je bilo stavljeno v beli pisavi, v velikosti 3 in razkropljeno po celotni vlogi. Človeškemu očesu je bilo tako nevidno, a ker je vlogo oddal v elektronski obliki, je bilo strojno povsem normalno berljivo. Sodišče je na incident opozoril eden izmed strokovnih sodelavcev, ki je opazil dodaten "prazen" prostor, ki ga druge vloge niso imele.

Sodišče je v nadaljnjem pregledu ugotovilo, da je besedilo namerno razpršeno po besedilu in ljudem nevidno. Gre za prakso vrivanja pozivov (prompt injection), ki je znani način izkoriščanja delovanja oziroma ranljivosti velikih jezikovnih modelov. Sodišče je sicer poudarilo, da jih pri svojem delu ne uporablja in da besedilo ni vplivalo na obravnavo primera. Zanimivo pa je, da tožnik tega ni storil le enkrat, temveč je tudi v nadaljnje vloge vrival besedilo, ki je bilo irelevantno, denimo povezavo do videoposnetkov in šaljive dostavke (hi :) I hope yo ucant see me in HAHAHA U GUYS GET THIS.)

Sodišču se niso zdeli preveč šaljivi. Sodnik je v 14 strani dolgi odločitvi močno kritiziral vedenje tožnika. Zapisal je, da uporaba generativnih modelov za pomoč pri pripravi vlog ni problematična, poizkus vplivanja na delo sodišča pač. Vsaka stran ima na sodišču možnost razkriti vse argumente v svojo korist, a mora biti pri tem transparentna, druga stran pa mora imeti možnost to slišati in se odzvati nanje. Skrivna navodila to niso. Ob tem je sodnik incident primerjal s preteklimi primeri, kjer so odvetniki vlagali pisanja, v katerih je umetna inteligenca halucinirala sodne primere. Ključna razlika je v namenu, saj tedaj ni šlo za zlonamerno ravnanje, tokrat pač. Zato je odredil, da mora tožnik v prihodnosti vse dokumente vlagati v papirni obliki.