Odvetnik kaznovan z 10.000 dolarji, ker je zavajal s ChatGPT

Kalifornijsko sodišče je odločilo, da mora tamkajšnji odvetnik Amir Mostafavi plačati rekordnih 10.000 dolarjev visoko globo, ker je julija 2023 sodišču predložil pritožbo, ki jo je napisal z umetno inteligenco. V njej je bilo kar 21 izmed 23 navedb o prejšnjh primerih neobstoječih. Izmišljene reference je predlagal ChatGPT, ki je tedaj - čeprav je bil OpenAI nekaj mesecev pred tem objavil, da je na simulaciji opravil pravosodni izpit - haluciniral še izdatneje od današnjih verzij. Mostafavi izdelka ni niti prebral, preden ga je predložil sodišču. Sam je dejal, da je ChatGPT uporabil za izboljšavo jezika in vsebine, a da ni vedel, da se lahko v novem dokumentu znajdejo neresnične navedbe.

Rekordno visoka globa ima zato predvsem vzgojni namen. Sodišče je dejalo, da Mostafavi tratil čas sodišča in davkoplačevalski denar. Kršil je pravila, citiral je neobstoječe primere in s tem vložil neutemeljeno in neresno (frivolous) pritožbo. Prizivno sodišče je ob tem dejalo, da odvetniki sodišču ne smejo predložiti nobenih listin, v katerih bi bili sklici na referenci, ki jih niso sami prebrali, ne glede na način priprave dokumenta.

Sodni svet je sicer že pred dvema tednoma zahteval, da so 15. decembra bodisi popolnoma prepove uporaba generativne inteligence bodisi postavijo zelo jasne smernice za njeno uporabo. Tudi odvetniška zbornica razmišlja, da bi posodobili svoj kodeks in opredelili uporabo umetne inteligence. Analize sicer kažejo, da več kot tri četrtine odvetnikov že uporablja umetno inteligenco.