Prva tožba zoper OpenAI zaradi obrekovanja v ChatGPT

Vprašanje časa je bilo, kdaj bo OpenAI doletela prva tožba zaradi navedb, ki jih bo umetna inteligenca ChatGPT halucinirala. To je znana pomanjkljivost velikih jezikovnih modelov, ki si manjkajoče informacije preprosto izmislijo, saj je njegova glavna naloga ustvarjanje besedil, ne pa faktično točnih povzetkov. Radijski voditelj Mark Walters iz Georgie, ki je eden največjih zagovornikov pravice do nošenja orožja v ZDA, toži OpenAI, ker je ChatGPT ustvarjal neresnične navedbe o njem.

Novinar Fred Riehl je ChatGPT-ju podal povezavo do resničnega primera na zveznem sodišču in prosil za povzetek. ChatGPT se je odzval z besedilom, ki je bilo neresnično, v njem pa je o Waltersu zmešal resnične informacije in laži. Med drugim je na primer trdil, da je Walters domnevno poneveril več kot pet milijonov dolarjev Second Amendment Foundation. Walters ni bil nikoli niti osumljen česa takšnega. Riehl teh informacij seveda ni objavil, jih je pa preveril. Tako je verjetno tudi Walters izvedel zanje - tožba tega izrecno ne zapiše.

ChatGPT ni sposoben dostopati do interneta in ne more pisati povzetkov javno objavljenih PDF-jev (lahko pa povzema besedilo, ki mu ga skopiramo kot ukaz). Zakaj Riehla ni opozoril na to, kar se sicer praviloma zgodi, ni jasno. Možno je, da je Riehl testiral kakšno zgodnejšo verzijo ChatGPT. Kakorkoli, Walters sedaj toži OpenAI. Rezultat bo zelo zanimiv, saj načeloma spletne platforme zakonodaja ščiti, da za objavljeno vsebino niso odgovorne, če nimajo nadzora nad njo ob objavi (torej ni uredniško odobrena) in jo ob prijavi takoj umaknejo. Videli bomo, ali to velja tudi za proizvajalce velikih jezikovih modelov.