ChatGPTju grozi tožba zaradi obrekovanja

Župan iz Avstralije Brian Hood je družbi OpenAI zagrozil s tožbo, če ne spremeni pogovornega bota ChatGPT tako, da o njem ne bo več blebetal škodljivih neresnic.

Bržkone najbolj razvpita in pereča težava modernih chatbotov je njihova lastnost, da halucinirajo podatke, to je, da na naše poizvedbe odgovarjajo s povsem izmišljenimi stvarmi. Tako je preprosto zaradi tega, ker njihovi jezikovni modeli v resnici ne poznajo povezav med pojmi, temveč so zgolj statistična orodja, ki postavljajo črke skupaj tako, kot izhaja iz ogromnega korpusa besedil, na katerem so se učili. Halucinirajo zelo pogosto, zato je bilo zgolj vprašanje časa, kdaj se bo kakšna javna oseba na sodišču pritožila za stvari, ki jih bot govoriči o njej. Videti je, da se bo to najprej zgodilo v Avstraliji, kjer je župan regije Hepburn Shire, Brian Hood, 21. marca na OpenAI naslovil grožnjo s tožbo, v kolikor ChatGPTja ne priredi tako, da o njem ne bo širil neresnic.

Konkretno: bot lahko na pozive o Hoodu odgovori, da je bil ta obtožen podkupovanja malezijskih trgovcev z orožjem in da je zaradi tega mesec dni tudi tičal v ječi. Župan daje družbi 28 dni, da nerodnost odpravi. Velja omemba, da takšne neresnice trosi zgolj pretekla različica modela, torej bot na bazi GPT-3.5, ne pa tudi najnovejši, ki sloni na GPT-4. Vseeno je grožnja za OpenAI precej hujša od potencialnih 130.000 evrov, kolikor bi preračunano Hood lahko prejel ob uspešnem procesu, saj bi se odprl hudourniški jez za podobne tožbe s strani množice drugih ljudi. Avstralija se sicer še vedno ukvarja z žolčnim prirejanjem zakonodaje glede odgovornosti ponudnikov spletnih vsebin za neresnice, ki se znajdejo na njihovih portalih. Problematika škodljivih besed, ki jih izbljuvajo robotski sogovorniki, je še za stopničko zahtevnejši etični in pravni izziv.