V OpenAI vnaprej zaznali kanadsko strelko, a niso ukrepali

OpenAI je sporočil, da so pred strelskim pohodom, v katerem je 18-letnica v kanadskem mestu Tumbler Ridge ubila osem ljudi, opazili strelkino nenavadno obnašanje. Dejali so, da so junija lani opazili, da Jesse Van Rootselaar neprimerno komunicira s ChatGPT in da je tema njenih pogovorov nasilje. V OpenAI so premišljevali, ali uporabnika prijaviti kanadski policiji, a so se na koncu odločili, da nimajo dovolj dokazov. Tako so junija lani zgolj blokirali njen uporabniški račun.

Strelski napad se je nato zgodil dobrim pred tednom dni. Strelka je v majhnem kanadskem mestu z 2700 prebivalci smrtno ranila osem ljudi, med njimi tudi pet učencev. Po napadu je OpenAI vendarle stopil v stik s kanadsko policijo in ji posredoval dodatne informacije o strelki, ki jih je zbral iz zgodovine uporabe ChatGPT.

Van Rootselaar je v pogovorih s ChatGPT preigravala različne scenarije napada s strelnim orožjem. Njene pogovore je zaznal sistem za avtomatizirano preverjanje, o čemer so nato razpravljali zaposleni. Nekateri so menili, da napovedujejo udejanjenje teh vzgibov v resničnem življenju, drugi niso bili prepričani. Očitno so imeli prav prvi, saj je Van Rootselaar 10. februarja letos napad tudi izvedla.

Povedati velja, da je bila Van Rootselaar znanka policije. Zaradi težav z duševnim zdravjem so bili policisti na njenem domu že večkrat, zasegli so ji tudi orožje.