Halucinacije umetne inteligence skorajda sprožile vojaško posredovanje

Po poročanju CNN-a je netočno obveščevalno poročilo, ki je bilo ustvarjeno z uporabo velikih jezikovnih modelov (LLM), skorajda povzročilo velikanski mednarodni incident. Ameriška vojska je bila pripravljena na vkrcanje na kitajsko ladjo na Bližnjem vzhodu, ki naj bi prevažala sestavne dele za jedrski program. Pomoto so odkrili v zadnjem hipu.

Izkazalo se je, da je analitik poročilo ustvaril z LLM-jem, ki je nepravilno združil več obveščevalnih podatkov in v nekaterih primerih haluciniral neresnične informacije. Poročilo je bilo faktografsko neresnično, kar so ugotovili tik pred akcijo. V ameriški vojski in obveščevalnih službah se orodja umetne inteligence množično uporabljajo, vse od analize velikih količin podatkov do upravljanja logistike.

Katero orodje je bilo uporabljeno v aktualnem incidentu, ni jasno. Tako ne vemo, ali je šlo za kakšno javno dostopno orodje ali pa za interni model. Orodje je najprej združilo več obveščevalnih informacij in skrivnih znakov ter prišlo do napačnih zaključkov. Analitik je nato orodje uporabil, da je zaključke prepisalo v standardno obveščevalno poročilo, ki ga je nato poslal naprej.

Halucinacije umetne inteligence so tako pogoste, da je leta 2023 to postala celo Cambridgeva beseda leta. Zato je toliko bolj neverjetno, da v vojski na vse kriplje pospešujejo njeno rabo. Platforma GenAI.mil vsebuje več orodij, med katerimi je Gemini privzeta izbira, a imajo tudi Claude, Grok in druge. Opozorila so glasna, a se umetna inteligenca kljub temu množično uporablja celo na bojiščih.