Umetni inteligenci podtaknili navodila za pozitivne recenzije znanstvenih člankov
Matej Huš
4. jul 2025 ob 08:01:56
V sedemnajstih znanstvenih rokopisih, ki so bili objavljeni na strani arXiv, kamor lahko raziskovalci arhivirajo rokopise pred formalno recenzijo in objavo v znanstvenih revijah, so odkrili nov način goljufanja. Rokopisi so imeli skrita navodila, ki so bila očitno namenjena umetni inteligenci. Med drugim je pisalo, da naj bo recenzija zgolj pozitivna in da naj članek priporočijo zavoljo vpliva, metod in novitete. Navodila so bila zapisana v mikroskopsko majhnem besedilu, v belem besedilu ali kako drugače skrita človeškemu bralcu, a zelo jasna za umetno inteligenco.
Zgodba je seveda bizarna iz več razlogov. Uporaba umetne inteligence pri recenziranju znanstvenih člankov, ki ga izvajajo drugi strokovnjaki s sorodnih področij, je načeloma prepovedana. Kljub temu nekateri strokovnjaki to počnejo, kar so sedaj želeli izkoristiti tudi avtorji znanstvenih objav. Večinoma je šlo za objave s področja računalniške znanosti. Ne gre za raziskovalce s kakšnih obskurnih univerz, temveč uglednih univerz na Japonske, v Južni Koreji, Singapurju in ZDA. Med njimi so tudi Columbia, Univerza v Washingtonu, KAIST in singapurski NUS.
Na južnokorejskem KAIST-u so na primer dejali, da s tem početjem niso bili seznanjeni, bodo pa priložnosti izkoristili za izdelavo smernic za primerno rabo umetne inteligence. Drugo stališče, ki so ga zagovarjali posamezni raziskovalci, pa vidi v tem boj proti lenobi recenzentov. Ob tem dodajmo, da recenzenti niso svoja množica ljudi, temveč ti isti raziskovalci z drugih inštitucij. Vsi pa se strinjajo, da je raba umetne inteligence za izdelavo recenzij nedopustna.