Nature - Neprofitna Fundacija La Caixa iz Barcelone, ki financira prestižne raziskovalne projekte in štipendije, že tri leta pri njihovem ocenjevanju uporablja umetno inteligenco. Inés Bouzón-Arnáiz iz Fundacije je pojasnila, da uporabljajo model s tremi algoritmi, ki izvaja predhodni pregled prijav raziskovalnih projektov, s katerim želijo izločiti najslabše, ki zelo verjetno ne bodo financirani. Model so naučili na uspešnih prijavah iz minulih let, služi pa kot prvo sito.

Prijave raziskovalnih projektov so resno in naporno delo, ki traja več tednov ali mesecev. Od njih je odvisno, ali bo raziskovalna skupina financiranje za določene raziskave, s tem pa tudi plače, zato je konkurenca huda. Na omenjeni razpis La Caixe, ki letno razdeli 145 milijonov evrov v okviru triletnih projektov v višini milijona evrov, se je letos prijavilo 714 projektov, algoritmi pa so jih 122 označili kot slabe. Odločitev sta nato preverila dva strokovnjaka, ki sta jih 76 res zavrgla, 46 pa jih je šlo skupaj z...

Nikkei Asia - V sedemnajstih znanstvenih rokopisih, ki so bili objavljeni na strani arXiv, kamor lahko raziskovalci arhivirajo rokopise pred formalno recenzijo in objavo v znanstvenih revijah, so odkrili nov način goljufanja. Rokopisi so imeli skrita navodila, ki so bila očitno namenjena umetni inteligenci. Med drugim je pisalo, da naj bo recenzija zgolj pozitivna in da naj članek priporočijo zavoljo vpliva, metod in novitete. Navodila so bila zapisana v mikroskopsko majhnem besedilu, v belem besedilu ali kako drugače skrita človeškemu bralcu, a zelo jasna za umetno inteligenco.

Zgodba je seveda bizarna iz več razlogov. Uporaba umetne inteligence pri recenziranju znanstvenih člankov, ki ga izvajajo drugi strokovnjaki s sorodnih področij, je načeloma prepovedana. Kljub temu nekateri strokovnjaki to počnejo, kar so sedaj želeli izkoristiti tudi avtorji znanstvenih objav. Večinoma je šlo za objave s področja računalniške znanosti. Ne gre za raziskovalce s kakšnih obskurnih univerz, temveč uglednih...

Slo-Tech - Eno izmed meril za ocenjevanje raziskovalcev in znanstvenikov je citiranost njihovih del, kar v zadnjih letih zaradi inflacije citatov postaja čedalje manj uporaben kazalnik. Pretirano samocitiranje in navzkrižno citiranje sta že vrsto let znana načina za umetno napihovanje citiranosti posameznika, sedaj pa imamo neizpodbitne dokaze, da je citate možno preprosto kupiti.

Raziskovalci z newyorške univerze so pod drobnogled vzeli orodje Google Scholar, ki je zaradi brezplačnosti in odprtosti med najbolj priljubljenimi za spremljanje akademske produkcije avtorjev. Podatke z Google Scholarja za ocenjevanje uporabljajo tako financerji raziskovalnih projektov kakor delodajalci.

Analiza 1,6 milijona profilov je pokazala, da so prevare povsem možne. Doslej so bili glavni načini za napihovanje citiranosti: samocitati, navzkrižno citiranje (citation cartels) in prisilno citiranje (denimo nadrejenih ali recenzentov). Določen teh tovrstnih citatov je zdrav in potreben, zato je toliko teže...

Slo-Tech - Pravzaprav novica ne bi smela nikogar presenetiti, saj tudi sami proizvajalci na to opozarjajo in jasno svetujejo, naj v generativne modele umetne inteligence ne vnašamo občutljivih informacij. Vemo, da si ti lahko zapomnijo vse, vseeno pa preseneča, da to kdaj ravnodušno delijo z drugimi uporabniki. Raziskovalci so sicer že večkrat pokazali, da ni posebej težko oblikovati pozivov, ki umetno inteligenco pretentajo v razkrivanje osebnih podatkov.

Eden izmed bralcev Ars Technice pa je osebne podatke dobil celo, ne da bi za njih kakorkoli prosil. ChatGPT 4 mu je, ko je bilo pogovora že konec, a je imel okno še odprto, preprosto začel izpisovati vnose drugih uporabnikov. Med njimi so bila tudi uporabniška imena in gesla za prijavo v informacijski sistem neke lekarne. Očitno je nekdo izmed zaposlenih s ChatGPT poizkusil ugotoviti, zakaj mu prijava ne deluje, pri tem pa je vnašal tudi osebne podatke. Drugi podatki, ki jih je ChatGPT delil, so tudi neobjavljeni raziskovalni projekti,...

Slo-Tech - Čeprav uradnih vesti še ni, iz Bele hiše pritekajo neuradne informacije, da naj bi Donald Trump še zaostril zahtevo Obamove administracije, da morajo biti rezultati javno financiranih raziskav prosto dostopni najpozneje leto dni po objavi. Trump želi zahtevati, da so vsi rezultati takoj prosto objavljeni. Čeprav gre zgolj za neuradne vesti, je bil že sam namig dovolj, da so se založniki množično odzvali in jeli kritizirati to napoved. Na kocki je ogromno denarja; samo Elsevier je lani ustvaril okrog štiri milijarde dolarjev dobička, od tega z znanstvenimi revijami približno milijardo.

Objavljanje znanstvenih člankov je velik posel, a ne za raziskovalce, temveč založnike. Ker financerji kakovost dela v veliki meri ocenjujejo po tem, kje so bili rezultati objavljeni, raziskovalci kaj dosti izbire nimajo. Veliki založniki, katerih revije so si v minulih letih pridobile visoke faktorje vpliva, pa to izkoriščajo. Tako imamo shizofreno situacijo, ko založniki dobivajo trojno plačilo....

Slo-Tech - V okviru evropskega projekta iBorderCtrl se začenja šestmesečna pilotna faza, v kateri bodo na štirih mejnih prehodih na Madžarskem, v Latviji in Grčiji preverili nov sistem preverjanja potnikov z umetno inteligenco. Gre za 4,5 milijona evrov vreden evropski raziskovalni projekt (v okviru sheme Obzorje 2020), v katerem sodelujejo raziskovalne inštitucije in zasebni partnerji iz Grčije, Cipra, Velike Britanije, Poljske, Španije, Madžarske, Nemčije in Latvije pod luksemburško koordinacijo. Projekt, ki se je začel septembra 2016, se bo zaključil prihodnjega avgusta.

V projektu želijo razviti animiranega virtualnega mejnega agenta z umetno inteligenco, ki bo preverjal potnike. Z umetno inteligenco bo...