» »

Število neobstoječih citatov v biomedicinskih znanstvenih člankih poletelo

Število neobstoječih citatov v biomedicinskih znanstvenih člankih poletelo

Slo-Tech - Maxim Topaz in sodelavci s Columbie so analizirali 2,5 milijona znanstvenih člankov s področja biomedicinskih ved in ugotovili, da se je v minulih treh letih število referenc, ki se nanašajo na neobstoječe članke, več kot podeseterilo. To sovpada s širokim razmahom orodij umetne inteligence, ki se uporabljajo tudi za urejanje besedila in druge naloge v raziskovanju. Rezultate so objavili v The Lancetu.

Tomaz se je raziskave lotil, ko se je tudi njemu primerila takšna nečednost. Ukvarja se namreč z raziskavami umetne inteligence in besedila popravi tudi z velikimi jezikovnimi modeli. A presenetilo ga je, ko mu je urednik sporočil, da je v enem izmed njegovih rokopisov težava, saj ima neobstoječo referenco. Ker se mu je to zgodilo zaradi nepazljivosti, kar ga seveda ne odvezuje odgovornosti, se je odločil raziskati, koliko literature ima iste težave.

Med 2,5 milijona člankov in 97 milijoni referenc, ki jih indeksira repozitorij PubMed Central, je odkril 4000 neobstoječih referenc. To se dogaja od nekdaj, razlogi pa so mnogoteri. Število pa je krepko naraslo po letu 2024. Leta 2023 je imel lažne reference eden izmed 2.828 člankov, leta 2024 pa že eden izmed 458 člankov. Letos je to razmerje še slabše, saj ima lažne reference skoraj 0,4 odstotka člankov (eden na 277).

V znanosti so reference ključne, saj raziskave temeljijo na predhodnem znanju. V biomedicini se citirajo prejšnje klinične študije, izsledki, primeri, sistematični pregledi. Če se v sistem pritihotapijo lažni viri, je to problem, ki se lahko razširi po znanstveni literaturi. Jezikovni modeli so že povzročili porast lažnih člankov, sedaj pa zastrupljajo tudi legitimne članke. Uredniki in založniki sicer imajo orodja, ki načeloma zaznavajo neobstoječe reference, a niso vsemogočna in se lahko motijo. Ob tem Topaz dodaja, da umetna inteligenca ni a priori škodljiva, a jo je treba pravilno uporabljati - in rezultate preveriti.



4 komentarji

FireSnake ::

Kvaliteta pa padla.
Škoda, da še to niso analizirali.
Poglej in se nasmej: vicmaher.si

karafeka ::

Znanilec nove AI prihodnosti....kvantiteta napram kvaliteti.

da umetna inteligenca ni a priori škodljiva, a jo je treba pravilno uporabljati - in rezultate preveriti.

Oh ne, a se ne ravno z AI preverja dejstev?

Zgodovina sprememb…

  • spremenil: karafeka ()

Markoff ::

Če influenserke iz Dubaja lahko kreirajo prehrambene smernice Vlade RS, pri tem pa navajajo sodelovanje strokovnjakov, ki se z vsebino smernic ne strinjajo, pri tem pa ni in nikoli ne bo posledic za takšne zlorabe, se taki situaciji v znanstveni srenji ne gre čuditi.

I've gotta three point plan'n'shit.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

c3p0 ::

Saj tako je bilo že prej, zdaj so edino postali še bolj leni. Gledaš reference enega takega "raziskovalca" in je sama solata. Nezaposljiv.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Osmina znanstvenih člankov ima prstne odtise umetne inteligence

Oddelek: Novice / Znanost in tehnologija
174028 (2567) Ales
»

Praktična uporaba AI (strani: 1 2 3 )

Oddelek: Loža
14020648 (11006) Okapi
»

Večina ne uporablja umetne inteligence (strani: 1 2 3 4 )

Oddelek: Novice / Znanost in tehnologija
17628435 (21425) Mr.B
»

Wiley v letu dni umaknil 11.300 člankov, sedaj zapira 19 revij

Oddelek: Novice / Znanost in tehnologija
195347 (3763) MrStein
»

Kaj bi lahko šlo narobe, če odvetniki uporabljajo ChatGPT

Oddelek: Novice / Znanost in tehnologija
4110781 (5555) netopypy

Več podobnih tem