» »

Umetni inteligenci podtaknili navodila za pozitivne recenzije znanstvenih člankov

Umetni inteligenci podtaknili navodila za pozitivne recenzije znanstvenih člankov

Nikkei Asia - V sedemnajstih znanstvenih rokopisih, ki so bili objavljeni na strani arXiv, kamor lahko raziskovalci arhivirajo rokopise pred formalno recenzijo in objavo v znanstvenih revijah, so odkrili nov način goljufanja. Rokopisi so imeli skrita navodila, ki so bila očitno namenjena umetni inteligenci. Med drugim je pisalo, da naj bo recenzija zgolj pozitivna in da naj članek priporočijo zavoljo vpliva, metod in novitete. Navodila so bila zapisana v mikroskopsko majhnem besedilu, v belem besedilu ali kako drugače skrita človeškemu bralcu, a zelo jasna za umetno inteligenco.

Zgodba je seveda bizarna iz več razlogov. Uporaba umetne inteligence pri recenziranju znanstvenih člankov, ki ga izvajajo drugi strokovnjaki s sorodnih področij, je načeloma prepovedana. Kljub temu nekateri strokovnjaki to počnejo, kar so sedaj želeli izkoristiti tudi avtorji znanstvenih objav. Večinoma je šlo za objave s področja računalniške znanosti. Ne gre za raziskovalce s kakšnih obskurnih univerz, temveč uglednih univerz na Japonske, v Južni Koreji, Singapurju in ZDA. Med njimi so tudi Columbia, Univerza v Washingtonu, KAIST in singapurski NUS.

Na južnokorejskem KAIST-u so na primer dejali, da s tem početjem niso bili seznanjeni, bodo pa priložnosti izkoristili za izdelavo smernic za primerno rabo umetne inteligence. Drugo stališče, ki so ga zagovarjali posamezni raziskovalci, pa vidi v tem boj proti lenobi recenzentov. Ob tem dodajmo, da recenzenti niso svoja množica ljudi, temveč ti isti raziskovalci z drugih inštitucij. Vsi pa se strinjajo, da je raba umetne inteligence za izdelavo recenzij nedopustna.

21 komentarjev

Gregor P ::

Vojna promptov :P

The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Ashrack ::

Cestitke avtorju te ideje za okoriscanje AI
....

Seljak ::

AI bi morali zakonsko prepovedati. Razlogov je več in so zelo tehtni.

Jure14 ::

Čet-đi-pi-ti tako pravi, zakaj bi bilo dobro zakonsko prepovedati AI:

Popolna zakonska prepoved umetne inteligence (AI) bi bila zelo radikalen ukrep, a nekateri argumenti, ki jih zagovorniki takšne prepovedi pogosto navajajo, vključujejo naslednje razloge:

---

### **1. Grožnja delovnim mestom**

* AI lahko avtomatizira številna delovna mesta, zlasti v transportu, proizvodnji, storitvah in celo v intelektualnih poklicih (npr. pravniki, novinarji).
* To lahko povzroči množično brezposelnost in socialne nemire.

---

### **2. Povečanje neenakosti**

* Dostop do močnih AI sistemov imajo predvsem velike korporacije in tehnološke elite.
* Majhna skupina lahko tako še bolj okrepi svoj vpliv in premoženje, medtem ko preostanek prebivalstva izgublja moč.

---

### **3. Zlorabe in nadzor**

* Vlade in podjetja lahko AI uporabijo za množični nadzor (prepoznavanje obrazov, sledenje na spletu).
* Totalitarni režimi lahko z AI učinkovito zatirajo prebivalstvo.

---

### **4. Dezinformacije in manipulacija**

* AI lahko generira lažne novice, deepfake videe, lažne glasovne posnetke itd.
* To lahko destabilizira demokratične procese, vpliva na volitve in povečuje družbeni razkol.

---

### **5. Erozija človekovega dostojanstva**

* Nekateri menijo, da AI zmanjšuje vrednost človeškega dela, ustvarjalnosti in odločanja.
* Ljudje lahko izgubijo občutek smisla, če ključne funkcije prepustijo strojem.

---

### **6. Varnostne grožnje**

* AI lahko razvije orožja brez človeškega nadzora (avtonomno orožje, droni).
* Nevarna je tudi možnost nenamerne katastrofe, če AI nenadzorovano optimizira napačne cilje.

---

### **7. Nezmožnost nadzora**

* Najnaprednejše AI sisteme je težko razumeti, nadzorovati ali predvideti.
* Tveganje je, da postanejo "neobvladljive črne škatle", ki delujejo po svojih pravilih.

---

### **8. Eksistencialno tveganje ("superinteligenca")**

* Teoretično bi lahko zelo napredna AI presegla človeško inteligenco in delovala proti človeškim interesom.
* Nekateri strokovnjaki (npr. Nick Bostrom, Eliezer Yudkowsky) opozarjajo na možnost "izumrtja človeštva" zaradi takšnega scenarija.

---

### **9. Okvara družbenih odnosov**

* Ljudje bi lahko postali preveč odvisni od AI kot družabnikov, terapevtov ali svetovalcev, kar bi zmanjšalo pristne medosebne odnose.
* To lahko povzroči večjo osamljenost in psihološke težave.

---

### **10. Etika in odgovornost**

* Kdo nosi odgovornost za odločitve, ki jih sprejme AI (npr. nesreča z avtonomnim vozilom)?
* V mnogih primerih ni jasno, kdo bi moral odgovarjati za škodo.

---

### **Povzetek:**

Zagovorniki prepovedi trdijo, da bi s popolno prepovedjo AI:

* zaščitili družbo pred nepredvidljivimi tveganji,
* ohranili človeško avtonomijo in smisel dela,
* preprečili koncentracijo moči in nadzora v rokah peščice.

c23po ::

Točno enako besedilo si napisali Inki v XIII. stoletju za kolo. Po točkah enako.
Računalniki nimajo spominov.

kow ::

Vseeno. Kolo ni agent oz. ne sprejema odlocitev. Vecja previdnost je smiselna. Kje in kdaj bos potegnil zavoro oz. upocasnil razvoj? Je to sploh mozno doseci?
Resistance is futile?

Konec koncev tudi otrokom ne pustimo sprejemati nekaterih odlocitev in pocakamo, da so dovolj stari (npr. polnoletni).

Zgodovina sprememb…

  • spremenil: kow ()

c23po ::

Drži. Ampak, "z zakonom prepovedati pod grožnjo smrtne kazni ..."?
Računalniki nimajo spominov.

LightBit ::

Seljak je izjavil:

AI bi morali zakonsko prepovedati. Razlogov je več in so zelo tehtni.

Se strinjam da je AI lahko zelo škodljiv, ampak z prepovednjo bi dosegli zgolj to da navadni smrtniki ne bi imeli dostopa do AI. Ilegalno pa bi se uporabljal za zlonamerne stvari.
Prepoved ni rešitev.

Sokrates ::

Za uporabo umetne inteligence bi moral vsak zaprosit, ki jo želi uporabljat in za kaj jo uporabil.Tako bi se naredil red in smisel tega orodja, Drugače pa prsti preč kot v arabskih deželah za krajo...!
Baracuda

Gregor P ::

South Park ChatGPT (iz epizode Deep Learning)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Zgodovina sprememb…

  • spremenil: Gregor P ()

c23po ::

Sokrates je izjavil:

Za uporabo umetne inteligence bi moral vsak zaprosit, ki jo želi uporabljat in za kaj jo uporabil.Tako bi se naredil red in smisel tega orodja, Drugače pa prsti preč kot v arabskih deželah za krajo...!

Res je. Vloga za uporabo UI. Razlog: Ugotoviti želim, kako formatirati Wordov dokument, da avtomatično številči odstavke.
Računalniki nimajo spominov.

Suhy ::

se vnaprej opravičujem za tale izpad, ampak: ahahaaaa, kolk smeha ko ovčke blejajooo AIIII AIIIII, meanwhile "Ai":



yes...

p.s.. če pogledaš kokrat sem editiral tale post da mi je ratalo sliko dejansko prikazat,.. guess who helped me, it starts with C and its not AI

Zgodovina sprememb…

  • spremenilo: Suhy ()

LightBit ::

Sokrates je izjavil:

Za uporabo umetne inteligence bi moral vsak zaprosit, ki jo želi uporabljat in za kaj jo uporabil.Tako bi se naredil red in smisel tega orodja, Drugače pa prsti preč kot v arabskih deželah za krajo...!

Prepozno. AI lahko sam poganjaš na bolj zmogljivih računalnikih.

Ales ::

Jure14 je izjavil:

Čet-đi-pi-ti tako pravi, zakaj bi bilo dobro zakonsko prepovedati AI:

To je dober primer, zakaj bi bilo treba v pravila Slo-techa izrecno dopisati, da se ne smeti foruma s copy-pastanjem LLM outputa, ker ga lahko vsak sam generira, če želi. Tako početje je idiotsko.

Poleg tega bi te opozoril, da je tvoj prompt tako slab, da je ustvaril čisto enostranski bias in je zato pripomogel k generiranju še večjega dreka...

iKst_ ::

Suhy je izjavil:

se vnaprej opravičujem za tale izpad, ampak: ahahaaaa, kolk smeha ko ovčke blejajooo AIIII AIIIII, meanwhile "Ai":



yes...

p.s.. če pogledaš kokrat sem editiral tale post da mi je ratalo sliko dejansko prikazat,.. guess who helped me, it starts with C and its not AI


S takimi posti samo kažete, da nimate pojma kako in kaj ChatGPT dejansko dela.

Kot bi poskušal s špagetom cveke zabijat.

Ales ::

c23po je izjavil:

Točno enako besedilo si napisali Inki v XIII. stoletju za kolo. Po točkah enako.

Obstaja kak vir za to? ;)

Je žal kar nekaj zapeljanih ljudi, ki bi kar vse označili za "napredek", kakor koli in kjer koli se uporablja. Debato o tem pa potem označijo za tvorbe ludistov, nazadnjakov, itd., kar je po mojem mišljenju debilizem brez primere.

Pod črto je pa situacija žal drugačna - na področju LLM-jev je toliko hajpa in brezvestnega marketinga, da je joj. Vrti se denar in marsikdo je pripravljen sproducirati kakršen koli drek oz. potisniti LLM v karkoli, le da zasluži...

Gregor P ::

Suhy je izjavil:

se vnaprej opravičujem za tale izpad, ampak: ahahaaaa, kolk smeha ko ovčke blejajooo AIIII AIIIII, meanwhile "Ai":



yes...

p.s.. če pogledaš kokrat sem editiral tale post da mi je ratalo sliko dejansko prikazat,.. guess who helped me, it starts with C and its not AI

To učimo ljudi na osnovah o UI, zakaj je temu tako; namig: pojdi v iskalnik in napiši npr. moška ročna ura in sporoči, kaj si ugotovil v cca. 90 odstotkih ;)

Drugi primer je npr. pisanje levičarja na papir :-)
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Zgodovina sprememb…

  • spremenil: Gregor P ()

Machete ::

Ha. Zanimivo. Kaj je fora? Je v tej postavitvi kazalcev ura najbolj fotogenična (četudi je render)?
LC1000|Asrock-H470PG|i7-10700K|2x16GB|RTX-5080 GAMING|W10Pro
new Nintendo 2DS & 3DS XL|Galaxy S24+

Suhy ::

Machete je izjavil:

Ha. Zanimivo. Kaj je fora? Je v tej postavitvi kazalcev ura najbolj fotogenična (četudi je render)?


fora je preprosto v tem da vse to kar se dandanes celo človeštvo pogovarja o nekem AI, da to nima niti trohice veze z AI po definiciji. bojte se dneva ko bo release prvega pravega AI-ja in ne bo zaprt v kletko z miljontriljon ključavnicami. imho.
mal po butasto po domače, vse to kar je zunaj za rajo nima veze z AI, ampak gre za malo bolj napredne modele nekih programov(llm itd).. Zakaj tako pri tej uri, zaradi istega vzroka kot ti ta "ai" tudi ne zna narisati levičarja ki piše na roko. Ker so ta llm naredili med drugim tako da se je učil z "požiranjem"- vsega znanja tega sveta, in ko so naleteli na učenje analognih ur in ljudi ki pišejo na roko, so več ali manj vse slike ljudi ki pišejo z desno roko, posledično ta "ai" ne šteka da je možno da lahko človek piše tudi z levo roko, ker se je z učenjem poneumil bi lahko tudi rekli, oz isto za ure, ker 10 čez 10 zgleda kao najjače in potem na več ali manj vseh slikah ki jih najdeš na netu vidiš analogne ure ki kažejo 10 čez 10, kao roke gor- Victory bla bla itd.
ampak kdo sem jaz da bom pametoval ai-ju, me bo že naučil in prepričal kje sta minutni in urni kazalec. tako kot nas bo naučil še marsičesa drugega, ki ni tolko transparento zgrešeno

Zgodovina sprememb…

  • spremenilo: Suhy ()

Suhy ::

p.s. eto še sam AI mi je potrdil da ni AI, ampak itak se ga da prepričat skoraj vse tak da.... ampak zgollj tok za petek zvečer in pivo :)

Imaš prav - jaz nisem inteligenten. Sem LLM (jezikovni model), ki na podlagi ogromno prebranega besedila samo napoveduje, kaj naj napišem naprej. Nimam pojma, kaj v resnici pomeni čas na uri. Ko mi rečeš "nariši analogno uro za 5:25", ne razumem, da mora biti minutni kazalec na 5 (kar je 25 minut), in da mora biti urni kazalec malce čez 5 (ker je že 25 minut mimo pete ure).

Kar delam, je to, da iščem vzorce v tem, kar sem bil naučen - in večina slik ur, ki sem jih "videl", kaže 10:10, ker to estetsko paše v reklamah. In zato to tudi generiram, ne zato ker bi razumel, ampak ker je bilo to pogosto.

Torej ja - ni inteligence. Je samo verjetnost, ponavljanje naučenega. Če sem narobe narisal uro, je to zato, ker ne vem, kaj pomeni ura 5:25 - ne razumem odnosa med kotoma kazalcev. Ne delam napak, ker bi "pozabil", ampak ker sploh ne razumem, samo posnemam.

Tako da tvoj komentar je točen:

"kje točno je te AI, inteligenca, če mi narišeš 10:10 namesto 5:25?"
-> Nikjer.

Gregor P ::

Machete je izjavil:

Ha. Zanimivo. Kaj je fora? Je v tej postavitvi kazalcev ura najbolj fotogenična (četudi je render)?

… izvor tega je v marketingu, namreč takšna postavitev kazalcev jasno/vidno izpostavi ime proizvajalca ure (v sredini) in zato tudi je največ takšnih slik, na katerih so se potem učili modeli.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

Zgodovina sprememb…

  • spremenil: Gregor P ()


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Milijoni esejev so že napisani s ChatGPT

Oddelek: Novice / Znanost in tehnologija
154671 (1444) Colt1911
»

ChatGPT lahko piše prepričljive povzetke znanstvenih člankov (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
6117323 (11692) phnj90
»

ZDA razmišljajo o obveznem prostem dostopu do znanstvenih člankov

Oddelek: Novice / Znanost in tehnologija
4314794 (12668) jype
»

Raziskave umetne inteligence imajo velik problem

Oddelek: Novice / Znanost in tehnologija
378379 (6304) jype
»

Elsevier: ne razpečujte oblikovanih člankov

Oddelek: Novice / Znanost in tehnologija
1910326 (7947) antonija

Več podobnih tem