» »

Na Stanfordu razvijajo protistrup DetectGPT

Na Stanfordu razvijajo protistrup DetectGPT

Slo-Tech - Pustimo vnemar pomisleke o uporabnostih in nevarnostih velikih jezikovnih modelov (LLM), med katerimi je najbolj znan ChatGPT, a vseeno je marsikdaj koristno vedeti, ali so napisali kakšno besedilo ali ne. Raziskovalci na Stanfordu so zato izdelali orodje DetectGPT, ki počne točno to. Za posamezno besedil oceni, kako verjetno je njegov avtor ChatGPT. Podrobnosti pojasnjujejo v znanstvenem rokopisu, v laični obliki pa na Twitterju. Delujoč primerek še ni na voljo javnosti, bo pa kmalu, so obljubili.

Podobna orodja že obstajajo, a to pot so uporabili zanimiv pristop, ki ne potrebuje posebnega urjenja. Ker imajo namreč dostop do orodja samega, torej do ChatGPT, lahko uporabijo kar to. Za sestavek, katerega avtentičnost želijo ugotoviti, izdelajo več manjših variacij, v katerih spreminjajo posamezne dele. Potem izračunajo log-porazdelitveno funkcijo in preverijo, kje na njej ležijo te modifikacije. Če imajo te nižjo vrednost od prvotnega sestavka, torej je slednji na delu z negativno ukrivljenostjo, je zelo verjetno plod ChatGPT. Ukrivljenost pa je možno dobiti iz Hessove matrike (drugih odvodov, torej). Testi so pokazali, da je tak način iskanja strojnih tekstov zelo zanesljiv.

4 komentarji

Miki N ::

Vojna robotov. :))

OutOfTheBox ::

Sej drugače ta orodja so super in vsekakor nujna, ampak na nedavno eksplozijo teh orodij nimam ravno optimizma da bodo uporabljena v smiselne namene oz. namene, ki bi pripomorale k vsesplošnemu napredku, ampak ga bodo namerno zavirali.

Fail.

smrko ::

Vse te zadeve so fascinantne iz znanstvenega vidika ampak iz čisto človeškega vidika pa gre v bistvu za sistem najprej naredi strup, nato pa se loti protistrupa. Človeška narava, jebiga.

Phantomeye ::

smrko je izjavil:

Vse te zadeve so fascinantne iz znanstvenega vidika ampak iz čisto človeškega vidika pa gre v bistvu za sistem najprej naredi strup, nato pa se loti protistrupa. Človeška narava, jebiga.


naredimo nekaj, kar nam bo potencialno izboljšalo quality of life. Ampak vsako stvar se da zlorabit. To ne pomeni, da je zadeva slaba sama po sebi.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

ChatGPT lahko piše prepričljive povzetke znanstvenih člankov (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
6113044 (7413) phnj90
»

Turnitin bo prepoznaval generativna besedila ChatGPT in podobnih

Oddelek: Novice / Znanost in tehnologija
265988 (3701) nejc_nejc
»

New York v šolah prepovedal ChatGPT (strani: 1 2 )

Oddelek: Novice / Ostale najave
9516367 (9065) G0zdar
»

ChatGPT že uradni soavtor znanstvenih člankov, čeprav ne bi smel biti

Oddelek: Novice / Znanost in tehnologija
195678 (3906) dexterboy

Več podobnih tem