» »

Nevronske mreže pišejo spletne recenzije kot ljudje

Nevronske mreže pišejo spletne recenzije kot ljudje

Slo-Tech - Pri nakupovanju izdelkov in storitev se pogosto zanašamo na spletne recenzije predhodnih kupcev, ki jih najdemo na straneh, kot so Yelp ali Amazon. Te so ta hip še kolikor toliko uporabne, ker je računalniško generirane opise mogoče sorazmerno enostavno prepoznati, najem večjega števila ljudi za pisanje lažnih recenzij in umetno dvigovanje ocen pa je še predrag, da bi se množično uporabljal. A raziskovalci z Univerze v Chicagu so pokazali, da se utegne to kmalu spremeniti. Kakor lahko računalniški algoritmi danes sestavljajo enostavna poročila o športnih dogodkih in borznih premikih, za katere nihče ne opazi, da jih ni napisal človek, bodo kmalu pisali tudi recenzije.

Pokazali so, da je mogoče sestaviti nevronsko mrežo (RNN), ki piše recenzije, ki jih ljudje niso mogli razločiti od človeških. V raziskavi je sodelovalo šeststo ljudi, ki ne le da niso mogli razločiti umetnih recenzij od človeških, pripisali so jim tudi enako informativno vrednost. To je pomembna razlika, saj ljudje bolj verjamemo mnenju, ki da koristne informacije. Mnenje, ki ga sicer napiše človek, a v njem ni nič pametnega, namreč namena ne doseže.

Kot so poudarili raziskovalci, še niso opazili, da bi kdo uporabljal tovrstno umetno tvorjenje recenzij. To so lahko opazili zato, ker so napravili tudi nevronsko mrežo, ki je bila namenjena lovljenju lažnih recenzij. Čeprav jih ljudje niso mogli razločiti od človeških, pa je lahko druga nevronska mreža z visoko verjetnostjo ugotovila, katere recenzije je napisala prva. Hkrati je dobrodošlo tudi, da je to računsko cenejši problem kot tvorjenje recenzij, torej nekaj upanja še ostaja. Sicer drži tudi, da čim daljše je besedilo, več je možnosti, da ga nevronska mreža polomi in se izda. A po drugi strani - kratke ocene so za Yelp idealne.

12 komentarjev

kow ::

Mal hecen naslov. A ljudje pa nimajo nevronskih mrez?

Shegevara ::

Uf tole pa zna biti hud problem.
Do sedaj sem redno prebiral recenzije izdelkov, sedaj pa prebiram, da bo kmalu prišel lahko čas, ko ne bo več samoumevno se zanašati na pristnost reviewov :|

user1618 ::

kmalu bodo nevronske mreže prebirale spletne recenzije, ki jih pišejo nevronske mreže in se na podlagi tega odločale za nakup... oops :)
"If we were supposed to talk more than listen
we would have been given two mouths and one ear"
- Mark Twain

Elysium ::

KLjub vsemu bo verjetno tem novicam lahko bolj verjeti kot pa kakemu CNN, WP, NYT, MSNBC, BBC, The Guardian in podobnim fake news, da naših niti ne omenjam.

Magic1 ::

Ali na Amazonu lahko opišeš en izdelek, če ga nisi tam kupil?
Magic

Half-Saint ::

Amazon ima eno nalepko "Verified purchase" tako da se lahko vsaj na take recenzije zaneseš.
Moj blog: http://onlyageek.blogspot.com

WhiteAngel ::

Tole bi bilo uporabno za vsakodnevne novice. NN bi ti lahko iz nebroj virov (cnn, bbc, fox, rt, reuters, wikipedia) naredile povzetek enega dogajanja in ti iz vsakega vira vzela tisto dodano vrednost, ki jih drugi nimajo. Tako bi dobil verjetno še najbolj nepristransko poročanje.

Invictus ::

kako pa veš, da ni nevronska mreža pristranska ;).
"Life is hard; it's even harder when you're stupid."

http://goo.gl/2YuS2x

kow ::

Kako ves, da TI nisi pristranski ;)

Invictus ::

Sam zase vem, da sem ;).
"Life is hard; it's even harder when you're stupid."

http://goo.gl/2YuS2x

Gregor P ::

Logično, da so vse potrošniške recenzije pristranske in jih jasno kot takšne tudi beremo. Pač se da čisto enostavno ločiti med ljudmi, ki produkta očitno ne znajo uporabljati, ali pa jih je razočaral (ker so želeli nemogoče oz. preveč za malo denarja) od tistih, ki dejansko opisujejo konkretne težave ipd.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

St753 ::

WhiteAngel je izjavil:

Tole bi bilo uporabno za vsakodnevne novice. NN bi ti lahko iz nebroj virov (cnn, bbc, fox, rt, reuters, wikipedia) naredile povzetek enega dogajanja in ti iz vsakega vira vzela tisto dodano vrednost, ki jih drugi nimajo. Tako bi dobil verjetno še najbolj nepristransko poročanje.

Kaj pomeni imeti dodatno vrednost, mora nekdo definirati. To je idealen nacin, kako se zapret v nek bubble, enako velja za recommender sisteme na youtubu, googlu, amazonu, facebooku, ... Ce je to dobro ali slabo, je pa stvar posameznika.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

DeepMind pri diagnozi očesnih bolezni ne zaostaja za zdravniki

Oddelek: Novice / Znanost in tehnologija
4111507 (8905) nekikr
»

Raziskave umetne inteligence imajo velik problem

Oddelek: Novice / Znanost in tehnologija
377501 (5426) jype
»

Nevronske mreže pišejo spletne recenzije kot ljudje

Oddelek: Novice / Znanost in tehnologija
124654 (3219) St753
»

Človeški jezik (strani: 1 2 )

Oddelek: Znanost in tehnologija
7315682 (11997) kuall
»

Česa računalnik ne bo nikoli mogel, kar človek pa lahko? (strani: 1 2 3 4 5 )

Oddelek: Znanost in tehnologija
24816446 (12708) gzibret

Več podobnih tem