Nevronske mreže pišejo spletne recenzije kot ljudje

Pri nakupovanju izdelkov in storitev se pogosto zanašamo na spletne recenzije predhodnih kupcev, ki jih najdemo na straneh, kot so Yelp ali Amazon. Te so ta hip še kolikor toliko uporabne, ker je računalniško generirane opise mogoče sorazmerno enostavno prepoznati, najem večjega števila ljudi za pisanje lažnih recenzij in umetno dvigovanje ocen pa je še predrag, da bi se množično uporabljal. A raziskovalci z Univerze v Chicagu so pokazali, da se utegne to kmalu spremeniti. Kakor lahko računalniški algoritmi danes sestavljajo enostavna poročila o športnih dogodkih in borznih premikih, za katere nihče ne opazi, da jih ni napisal človek, bodo kmalu pisali tudi recenzije.

Pokazali so, da je mogoče sestaviti nevronsko mrežo (RNN), ki piše recenzije, ki jih ljudje niso mogli razločiti od človeških. V raziskavi je sodelovalo šeststo ljudi, ki ne le da niso mogli razločiti umetnih recenzij od človeških, pripisali so jim tudi enako informativno vrednost. To je pomembna razlika, saj ljudje bolj verjamemo mnenju, ki da koristne informacije. Mnenje, ki ga sicer napiše človek, a v njem ni nič pametnega, namreč namena ne doseže.

Kot so poudarili raziskovalci, še niso opazili, da bi kdo uporabljal tovrstno umetno tvorjenje recenzij. To so lahko opazili zato, ker so napravili tudi nevronsko mrežo, ki je bila namenjena lovljenju lažnih recenzij. Čeprav jih ljudje niso mogli razločiti od človeških, pa je lahko druga nevronska mreža z visoko verjetnostjo ugotovila, katere recenzije je napisala prva. Hkrati je dobrodošlo tudi, da je to računsko cenejši problem kot tvorjenje recenzij, torej nekaj upanja še ostaja. Sicer drži tudi, da čim daljše je besedilo, več je možnosti, da ga nevronska mreža polomi in se izda. A po drugi strani - kratke ocene so za Yelp idealne.