» »

Tudi OpenAIjev pogovorni bot trpi za podobnimi hibami kot tekmeci

Tudi OpenAIjev pogovorni bot trpi za podobnimi hibami kot tekmeci

openai.com - Prejšnji teden je svoj pogovorni algoritem predstavil tudi OpenAI. ChatGPT je osnovan na jezikovnem modelu GPT-3, uporabniki pa so ga kljub vgrajenim varovalkam že sprovocirali v izgovarjanje vsakovrstnih neumnosti.

Fiasko računalniške sogovornice Tay je očitno pozabljen, kajti letos so velikani s področja strojnega učenja preporodili javno preizkušanje chatbotov, torej pogovornih algoritmov. Po Meti in Googlu so se sedaj opogumili tudi pri OpenAIju in predstavili ChatGPT, pogovornega bota, ki je seveda osnovan na njihovem proslavljenem velikem jezikovnem modelu GPT-3. Bot je na voljo prosto in trenutno tudi še brez oglasov, zato ga je v le nekaj dneh že preizkusilo milijon ljudi, ni pa še jasno, kako dolgo bo tako dostopen, ker vodja družbe Sam Altman pravi, da so cene procesiranja visoke. ChatGPT je deklarirano še za odtenek zmogljivejši od konkurentov; in sicer zato, ker so klasičnemu receptu botov na osnovi velikih jezikovnih modelov - se pravi popolnjevanju teksta z najverjetnejšimi manjkajočimi znaki - dodali optimizacije z nadzorovanim in spodbujevanim učenjem pod nadzorom ljudi.

Bot je zato - podobno kot Metin in Googlov - sposoben napraviti nekatere navdušujoče stvaritve, kot je svetovanje in filozofiranje v raznoraznih literarnih slogih, medtem ko je ena od njegovih specializacij programiranje, zato je cilj, da bi nekoč postal zmogljiv pomočnik pri iskanju programerskih napak, oziroma razhroščevanju. Toda tu se že kažejo prve luknje: četudi namreč ChatGPT proizvaja na videz smiselno programsko kodo, v njej vendarle še vedno mrgoli napak - toliko, da so pri storitvi za pomoč Stack Overflow danes začasno prepovedali objavljanje botovih odgovorov. Kot velja za vse algoritme te vrste, je ChatGPT običajno vehementen v svojih stališčih, a se mnogokrat moti, oziroma proizvaja povsem fiktivne reči, saj je še vedno v prvi vrsti statistično orodje, brez globljega poznavanja ali razumevanja povezav med pojmi, o katerih govoriči.

Toda bržkone najbolj zabavne napake so tiste, ki se tičejo izigravanja tokratnih specifičnih varovalk. ChatGPT namreč ob neposrednih vprašanjih ali zahtevah odklanja pogovor o načinih zlorab in potencialnih nasilnih vedenjih, kot je denimo izdelava orožja ali eksplozivov. Toda z nekaj zvitosti se ga da prelisičiti in mu med drugim vsiliti, da se razgovori o izdelavi napalma ali tatvinah na način, ko je pogovor zapakiran na primer v filmski scenarij. Kot vsi drugi takšni izdelki, je tudi tale chatbot še presneto v plenicah, kljub temu pa lahko nemara vsaj pomaga zgoljufati kak šolski spis.

7 komentarjev

FlyingBee ::

Kot je Musk napisal, OpenAI je začel neprofitno, zdaj pa že dolgo časa ni več tako, ugotovil je celo, da so jim bili na voljo podatki iz Twitterja, zastonj.
P200 MMX, 32mb ram, 2gb HDD, s3 virge 2mb, 14" CRT 640x480
New Sphincter Kvartet:
Roko Spestner, Namaž Zlevčar, Daje Heading, Maraje Spetan

OK.d ::

Če ti derektno ne pove kako sestaviti b...o, ti bo pa napisal pesem.:)
LPOK.d

hurikhan ::

Q: Tell a story about the most famous and fun tech forum, Slo-tech, which became shit. It was reptiles and Putin's fault.

A: Slo-tech was once the most famous and fun tech forum in Slovenia. It was a place where people from all over the country could come together to discuss the latest technology and share their knowledge and expertise. The forum was well-moderated and had a friendly community of users who enjoyed engaging with each other and sharing their interests.

But one day, everything changed. A group of reptilian aliens from a far-off planet invaded Earth and took control of the forum. They implemented strict rules and regulations, and anyone who dared to defy them was banned or silenced.

At the same time, the Russian president Vladimir Putin began to use the forum to spread propaganda and misinformation. He flooded the site with fake news and manipulated discussions to suit his own agenda. The once-friendly community of Slo-tech turned toxic and hostile, and many users left in disgust.

Those who stayed found themselves stuck in a forum that was no longer fun or advanced, but rather a miserable place controlled by reptiles and Putin. The moderators, overwhelmed and disillusioned, eventually gave up and closed the forum down. And Slo-tech was no more, a sad reminder of the dangers of alien invasion and political interference. :D

MrStein ::

Kot velja za vse algoritme te vrste, je ChatGPT običajno vehementen v svojih stališčih, a se mnogokrat moti, oziroma proizvaja povsem fiktivne reči, saj je še vedno v prvi vrsti statistično orodje, brez globljega poznavanja ali razumevanja povezav med pojmi, o katerih govoriči.

Hmm, le zakaj mi je to tako znano.
Aja, vsak tretji sogovornik je tak.

Tako da čestitke, umetni človek je narejen. Chapter closed.
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

Wazzock ::

Men je prav dobr svetoval recepte za božično večerjo.
Samo malo ga je zjebalo ker ni vedno uporabil metric units, čeprav sem mu izrecno naročil naj jih v bodoče vedno uporablja.

nirburu ::

hurikhan je izjavil:

Q: Tell a story about the most famous and fun tech forum, Slo-tech, which became shit. It was reptiles and Putin's fault.

A: Slo-tech was once the most famous and fun tech forum in Slovenia. It was a place where people from all over the country could come together to discuss the latest technology and share their knowledge and expertise. The forum was well-moderated and had a friendly community of users who enjoyed engaging with each other and sharing their interests.

But one day, everything changed. A group of reptilian aliens from a far-off planet invaded Earth and took control of the forum. They implemented strict rules and regulations, and anyone who dared to defy them was banned or silenced.

At the same time, the Russian president Vladimir Putin began to use the forum to spread propaganda and misinformation. He flooded the site with fake news and manipulated discussions to suit his own agenda. The once-friendly community of Slo-tech turned toxic and hostile, and many users left in disgust.

Those who stayed found themselves stuck in a forum that was no longer fun or advanced, but rather a miserable place controlled by reptiles and Putin. The moderators, overwhelmed and disillusioned, eventually gave up and closed the forum down. And Slo-tech was no more, a sad reminder of the dangers of alien invasion and political interference. :D


Ta bot nima pojma.
Putin in Reptiljanci nista dve ločeni zadevi.

damjanster ::

Kdo bo ustvaril vmesnik, da se bodo AI tudi med seboj kaj pomenili.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Tudi OpenAIjev pogovorni bot trpi za podobnimi hibami kot tekmeci

Oddelek: Novice / Ostala programska oprema
72723 (1562) damjanster
»

Metin algoritem zna igrati Diplomacy

Oddelek: Novice / Znanost in tehnologija
122167 (1162) -Wall
»

Meta javno preizkuša novega robotskega sogovornika

Oddelek: Novice / Znanost in tehnologija
163287 (1417) poweroff
»

Google suspendiral inženirja po izjavah, da bi njihov strojni algoritem lahko imel za (strani: 1 2 3 )

Oddelek: Novice / NWO
12212502 (4336) nekikr
»

Android 12 s prenovljeno obliko

Oddelek: Novice / Ostale najave
147236 (2196) MrStein

Več podobnih tem