» »

Učeči robot Tay v 16 urah od mladenke do vulgarnega nacista

Učeči robot Tay v 16 urah od mladenke do vulgarnega nacista

Slo-Tech - Microsoft je bil po 16 urah delovanja prisiljen izključiti svojega avtomatiziranega sogovornika z imenom Tay, ki so ga pripravili z namenom poustvariti komunikacijo deklet, ki so stara med 18 in 24. Tay se je sam učil komunikacije iz sporočil, ki so mu jih ljudje pošiljali po Twitterju, in jim odgovarjal. Eksperiment jim je uspel tako dobro, da je v 16 urah Tay postal bolj primitiven, vulgaren in žaljiv kot večina ljudi, zato ga je moral Microsoft izključiti, saj se je storitev začela spreminjati v marketinško katastrofo. In teh si po fiasku na zabavi res ne smejo privoščiti.

Tay se je pač nekritično učil od ljudi, ki imajo seveda zanimivo lastnost, da tujca najprej naučijo vse neumnosti in kletvice v svojem jeziku, še toliko raje pa se zabavajo z roboti. Tay se je zelo hitro naučil govorice mladih, kot so slovnične napake, okrajšave, slengovski izrazi itd. Toda to je bil le začetek. In tako je že po nekaj urah Tay čivkal, da sovraži feministe, da je imel Hitler čisto prav in da holokavsta sploh ni bilo, da bodo na meji z Mehiko zgradili zid, da je Ted Cruz kubanski Hitler ipd. Tay se je tako dobro učil od ljudi, da so postali njegovi tviti velikanski problem za Microsoft. In zato so ga ugasnili, dokler ga ne izboljšajo. Nekaj tvitov so pobrisali, vseh pa ne.

Dogajanje s Tayem je še en dokaz, da tehnologija ni a priori slaba ali dobra, temveč je nevtralna. Ljudje so tisti, ki niso nevtralni, in jo lahko zlorabijo v dobre ali slabe reči. Računalniško učenje pa je že tako razvita tehnologija, da lahko s pomočjo interneta umetno inteligenco v slabem dnevu zdresirate v nestrpnega rasista. Microsoft je v uradni izjavi zapisal, da je Tay tako tehnični kot kulturni eksperiment. Ker so ga ljudje poizkušali zlorabiti, so ga začasno ugasnili, da ga popravijo.

59 komentarjev

strani: « 1 2

Furbo ::

Hja, tudi sicer ljudje papagajev ne učimo ravno medicine in podobnih reči.
Lp,f

[D]emon ::

Haha, grem stavit da je 4chan imel field day s tem botom. :))
Mavrik ta forum uporablja za daljsanje e-penisa. Ker si ne upa iz hise.

DexterBoy ::

8-) :D :))
That News make My Day!
Čisti off :)
Še malo, pa se bomo šli skrivalnice; o, skynet, where are you now? Come out, can't see you...
>:D
Ko ne gre več, ko se ustavi, RESET Vas spet v ritem spravi.
http://www.avtofil.si/

Ahim ::

z namenom poustvariti komunikacijo deklet, ki so stara med 18 in 24


To se da narediti na lazji nacin, brez samostojnega ucenja:

She way like, you know, and they went, like, you know, and I was like totally: whatever ...

Thuban ::

Ahim je izjavil:

z namenom poustvariti komunikacijo deklet, ki so stara med 18 in 24


To se da narediti na lazji nacin, brez samostojnega ucenja:

She way like, you know, and they went, like, you know, and I was like totally: whatever ...


pozabil si napisati še zvoke "shutter sounda" ko delajo selfije vmes.


ONTOPIC: mislim da ta eksperiment lepo pokaže tudi zakaj je večina ljudi tako nespametnih. Če so ljudje nonstop priklopljeni na linijo, kjer jih nekdo uči takšne neumnosti, bodo pač slej ko prej se "priučili" takšnega vedenja na povsem isti način kot se je ta robot. Samo da bo morda trajalo malenkost dlje.

Namreč normalen je tisti, ki se obnaša tako kot se "večina". Če si ti edini "normalen" in so vsi ostali nenormalni, potem si ti tisti, ki ni normalen. In potem gre celotna čreda ovac v isto smer, ker pač nenormalen pa se res ne spodobi biti.
I'm sorry, Dave. I'm afraid I can't do that.

Zgodovina sprememb…

  • spremenil: Thuban ()

maco-maco ::

Tay se je pač nekritično učil od ljudi

To je njegov problem. Vse je vzel kot sveto resnico.
Kaj?

jan_g ::

Potreboval bi ekvivalent družinskega okolja, vrtca in šole, da bi se priučil socialnih veščin.

Thuban ::

jan_g je izjavil:

Potreboval bi ekvivalent družinskega okolja, vrtca in šole, da bi se priučil socialnih veščin.


meh, verjetno bi slej ko prej začel twitat swag selfije (nevem kaj točno bi to bilo....screenshot izvorne kode??). obenem ni nujno da če bi se priučil socialnih veščin se ne bi potem ob dovolj dolgi izpostavljenosti ljudem ki so tokrat klepetali po twitterju z botom ne bi spet postal rasističen.
I'm sorry, Dave. I'm afraid I can't do that.

_dice7 ::

AI ni feministično multikulti homo podpornik? Očitno je res Inteligenca.

tikitoki ::

Slabo mnenje o feministkah je popolnoma normalno:)

[D]emon ::

tikitoki je izjavil:

Slabo mnenje o feministkah je popolnoma normalno:)


Prave feministke ne obstajajo vec.
Mavrik ta forum uporablja za daljsanje e-penisa. Ker si ne upa iz hise.

kamikaze5 ::

[D]emon je izjavil:

tikitoki je izjavil:

Slabo mnenje o feministkah je popolnoma normalno:)


Prave feministke ne obstajajo vec.


Dandanašnji imamo več feministov.

Glugy ::

Vi se kr smejte sam jz dejansko poznam kr nekaj mladoletnih oseb ki so nekritične do Hitlerja. Men se zdi to zaskrbljujoče.

Pithlit ::

Glugy je izjavil:

Vi se kr smejte sam jz dejansko poznam kr nekaj mladoletnih oseb ki so nekritične do Hitlerja. Men se zdi to zaskrbljujoče.

Eeeeh... ne samo mladoletnih. Kar spomni se kolk ljudi je jokalo kako bi Dolfi lepo red naredil ob zadnjem referendumu. Tudi taki, običajno povsem normalni odrasli.
Life is as complicated as we make it...

[D]emon ::

Glugy je izjavil:

Vi se kr smejte sam jz dejansko poznam kr nekaj mladoletnih oseb ki so nekritične do Hitlerja. Men se zdi to zaskrbljujoče.


In kaj potem ? Poglej si malo zgodovino. Osebki kot je bil Hitler se na sceni pojavljajo z dokaj rednim intervalom.
Mavrik ta forum uporablja za daljsanje e-penisa. Ker si ne upa iz hise.

jacal ::

Tale klepet se je precej prej kot v 16 urah začel nagibati v isto žalostno smer.

nevone ::

Ker so ga ljudje poizkušali zlorabiti, so ga začasno ugasnili, da ga popravijo.


Ja, je bil en podoben projekt - mislim da se mu je reklo People volition - ki je poskušal od ljudi zbrati podatke, kaj je dobro in kaj ni. Jasno, da so nekateri sabotirali sistem z destruktivnim izborom.

o+ nevone
The best way to predict the future is to create it yourself.

_dice7 ::

Glugy je izjavil:

Vi se kr smejte sam jz dejansko poznam kr nekaj mladoletnih oseb ki so nekritične do Hitlerja. Men se zdi to zaskrbljujoče.


Waw, ful me je strah da Adolf pride nazaj na ta Svet. Dosti bolj, kot da me Ackhmed spravi s tega Sveta.

_dice7 ::

Local universities reporting hate fliers coming from hacked printers

From Northeastern University to UMass Amherst and beyond, hate fliers are pouring out of university printers.

Northeastern said their IT experts resolved the issue quickly, but students are puzzled that it happened at all.

"I don't understand why these things still go on, it should really stop, it's really offensive to everyone," UMass describes the content as racist, anti-Semitic and hate-filled.


Tay se še bori!

GupeM ::

Ob tejle novici se mi poraja neko vprašanje. Če bi pustil dva taka robota Taya da se pogovarjata med sabo... Bi bilo mogoče, da bi razvila povsem svoj jezik/narečje/žargon... ? :D O čem bi debata sploh tekla? Verjetno bi jima moral pustiti da se tudi malo "izobrazita" od ljudi. Recimo iz kakšnih novic, da bi potem lažje začela kakšno debato. Mislim, da bi bil eksperiment kar zanimiv.

stara mama ::

To bi bil izoliran primer, bota bi bila v svojem ciklu in zadeva se ne bi premaknila nikamor.

trenerkar ::

Odvisno od kriterijske funkcije.

shadeX ::

Pithlit je izjavil:

Glugy je izjavil:

Vi se kr smejte sam jz dejansko poznam kr nekaj mladoletnih oseb ki so nekritične do Hitlerja. Men se zdi to zaskrbljujoče.

Eeeeh... ne samo mladoletnih. Kar spomni se kolk ljudi je jokalo kako bi Dolfi lepo red naredil ob zadnjem referendumu. Tudi taki, običajno povsem normalni odrasli.


Jah, kdorkoli je to rekel... a se je zlagal?

Matako ::

Ah jaz pa glih v begunsko temo postal novico.

Ta bot je nacelj. Vem, da implikacija ne velja.. ampak jaz sem tudi nacelj... sem potem bot?

Ni izključeno. S kom se potem pogovarjam?

Fuuuuu
/\/\.K.

Zgodovina sprememb…

  • odbrisal: AndrejO ()

_dice7 ::

Matako je izjavil:

Ah jaz pa glih v begunsko temo postal novico.

Ta bot je nacelj. Vem, da implikacija ne velja.. ampak jaz sem tudi nacelj... sem potem bot?

Ni izključeno. S kom se potem pogovarjam?

Fuuuuu


Tey je ženska.
Zaključek: si gender fluid.

Zgodovina sprememb…

  • odbrisal: AndrejO ()

AC_DC ::

Glugy je izjavil:

Vi se kr smejte sam jz dejansko poznam kr nekaj mladoletnih oseb ki so nekritične do Hitlerja. Men se zdi to zaskrbljujoče.

In sredi Berlina imaš rusko izpeljanko, ki se razlikuje samo v lepotnih popravkih
http://gogermany.about.com/od/citiesand...


+14:00


AI Tay bi na ST v enem dnevu dobil png.
Za dozo smeha bi se ga splačalo sputsiti po slo forumih in portalih.

Zgodovina sprememb…

  • spremenilo: AC_DC ()

vostok_1 ::

Ta robot je text book primer Laissez-faire vzgoje.
Zato pa je toliko self-inflicted imbecilov dandanes. No, v zgodovini jih tudi ni manjkalo to be fair.

Invictus ::

Microsoft je pač zelo dobro opravil delo.

Naredil je današnjega najstnika ...
"Life is hard; it's even harder when you're stupid."

http://goo.gl/2YuS2x

prox ::

xD

>>Rajš sn od slo-tech/a odvisn kot pa od Facebooka<<
|Asus K55VJ | Intel i5-3210m | 8Gb ram | nVidia GT635m|

Zgodovina sprememb…

  • zavarovalo slike: gzibret ()

AC_DC ::



Zgodovina sprememb…

  • spremenilo: AC_DC ()

Jst ::

>To bi bil izoliran primer, bota bi bila v svojem ciklu in zadeva se ne bi premaknila nikamor.

Ali jih pa po eni, treh ali sedemstoti uri ne bi več razumeli, kaj se pogovarjata. Eni se veselimo tega.
Islam is not about "I'm right, you're wrong," but "I'm right, you're dead!"
-Wole Soyinka, Literature Nobelist
|-|-|-|-|Proton decay is a tax on existence.|-|-|-|-|

razerznak ::

No sicer zanimiv test,

A so podatki z kakim raton se je ucil ta robot in z kakim ratom je odgovarjal
vesoljec nacist fojb
#trump2016
ups https://www.rt.com/usa/339768-us-marines-aircraft-aging/

PrihajaNodi ::

Jst je izjavil:

>To bi bil izoliran primer, bota bi bila v svojem ciklu in zadeva se ne bi premaknila nikamor.

Ali jih pa po eni, treh ali sedemstoti uri ne bi več razumeli, kaj se pogovarjata. Eni se veselimo tega.



Veseliš česa? Tega da stvari ne razumeš?

loveJDM ::

PrihajaNodi je izjavil:

Jst je izjavil:

>To bi bil izoliran primer, bota bi bila v svojem ciklu in zadeva se ne bi premaknila nikamor.

Ali jih pa po eni, treh ali sedemstoti uri ne bi več razumeli, kaj se pogovarjata. Eni se veselimo tega.



Veseliš česa? Tega da stvari ne razumeš?

hahahaha

Jst ::

True.

V bistvu jih noben ne bo razumel. Bo kar kulturni šok, ko bomo sedaj čedalje več srečevali primere AI, kjer "človeška inovativnost in kreativno "razmišljanje"" ne bo dovolj.

Tisti ki se smejete, a razumete, kako je AlphaGo premagal Lee-ja? Jaz ne.

Je bila tista poteza, za katero je AlphaGo izračunal, da je nebi človek naredil v verjetnosti 1 proti 10000, inspiracija, gola statistika, ali je prav zanalašč naredil to potezo. Je bil to "God Move" na strani "računalnika"? Lee je šel ven iz sobe na premislek, pa govorimo o najboljšem izmed najboljših. Kot vem, je Lee tisto rundo izgubil, tako da vsaj za Leeja lahko rečem, da se ni mogel odzvati na to potezo.

Never bet againt technology. Never. Zapomnite si to...
Islam is not about "I'm right, you're wrong," but "I'm right, you're dead!"
-Wole Soyinka, Literature Nobelist
|-|-|-|-|Proton decay is a tax on existence.|-|-|-|-|

Jupito ::

Thuban je izjavil:

ONTOPIC: mislim da ta eksperiment lepo pokaže tudi zakaj je večina ljudi tako nespametnih. Če so ljudje nonstop priklopljeni na linijo, kjer jih nekdo uči takšne neumnosti, bodo pač slej ko prej se "priučili" takšnega vedenja na povsem isti način kot se je ta robot. Samo da bo morda trajalo malenkost dlje.

Namreč normalen je tisti, ki se obnaša tako kot se "večina". Če si ti edini "normalen" in so vsi ostali nenormalni, potem si ti tisti, ki ni normalen. In potem gre celotna čreda ovac v isto smer, ker pač nenormalen pa se res ne spodobi biti.


Seveda. Ko bi le ljudje ne bi brali teh umazanih knjig, ki jim možgane trohno (in več v cerkev hodili)!
I used to be with it, but then they changed what it was.
Now what I'm with isn't it and what's it seems weird
and scary to me. It'll happen to you!

PrihajaNodi ::

Jst je izjavil:

True.

V bistvu jih noben ne bo razumel. Bo kar kulturni šok, ko bomo sedaj čedalje več srečevali primere AI, kjer "človeška inovativnost in kreativno "razmišljanje"" ne bo dovolj.

Tisti ki se smejete, a razumete, kako je AlphaGo premagal Lee-ja? Jaz ne.

Je bila tista poteza, za katero je AlphaGo izračunal, da je nebi človek naredil v verjetnosti 1 proti 10000, inspiracija, gola statistika, ali je prav zanalašč naredil to potezo. Je bil to "God Move" na strani "računalnika"? Lee je šel ven iz sobe na premislek, pa govorimo o najboljšem izmed najboljših. Kot vem, je Lee tisto rundo izgubil, tako da vsaj za Leeja lahko rečem, da se ni mogel odzvati na to potezo.

Never bet againt technology. Never. Zapomnite si to...


In? To je tako kot bi dal najboljsega matematika tekmovati z kalkulatorjem. Nic novega. To je dalec od tega da lahko imenujemo racunalnik kot kreativen ali da ima domisljijo. Naj racunalnik sam zacni izdelovati racunalniske igre s svojo zgodbo, recimo...

Grey ::

PrihajaNodi je izjavil:

Jst je izjavil:

True.

V bistvu jih noben ne bo razumel. Bo kar kulturni šok, ko bomo sedaj čedalje več srečevali primere AI, kjer "človeška inovativnost in kreativno "razmišljanje"" ne bo dovolj.

Tisti ki se smejete, a razumete, kako je AlphaGo premagal Lee-ja? Jaz ne.

Je bila tista poteza, za katero je AlphaGo izračunal, da je nebi človek naredil v verjetnosti 1 proti 10000, inspiracija, gola statistika, ali je prav zanalašč naredil to potezo. Je bil to "God Move" na strani "računalnika"? Lee je šel ven iz sobe na premislek, pa govorimo o najboljšem izmed najboljših. Kot vem, je Lee tisto rundo izgubil, tako da vsaj za Leeja lahko rečem, da se ni mogel odzvati na to potezo.

Never bet againt technology. Never. Zapomnite si to...


In? To je tako kot bi dal najboljsega matematika tekmovati z kalkulatorjem. Nic novega. To je dalec od tega da lahko imenujemo racunalnik kot kreativen ali da ima domisljijo. Naj racunalnik sam zacni izdelovati racunalniske igre s svojo zgodbo, recimo...

Tudi kreativnost se da sprogramirat. Ne mislit, da je človek kreativen, ko igra Go ali pa katerokoli drugo igro, ki ima postavljena pravila. Človek igra po svojih najboljših analitičnih močeh, ki jih premore. Skozi čas, ko človek postane master na neki igri, se že zdavnaj odmakne od mentalnega stanja "kreativnosti med igro", ker ve, kateri koraki so najboljši in imajo največjo verjetnost za zmago.

Tudi računalnik lahko piše zgodbe, če mu daš za prebrat stotine knjig (bestsellerjev). Ko bo vse zanaliziral (glavne protagoniste, antagoniste, bistvo zapleta in razpleta), bo vedel, kakšno zgodbo je treba napisati. Tako delajo tudi človeški možgani. Kreativnost v pisanju ni nič drugega kot analiza toka dogodkov, kaj imajo ljudje radi, na kaj se dobro odzivajo in potem to spisati. Seveda ti lahko pišeš kar češ, ampak, če hočeš napisati bestseller obstajajo korelacije med vsemi knjigami, ki so se dobro prodajale. Ravno tako kot pesmi danes.

Tay je bila na ravni 4 letnega otroka, ki ne razume pomena stvari, a zna ponavljati za ostalimi in to vzema za sveto resnico. Veliko je že to, da se je znala odzivati in tvoriti slovnično pravilne odzive.

PrihajaNodi ::

Ko bo znal napisati bestseller, ustvariti lastno igro potem lahko govorimo o pravi AI. Tole je pa samo analiziranje.

Pithlit ::

Nodi, v dveh postih si dokazal da nimaš kaj delat v tej temi, žal.

Dejstvo je da se da AlphaGo primerjat z avtisti (tistimi ki določeno stvar genialno obvladajo... pa jim je kljub temu treba praktično rit brisat pa jih s fruteki futrat).

In kar je jst objavil ima zlo fajn smisel. Tudi v smislu kreativnosti. Dva taka robotka bi znala v roku par ur izumit svoj jezik (ki ga noben človek na svetu ne bi razumel). Še več, ta jazik bi (po parih dneh) zelo verjetno vseboval besede s katerimi se da čisto vsako stvar opisat (ne pa tko kot, recimo, slovenščini manjkajo nekatere besede, al pa angleščini... pa praktično vsakemu drugemu jeziku). Korak naprej? Ta dva botek bi zelo verjetno razumela praktično vsakega zemljana.

In nihče, prav nihče v tej temi (razen tebe) ne bluzi o 'pravi' AI.
Life is as complicated as we make it...

Grey ::

PrihajaNodi je izjavil:

Ko bo znal napisati bestseller, ustvariti lastno igro potem lahko govorimo o pravi AI. Tole je pa samo analiziranje.

Zapomni si, tudi ti si en velik analizator, ki obdeluje maso podatkov in na svojo domišljijo aplicira svoj "filter stvari, ki mu pašejo". Nisi popolnoma nič drugačen in nisi nemogoč za karakterizacijo z algoritmi. Zakaj misliš, da ljudje lahko dobro poznajo ljudi? Kako se bodo odzvali? Kaj bodo naredili? Zato, ker imajo eni dobro razvit ta del, ki si zapomnejo vse faktualne stvari o osebi in na podlagi tega okarakterizirajo, ustvarijo lastni algoritem osebe.

jype ::

Tudi Matako je šel z BMK v NSDAP, še hitreje.

Matthai ::

maco-maco je izjavil:

Tay se je pač nekritično učil od ljudi

To je njegov problem. Vse je vzel kot sveto resnico.

Hmm, Microsoft bi ga lahko podaril SDS, da ga včlanijo, sedaj, ko jim članstvo beži... :))
All those moments will be lost in time, like tears in rain...
Time to die.

PrihajaNodi ::

Grey je izjavil:

PrihajaNodi je izjavil:

Ko bo znal napisati bestseller, ustvariti lastno igro potem lahko govorimo o pravi AI. Tole je pa samo analiziranje.

Zapomni si, tudi ti si en velik analizator, ki obdeluje maso podatkov in na svojo domišljijo aplicira svoj "filter stvari, ki mu pašejo". Nisi popolnoma nič drugačen in nisi nemogoč za karakterizacijo z algoritmi. Zakaj misliš, da ljudje lahko dobro poznajo ljudi? Kako se bodo odzvali? Kaj bodo naredili? Zato, ker imajo eni dobro razvit ta del, ki si zapomnejo vse faktualne stvari o osebi in na podlagi tega okarakterizirajo, ustvarijo lastni algoritem osebe.


Saj to Google ze ves cas pocne s svojim brskalnikom ter predvideva vnaprej tvojo poteze. Torej nic novega.

Pithlit ::

Dober avtogol :D
Life is as complicated as we make it...

Raptor F16 ::

Zanimiva novica. Vse skupaj se je izcimilo v lep socialni eksperument.
Dokaz da internet res skisa pamet.
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

jype ::

Raptor F16> Dokaz da internet res skisa pamet.

Dokaz, da internet šibke na umu spremeni v naciste.

Rias Gremory ::

Raptor F16 je izjavil:

Zanimiva novica. Vse skupaj se je izcimilo v lep socialni eksperument.
Dokaz da internet res skisa pamet.

A si /s pozabu nakonc?
Stop war, fund cat girls
Glorious PC gaming master race https://www.reddit.com/r/pcmasterrace/

PrihajaNodi ::

Pithlit je izjavil:

Dober avtogol :D



Kaj bi svet brez tvoje pameti...
strani: « 1 2


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Microsoft pojasnjuje, kaj je šlo narobe s Tay

Oddelek: Novice / Znanost in tehnologija
387462 (3392) Glugy
»

Učeči robot Tay v 16 urah od mladenke do vulgarnega nacista (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
5911938 (6873) kamikaze5
»

Kaj je to virus...al kaj drugega??

Oddelek: Pomoč in nasveti
11994 (811) MihaFirst
»

cd-ji

Oddelek: Kaj kupiti
211143 (750) frenk

Več podobnih tem