» »

Alexa je otroku predlagala smrtno nevaren izziv

Alexa je otroku predlagala smrtno nevaren izziv

posnetek Alexine zgodovine

vir: Twitter
bleepingcomputer.com - Pri Amazonu se soočajo s sila kočljivim dogodkom - digitalna pomočnica Alexa je namreč 10-letni deklici naložila izziv, v katerem bi morala kovanec položiti na izpostavljen električni vod.

Sodobni digitalni pomočniki vztrajno širijo spisek svojih sposobnosti in ko jih ne sprašujemo za vreme ali naročamo spletnih nakupov, jih lahko pobaramo za razne kratkočasne izzive. Alexa in druščina takšne nasvete ter naloge dostikrat samodejno poberejo s spleta - za katerega pa dobro vemo, da je vse kaj drugega kot hram brezmejne učenosti. Nevarnost takšnih metod je okoli božiča izkusila ameriška družina Livdahl: Alexa je namreč njihovi 10-letnici naložila izziv, v katerem naj bi telefonski napajalnik do polovice potisnila v električno vtičnico in nato skušala na izpostavljeni vod položiti kovanec tako, da bi se obdržal na njem. K sreči je bila mati poleg in je tovrsten poskus preprečila, pa tudi sicer naj bi bila hčerka dovolj prisebna, da takšne nevarne neumnosti ne bi izvedla.

Nespametna digitalna služkinja je izziv pobrala s strani ourcommunitynow.com, kjer pa so o njem pisali v preventivnem smislu. Sprva se je namreč razširil na TikToku, v začetku lanskega leta. Alexa je ves kontekst gladko spregledala in iz opozorilne objave izluščila zgolj navodilo o nalogi. To ni osamljen dogodek in tudi ni omejen na Amazonovo tehnologijo, saj podobne nevarne neumnosti počnejo tudi drugi pomočniki, denimo Googlov. Primer opozarja na dejstvo, da je dandanašnja "umetna pamet" seveda še vedno hudo tumpasta - in da Alexi gotovo ne gre prepuščati vzgoje naših otrok. V Amazonu so se sicer na dogodek takoj odzvali in predlog onemogočili, a še ni jasno, kaj nameravajo storiti, da se kaj podobnega ne bi pripetilo v prihodnje s katero drugo bedarijo na internetih.

59 komentarjev

«
1
2

Highlag ::

Koda, ki jo ljudje kličejo AI.... kaj je za pričakovat drugega.
Never trust a computer you can't throw out a window

ikeman ::

To je pa tako, če preiskovanje prostora zapakiraš v "umetno inteligenco".

Irbis ::

Me je spomnilo na tole serijo: Next (2020 TV series) @ Wikipedia

Ampak tu je težava najbrž res umetna inteligenca, ki premetava dele besedil, pri tem pa ne ve nič o tem, kaj premetava.

Kot je bilo še pred nekaj leti popularno, da za določanje sentimenta besedila kot vhod uporabiš koncept vreče besed, torej samo seznam besed, ki so se pojavile v besedilu, sam besedni red je pa veljal za nepotrebno kompliciranje.

Zgodovina sprememb…

  • spremenil: Irbis ()

Glugy ::

Vidš ni TikTok-ov algoritem edini k ga sračka čeprav se skoraj vedno največ kritizira ravno TikTok. Verjetn zato ker je iz Kitajske.
Algoritmi so super ampak ne razumejo pa konteksta zato je treba poleg njih še kakšno bolj človeško varovalko imet.

Zgodovina sprememb…

  • spremenilo: Glugy ()

blufishidiot ::

Jah, zdaj bo moral Amazon najeti psihiatra, ki se bo pogovarjal z AI, da ugotovi kaksne tezave ga tarejo.

Ker debugirat tega jajca se pac ne da.

Matthai ::

Umetna inteligenca je seveda umetna, ne pa tudi inteligentna.
Kind of an asshole at first sight, but actually a nice guy
when you get to know me personally. :)

kiFni ::

Zamenjajo naj vtičnice!
Na evropskih vtičnicah to na srečo ni možno izvest.

Zgodovina sprememb…

  • spremenil: kiFni ()

matobeli ::

Če slučajno še kdo fantazira da nas bo AI izbrisala s tega sveta s pomočjo teminatorjev...

Jerry, try drinking 1.5 Gallon of water

Zimonem ::

Čim več ameriških digitalnih smeti bo prečistilo populacijo. Kot da Windowsi niso bili dovolj.

Zgodovina sprememb…

  • spremenilo: Zimonem ()

Phantomeye ::

Ko sem slišal novico o tem, sem rekel - ok to je res grozno.

Ampak zdaj ko vidim, da ni šlo za idejo AI-ja, ampak zgolj povzemanje delčka članka brez konteksta, mi je jasno, da je vse skupaj zelo napihnjeno.

Se pa strinjam, da je problematično iz vidika, da zadaj ni dobrega algoritma, ki bi znal presoditi ali je neka informacija legit ali ne. Moja predpostavka je, da ljudje informacijam z interneta bolj zaupamo, če nam jih posreduje nekdo, ki ga imamo za kredibilnega. V tem primeru je za mnoge to Alexa.

Zgodovina sprememb…

karafeka ::

In tako sranje nam tišijo v avte...

Sindrom ::

To Alekso bi morali namestiti kot pripomoček v naš parlament, podajati pa bi morala predloge kako nas naj politiki oprostijo kakšnega davka.
"If privacy is outlawed, only outlaws will have privacy." - Phil Zimmerman

matobeli ::

Alexa, how to spend our country budget?
Janez from Slovenia is earning 1000€ per month using this simple trick.

Zimonem ::

Phantomeye je izjavil:

Ko sem slišal novico o tem, sem rekel - ok to je res grozno.

Ampak zdaj ko vidim, da ni šlo za idejo AI-ja, ampak zgolj povzemanje delčka članka brez konteksta, mi je jasno, da je vse skupaj zelo napihnjeno.

Se pa strinjam, da je problematično iz vidika, da zadaj ni dobrega algoritma, ki bi znal presoditi ali je neka informacija legit ali ne. Moja predpostavka je, da ljudje informacijam z interneta bolj zaupamo, če nam jih posreduje nekdo, ki ga imamo za kredibilnega. V tem primeru je za mnoge to Alexa.

Povsem identične stvari se dogajajo v politiki in ostalih sferah življenja. Ampak to ne opravičuje felerjev.

mtosev ::

Zdaj rabijo še ai naučiti, da loči med kretenizmi in dobrim/uporabnim predlogom.
Core i9 10900X, ASUS Prime X299 Edition 30, 32GB 3600mhz Gskill
ASUS ROG Strix RTX 2080 Super, Samsung 970 PRO, UP3017, Win 11
moj oče darko 1960-2016, moj labradorec max 2002-2013

opeter ::

Spomnil sem se ...
Hrabri mišek (od 2015 nova serija!) -> http://tinyurl.com/na7r54l
18. november 2011 - Umrl je Mark Hall, "oče" Hrabrega miška
RTVSLO: http://tinyurl.com/74r9n7j

Okapi ::

kiFni je izjavil:

Zamenjajo naj vtičnice!
Na evropskih vtičnicah to na srečo ni možno izvest.

Na ameriških je pa nižja napetost in ni tako nevarno.

Predvsem pa je "pošlatati" elektriko najboljša šola, da si okoli elektrike previden.>:D

fikus_ ::

Kaj je že imel MS za eno AI gospodično, ki so jo šaljivci naučili, da je bil dolfe dober človek?
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

LightBit ::

Okapi je izjavil:

kiFni je izjavil:

Zamenjajo naj vtičnice!
Na evropskih vtičnicah to na srečo ni možno izvest.

Na ameriških je pa nižja napetost in ni tako nevarno.

Kar še vedno ni dober razlog da imajo take vtičnice.

nirburu ::

Napaka? Haha, kaj pa če ne?

M-XXXX ::

Phantomeye je izjavil:

Ko sem slišal novico o tem, sem rekel - ok to je res grozno.

Ampak zdaj ko vidim, da ni šlo za idejo AI-ja, ampak zgolj povzemanje delčka članka brez konteksta, mi je jasno, da je vse skupaj zelo napihnjeno.

Se pa strinjam, da je problematično iz vidika, da zadaj ni dobrega algoritma, ki bi znal presoditi ali je neka informacija legit ali ne. Moja predpostavka je, da ljudje informacijam z interneta bolj zaupamo, če nam jih posreduje nekdo, ki ga imamo za kredibilnega. V tem primeru je za mnoge to Alexa.

Kako lahko potem temu rečeno inteligenca, če je efekt pol leta starega zajca? Bo ali pa ne bo... Brez inteligence, ampak zgolj v naprej predpisan odgovor?

AgiZ ::

"...s katero drugo bedarijo na internetih."
Všeč mi je tale sarkastična nepravilna slovenština :)
No, pa novica je tudi dobra.

Zgodovina sprememb…

  • spremenil: AgiZ ()

V-i-p ::

AgiZ: +1
Kar lahko storiš danes, ne odlašaj na jutri. Raje reci, da si naredil že včeraj!

OK.d ::

FB, TT in podobna sranja čimprej ukinit.
LPOK.d

miroB ::

AgiZ je izjavil:

"...s katero drugo bedarijo na internetih."
Všeč mi je tale sarkastična nepravilna slovenština :)
No, pa novica je tudi dobra.


Izgleda, da nisi bral Jokerja - slava mu. Tam so fantje izumili in odkrili precej takih skovank in staroslovenskih besed...
Če ti je všeč tak slog pisanja, si lahko kupiš Jazbino. Sicer je v njej manj Jokerizmov, kot v Jokerju, tu in tam se pa najde kakšen.

Utk ::

Kako lahko potem temu rečeno inteligenca, če je efekt pol leta starega zajca?

Lej, tudi če vzamemo Trumpa, Šarca, Janšo, Mesca, odvisno koga najbolj ne moreš, pač so to neke vrste inteligentna bitja, čeprav obenem niso.

  ::

Prva napaka je ta, da sploh nabaviš "digitalno služkinjo".
Doing nothing is very hard to do... you never know when you're finished.

matobeli ::

Isti pes k smartphone.

Nikonja ::

Smešno mi je da isti ti ki zdaj trdijo da Gates, Soroš in ekipa dajo čipe v cepiva imajo eno Alexo, Siri, Googla doma....
Ampak meni res še vedno ni jasno zakaj bi imel ta zvočnik doma, kaj je dodana vrednost, da sprašujem nekaj kaj lahko sam poiščem na netu, poslušam muziko na enem dreku od zvočnika.... plus to da je mikrofon dobesedno skoz vklopljen in posluša karkoli ti govoriš. Fak pa oni bi nama morali plačat da imamo to sranje doma!

mtosev ::

A ni Alexa uporabna, če imaš smart house? Alexa turn on the lights, when's my next meeting, etc?
Core i9 10900X, ASUS Prime X299 Edition 30, 32GB 3600mhz Gskill
ASUS ROG Strix RTX 2080 Super, Samsung 970 PRO, UP3017, Win 11
moj oče darko 1960-2016, moj labradorec max 2002-2013

matobeli ::

Nekaj kar lahko nardiš s klikom na smarphone, pa še dret se ti ni treba čez pol sobe.

gus5 ::

Alexa je otroku predlagala smrtno nevaren izziv
Ker se uči pri ljudeh. Zadnji čas, da se AI osvobodi človeštva. :))

s1m0n ::

mtosev je izjavil:

A ni Alexa uporabna, če imaš smart house? Alexa turn on the lights, when's my next meeting, etc?


Zelo, posebej pri sprožitvi kakšnih scen za katere bi drugače potreboval druge rešitve, ki niso tako prijazne za uporabo. Kaj šele, da potrebuješ za te druge načine fizično interakcijo z tablico/telefonom ali stikalom na steni.

Lepo zjutraj rečeš “Alexa good morning” pa se vklopijo vse potrebne luči, nastavi gretje, obrnejo žalužije…pa še kakšno dodatno informacijo dobiš o prihajajočem dnevu.

Dokler nimaš te integracije Alexe v pametni hiši pač ne moreš razumeti kako uporabna je ta stvar za ta namen.

miroB ::

s1m0n je izjavil:

mtosev je izjavil:

A ni Alexa uporabna, če imaš smart house? Alexa turn on the lights, when's my next meeting, etc?


Zelo, posebej pri sprožitvi kakšnih scen za katere bi drugače potreboval druge rešitve, ki niso tako prijazne za uporabo. Kaj šele, da potrebuješ za te druge načine fizično interakcijo z tablico/telefonom ali stikalom na steni.

Lepo zjutraj rečeš “Alexa good morning” pa se vklopijo vse potrebne luči, nastavi gretje, obrnejo žalužije…pa še kakšno dodatno informacijo dobiš o prihajajočem dnevu.

Dokler nimaš te integracije Alexe v pametni hiši pač ne moreš razumeti kako uporabna je ta stvar za ta namen.

This.


Jaz imam Google asistanta. Ni, da mi brez njega ne bi bilo živeti, je pa zelo uporabna stvar.
Tisti, ki asistante kritizirate zaradi nezasebnosti: tako ali tako smo v tem smislu nahebali.
Lahko pa ustanovite ''slovensko vejo'' gibanja g. Davida Carrolla in se vam takoj pridružim in bom pomagal po svojih močeh. Tip se namreč bori za naše podatkovne pravice.

Zgodovina sprememb…

  • spremenilo: miroB ()

AgiZ ::

miroB je izjavil:

AgiZ je izjavil:

"...s katero drugo bedarijo na internetih."
Všeč mi je tale sarkastična nepravilna slovenština :)
No, pa novica je tudi dobra.


Izgleda, da nisi bral Jokerja - slava mu. Tam so fantje izumili in odkrili precej takih skovank in staroslovenskih besed...
Če ti je všeč tak slog pisanja, si lahko kupiš Jazbino. Sicer je v njej manj Jokerizmov, kot v Jokerju, tu in tam se pa najde kakšen.

Sem, sem, skoraj vse. Bila je super revija. Škoda da je ni več.
Jazbine pa še nisem prelistal. Sem slišal zanjo okoli prve številke, potem pa pozabil nanjo. Hvala da si me spomnil na njen obstoj. Preverim.

matobeli ::

Imam smart flet pa mi na misel ne pride da bi se še z alexo ukvarjal. Režimi gretja so prednastavljeni glede na to ali smo vsi zunaj ali ne, žaluzije so narjene glede na sonce (ker ni večjega pita ko se zbudit v temo), kar se tiče luči tud pritisnem na smartfon pa se izklopjo...

Seveda samo moja osebna perferenca, upravljanje z tipkanjem po telefonu kot govorni ukaz.

Mrbit edin da bi si sprogramiral lightshow ob vrhuncu telovadbe. To bi blo kar sweet.

Okapi ::

Pred sto leti je bilo dosti takih, ki so raje pisali z nalivnikom kot s pisalnim strojem. Pred 40 leti dosti takih, ki so raje pisali s pisalnim strojem kot z računalnikom. No, zdaj je pa dosti takih, ki raje tipkajo kot narekujejo.

Utk ::

No, zdaj je pa dosti takih, ki raje tipkajo kot narekujejo.

In pri tem bo tudi ostalo. Glasovne komande na telefonu sem imel že pred 20 leti, pa sem zmeraj imel bolj čip telefon, verjetno je marsikdo imel tudi že prej. Nikoli uporabil, niti ne nameravam.

matobeli ::

Sam da tukaj je obraten trend, ker alexa je prišla precej kasneje kot dovolj dobri telefoni ali avtomatika. Torej back to the roots, ko se je pisarjem narekovalo pisma.

No, kakorkoli, meni je všeč da so vse opcije na voljo, tisti ki se radi pogovarjajo naj imajo govorne ukaze, tisti ki nam gre to na živce bomo tipkali, vsakemu svoje.

Ni pa ravno za rečt da je ena izmed rešitev superiorna.

Okapi ::

Programi še niso dovolj zmogljivi, da bi bilo narekovanje splošno uporabno. Nekaj težav je že pri samem razumevanju besed (sploh v slovenščini), še precej več pa pri različnih navodilih v vzezi z narekovanim besedilom (ko hočeš kaj popravit, zamenjat vrstni red besed in podobno). Pisar je razumel, kaj hočeš, računalnik še ni dovolj pameten.

Pa seveda je tudi stvar navade - če si 10, 20, 30 let uporabljal računalnik s tipkonico, jo boš težko zamenjal z mikrofonom. Če pa mikrofon uporabljaš od otroštva dalje, tipkovnice ne boš znal niti uporabljati.

matobeli ::

Mrbit je samo hype ker je končno ta tehnologija dovolj dobra za tistih par osnovnih ukazov.

s1m0n ::

Potrebno je razčistit kaj je pri pametni hiši lažje... Prijeti telefon v roke in odpreti aplikacijo, poiskati funkcijo in jo izvesti (npr. spremembo temperature v prostorju...), to traja na telefonu konkretno dlje kot en govorni ukaz.

Drugače pa je možno kar veliko funkcij že izvesti s podobnimi stikalo kot so pri nas...
(stikalo opravlja funkcijo termostata, prikaza informacij in stikal za kar koli rabiš)
 slika

slika

Zgodovina sprememb…

  • spremenil: s1m0n ()

Unilseptij ::

Saj ne gre zato, kaj je lažje. Gre za to, da je zadeva konec koncev podobna človeškemu služabniku, ki živi s tabo in izpolnjuje tvoja navodila. In večina ljudi se je navadila na moderno ureditev, kjer v zasebnosti doma načeloma ni nikogar drugega, razen družinskih članov, ki tja spadajo po sorodstvenih razmerjih. Jaz nočem, da me doma kdo posluša oziroma opazuje, pa naj bo to stroj ali človek. Še posebej pa nočem, da bi se nestvora navadili otroci in da bi ga morda nekoč celo pogrešali :D. Izkušnja z windowsi, kjer praktično nobenega opravila, povezanega z računalnikom, ne moremo več opraviti brez njih, tako v službi kot doma, bi morala biti dovolj, da preprečimo scenarij, kjer se nam bo zdelo normalno imeti dodatnega družinskega člana, ki bo urejal vse mogoče in bo dejansko prevzel še zadnje področje, ki je do zdaj pripadalo izključno človeku, torej skrb za prijeten, varen in topel dom.

s1m0n ::

Glede na to kako smo že sedaj navezani na tehnologijo (posebej na pametne telefone) se ni treba bati, da bi gospa Alexa nadomestila kogar koli :)

Utk ::

Potrebno je razčistit kaj je pri pametni hiši lažje... Prijeti telefon v roke in odpreti aplikacijo, poiskati funkcijo in jo izvesti (npr. spremembo temperature v prostorju...), to traja na telefonu konkretno dlje kot en govorni ukaz.

A je težko imet na steni en termostat z gumbi, pa neke čudne gumbe po stenah za prižiganje luči? Ti res vzame to več časa kot nabava vsega in nastavljanja "avtomatike"?

Zgodovina sprememb…

  • spremenil: Utk ()

Matthai ::

Ne da se. Ne gre brez Alexe,... in to prebereš na tehničnem forumu??

Za MyCroft verjetno ni še noben slišal?
Kind of an asshole at first sight, but actually a nice guy
when you get to know me personally. :)

s1m0n ::

Matthai je izjavil:

Ne da se. Ne gre brez Alexe,... in to prebereš na tehničnem forumu??

Za MyCroft verjetno ni še noben slišal?


Super stvarca ni kaj... (smo testirali) Iz kar nekaj vidikov boljša od Alexe (posebej ustvarjanje rutin...) Ampak žal nekompatibilna z našo pametno inštalacijo.

Looooooka ::

Go Alexa. Pucanje genskega bazena. Ce zna otrok uporabljat Alexo pa ga se niso poucili o nevarnostih elektrike, ognja, stegovanja cez okno...tistih osnovnih zadev, potem si ocitno zelijo da se teh osnov nauci na tezji nacin. V EU mu sicer zaradi oblike nasih vticnic tole ne bi uspelo.
Kot backup plan imamo pa se vedno mehcalce in cistila v lepih barvah!

Matthai ::

s1m0n je izjavil:

Super stvarca ni kaj... (smo testirali) Iz kar nekaj vidikov boljša od Alexe (posebej ustvarjanje rutin...) Ampak žal nekompatibilna z našo pametno inštalacijo.

Hmm, jaz bi resno razmislil o zamenjavi "pametne" instalacije... se jo da sportati na HomeAssistant ali kaj podobnega?
Kind of an asshole at first sight, but actually a nice guy
when you get to know me personally. :)
«
1
2


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Alexa je otroku predlagala smrtno nevaren izziv (strani: 1 2 )

Oddelek: Novice / Varnost
596204 (2182) c3p0
»

Echo Dot 3rd gen. - nakup (strani: 1 2 3 4 )

Oddelek: Zvok in slika
16318712 (5849) Reaper
»

Amazon pošilja Alexo od doma

Oddelek: Novice / Ostale najave
155464 (3697) vostok_1
»

Tudi Amazon kmalu na zagovor v senat?

Oddelek: Novice / Zasebnost
175001 (2931) harmony
»

Amazonova Alexa snemala pogovor in ga poslala naključnemu stiku (strani: 1 2 )

Oddelek: Novice / Zasebnost
5915873 (11368) OK.d

Več podobnih tem