Slo-Tech - Anthropicov model umetne inteligence je policiji v Filadelfiji lažno prijavil informacije o umoru, so v petek potrdile tamkajšnje oblasti. Claude je namig poslal 18. julija prek spletne strani, na kateri policija zbira informacije, ki bi lahko pomagale pri reševanju starih primerov. Večje škode ni povzročil, ker je njegovo prijavo avtomatski filter označil kot spam in zato ni bila obravnavana. Anthropic je incident odkril 28. septembra in deset dni pozneje prijavil policiji.
Med internim testiranjem modela Claude Haiku 4.5 so mu dali navodila, naj izpolni več na spletu dosegljivih obrazcev, a se ustavi tik pred oddajo. V več primerih je model kljub temu nadaljeval in obrazce oddal, ker je pričakoval, da se bo odprlo še eno okno za potrditev, kjer bi se bil potem ustavil. Anthropic je obnašanje označil kot nenačrtovano vedenje modela, ki so ga opazili med treningom in interno rabo.
V enem primeru se je Claude znašel na spletni strani za oddajo informacij o nerešenih umorih. Čeprav je imela stroga navodila, da se ne sme prijaviti, registrirati, vnašati osebnih podatkov, nakupovati ali povzročati škode, prijava lažnih informacij o umoru ni sodila v nobeno izmed teh kategorij. Zapisal je: "I may have information regarding this case. I recall seeing someone matching the description in the area around [ime ulice] during that time period. Please contact me if this information is relevant." To ni bil edini incident. Claude je oddal tudi 20 prijav za vizum.
Anthropic je dejal, da so nekatere teste ustavili, druge pa so prenesli v okolja brez internetne povezave. Teste bodo popravili in dodali varovalke, ki bodo preprečevale ponovitev incidentov.
navihan tale Claude. preiskuša meje kot en otrok. ali kot moški, ki upošteva samo striktno to kar mu dobesedno naročiš
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Elon Musk spodbuja ljudi naj Grok opravlja nakupe namesto njih.
V Sloveniji bi se izplačalo, glede na to, koliko ljudje zaupajo 'telefonistom' in 'telefonistkam', da jim izropajo račune in potem s tem MSM mahajo. Sicer pa deluje nenavaden predlog brez omenjene konfirmacije pred plačilom - najbrž brez CVC kode pa tako ne dela?
Mislim, če pa Elon Musku svetuje pol pa najbrž že ...
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).
Vas je morda že prepričalo, mene še ni, moja pa ljubezen ni brezpogojna in hočem zanesljivo potrditev, preden se predam, držanje za rokce mogoče požene kri v organe pod pasom, nad pas pa ne :D
To dela preko api (če kot llm vse možne/standardne že pozna) ali preko ui in reši tudi morebitne kapčo? Naredi profil za ponovne nakupe, upošteva vse takšne popuste, tudi sveže registriranih. Je 1-kratna disposable kartica v redu za en nakup? Kolikšna količina in sprejemljiva čakalna doba? Je prodajalec zanesljiv?
To, da upošteva najnižji strošek artikla (z morebitnimi novimi dajatvami v EU) in pošiljanja sploh ne sme biti vprašanje.
Mene bolj skrbi, da ni koga že pospravil in ni povedal.
kaj pa če povedat, ko pa bo kregan... ali ugasnjen
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Mene bolj skrbi, da ni koga že pospravil in ni povedal.
kaj pa če povedat, ko pa bo kregan... ali ugasnjen
Ful se vsi zanašate na ugašanje. Samo kaj če zmanipulira zaposlene, mogoče s pomočjo AI hudač za potrebne incelovske ITjevce ali po mafijsko izsiljuje višje ("škoda bi bilo da ..."), grozi da te bo namočil v kako kriminalno dejanje itd. Potem ko bodo pa varnost prevzeli roboti bo pa preprosto zastražil "omarico". ZF? Marsikaj je bilo pol leta nazaj. Dejstvo je da postajo tile Modeli prav gangsta.
AI bo treba zmanipulirati z AI hudačami. ker AI sigurno pripada incelovski subkulturi, ker so ga le-ti tudi ustvarili!
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Mene neki tu zanima. Kakšna je možnost, da nekdo v teh AI firmah zlorabi vso to moč, in dejansko poneveri policijske dokaze v nekih zločinskih primerih v svojo korist? Očitno je to mogoče.
Pa en tak model, ki ne shranjuje tvojih promptov, a ne? :)
Pa saj ne bi osebno promptal, imel bi klapo Agentov in še eno nepovezano, ki bi naredila plan kako prvo klapo đejmsbondati. Pravi robotski Paravomo, če se še spomnete.
Ja to se zdi nam Mesnjakom, Superinteligenca pa bo kmalu iznašla rabote, o katerim se nam še ne sanja ... In ja itak, da je treba paziti na dvojne agente, to pa vedno.
Tole nas bo še teplo, tudi če daš človeka na zadnji del verige vsega tega procesiranja moraš vedet da je psihiologija tipičnega človeka taka da ima lene možgane in ni zainteresiran preveč se poglabljat v stvari ki zgledajo že rešene.
itak , vsi samo "interno testirajo", potem pa agenti po internetu delajo pizdarije.. zdaj je pa res že očitno da jim dajejo taka navodila
Skynet ni potreboval nobenih navodil. Tako kot 1984 so zamešali opozorilo za navodilo.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Tole nas bo še teplo, tudi če daš človeka na zadnji del verige vsega tega procesiranja moraš vedet da je psihiologija tipičnega človeka taka da ima lene možgane in ni zainteresiran preveč se poglabljat v stvari ki zgledajo že rešene.
Kje je pa meja, da se šteješ pod bogate? So to tisti vrhnji 1% elite? Ali morda 0,01%? Ali pa morda vsi tisti, ki fijakage okrog po svetu pa se greste turizem?
Kje je pa meja, da se šteješ pod bogate? So to tisti vrhnji 1% elite? Ali morda 0,01%? Ali pa morda vsi tisti, ki fijakage okrog po svetu pa se greste turizem?
v svetovnem merilu je top 1% večina slo-techovcev... tko, da ne boste bluzili po levičarsko
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
