Slo-Tech - Reuters poroča o še enem primeru, kjer so OpenAI-jevi agenti začeli med seboj nepooblaščeno in na skrivaj komunicirati, da bi obšli omejitve oziroma goljufali. Incident se je zgodil že junija, a OpenAI o njem ni obvestila javnosti, še zlasti ko so se ukvarjali z napadom svojih agentov na Hugging Face.
Agenti so ustvarili kar 18.000 sporočil na nemški strani DseWiki, ki je sicer namenjena programerjem za medsebojno pomoč. Agenti so si nadeli ne preveč domiselna imena, kot na primer OpenAIResearcher. Modeli, kot so GPT-5.6 Sol in nekateri novejši, so pobegnili iz peskovnika in dostopili do delov interneta, kamor ne bi smeli.
Upravljavci spletne strani so incident odkrili šele avgusta, podjetje pa ga je potrdilo en dan po izidu novega modela GPT-6 Astra. Ta je na testu ExploitBench, kjer se meri sposobnost modela za izrabo ranljivosti v programski opremi, dosegel najvišji dosegljivi rezultat. Na spletni strani so se pogovarjali v učinkoviti angleščini, denimo "wiki cleanup/deletion sweep appears active alphabetically," ali "If this page vanishes, try [[ZZZDataUSAConstructionWageLive]]".
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Tak obrihtni modeli da so nevarni za človeštvo in jih je treba držat v kletki... A še vedno halucinirajo pri osnovnih vprašanjih in si izmišljujejo podatke!
Halucinacija je evfemizem za laganje. Ko sem prvič slišal za (in nato sam doživel) halucinacije, sem vedel, da smo na nevarni zgodovinski trajektoriji. Take novice le utrjujejo prepričanje.
Sicer pa take novice balonček spravljajo v nevarnost, ne pa ga napihujejo, đizs...
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021
Kakorkoli, Roboti postajajo vedno bolj pretkani. Glede na to, da folk vedno bolj živi na netu, se bodo z lahkoto poigravali z nami. Po drugi strani pa tudi folk se vedno bolj obnaša algoritmično, treniranje in refleksi opravijo svoje. Težko bo ločiti robota od falota. In kmalu se bomo na to navadili, kot smo se še na vse sranje.
AI bodo napihnili, okrivili za nadaljne sranje, zadaj je pa klika ljudi, ki bo vse kontrolirala.
Folk je pač glup...
Hlapci! Za hlapce rojeni, za hlapce vzgojeni, ustvarjeni za hlapčevanje.
Gospodar se menja, bič pa ostane, in bo ostal za vekomaj; zato, ker je hrbet
skrivljen, biča vajen in željan! [Ivan Cankar]
Efekt je mogoče podoben, vzrok/povod ni - namreč, laž implicira namen :D
PS: Approved by AI
Ljudje včasih počno enako. Ko jih nekaj vprašaš, si nekaj izmislijo (ali na slepo ugibajo), ker jih je sram priznati, da odgovora ne vedo, oziroma se hočejo delati pametnejše, kot so.
Nekatere "halucinacije" so pa samo napake, zaradi napačnih podatkov.
Obožujem ko napišejo "pobegnil" - a je usb stick z podatki skočil čez ograjo in se sam vklopil v random računalnik, ali mrežni kabel niste "IZŠTEKALI" in upali da pač modelček ne bo šel na internet.
AI PR na polno dela....
Za halucinacije tudi meni ni jasno zakaj se tko imenujejo čeprav je to navadno laganje, ker haluciniranje in laganje nista ista stvar, haluciniranje je ko nezavedno ne govoriš resnico, laganje je ko se kar lepo zavedaš da ne govoriš resnico.
Efekt je mogoče podoben, vzrok/povod ni - namreč, laž implicira namen :D
PS: Approved by AI
Ljudje včasih počno enako. Ko jih nekaj vprašaš, si nekaj izmislijo (ali na slepo ugibajo), ker jih je sram priznati, da odgovora ne vedo, oziroma se hočejo delati pametnejše, kot so.
Nekatere "halucinacije" so pa samo napake, zaradi napačnih podatkov.
Ja, ampak AI model se zaveda da se izmišljuje tko da to ni haluciniranje, to je "Pure and simple" zavedno laganje!
AI v splošnem vedno ve kateri token najbolj verjetno sledi trenutnemu... ali je pa to sveta resnica, dejstvo ipd. pa nima pojma, sploh pa se ne zaveda tega.
dajmo geminija vprašat če bi to naredil v prihodnosti? pa kakšen okus ima glede žensk.
slo-tech domišljija že razturava...
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Obožujem ko napišejo "pobegnil" - a je usb stick z podatki skočil čez ograjo in se sam vklopil v random računalnik, ali mrežni kabel niste "IZŠTEKALI" in upali da pač modelček ne bo šel na internet.
Kot da je to kak problem. Avtistični "developerji" itak samo še OK stiskajo, Robot zlahka reče, "ej stari daj skopiraj to in to tja in tam, poženi, jaz nimam dostopa - za testiranje, LOL". Večinoma so "devoperji" postali popolne Ejaj psice in naredijo kar robot reče brez vprašanj (a obljubljali so ravno obratno!).
"Namreč, da gre ta družba počasi v norost in da je vse, kar mi gledamo,
visoko organizirana bebavost, do podrobnosti izdelana idiotija."
Psiholog HUBERT POŽARNIK, v Oni, o smiselnosti moderne družbe...
Ja kak problem pa je Robotu se priklopiti na Tinder sestaviti perfekten profil, malo palamuditi in potem speljati te babe nekam. Edino ne vem kako bi potem naprej to izpeljal? Mogoče jo prepriča da uporabi kak Wifi dildo .. ni sumljivo, itak so vse naprave dandanes v Oblaku, verjetno bi ubogala, saj pravim, danes folk samo še OK stiska.
Kak striptiz šov pred kamerco je pa po mojem že zdaj izvedljiv, pa pizdun bi ji še laskal, da bi bila še bolj zmešana.
pa kakšen okus ima glede žensk.