» »

ChatGPT razkriva vnose

ChatGPT razkriva vnose

Slo-Tech - Pravzaprav novica ne bi smela nikogar presenetiti, saj tudi sami proizvajalci na to opozarjajo in jasno svetujejo, naj v generativne modele umetne inteligence ne vnašamo občutljivih informacij. Vemo, da si ti lahko zapomnijo vse, vseeno pa preseneča, da to kdaj ravnodušno delijo z drugimi uporabniki. Raziskovalci so sicer že večkrat pokazali, da ni posebej težko oblikovati pozivov, ki umetno inteligenco pretentajo v razkrivanje osebnih podatkov.

Eden izmed bralcev Ars Technice pa je osebne podatke dobil celo, ne da bi za njih kakorkoli prosil. ChatGPT 4 mu je, ko je bilo pogovora že konec, a je imel okno še odprto, preprosto začel izpisovati vnose drugih uporabnikov. Med njimi so bila tudi uporabniška imena in gesla za prijavo v informacijski sistem neke lekarne. Očitno je nekdo izmed zaposlenih s ChatGPT poizkusil ugotoviti, zakaj mu prijava ne deluje, pri tem pa je vnašal tudi osebne podatke. Drugi podatki, ki jih je ChatGPT delil, so tudi neobjavljeni raziskovalni projekti, skripte v PHP-ju, imena predstavitev in podobno. Skratka, karkoli ChatGPT sliši, lahko kdaj izpljune.

Zaradi možnosti, da se vnosi v generativno umetno inteligenco oziroma pametne sogovornike raznesejo po spletu, so večje korporacije in državni organi marsikod že omejili dostop do njih. Zaposleni imajo bodisi prepoved uporabe za službene zadeve bodisi ne smejo vnašati nobenih zaupnih podatkov. To pa seveda ne pomeni, da v podjetjih ne uporabljajo umetne inteligence. Številna - tudi slovenska, denimo kakšen naftni trgovec - razvijajo svoje modele, ki jih zaposleni interno uporabljajo.

6 komentarjev

PacificBlue ::

Neumnost ljudi še vedno ne pozna meja.
I’m out.
:3

WallSreet ::

Ravno zaradi tega jaz vedno uporabljam izmišljena imena, kraje, lokacije itd. Sicer mi niti na pamet ne pade da bi delil kakršnekoli osebne podatke ampak tudi če govorim o kakšnih bolj občutljivih temah vedno najprej napišem da gre za "zgodbo" ali pa "izmišljotino" oziroma samo za idejo.

Tudi ko mi napiše potem komentar jaz na koncu ko ga želim objaviti spremenil imena in lokacije v prave da nebi kdo pomislil da kaj nameravan oziroma da se mi kakšne čudne ideje vrtijo v glavi.

Če je kakšna občutljiva tema ki se je zgodila jaz nikoli ne uporabim pravega imena tiste osebe ampak vedno spremenim ime v "vesoljec" "marsovec" itd in potem šele spremenim ko želim komentar objaviti na kakšnem forumu.

Ne vem kako folk tega ne razume saj ti lepo piše da ne deli osebnih informacij.

stara mama ::

Težko je življenje v informacijski dobi, kjer je treba vedet vse o vsem, a hkrati se zahteva anonimnost na vseh področjih :)

AgJ1 ::

Hahahaha, kakšno presenečenje! Ali pa ko modeli vnašajo službene tekste v Google Translate...

Kresnik ::

AgJ1 je izjavil:

Hahahaha, kakšno presenečenje! Ali pa ko modeli vnašajo službene tekste v Google Translate...


Po moje je tu bolj problem, ker ne vejo, da uporaba opcije Translate c Chromu deluje preko Google translate.

WhiteAngel ::

Nekdo je pozabil debug flag izklopit pri deploymentu >:D


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Jaz pa mislim, da bo ChatGpt izpodrinil programerje (strani: 1 2 3 4 5 6 )

Oddelek: Loža
29438514 (6089) BorutO
»

Prva tožba zoper OpenAI zaradi obrekovanja v ChatGPT

Oddelek: Novice / Tožbe
406199 (2660) c23po
»

Kaj bi lahko šlo narobe, če odvetniki uporabljajo ChatGPT

Oddelek: Novice / Znanost in tehnologija
416677 (1451) netopypy
»

Apple zaposlenim prepovedal uporabo ChatGPT

Oddelek: Novice / Ostale najave
156770 (668) Mr.B
»

Google vstopa na polje umetne inteligence

Oddelek: Novice / Ostalo
104363 (2864) tigrr

Več podobnih tem