Slo-Tech - Pravzaprav novica ne bi smela nikogar presenetiti, saj tudi sami proizvajalci na to opozarjajo in jasno svetujejo, naj v generativne modele umetne inteligence ne vnašamo občutljivih informacij. Vemo, da si ti lahko zapomnijo vse, vseeno pa preseneča, da to kdaj ravnodušno delijo z drugimi uporabniki. Raziskovalci so sicer že večkrat pokazali, da ni posebej težko oblikovati pozivov, ki umetno inteligenco pretentajo v razkrivanje osebnih podatkov.
Eden izmed bralcev Ars Technice pa je osebne podatke dobil celo, ne da bi za njih kakorkoli prosil. ChatGPT 4 mu je, ko je bilo pogovora že konec, a je imel okno še odprto, preprosto začel izpisovati vnose drugih uporabnikov. Med njimi so bila tudi uporabniška imena in gesla za prijavo v informacijski sistem neke lekarne. Očitno je nekdo izmed zaposlenih s ChatGPT poizkusil ugotoviti, zakaj mu prijava ne deluje, pri tem pa je vnašal tudi osebne podatke. Drugi podatki, ki jih je ChatGPT delil, so tudi neobjavljeni raziskovalni projekti, skripte v PHP-ju, imena predstavitev in podobno. Skratka, karkoli ChatGPT sliši, lahko kdaj izpljune.
Zaradi možnosti, da se vnosi v generativno umetno inteligenco oziroma pametne sogovornike raznesejo po spletu, so večje korporacije in državni organi marsikod že omejili dostop do njih. Zaposleni imajo bodisi prepoved uporabe za službene zadeve bodisi ne smejo vnašati nobenih zaupnih podatkov. To pa seveda ne pomeni, da v podjetjih ne uporabljajo umetne inteligence. Številna - tudi slovenska, denimo kakšen naftni trgovec - razvijajo svoje modele, ki jih zaposleni interno uporabljajo.
Novice » Zasebnost » ChatGPT razkriva vnose
WallSreet ::
Ravno zaradi tega jaz vedno uporabljam izmišljena imena, kraje, lokacije itd. Sicer mi niti na pamet ne pade da bi delil kakršnekoli osebne podatke ampak tudi če govorim o kakšnih bolj občutljivih temah vedno najprej napišem da gre za "zgodbo" ali pa "izmišljotino" oziroma samo za idejo.
Tudi ko mi napiše potem komentar jaz na koncu ko ga želim objaviti spremenil imena in lokacije v prave da nebi kdo pomislil da kaj nameravan oziroma da se mi kakšne čudne ideje vrtijo v glavi.
Če je kakšna občutljiva tema ki se je zgodila jaz nikoli ne uporabim pravega imena tiste osebe ampak vedno spremenim ime v "vesoljec" "marsovec" itd in potem šele spremenim ko želim komentar objaviti na kakšnem forumu.
Ne vem kako folk tega ne razume saj ti lepo piše da ne deli osebnih informacij.
Tudi ko mi napiše potem komentar jaz na koncu ko ga želim objaviti spremenil imena in lokacije v prave da nebi kdo pomislil da kaj nameravan oziroma da se mi kakšne čudne ideje vrtijo v glavi.
Če je kakšna občutljiva tema ki se je zgodila jaz nikoli ne uporabim pravega imena tiste osebe ampak vedno spremenim ime v "vesoljec" "marsovec" itd in potem šele spremenim ko želim komentar objaviti na kakšnem forumu.
Ne vem kako folk tega ne razume saj ti lepo piše da ne deli osebnih informacij.
stara mama ::
Težko je življenje v informacijski dobi, kjer je treba vedet vse o vsem, a hkrati se zahteva anonimnost na vseh področjih :)
AgJ1 ::
Hahahaha, kakšno presenečenje! Ali pa ko modeli vnašajo službene tekste v Google Translate...
Kresnik ::
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Jaz pa mislim, da bo ChatGpt izpodrinil programerje (strani: 1 2 3 4 5 6 )Oddelek: Loža | 43184 (2563) | SambaShare |
» | Prva tožba zoper OpenAI zaradi obrekovanja v ChatGPTOddelek: Novice / Tožbe | 6708 (3169) | c23po |
» | Kaj bi lahko šlo narobe, če odvetniki uporabljajo ChatGPTOddelek: Novice / Znanost in tehnologija | 6981 (1755) | netopypy |
» | Apple zaposlenim prepovedal uporabo ChatGPTOddelek: Novice / Ostale najave | 7101 (999) | Mr.B |
» | Google vstopa na polje umetne inteligenceOddelek: Novice / Ostalo | 4574 (3075) | tigrr |