» »

Prva tožba zoper OpenAI zaradi obrekovanja v ChatGPT

Prva tožba zoper OpenAI zaradi obrekovanja v ChatGPT

Slo-Tech - Vprašanje časa je bilo, kdaj bo OpenAI doletela prva tožba zaradi navedb, ki jih bo umetna inteligenca ChatGPT halucinirala. To je znana pomanjkljivost velikih jezikovnih modelov, ki si manjkajoče informacije preprosto izmislijo, saj je njegova glavna naloga ustvarjanje besedil, ne pa faktično točnih povzetkov. Radijski voditelj Mark Walters iz Georgie, ki je eden največjih zagovornikov pravice do nošenja orožja v ZDA, toži OpenAI, ker je ChatGPT ustvarjal neresnične navedbe o njem.

Novinar Fred Riehl je ChatGPT-ju podal povezavo do resničnega primera na zveznem sodišču in prosil za povzetek. ChatGPT se je odzval z besedilom, ki je bilo neresnično, v njem pa je o Waltersu zmešal resnične informacije in laži. Med drugim je na primer trdil, da je Walters domnevno poneveril več kot pet milijonov dolarjev Second Amendment Foundation. Walters ni bil nikoli niti osumljen česa takšnega. Riehl teh informacij seveda ni objavil, jih je pa preveril. Tako je verjetno tudi Walters izvedel zanje - tožba tega izrecno ne zapiše.

ChatGPT ni sposoben dostopati do interneta in ne more pisati povzetkov javno objavljenih PDF-jev (lahko pa povzema besedilo, ki mu ga skopiramo kot ukaz). Zakaj Riehla ni opozoril na to, kar se sicer praviloma zgodi, ni jasno. Možno je, da je Riehl testiral kakšno zgodnejšo verzijo ChatGPT. Kakorkoli, Walters sedaj toži OpenAI. Rezultat bo zelo zanimiv, saj načeloma spletne platforme zakonodaja ščiti, da za objavljeno vsebino niso odgovorne, če nimajo nadzora nad njo ob objavi (torej ni uredniško odobrena) in jo ob prijavi takoj umaknejo. Videli bomo, ali to velja tudi za proizvajalce velikih jezikovih modelov.

40 komentarjev

fulk ::

Folk je resno navalu na ta ChatGPT. Sploh se ne trudijo več iskat posameznih linkov za svoje argumente, ampak enostavno prilepijo ChatGPT odgovor in smatrajo, da je to resnica.
A ta LLM lahko tako elegantno laže na polno, da peče glava.
Jaz sicer imam kritičen čut in večino zavržem, a drugi ne.

Imam tak slab občutek, če to ni bil delno tudi cilj tega AI. To je perfektno orodje za dezinformacije iz strani institucij in držav.

johanblond ::

Hmm, s predzadnjim stavkom pa imam resne težave: "Rezultat bo zelo zanimiv, saj načeloma spletne platforme zakonodaja ščiti, da za objavljeno vsebino niso odgovorne, če nimajo nadzora nad njo ob objavi (torej ni uredniško odobrena) in jo ob prijavi takoj umaknejo."
stavek bi bil povsem nedvoumen, če bi se nadaljeval "in je samo avtor odgovoren za objavo."
Na način, kot je zapisan bi lahko kdo razumel, da za zapisano na spletnih straneh ni nihče odgovoren, kar pa ne drži - v trenutni situaciji je odgovoren avtor (tudi če je anonimen). V zgoraj omenjenih primerih, pa je lahko poleg samega avtorja odgovoren tudi medij. V vsakem primeru, v trenutnem sistemu je nekdo odgovoren za objavljeno (sicer kako najti anonimnega pisuna, je sicer zagoneten, vendar vsebinsko nepomemben detalj).

Gregor P ::

Neverjetno! Kar tožba;((
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

marez ::

ChatGPT - zbirka resnic in laži. Upam da nikoli ne dobijo moči odločanja namesto nas, saj se nam drugače slabo piše.

DamijanD ::

Razlika je v tem, da eni, ki lažejo, vejo, da to delajo. GPT pa tega ne dela za nalašč no, dajte imeti malo srca - "Saj ne ve kaj dela" :D

c23po ::

Res bi bilo dobro nehati s personifikacijo tega, pa tudi drugih statističnih in algoritemskih sistemov. Seveda ne ve kaj dela, ker ni inteligenca. Je statistični model za zlaganje besed v siselno besedilo. Ni tožena inteligenca, ampak podjetje, ki jo trži. To, da jo trži kot "inteligenco" pa je le marketinški prijem. Upajmo, da podjetje ne bo dobilo moči odločanja o naših usodah.

feryz ::

Kaj pa ima OpenAI tukaj veze s tem? Kar ChatGPT naj toči, saj mu bo čat plačal.
Ne moreš firme, ki je orodje ustvarila, tožiti, ker ti ne znaš uporabljati orodja ali si zgolj na pol pismen.

Mato989 ::

feryz je izjavil:

Kaj pa ima OpenAI tukaj veze s tem? Kar ChatGPT naj toči, saj mu bo čat plačal.
Ne moreš firme, ki je orodje ustvarila, tožiti, ker ti ne znaš uporabljati orodja ali si zgolj na pol pismen.


Tako je... vse te tožbe so DEBILIZEM prve klase... ChatGPT ni nobena persona ki te blati ali obrekuje... je le igračka... če je ne znaš uporabljat pač nehaj
Če sem pomagal, se priporočam za uporabo linka!
KUCOIN EXCHANGE link: https://www.kucoin.com/#/?r=E3I9Ij
BINANCE EXCHANGE link: https://www.binance.com/?ref=10161115

Markoff ::

ChatGPT so razvili Američani, laže pa kot Rus.
Antifašizem je danes poslednje pribežališče ničvredneža, je ideologija ničesar
in neizprosen boj proti neobstoječemu sovražniku - v zameno za državni denar
in neprofitno najemno stanovanje v središču Ljubljane. -- Tomaž Štih, 2021

FrRoSt ::

:)):)):)):)):))

Ker gre pri tejle chap AI visokokvalitetni inštrument, ki ga znajo uporabljati samo inteligentni!?? :))

Kdo pa je KRIV, ko nekdo tukaj, na slotech, npr. uporabnica svecka, v temi Izpusti toplogrednih so rekordni, prilepi neki prispevek iz tik-toka in pod njim zapiše, da je to dokaz, da so podnebne spremembe fake!?? :O

NO, pojasnite mi, kdo je kriv v tem primeru!?? :))
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

joze67 ::

Mato989 je izjavil:

feryz je izjavil:

Kaj pa ima OpenAI tukaj veze s tem? Kar ChatGPT naj toči, saj mu bo čat plačal.
Ne moreš firme, ki je orodje ustvarila, tožiti, ker ti ne znaš uporabljati orodja ali si zgolj na pol pismen.


Tako je... vse te tožbe so DEBILIZEM prve klase... ChatGPT ni nobena persona ki te blati ali obrekuje... je le igračka... če je ne znaš uporabljat pač nehaj

Marsikaj je debilizem, obstaja pa tudi funkcionalna nepismenost. Včasih gresta z roko v roki.

Ne toži se ChaptGPT, ampak OpenAI. Pravna oseba, izdelovalec orodja, ki izdeluje tudi obrekljive spise. Nič drugače kot s ponudniki mikrovalovnih pečic, hitrih avtomobilov ipd. Bližnjice ... prinašajo dobičke, a tudi stanejo.

FrRoSt ::

:O
Kaj pa imajo ponudniki mikrovalovk in hitrih avtomobilov z obrekovanjem!?? :O

Si morda mislil ZAVAJANJEM!?? ;)
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

feryz ::

joze67 je izjavil:

Ne toži se ChaptGPT, ampak OpenAI. Pravna oseba, izdelovalec orodja, ki izdeluje tudi obrekljive spise. Nič drugače kot s ponudniki mikrovalovnih pečic, hitrih avtomobilov ipd. Bližnjice ... prinašajo dobičke, a tudi stanejo.
Saj veš, ne?
Zakaj se ne toži proizvajalce orožja za vsak množični poboj? Ali pa kar za ukrajinsko godljo vsepočez?
Če ne bi naredili tanka, tudi nihče ne bi pobijal z njim.
V tem primeru celo ne moremo trditi, da ga niso ravno zato izdelali. Da bodo z njim ubijali ljudi. Težko bi ga ponucal za krompir sadit.

Vsak normalen človek ve, kako sposoben je ChatGPT. Se pravi nekje blizu nule, trenutno.
Ok, skoraj vsak normalen človek.

Lakomneži pa se itak delajo, da ne vedo.

Ales ::

feryz je izjavil:

Vsak normalen človek ve, kako sposoben je ChatGPT. Se pravi nekje blizu nule, trenutno.
Ok, skoraj vsak normalen človek.

Lakomneži pa se itak delajo, da ne vedo.

Splošna javnost nima pojma kaj to je, še manj pa kako deluje. Tu na tehničnem forumu imaš ljudi, ki ne vedo, da se take zadeve lahko "lažejo", koliko jih je šele v splošni populaciji.

Mogoče ni slabo, da se tele današnje zadeve poljudno imenuje "AI". Se bo folku vsaj vteplo globoko v betico, da AI-ju ni zaupati...

feryz ::

Nevednost ni izgovor.
Človeka, ki mu laganje predstavlja poklic, bi moral vedeti, da se tudi drugi zlažejo.
Da, tudi stroji. Po novem.

FrRoSt ::

Eno je laganje, zavajanje ali celo klevetanje, drugo pa je krivda in odgovornost! ;)

Kazenski pregon in/ali odškodnina pa je čisto nekaj četrtega! 8-)
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

WhiteAngel ::

marez je izjavil:

ChatGPT - zbirka resnic in laži. Upam da nikoli ne dobijo moči odločanja namesto nas, saj se nam drugače slabo piše.


Ne bi tako gledal jaz na ChatGPT. UI poindeksira maso podatkov in izlušči po njenem relevantne informacije. Jaz bi ji dal odločanje v smislu enega sedeža v parlamentu in pri vsaki razpravi bi ji prisluhnil. V 90% bi imela drugačen pogled na politiko v primerjavi z ostalimi 89 poslanci in bi jo bilo imeti dobro zraven pri soodločanju.

fikus_ ::

Ni težava, da kombinira info pridobljene s spleta, težava je, da "laže" in to prepričljivo.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

feryz ::

Ampak, če se vrnemo nazaj, vsak otrok ve da laže.
Edino do zob oborožen radijski voditelj, ki dnevno izbruha na tone laži, očitno ne.
Saj vemo, kam pes taco moli v tem primeru, mar ne?

darkolord ::

WhiteAngel je izjavil:

Ne bi tako gledal jaz na ChatGPT. UI poindeksira maso podatkov in izlušči po njenem relevantne informacije. Jaz bi ji dal odločanje v smislu enega sedeža v parlamentu in pri vsaki razpravi bi ji prisluhnil. V 90% bi imela drugačen pogled na politiko v primerjavi z ostalimi 89 poslanci in bi jo bilo imeti dobro zraven pri soodločanju.
To je spet isto. Jezikovnemu modelu bi dal (pa tudi če le delno) moč odločanja?

no comment ::

WhiteAngel je izjavil:

V 90% bi imela drugačen pogled na politiko v primerjavi z ostalimi 89 poslanci in bi jo bilo imeti dobro zraven pri soodločanju.

Od kod bi dobila drugačen pogled?

Glugy ::

Nisi se pozanimal o orodju ampak si se kljub temu nanj zanašal kot da je sveto od svetega. Zarad svoje napake zdej tožiš podjetje ki je orodje dalo v javnost. Niti 5 min časa si novinar ni vzel da bi mal preveril kaj to orodje ChatGPT sploh je pa če je zanesljivo al ne. Kakšen novinar je to. Sramota. Pa ne morš pripomočka ki po definiciji vodi do polizdelka tožit ker si polizdelek objavil kot izdelek brez da bi prečistil polizdelek neznage. Ja halo. Pa sej ChatGPT ni človek znanstvenik. Ljudje so mal čudni z svojimi brezbrižnimi pričakovanji.

fikus_ ::

Npr. kupiš čevlje in notri je vrečica, na kateri piše "Do not eat".
Zakaj to piše, saj smo ljudje pametna bitja in bi lahko na spletu preverili, kaj je vsebina te vrečice?
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

FrRoSt ::

fikus_ je izjavil:

Npr. kupiš čevlje in notri je vrečica, na kateri piše "Do not eat".
Zakaj to piše, saj smo ljudje pametna bitja in bi lahko na spletu preverili, kaj je vsebina te vrečice?


:)):)):))

Ja, pa res!! 8-) Saj večina ljudi je sicer dovolj pametnih, da ne je tiste vrečkice iz škatle za čevlje. Vendar pa tukaj vskoči Mrphy! ;)

Problem tistih vrečkic iz škatel je, da jih vsi takoj ne vržejo v zaklenjen zabojnik s smetmi! ;)

Tako da, včasih pridejo lahko tudi v rokice kakšnih otrok, ki ne vedo, da so to vrečkice iz škatel za čevlje. :O
Ali otroci znajo brati, me pa ne sprašuj!

Glugy je izjavil:

Nisi se pozanimal o orodju ampak si se kljub temu nanj zanašal kot da je sveto od svetega. Zarad svoje napake zdej tožiš podjetje ki je orodje dalo v javnost. Niti 5 min časa si novinar ni vzel da bi mal preveril kaj to orodje ChatGPT sploh je pa če je zanesljivo al ne. Kakšen novinar je to. Sramota. Pa ne morš pripomočka ki po definiciji vodi do polizdelka tožit ker si polizdelek objavil kot izdelek brez da bi prečistil polizdelek neznage. Ja halo. Pa sej ChatGPT ni človek znanstvenik. Ljudje so mal čudni z svojimi brezbrižnimi pričakovanji.


:))

Še ENKRAT preberi članek!! ;)
Kaj pa, če jo je samo testiral in potem poizvedoval, ali je to, kar je AI napisal/a res!?? 8-)
Meni se zdi čedalje bol, da je tale AI ženskega spola. :))
Noben človek ni otok, popolnoma sam zase; smrt slehernega človeka vzame
del mene, ker pripadam človeški vrsti; in zato nikdar ne pošiljaj poizvedovat,
komu zvoni; zvoni tebi.

Zgodovina sprememb…

  • spremenilo: FrRoSt ()

Zimonem ::

Večina ljudi niti ne kupi novih modelov in pluginov na chatgpt. Pričakujejo pa cesarsko postrežbo.

Ales ::

feryz je izjavil:

Nevednost ni izgovor.

Ne gre se za iskanje izgovorov, bolj za opis zatečene situacije. Ljudje imajo določene predstave, kaj naj bi "AI" bil, tole, kar pa zdaj tlačijo pod ta termin, pa tem predstavam ne ustreza.

Človeka, ki mu laganje predstavlja poklic, bi moral vedeti, da se tudi drugi zlažejo.

Drugi ljudje, ja...

Da, tudi stroji. Po novem.

Po novem.... zato je pa treba ljudi to naučiti. Za marsikoga je možnost, da se nek matematični stroj gladko laže, popolnoma nova in tuja.

In hkrati vpeljati zakonsko regulacijo. Pravila igre. Asimov je to poskušal halucinirati že pred leti, žal pa je na laganje malo pozabil. Morda namenoma... kakorkoli, itak ga nihče kaj dosti ne šljivi. >:D

Zgodovina sprememb…

  • spremenil: Ales ()

Kalibri ::

ChatGpt je fajn igračka. Odgovore si enostavno izmisli, ko ga pričneš stiskati v kot, se začne popravljati, ko ga stisneš, da začne pojasnjevati odgovor, spremeni prvi odgovor.
Čakamo Google, če bo Bard boljši.

Ni še čas. Yet.

Ales ::

V očeh programerjev teh zadev je definicija "dober" ali "boljši" lahko čisto drugačna, kot je za nekega uporabnika.

Kaj pa če je ChatGPT verzija xx pravzaprav odličen?

Tepe nas to, da večina sploh ne ve, kaj ta "AI" pravzaprav je ali kako dela. Še namen teh zadev nam ni jasen oz. si ga vsak drugače predstavlja.

Gregor P ::

Če se na neko področje dobro spoznaš, potem zelo hitro lahko oceniš rezultat teh AI modelov - in v tem smislu je potem to čisto priročno orodje, ker veš kaj lahko dobiš od njega oz. si znaš sam z njim pomagat do boljših rezultatov.
The main failure in computers is usually located between keyboard and chair.
You read what you believe and you believe what you read ...
Nisam čit'o, ali osudjujem (nisem bral, a obsojam).

fikus_ ::

Računalnik je čudovita zadeva, ki marsikaj naredi, pohitri,.... še vedno pa velja "garbage in, garbage out" ali "Rubbish in, rubbish out".
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

c23po ::

Gregor P: Drži.

Fikus: Računalnik je, torej, čudovita zadeva, ki pohitri "garbage in, garbage out"? Mar res? Kakšna zveza je med tem in "umetno inteligenco"? Menda to, da se "gomila strokovnjakov" ukvarja s sofisticiranim "garbage in, garbage out"?

fikus_ ::

Mogoče res ni direktna povezava, ampak to splošno drži.
T.i. AI bo potrebno še piliti in po dobljenih podatkih še vedno preveriti, ali so pravi, resnični.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

c23po ::

Moj poudarek je, da ničod tega "splošno" ne drži. Ne o računalnikih, ne o "umetni" inteligenci, ne o strokovnjakih. Svet ne funkcionira na "splošnih" sodbah.

fikus_ ::

Jaz pa se vedno pravim da drži!
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

c23po ::

Kak argument na mizi, ali pa moramo kar verjeti, ker tako pravi... fikus?

fikus_ ::

Ce das računalniku slabe podatke, dobiš slabe podatke ven in to pri isti aplikaciji, ki ji daš dobre podatke, dobiš dobre ven.

Bolj enostavno ne gre razložiti, vsaj jaz ne.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

Ales ::

fikus_ je izjavil:

Ce das računalniku slabe podatke, dobiš slabe podatke ven in to pri isti aplikaciji, ki ji daš dobre podatke, dobiš dobre ven.

Bolj enostavno ne gre razložiti, vsaj jaz ne.

To pri takih "AI" modelih, kot je ChatGPT, absolutno NE drži. No, vsaj v očeh tistih, ki kot "dober" izhodni podatek smatrajo tak podatek, ki po človeški presoji ni popolna izmišljotina.

Folk množično ne dojema tega, da je "izhodni podatek" == "laž", pravilno delovanje.

Tu se skriva catch. ChatGPT, ob pravilnem delovanju in dobrih vhodnih podatkih, lahko laže. V naših očeh se laže, po interni programski logiki pa ni naredil nič narobe.

c23po ::

Fikus: torej, moramo prepovedati uporabo računalnikov, ker obstaja možnost, da jih bo nekdo uporabljal narobe. Kaj, če bi logiko obrnili: računalnik je super stvar, ker ga manjšina le uporablja pravilno in je korist večja od škode?

Drugo: nihče priseben ne tolče vhodnih podatkov, da bi dobil izhodne podatke(*). Dobimo izhodne informacije. Izkušnje so takšne: če "računalniku daš" slabe vhodne podatke, boš dobil zanič izhodno informacijo in te bo to nekaj naučilo. (Če pa igro ponavljaš v upanju, da tudi kura zadane zrno, je to tvoj problem.)

(*) Če že, se izhodni podatki uporabijo kot vhod naslednji aplikaciji.

fikus_ ::

c23..., izmišljuješ si in podtikaš! Če ne razumeš zapisanega, pač ne razumeš in ne vem, kaj hočeš pokazati/dokazati!

Ne vem, kako naj bolj enostavno napišem, če so vhodni podatki zanič, so izhodni podobni temu, ali če so vhodni podatki dobri, so izhodni tudi lahko dobri.

Garbage in, garbage out @ Wikipedia
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.

c23po ::

Ne vem kako naj enostavno napišem, da računalnik ni le stroj, ki pohitri "garbage in, garbage out", da "umetna inteligenca" niti približno ni le ChatGPT in da se "gomila strokovnjakov" ne ukvarja s sofisticiranim "garbage in, garbage out".

Tožba zoper OpenAI se ni zgodila zaradi produciranja smeti. Je spreten manever s katerim so pokazali, da le nalepka "umetna inteligenca" algoritmu ne podari pameti. Pokazali so tudi na upravljavca, kot odgovornega za vsebine, ki jih sestavlja ChatGPT.

Tega, po mojem mnenju, ne moremo poenostaviti le na "produciranje smeti" in to preslikati na vsa področja, ki jih danes pokrivajo z "umetno inteligenco", uporabnike računalnikov in vse programe nasploh. "Umetno inteligenco" uporabljajo npr. kot pripomoček za zgodnje odkrivanje raka. Je to tudi smetenje? Verjetno ne.

Če vam računalnik vsakič vrne samo smeti, premislite kakšne vhodne podatke vnašate. Na okolico prenesite pozitivne izkušnje.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Zakaj je ChatGPT prava stvar ali kam to vodi (strani: 1 2 3 )

Oddelek: Loža
13927203 (2024) Rias Gremory
»

Prva tožba zoper OpenAI zaradi obrekovanja v ChatGPT

Oddelek: Novice / Tožbe
405643 (2104) c23po
»

ChatGPTju grozi tožba zaradi obrekovanja (strani: 1 2 )

Oddelek: Novice / Tožbe
5011973 (8186) Zimonem
»

Microsoft uradno predstavil z GPT podprt Bing

Oddelek: Novice / Ostala programska oprema
218638 (5151) fikus_
»

Turnitin bo prepoznaval generativna besedila ChatGPT in podobnih

Oddelek: Novice / Znanost in tehnologija
264989 (2702) nejc_nejc

Več podobnih tem