» »

Nemško sodišče: Google je odgovoren za napake v AI Overviews

Nemško sodišče: Google je odgovoren za napake v AI Overviews

Slo-Tech - Sodišče v Münchnu je v prelomni sodbi odločilo, da je Google odgovoren za napačne ali zavajajoče trditve, ki se ob iskanju izpišejo v povzetku umetne inteligence (AI Overviews). Proces sta sprožila dva založnika, ki ju je Googlova umetna inteligenca nápak povezovala s poslovnimi prevarami. Googlov model je med drugim izrecno izpisal tudi, da sta založnika razvpita zaradi dvomljivih poslovnih praks, ki jih pogosto označijo kot prevare. Na te trditve sta Google opozorila in zahtevala njihovo odstranitev, a se to ni zgodilo.

Google je na sodišču trdil, da umetna inteligenca pač dela napake, kar uporabniki vedo in so na to tudi opozorjeni. A sodišče je ocenilo, da veljajo drugačna pravila kot za prikazovanje iskalnih zadetkov, kjer Google resnično le ponudi povezave do drugih strani. AI Overviews pa neodvisno pripravi nove trditve, ki jih ponudi kot interpretacijo ali povzetek na internetu objavljenih informacij. Le Google ima možnost vplivati na ta algoritem, zato je objektivno odgovoren za vsebino, ki se prikazuje. Sodišče je posebej izpostavilo, da je Googlov povzetek vseboval trditve, ki jih na internetu sploh ni bilo.

Odločitev bo verjetno pomembno vplivala na odgovornost, ki jo imajo ponudniki jezikovnih modelov. Doslej so se ti lahko skrivali za pavšalnimi izjavami, da so njihove trditve lahko neresnične in da jih morajo uporabniki neodvisno preveriti. AI Overviews ni nunjo potreben za iskanje informacij na internetu, zato mora Google poskrbeti, da ne bo trosil laži. Četudi AI Overviews navaja vire, podaja trditve tako avtoritativno in zaokroženo, da so razumljive in na videz verodostojne same po sebi. Zato zgolj povezave do virov, ki morebiti trdijo drugače, podjetja ne odvezujejo odgovornosti.

21 komentarjev

WhiteAngel ::

Tole bo še zanimivo. Overviews so praktični, a sem tudi sam že večkrat opazil, da so preveč površni in ustrelijo mimo.

MrStein ::

In to krepko.


Recimo trdi nekaj, zraven je link na "vire", a na njih ne piše nič takega.
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

Zgodovina sprememb…

  • spremenil: MrStein ()

bbf ::

Ustrelijo mimo, ali pa so nepoupdejtani. Pa greš na source trditve, pa ni več kje tistga najdt.

pegasus ::

In related news: https://arstechnica.com/tech-policy/202... ... 93% face recognition match je dovolj za arest. Yay brave new world.

bambam20 ::

Zelo koristna je AI. Med drugim najde zelo veliko in se prevec.

deepsick ::

glede na pritožbe, verjetno preveč dobro.

rekakitece ::

eh..birokrati

Nikonja ::

rekakitece je izjavil:

eh..birokrati

Ja in ne.... po en strani EU birokracija včasih preveč komplicira stvari, ampak po drugi strani je to očitno zavajanje in širenje neresničnih informacij. Če fizična oseba to počne, lahko konča v zaporu, AI pa očitno to lahko počne brez nobenih reperkusij, kaj nima glih smisla. Podobno kot da npr na samovozečem avtu napišeš da obstaja možnost da povozi pešca in si s tem oproščen krivde.
AI bagra mora začet prevzemat odgovornost za slabo delovanje svojih produktov in ne trdit da bo AI ne vem kakšen rešitelj vseh naših problemov.

gen Maister ::

Nikonja je izjavil:

rekakitece je izjavil:

eh..birokrati

Ja in ne.... po en strani EU birokracija včasih preveč komplicira stvari, ampak po drugi strani je to očitno zavajanje in širenje neresničnih informacij. Če fizična oseba to počne, lahko konča v zaporu, AI pa očitno to lahko počne brez nobenih reperkusij, kaj nima glih smisla. Podobno kot da npr na samovozečem avtu napišeš da obstaja možnost da povozi pešca in si s tem oproščen krivde.
AI bagra mora začet prevzemat odgovornost za slabo delovanje svojih produktov in ne trdit da bo AI ne vem kakšen rešitelj vseh naših problemov.


:))
Dobro si sestavil tole! 8-)
Bom še enkrat prilepil tole tukaj! ;)

https://www.monitor.si/novica/applove-n...
Za izbrise Utk, Gorečihkač, harmonikarjev in drugih, ki teme svinjajo spolitiko

cryosanth ::

gen Maister je izjavil:

Nikonja je izjavil:

rekakitece je izjavil:

eh..birokrati

Ja in ne.... po en strani EU birokracija včasih preveč komplicira stvari, ampak po drugi strani je to očitno zavajanje in širenje neresničnih informacij. Če fizična oseba to počne, lahko konča v zaporu, AI pa očitno to lahko počne brez nobenih reperkusij, kaj nima glih smisla. Podobno kot da npr na samovozečem avtu napišeš da obstaja možnost da povozi pešca in si s tem oproščen krivde.
AI bagra mora začet prevzemat odgovornost za slabo delovanje svojih produktov in ne trdit da bo AI ne vem kakšen rešitelj vseh naših problemov.


:))
Dobro si sestavil tole! 8-)
Bom še enkrat prilepil tole tukaj! ;)

https://www.monitor.si/novica/applove-n...


Joj, kako zelo slabo da ne dobimo še več ameriškega šrota ki ne more ustrezat minimalnim standardom zasebnosti. Res, ti grdi EU birokrati.

Glugy ::

"Googlov model je med drugim izrecno izpisal tudi, da sta založnika razvpita zaradi dvomljivih poslovnih praks, ki jih pogosto označijo kot prevare."

Kaj pa če je to res? Potem bi bilo pa dobro da nas Google opozori na to.
Zdej bodo verjetno zarad previdnosti to informacijo skrival da človek ne bo niti vedel da je nekdo nagnjen z dvomljivim praksam.

Jarno ::

Na te trditve sta Google opozorila in zahtevala njihovo odstranitev, a se to ni zgodilo.


Opozarjati je dobro, še bolje, podkrepiti z viri in referencami. Ampak tukaj ni dobro, da "lažnjivi" AI igra sodnika, poroto in rablja hkrati.
Ko precej ljudi ti dve podjetji poveže s prevaro ipd., potem lahko zanju nastane ogromna škoda.
Tudi ni dobro, da v takšnih primerih nihče ni odgovoren, sploh, ker to odpira vrata za nadaljnje zlorabe.
Chuck Norris je med števili 0.999... in 1 uspel vriniti konstanto imenovano CN.
James Bond je že pred časi mislil, da bo prišel na zeleno vejo in chillal.
#65W!

gen Maister ::

cryosanth je izjavil:


Joj, kako zelo slabo da ne dobimo še več ameriškega šrota ki ne more ustrezat minimalnim standardom zasebnosti. Res, ti grdi EU birokrati.


Morda si malce zgrešil bistvo? In vsekakor te ne nagovarjam, da poskusiš še enkrat! ;)
Za izbrise Utk, Gorečihkač, harmonikarjev in drugih, ki teme svinjajo spolitiko

DePalmo ::

Edino prav. Dovolj imam tega da se AI "moti" in da moram preverjati info za njim. Ali naj poda prave informacije, ali pa naj bo pač tiho.

Sicer pa tale njihov Overviews je še slabši kot ChatGPT. Še tistemu je šlo navzdol, overviews je pa novo dno.

Slo-One ::

Google je na sodišču trdil, da umetna inteligenca pač dela napake, kar uporabniki vedo in so na to tudi opozorjeni.


Ta del drži le če pritisnemo prikaži več, ob iskanju pa tega še ne vemo.

 AI

AI

Zgodovina sprememb…

  • spremenil: Slo-One ()

bm1973 ::

Ta odločitev sodišča je publiki všečna...

Da debilom, ki ne znajo oceniti rezultata, daš še opcijo, da tožijo Google...

Ampak dokazovanje bo težko, ker nihče nima kakega audit sistema pri sebi, Googlu pa ni treba tega poslati iz ZDA.
Hlapci! Za hlapce rojeni, za hlapce vzgojeni, ustvarjeni za hlapčevanje.
Gospodar se menja, bič pa ostane, in bo ostal za vekomaj; zato, ker je hrbet
skrivljen, biča vajen in željan! [Ivan Cankar]

deepsick ::

Pa že, če tako pravijo - nimam razloga, da ne bi verjel, ker ne uporabljam AI Overview (sem moral it preverit), meni se zdi, da ni najbolj zanesljivo in tudi v zgodovino 'chatov' ne gre... :D

fikus_ ::

Razgledanost in znanje, kar dosti ljudi se kaže tudi v tem, da mora pri marsikaterem izdelku pisati "do not eat" (predvsem v Zda). Iz Zda prenesemo marsikaj, kot kaže bo potrebno tudi to, glede na inteligenco in razgledanost, ki se širita tudi med Evropejci.
Kako že gre tisti rek: na svetu je konstantna količina pameti, ljudi pa vedno več....
Dodal bi, da ima vsak človek neko kapaciteto sprejemanja znanja in učenja, prioritete se spreminjajo, prav tako zanimanja, tako da če nekdo posveča največ pozornosti npr. socialnim omrežjem , mu zmanjka kapacitete za vsakdanje življenje.
Učite se iz preteklosti, živite v sedanjosti in razmišljajte o prihodnosti.
PS Ne odgovarjam trolom in provokatorjem!

gen Maister ::

fikus_ je izjavil:

Razgledanost in znanje, kar dosti ljudi se kaže tudi v tem, da mora pri marsikaterem izdelku pisati "do not eat" (predvsem v Zda). Iz Zda prenesemo marsikaj, kot kaže bo potrebno tudi to, glede na inteligenco in razgledanost, ki se širita tudi med Evropejci.
Kako že gre tisti rek: na svetu je konstantna količina pameti, ljudi pa vedno več....
Dodal bi, da ima vsak človek neko kapaciteto sprejemanja znanja in učenja, prioritete se spreminjajo, prav tako zanimanja, tako da če nekdo posveča največ pozornosti npr. socialnim omrežjem , mu zmanjka kapacitete za vsakdanje življenje.


:))
NE!! Gre takole: Če nekdo povesveča največ pozornosti npr. socialnim omrežjem, se mu kapacitete vsakdanjega življenja skrčjo na življenje fikusa! :)):)):))
Za izbrise Utk, Gorečihkač, harmonikarjev in drugih, ki teme svinjajo spolitiko

deepsick ::

fikus_ je izjavil:

Razgledanost in znanje, kar dosti ljudi se kaže tudi v tem, da mora pri marsikaterem izdelku pisati "do not eat" (predvsem v Zda). Iz Zda prenesemo marsikaj, kot kaže bo potrebno tudi to, glede na inteligenco in razgledanost, ki se širita tudi med Evropejci.
Kako že gre tisti rek: na svetu je konstantna količina pameti, ljudi pa vedno več....
Dodal bi, da ima vsak človek neko kapaciteto sprejemanja znanja in učenja, prioritete se spreminjajo, prav tako zanimanja, tako da če nekdo posveča največ pozornosti npr. socialnim omrežjem , mu zmanjka kapacitete za vsakdanje življenje.

Najbrž imaš prav, še dobro, da so na volitvah glasovi upoštevani tudi glede IQ, ne samo glede primerljivega davčnega bremena... Upanje je še, da se izognemo Idiokraciji...

Zgodovina sprememb…

  • spremenilo: deepsick ()

int47 ::

Googlov overview je na meji neuporabnega.
Vprašal sem ga:
"are programming cable for anytone 878ii and baofeng dm1701 compatible"

Najprej pravi, da ne, ker je en kabel straight thru, drugi pa vsebuje pretvornik.

Nato ga vprašam: "are you sure?"
In trdi, da sta oba kabla straight thru, samo nimata istega pinout-a.

V + mu štejem lahko samo ponovljivost nekonsistentnosti.


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Nemško sodišče: Google je odgovoren za napake v AI Overviews

Oddelek: Novice / Tožbe
212563 (416) int47
»

V Gmail dobivamo povzetke, ki jih dela umetna inteligenca

Oddelek: Novice / Android
83550 (2094) feryz
»

Novi dokazi, da Google AI Overviews zmanjšuje promet

Oddelek: Novice / Omrežja / internet
265713 (3156) 133780
»

Umetna inteligenca speljala promet s spletnih strani

Oddelek: Novice / Omrežja / internet
319671 (3953) c3p0
»

Googlovo nadgrajeno iskanje ima sila neroden štart

Oddelek: Novice / Ostala programska oprema
306433 (4107) SambaShare

Več podobnih tem