Nemško sodišče: Google je odgovoren za napake v AI Overviews

Sodišče v Münchnu je v prelomni sodbi odločilo, da je Google odgovoren za napačne ali zavajajoče trditve, ki se ob iskanju izpišejo v povzetku umetne inteligence (AI Overviews). Proces sta sprožila dva založnika, ki ju je Googlova umetna inteligenca nápak povezovala s poslovnimi prevarami. Googlov model je med drugim izrecno izpisal tudi, da sta založnika razvpita zaradi dvomljivih poslovnih praks, ki jih pogosto označijo kot prevare. Na te trditve sta Google opozorila in zahtevala njihovo odstranitev, a se to ni zgodilo.

Google je na sodišču trdil, da umetna inteligenca pač dela napake, kar uporabniki vedo in so na to tudi opozorjeni. A sodišče je ocenilo, da veljajo drugačna pravila kot za prikazovanje iskalnih zadetkov, kjer Google resnično le ponudi povezave do drugih strani. AI Overviews pa neodvisno pripravi nove trditve, ki jih ponudi kot interpretacijo ali povzetek na internetu objavljenih informacij. Le Google ima možnost vplivati na ta algoritem, zato je objektivno odgovoren za vsebino, ki se prikazuje. Sodišče je posebej izpostavilo, da je Googlov povzetek vseboval trditve, ki jih na internetu sploh ni bilo.

Odločitev bo verjetno pomembno vplivala na odgovornost, ki jo imajo ponudniki jezikovnih modelov. Doslej so se ti lahko skrivali za pavšalnimi izjavami, da so njihove trditve lahko neresnične in da jih morajo uporabniki neodvisno preveriti. AI Overviews ni nunjo potreben za iskanje informacij na internetu, zato mora Google poskrbeti, da ne bo trosil laži. Četudi AI Overviews navaja vire, podaja trditve tako avtoritativno in zaokroženo, da so razumljive in na videz verodostojne same po sebi. Zato zgolj povezave do virov, ki morebiti trdijo drugače, podjetja ne odvezujejo odgovornosti.