Prijavi se z GoogleID

» »

Najhujša nesreča avtonomnega vozila doslej, krivec človek

strani: 1 2 3

MrStein ::

Ne rabiš. Vemo, da se človek odloča "racionalno", stroj pa racionalno.

Truga je izjavil:


Zdej, ce primerjamo s tem kaj bo ko zadevo prevzame software, je zadeva seveda drugacna. Ko bo mrtvih drobiz na miljardo, se bo to kar je zdej zdelo grozljivka.

Takrat bo vsaka nesreča z mrtvimi (nekje dvakrat na leto na celem planetu) novica dneva. In kričači bodo prodajali svojo meglo:
- zakaj nihče nič ne naredi
- samovozeča vozila bi bilo treba prepovedati
- itd... ;)
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

Zgodovina sprememb…

  • spremenil: MrStein ()

NocnaShada ::

Js res ne razumem zakaj bi bil kdorkoli proti avtom ki jih vozijo racunalniki. Ne glede na to koliko butastih primerov iz riti prvlecete je stvar skrajno enostavna.

Kdo pobije vec ljudi s kretensko voznjo?

Vtaknite si svoje stiriclanske druzine, ki padajo v prepad, nazaj v anus, ker v koncni fazi vedno prides na racunico "koliksna je verjetnost da bom umrl, ker sem udelezen v prometu na poti od A do B?"

BigWhale ::

Kar se avtonomnih vozil tice imamo premalo podatkov, da bi v resnici vedeli kako uspesni so. 3.2mio kilometrov ni nic, ker ne vemo kolikokrat je moral vmes posredovati clovek, ki nadzoruje avto.

Ko bomo pa tako dalec, se bo pa avto odlocal samo a na polno zabremzat in zategnit varnostne pasove, al zavit kam. Slednje bo verjetno manjkrat uporabljena moznost.

VaeVictis ::

IMHO je pa prvo in glavno vprašanje pri vseh teh vozilih, kdo bo odgovarjal, ko se bo zgodila nesreča?

Ali oseba, ki je lastnik vozila ali firma, ki je naredila AI?

Če je odgovoren lastnik vozila, potem sam nikoli ne prepustim in ne kupim avtomobila s tem...

Naslednje vprašnje, ki je IMHO pomembno, je pa tudi vprašanje, ki ga je postavil Unilseptij, kdo je prioriteta ali voznik oz. sopotnik/i v vozilu ali skupno dobro?

ps: Da sploh ne govorimo o vseh mogočih zlorabah takih sistemov...

Lakotnik29 ::

IMHO je pa prvo in glavno vprašanje pri vseh teh vozilih, kdo bo odgovarjal, ko se bo zgodila nesreča?

Odgovarjal za kaj? Škodo že zdaj krije zavarovalnica, sama kazenska odgovornost kot taka pa bistveno zgubi na smislu. Avtonomno vozilo kot takšno ne bo delalo prekrškov.

Zgodovina sprememb…

VaeVictis ::

Lakotnik29 je izjavil:

IMHO je pa prvo in glavno vprašanje pri vseh teh vozilih, kdo bo odgovarjal, ko se bo zgodila nesreča?

Odgovarjal za kaj? Škodo že zdaj krije zavarovalnica, sama kazenska odgovornost kot taka pa bistveno zgubi na smislu. Avtonomno vozilo kot takšno ne bo delalo prekrškov.


Avto ubije človeka zaradi napake v programski opremi...

Kdo je kriv?

Okapi ::

Zakaj avtonomno vozilo ne bi delalo prekrškov? Prav tako bo lahko spregledalo kakšen prometni znak, ali vožnje ne bo prilagodilo razmeram na cesti.

Lakotnik29 ::

DVigalo ubije člvoeka zaradi programske napake, stružnica ubije človeka zaradi programske napake... Kaj si res domišljate da je to prvič, ko je potrebno presojat, ko pride do škode na račun stroja?

Kot sem že napisal, prvo kot prvo je treba razčistit ali govorimo o kazesnki ali materialni odgovornosti.

Okapi je izjavil:

Zakaj avtonomno vozilo ne bi delalo prekrškov? Prav tako bo lahko spregledalo kakšen prometni znak, ali vožnje ne bo prilagodilo razmeram na cesti.


Gre za povesem drug koncept. Ali pri avtonomnem vozilu sploh lahko govorimo o prekršku v primeru spregledane znaka? Kakšno dodano vrednost ima obravnavat spregledan znak kot prekršek?

Zgodovina sprememb…

Okapi ::

Recimo da proizvajalec izboljša program, ali vgradi boljšo kamero? Zakaj bi robotski avto lahko kršil prometne predpise?

nevone ::


ps: Da sploh ne govorimo o vseh mogočih zlorabah takih sistemov...


Paranoja.

o+ nevone
Rather we will eat the Space or Space will eat us.

Phantomeye ::

energetik je izjavil:

Phantomeye je izjavil:


Že, če pogledaš situacijo, kjer pred avto skoči srna. Šofer jo lahko povozi ali pa ostro zavije in ob tem ubije sebe ali pa potnike v nasprotno vozečem vozilu. Trije negativni izidi. Povozit srno je najmanj hud. Perspektiva se pa lahko hitro spremeni, če srno zamenjaš s peščem.

Skratka, ne glede na to, kako močno verjameš, da je nemogoče, da ima neka nesreča same negativne izide, je treba dotični 'IF' vprogramirat.
Ni nič drugače, če je srna ali nepreviden pešec. Če obstaja varen način za obvoz, se jasno obvozi. Ker je pa to večinoma zelo redko, ti CPP narekuje, da v tem primeru bremzaš na polno in greš naravnost. Srno (ali neprevidnega človeka) pač doleti Darwin. Ni tvoja naloga, da spravljaš v dodatno tveganje sebe, sopotnike in še ostale udeležence na nasprotnih pasovih.
Računalnik take dileme ne bo imel in bo lahko v delčku sekunde presodil, ali je varno narediti manever izogibanja ali pač ne. Človek je za take zadeve precej prepočasen.


To mi je jasno, samo jasno bodo tudi polemike, kaj daje računalniku pravico, da presoja kakšen bo izid v situaciji brez pozitivnih izidov.

Lakotnik29 ::

Okapi je izjavil:

Recimo da proizvajalec izboljša program, ali vgradi boljšo kamero? Zakaj bi robotski avto lahko kršil prometne predpise?


Kaj je namen prekrškov? Kako se to aplicira na avtonomno vozilo? V čem je dodana vrednost napisat prekršek robotu?

Truga ::

VaeVictis je izjavil:

Avto ubije človeka zaradi napake v programski opremi...

Kdo je kriv?

Avto ubije cloveka, ker bremze niso delale. Tovarniska napaka. Kdo je kriv?

Zgodovina sprememb…

  • spremenilo: Truga ()

Lakotnik29 ::

Za prometni prekršek z razlogom nihče.

Okapi ::

Lakotnik29 je izjavil:

Okapi je izjavil:

Recimo da proizvajalec izboljša program, ali vgradi boljšo kamero? Zakaj bi robotski avto lahko kršil prometne predpise?


Kaj je namen prekrškov? Kako se to aplicira na avtonomno vozilo? V čem je dodana vrednost napisat prekršek robotu?

Preberi bolj počasi še enkrat, kar sem prej napisal, mogoče boš celo razumel.
Hint - ne pišeš prekrška robotu, ampak njegovemu izdelovalcu, oziroma tistemu, ki je odgovoren za njegovo početje.

Lakotnik29 ::

Upoštevaj svoj nasvet. Kaj ima to z sistemom prometnih prekrškov kot ga poznamo?

Odgovornost proivajalcev avtonomnih vozil ni nič drugačna kot odgovrnost proizvajalcev 10001 stroja,ki ga uporabljamo.

Matthai ::

Okapi je izjavil:

Zakaj avtonomno vozilo ne bi delalo prekrškov? Prav tako bo lahko spregledalo kakšen prometni znak, ali vožnje ne bo prilagodilo razmeram na cesti.

Samo tukaj bo vprašanje ali bo vozilo "krivo" prekrška. Namreč - znaka ne bo spregledalo namenoma.

Naslednje vprašanje je pa, zakaj moram prekršek plačati jaz, ki znaka ravno tako ne spregledam namenoma? ;)
All those moments will be lost in time, like tears in rain...
Time to die.

Okapi ::

Kdor misli, da bodo robotski avti lahko nekaznovano vozili v rdečo luč, se bridko moti.

Lakotnik29 ::

Okapi je izjavil:

Kdor misli, da bodo robotski avti lahko nekaznovano vozili v rdečo luč, se bridko moti.


Bisveno bolj se moti, kdor misli, da bo obstajala potreba po kaznovanju prometnih prekrškov pri avtonomnih vozilih. Avtonomno vozilo, ne bo rdeče luči prevozilo zaradi objestnosti, občutka supreriornosti ali nepozornosti. Do tega bo prišlo ali zaradi napake v signalizaciji ali v programski opremi vozila in dogovornost je na proizvajalcu enega ali drugega. Samo to nima nikakršne veze s konceptom prometnih prekrškov, kot ga imamo danes.

Zgodovina sprememb…

Matthai ::

Ja, verjetno bo res tako. Ampak po eni strani bodo kamere snemale signalizacijo in če le-ta ne bo delovala ali jo bo zakrivalo drevje, bo hitro odgovarjal upravljavec cest. Upravljavci cest danes zelo redko odgovarjajo.

Po drugi strani je pa vprašanje, če je prav, da odgovarja avtor softwera, če je naredil vse, kar je bilo v njegovi moči in se je pojavila neka nepredvidljiva situacija. Danes tako napako mirno obesijo vozniku.

Recimo koliko odgovarjajo povzročitelji jedrskih nesreč? Če so delali po handbooku in uveljavili best effort, se je pač zgodila nesreča. Ni kazni.

Pri vožnji je pa drug koncept. Verjetno bodo pa pravniki spet "izumljali"...
All those moments will be lost in time, like tears in rain...
Time to die.

Truga ::

signalizacije pri avtomackem prometu ne rabis, ker se promet sam zmeni, kdo bo su kam.

Unknown_001 ::

Truga je izjavil:

signalizacije pri avtomackem prometu ne rabis, ker se promet sam zmeni, kdo bo su kam.


Bu držalo če bi obstajal samo en sistem ki bi hkrati krmilil in sinhroniziral prometni tok. Ker pa jih bo verjetno več, od vsakega proizvajalca posebej... pa bo signalizacija potrebna da se bo avto nekako znašel v prometu. Različni programi bi brez signalizacije ustvarili kaos
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Truga ::

moj modem od ciscota se tud ne zna pogovarjat z routerjem od tp-linka! Dej malo pomisli no. Internet deluje v *vseh* drzavah po svetu, z vsemi napravami, ti pa razlagas kako se 10 preostalih velikih proizvajalcev vozil ne bo moglo zment za protokol za komunikacijo.

prav tako ne rabis znakov, google maps ze danes ve, kok so omejitve pri posameznih odsekih, kera cesta je glavna, kje je spolzko ob dezju, itd.

edini problem ostanejo cloveski vozniki, katere bo pac treba prepovedat. jebiga, ampak tko pac je. edine posledice tega bojo bistveno hitrejsi in varnejsi promet.

Zgodovina sprememb…

  • spremenilo: Truga ()

BT52 ::

Signalizacija bo še vedno potrebna. Kaj pa pešči, kolesarji, delovni stroji...

lucca brassi ::

kaj če bi pripeljali googlove avtomobile v slovenijo in jih testirali na srne in luknje na cesti ( a bi vjugali med njimi :-))
moments before detonation

Zgodovina sprememb…

stjan ::

Pešcev tako ne bo več na cesti :

http://www.imdb.com/title/tt0986263/

Vprašanje pa je zakaj bi ljudje sploh zapuščali domove, če se bo večino dela lahko naredilo preko neta.

Res bi bil najboljši test avtonomnih vozil na naših cestah, še posebej Koroških.
:)

darkolord ::

Googlov avto bi verjetno kar lepo stal na mestu, ker nima ustreznih podatkov.
spamtrap@hokej.si
spamtrap@gettymobile.si

sesobebo ::

Unilseptij je izjavil:

Aha, torej ce bo racunalnik izracunal, da mora avto, v katerem sem s svojo druzino, zapeljati v prepad, moram biti tiho, saj je vendar reagiral cisto racionalno...

kje je pa kdo rekel, da ne smes kricat? sj to je popolnoma normalen iracionalen odziv na tako situacijo.

jype ::

BT52> Signalizacija bo še vedno potrebna. Kaj pa pešči, kolesarji, delovni stroji...

Psh.

NocnaShada ::

Kdo bo odgovarjal? To je od vsega najmanj pomembno. Senkrat ponavljam, za tiste, ki ste pocasnejsi on the uptake:
Kdo pobije vec ljudi? => Kaksna je verjetnost, da bom kot udelezenec prometa umrl, na poti od A do B?

Ce bodo autoavti pobili manj ljudi, imam veliko raje, da te zapelje z druzino v prepad, kot pa da pustimo se naprej voznjo meatbagom.

Zgodovina sprememb…

MrStein ::

"Oh moj bog! Letalo je padlo! Nič, jaz grem z avtom. Ker je bolj varno!"

*Slika Carlina o IQ ljudi.*
Motiti se je človeško.
Motiti se pogosto je neumno.
Vztrajati pri zmoti je... oh, pozdravljen!

Unknown_001 ::

Truga je izjavil:

moj modem od ciscota se tud ne zna pogovarjat z routerjem od tp-linka! Dej malo pomisli no. Internet deluje v *vseh* drzavah po svetu, z vsemi napravami, ti pa razlagas kako se 10 preostalih velikih proizvajalcev vozil ne bo moglo zment za protokol za komunikacijo.

prav tako ne rabis znakov, google maps ze danes ve, kok so omejitve pri posameznih odsekih, kera cesta je glavna, kje je spolzko ob dezju, itd.

edini problem ostanejo cloveski vozniki, katere bo pac treba prepovedat. jebiga, ampak tko pac je. edine posledice tega bojo bistveno hitrejsi in varnejsi promet.


Nisi me razumel. Da tvoj modem lahko komunicira z drugimi ampak ni fora v tem. Problem je drug. Sinhronizacija prometa ne bo možna. Avtomobili se bodo med seboj že znali zmenit da ne bo pizdarije. Najbolj bo to trpelo v času konic pa če ne bo enega sistema ki bo ves prometni tok vodil in usmerjal (skrbel za pretočnost), bo vse skup en navaden kaos brez signalizacije. Zato je potrebna signalizacija, da se bodo znali zmenit, kdo gre prvi čez križišče itd, ker če bi vedno veljalo pravilo srečanja... bo sranje. Zakaj neki obstaja semafor?
Wie nennt man einen Moderator mit der Hälfte des Gehirnis ?

Begabt

Zgodovina sprememb…

nevone ::

Zakaj neki obstaja semafor?


Zato, ker ljudje ne znajo takole vozit.

o+ nevone
Rather we will eat the Space or Space will eat us.

          ::

Sedaj se avti čipirajo tako, da imajo večjo moč, potem se bodo čipirali tako, da bodo izsiljevali prednost ali neupoštevali druge omejitve.

M.B. ::

@nevone: to zgleda lepo in zelo verjetno za križišče samo avtov. Ampak kam boš pa dal, kolesa pa pešce pa delovne stroje, mopede, pa ostalo?
Everyone started out as a newbie.
Sadly only a handful ever progress past that point.

nevone ::

Ampak kam boš pa dal, kolesa pa pešce pa delovne stroje, mopede, pa ostalo?


Good point. Mogoče en štuk višje ali nižje.

o+ nevone
Rather we will eat the Space or Space will eat us.

Zgodovina sprememb…

  • spremenila: nevone ()

M.B. ::

To teoretično gre. Praktično pa potrebuješ več prostora in vprašanje koliko ljudi bi to potem uporabljajo da nebi kr bezljali čez cesto, da jim ni treba hodit po podhodih/nadhodih.
Everyone started out as a newbie.
Sadly only a handful ever progress past that point.

Messiah ::

nevone je izjavil:

Zakaj neki obstaja semafor?


Zato, ker ljudje ne znajo takole vozit.

o+ nevone


Close enough.



M.B. je izjavil:

@nevone: to zgleda lepo in zelo verjetno za križišče samo avtov. Ampak kam boš pa dal, kolesa pa pešce pa delovne stroje, mopede, pa ostalo?


Ne kam, ampak kaj jim boš dal? Vsadke :)
https://tinyurl.com/y6a33u76

Truga ::

M.B. je izjavil:

@nevone: to zgleda lepo in zelo verjetno za križišče samo avtov. Ampak kam boš pa dal, kolesa pa pešce pa delovne stroje, mopede, pa ostalo?

Podhod/nadhod. To se po svetu ze dolgo uporablja pri prometnih cestah. Kdo bo pa cakal se semafor za pesce, dej no. Se v ljubljani mamo par podhodov (pol pa se semaforje zraven trolololo)

sesobebo ::

Truga je izjavil:

Podvoz/nadvoz.

ftfy

darkolord ::

Nardiš celo cesto podvoz/nadvoz.
spamtrap@hokej.si
spamtrap@gettymobile.si

BT52 ::

Ehh pa veste da tole stane? Zakomplicirate kjer ni problema.

Unilseptij ::

NocnaShada je izjavil:

Kdo bo odgovarjal? To je od vsega najmanj pomembno. Senkrat ponavljam, za tiste, ki ste pocasnejsi on the uptake:
Kdo pobije vec ljudi? => Kaksna je verjetnost, da bom kot udelezenec prometa umrl, na poti od A do B?

Ce bodo autoavti pobili manj ljudi, imam veliko raje, da te zapelje z druzino v prepad, kot pa da pustimo se naprej voznjo meatbagom.


Sori, jaz pa na to ne pristanem. Pa tudi primerjave z letali in podobnim niso na mestu. Letalo pade dol zaradi napake v sistemu, tako kot avto lahko zleti s ceste, ce mu odpovejo zavore. To ni sporno in je pac tveganje, ki je vedno prisotno in ga naceloma sprejemamo. Jaz govorim o tem, da je avto programiran tako, da me v dolocenih okoliscinah namenoma odpelje v prepad, ker mu pac to kot najboljso opcijo izracuna njegov algoritem. In kakrsenkoli izracun je ze zadaj, jaz take odlocitve o svojem zivljenju ne mislim prepustiti stroju... se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov. In veliko jih bo mislilo podobno... In siliti (recimo s prepovedjo cloveskih voznikov) ljudi, da odlocitev o svojem zivljenju prepustijo stroju na tak nacin, je nemogoce.

nevone ::

se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov.

Če ti nek sistem (bistveno) zmanjša tveganje, je objektivno neumno ga ne uporabljati, čeprav tveganje ni enako natančno 0.

In veliko jih bo mislilo podobno...

Bolj ko bodo nesreče redke, manj jih bo tako mislilo. Tisti, ki bodo še vedno tako mislili iz načelnih razlogov, bodo v manjšini.
Rather we will eat the Space or Space will eat us.

energetik ::

Unilseptij je izjavil:

NocnaShada je izjavil:

Kdo bo odgovarjal? To je od vsega najmanj pomembno. Senkrat ponavljam, za tiste, ki ste pocasnejsi on the uptake:
Kdo pobije vec ljudi? => Kaksna je verjetnost, da bom kot udelezenec prometa umrl, na poti od A do B?

Ce bodo autoavti pobili manj ljudi, imam veliko raje, da te zapelje z druzino v prepad, kot pa da pustimo se naprej voznjo meatbagom.


Sori, jaz pa na to ne pristanem. Pa tudi primerjave z letali in podobnim niso na mestu. Letalo pade dol zaradi napake v sistemu, tako kot avto lahko zleti s ceste, ce mu odpovejo zavore. To ni sporno in je pac tveganje, ki je vedno prisotno in ga naceloma sprejemamo. Jaz govorim o tem, da je avto programiran tako, da me v dolocenih okoliscinah namenoma odpelje v prepad, ker mu pac to kot najboljso opcijo izracuna njegov algoritem. In kakrsenkoli izracun je ze zadaj, jaz take odlocitve o svojem zivljenju ne mislim prepustiti stroju... se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov. In veliko jih bo mislilo podobno... In siliti (recimo s prepovedjo cloveskih voznikov) ljudi, da odlocitev o svojem zivljenju prepustijo stroju na tak nacin, je nemogoce.
Zakaj bi bil tako sprogramiran?? Verjetno bo vsak sistem poskušal zaščiti kar najbolj svoje potnike, zato jih ne bo zapeljal v prepad. Če bo pred seboj zagledal žival/človeka, ki skoči na cesto, bo pač zaviral v sili, nikakor pa ne zavil v prepad ali v nasproti vozeč šlepar. Taka žival/človek pa bosta pač dobila Darwinovo nagrado. Na označenih mestih za prehod pa se to itak ne bo moglo zgoditi, ker avtopilot ne bo nikoli kršil predpisov.

m0LN4r ::

Evo tale se ze luknjam na cesti izogiba, direkt za slovenske ceste :)
https://www.facebook.com/NVIDIA/videos/...
IN AMD RTG WE BELIEVE
Sooner or later TM

nekikr ::

se najmanj me zanima ali so njegovi algoritmi optimalni ali ne, jaz pac ne pristanem na to iz cisto nacelnih razlogov.

Odpovejo ti zavore pri 150km/h. Situacija je taka, da lahko zbiješ 7 nosečnic in 10 malčkov, ali pa zgrmiš v prepad. Po svojem načelnem prepričanju boš naredil kaj? Algoritem bo za tako odločitev porabil nekaj nanosekund, odločitev seveda tebi ne bo všeč. Kaj bi naredil pa ti?

matobeli ::

Ker nosečnice in malčki se sprehajajo na nemškem autobanu?

Mare2 ::

Če slučajno kdo ve, kako tole najde parking. :)
http://bit.ly/Navodilo123 Podpora za N26 Mastercard za Slovenijo

          ::

Če se bo v takem avtu peljal precednik, ali bo avto mogoče čipiran, bo algoritem raje pregazil nosečnice.
strani: 1 2 3


Vredno ogleda ...

TemaSporočilaOglediZadnje sporočilo
TemaSporočilaOglediZadnje sporočilo
»

Najhujša nesreča avtonomnega vozila doslej, krivec človek (strani: 1 2 3 )

Oddelek: Novice / Ostale najave
14316319 (10136) MrStein
»

Googlovi samovozeči avtomobili povzročili prvo prometno nesrečo

Oddelek: Novice / Znanost in tehnologija
287477 (4050) Okapi
»

Prva nesreča Googlovih avtonomnih avtomobilov s poškodovanci, krivda drugje (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
6016153 (11132) Lakotnik29
»

Dve novi nezgodi Googlovih samovozečih avtomobilov, povzročitelji drugi vozniki

Oddelek: Novice / Znanost in tehnologija
146720 (3656) ales85
»

Google: naši avtomobili v 11 nesrečah, nikdar krivi (strani: 1 2 )

Oddelek: Novice / Znanost in tehnologija
7422184 (13475) AndrejO

Več podobnih tem