Slo-Tech - Nizozemsko sodišče v Haagu je odločilo, da je uporaba algoritma na podlagi strojnega učenja, ki ga je nizozemska država uporabljala za lovljenje izkoriščevalcev socialnih prejemkov, nezakonita. Program Systeem Risico Indicatie (SysRI) je orodje iz strojnega učenja, ki je pregledalo kršitelje zakonodaje s področja socialnega varstva v preteklosti in na podlagi zbranih korelacij preverilo trenutne prejemnike in ocenilo, kdo je najverjetnejši kršitelj. Te so potem inšpektorji tarčno preverjali.

Glavni problem je bilo zbiranje podatkov iz različnih baz, do katerih je imel SysRI potem celovit dostop. Program je bil usmerjen pretežno na prebivalce iz revnih sosesk in manjšine, je dejal poročevalec za revščino in človekove pravice v Združenih narodih Philip Alston. Avtomatizirani sistem je nedolžne ljudi označil kot osumljence na podlagi algoritmov, ki niso bili poznani (black box), zaradi česar je bil sistem tarča številnih kritik.

Humans Right Watch je odločitev označila kot pomembno...

Slo-Tech - Ameriški Urad za varnost v prometu (NTSB) je objavil končno poročilo o nesreči Uberjevega avtonomnega vozila marca lani, v kateri je življenje izgubila peška, ki je nepravilno prečkala cestišče. V poročilu NTSB ugotavlja, da je imel Uberjev avtomobil vrsto varnostnih pomanjkljivosti, ki bi lahko prispevale k nesreči. Vseeno v poročilu niso jasno opredelili, kdo je odgovoren za smrt peške. To bodo storili na seji 19. novembra, kjer bodo določili vzrok za nesrečo.

Marca 2018 je Uberjev Volvo XC90, predelan v avtonomno vozilo in z varnostnim voznikom v vozilu, v Arizoni v bližini naselja do smrti povozil 49-letno peško, ki je prečkala cestišče na slabše osvetljenem delu ceste izven prehoda. NTSB je ugotovil, da Uberjevo vozilo peško in kolo, ki ga je potiskala ob sebi, pravilno prepoznalo kot kolo in začelo zavirati šele 0,2 sekunde pred trkom, ko je bilo že prepozno. Varnostna voznica v vozilu med dogajanjem ni bila pozorna na promet in ni reagirala.

NTSB ugotavlja, da vozilo ni...

Slo-Tech - Ameriški Nacionalni urad za prometno varnost (NTSB) je objavil vmesno poročilo o nesreči, ki se je v Arizoni zgodila 18. marca in v kateri je Uberjev samovozeč avtomobil do smrti povozil peško, ki je na neoznačenem mestu prečkala cestišče. Poročilo pritrjuje ocenam, ki so kmalu po incidentu začele krožiti po medijih in internetu. Uberjevi senzorji so peško zaznali šest sekund pred trčenjem, a algoritem ni sprožil nobene akcije, ker je bilo zaviranje v sili izključeno. Nadzornica vozila je začela zavirati šele slabo sekundo po trčenju, ker ni bila pozorna na dogajanje na cesti.

Šlo je za Volvo XC90 letnik 2017, ki ga je Uber predelal in vanj vgradil lasten sistem za avtonomno vožnjo. Vozilo je imelo več kamer (med vožnjo je delovalo 10 kamer), radarje, lidar, navigacijske senzorje, računalnik in nosilce...

recode.net - Čeprav uradna preiskava še ni končana, počasi na dan prihajajo informacije, kaj se je zgodilo usodnega marčevskega večera, ko je Uberjev samovozeči avtomobil zbil peško, ki je neprevidno prečkala cesto. Posnetki, ki jih je policija razkrila kmalu po nesreči, so pokazali, da vozilo ni niti poizkušali zavreti, čeprav bi morali morali senzorji peško zaznati vsaj nekaj sekund pred trkom. Kot kaže sedaj, so jo zaznali, a se je logika v vozilu odločila, da jo bo prezrla. Vozilo je torej videlo, a ni razumelo. S tem je odpadla možnost, da je bilo kaj narobe s senzorji.

Z drugimi besedami, Uberjevi algoritmi so informacije senzorjev označili kot šum oziroma lažni pozitivni izid, zaradi česar...

Slo-Tech - Po pričakovanjih je Arizona Uberju prepovedala preizkušanje samovozečih avtomobilov na cestah v državi, kar praktičnih posledic ni imelo, saj je Uber takoj po nesreči s smrtnim izidom ustavil vse teste na cestah. Kljub temu je razumljivo, da se je še guverner Arizone Doug Ducey in uradno povedal, da so Uberju sporočili, da je varnost prva prioriteta. Četudi se bo Uber v prihodnosti odločil ponovno zagnati sistem, avtonomnih vozil ne bo smel voziti po Arizoni.

To je velika sprememba v Duceyjevem odnosu do avtonomnih vozil, saj je pred tem incidentom Arizona veljala kot do te tehnologije zelo gostoljubna država. Podjetja so lahko samovozeče avtomobile testirala brez večjih preprek,...

Slo-Tech - Zadnja nesreča samovozečih avtomobilov, v kateri je Uberjevo vozilo s tragičnimi posledicami povozilo peško, ki je nepravilno, a na skoraj prazni cesti prečkala cestišče, je vzpodbudila številne razprave o zanesljivosti te tehnologije. Posnetek z Uberjeve kamere, ki ga je objavila policija, nazorno prikaže, da vozilo pred trčenjem sploh ni reagiralo. Senzorji peške pred trkom sploh niso zaznali, zato vozilo ni niti začelo zavirati ali spreminjati smeri vožnje. Nekoliko nenavadno je, da je posnetek precej temnejši od neodvisnega posnetka na isti cesti ob enaki uri, a to niti ni tako pomembno. Samovozeči avtomobili ne gledajo kakor ljudje in bi morali s svojimi senzorji (lidar, IR...

BBC - Sinoči se je v Arizoni zgodila prometna nesreča s smrtnim izidom, v kateri je bil udeležen Uberjev samovozeči avtomobil. Po podatki policijske uprave v Tempeju, kjer je prišlo do trčenja, je vozilo v času nesreče obratovalo v avtonomnem načinu, je pa za volanom sedel operater za prevzem nadzora v sili. Vozilo je ob 22. uri po lokalnem času trčilo v 49-letno peško, ki je nepravilno prečkala cesto. Ponesrečenka je pozneje v bolnišnici umrla zaradi posledic prometne nezgode. To je prva nesreča s smrtnim izidom, v katero je udeleženo avtonomno vozilo. Pred poldrugim letom je sicer v trčenju s tovornjakom umrl lastnik tesle, ki se je zanašal na asistenčni sistem, a Tesla svojih vozil nikoli ni oglaševala kot samovozečih, temveč je ves čas poudarjala, da ponujajo...

Slo-Tech - Dolgemu seznamu proizvajalcev, ki preizkušajo avtonomna vozila, se pridružuje še eno podjetje, ki ga poznamo po pametnih telefonih. Samsung je v domači Južni Koreji dobil dovoljenje za preizkušanje samovozečih avtomobilov na javnih cestah, so včeraj sporočili s pristojnega korejskega ministrstva. V Južni Koreji ima tako dovoljenje že skoraj dvajset podjetij in drugih ustanov (recimo univerz), potem ko je prvo februarja lani dobil Hyundai. In Samsung bo uporabljal prav Hyundaijeva vozila, ki jih bo nadgradil z lastno tehnologijo.

Le vprašanje časa je bilo, kdaj bo Samsung dobil dovoljenje za to početje, saj avtonomna vozila razvijajo vsi njegovi konkurenti. Google, Uber, Waymo in Apple jih testirajo v ZDA, Samsung pa jih bo seveda na rodni grudi....

Slo-Tech - Razcepu se približuje vlak, ki se ne more ustaviti. Na enem tiru je zvezanih pet ljudi in tja bo vlak tudi zapeljal, če ga s kretnico ne bomo preusmerili na drugi tir, kjer bo treščil le v enega človeka. To je zelo znan problem v etiki in filozofiji, ki nima enostavnega odgovora. V glavnem teoretičen problem utegne postati zelo realen, ko bodo samovozeči avtomobili postali vsakdanjost, le da se bomo spraševali, ali naj avtomobil reši voznika ali gručo ljudi. Mercedes-Benz pravi, da bo v prvi vrsti ščitil voznike.

Situacija ni tako neverjetna, kot bi se zdelo na prvi pogled. Glavni cilj vsakega algoritma za vožnjo avtomobila bo seveda pot opraviti brez žrtev in škode, a kaj če zaradi takšnega ali drugačnega razloga to ne...