»

Blamaža okoli letošnjih britanskih maturitetnih ocen vnovič kaže na pasti pristranskih algoritmov

vir: BBC
theguardian.com - V preteklem tednu so množice britanskih srednješolcev občutile, kako je, če o tvoji usodi odloča računalnik - in to slabo. Algoritem, ki bi moral ob odsotnosti letošnje mature pomagati določiti dokončne zaključne ocene, je namreč izvrgel sumljivo nizke rezultate in s tem mnogim zaprl pot na želeno univerzo. Po nekaj dneh so se oblasti naposled odločile, da te poti ne bodo uporabile, ostane pa šolska lekcija v slabi praksi rabe algoritmov.

Letošnje leto v Združenem kraljestvu zaradi pandemije covida-19 niso izvedli preizkusov ob koncu srednje šole; to so GCSE, GCE A-level in razni strokovni izpiti - oziroma po domače, matura. Ko je bilo spomladi jasno, da klasična izvedba zaradi karantenskih ukrepov ne bo mogoča, so stekle priprave na izvedbo postopka, ki bi poskrbel za "rezultate, čim bližje siceršnjim iz preteklih let" in hkrati "omejil inflacijo ocen", ki naj bi se dogajala zadnje čase. Odločili so se za kombinacijo ocen učiteljev in pa rabe algoritma, ki je v glavnem upošteval...

70 komentarjev

Apple ima težavo s pristranskim algoritmom za plačevanje

Slo-Tech - Po viralnem čivku ameriškega podjetnika je pretekli vikend postalo jasno, da ima algoritem, ki določa višino uporabnega denarja v plačilni storitvi Apple Card, težave s pristranskostjo, saj ženskam določa do dvajsetkrat nižji limit kot njihovim moškim partnerjem, tudi ko imajo one višje kreditne ocene.

Pretekli petek je ameriški podjetnik David Heinemeier Hansson na svojem Twitterju potožil, da sme njegova žena s kartico Apple Card mesečno plačati dvajsetkrat manj kot on - pa čeprav ima po zunanjih kreditnih ocenah višjo plačilno sposobnost od njega. Ker ima Hansson kot oče platforme Ruby on Rails več sto tisoč sledilcev, se je njegov očitek ekspresno razširil po Silicijevi dolini in širše. Steve Wozniak je potrdil, da podobno velja za njegovo ženo, ki ima na Apple Cardu desetkrat nižji limit od njega, čeprav si delita finance; kmalu se je podobnih pričevanj kar usulo.

Hitro se je oglasil Newyorški finančni urad in sprožil preiskavo o morebitni spolni diskriminaciji. Apple je...

199 komentarjev

OpenAI je ustvaril algoritem, ki si ga ne upa spustiti v divjino

theguardian.com - V laboratoriju za strojno inteligenco OpenAI so napravili algoritem za generiranje besedil, ki je po njihovem mnenju prenevaren, da bi ga v celoti dali v javnost.

Strojni algoritmi danes ne znajo zgolj prepoznavati vzorcev, temveč tudi ustvarjati nove vsebine, na primer slike in obraze. Seveda so še na stopnji, ko pozornega človeka zelo težko pretentajo, saj je večina njihovih stvaritev nepopolna, dostikrat pa naravnost groteskna. Toda očitno prihajamo v čas, ko bo strojna pamet postala tako sposobna, da bodo njene stvaritve težko razločljive od človeških. V družbi OpenAI, za katero stoji Elon Musk, so namreč ustvarili generator tekstovnih besedil, ki ga ne želijo spustiti iz laboratorija. Menijo, da je tako učinkovit, da bi pomenil...

52 komentarjev

Afriški znoj za strojno pametjo

vir: BBC
BBC - Podjetja iz Silicijeve doline garaške segmente razvoja umetne inteligence že prepuščajo zunanjim izvajalcem v državah tretjega sveta.

O tem, kako se imamo za dostopnost zadnjih krikov elektronike v mnogočem zahvaliti zunanjemu izvajanju (outsourcing) proizvodnje, je bilo že dosti napisanega. A poceni garaška delovna sila prinaša koristi tudi pri strojni inteligenci. Za učinkovit proces učenja AI namreč potrebujemo ogromne količine podatkov, ki jih je koristno predhodno pripraviti, da jih računalnik lažje razume. To pomeni, da na primer v posnetkih prometa ročno označimo vozila, prometne znake in druge važne elemente, preden jih serviramo računalniški pameti za avtonomno vožnjo. To je monotono in mukotrpno delo.

Firma Samasource iz San Francisca, katere...

53 komentarjev

Amazon je moral ukiniti pristranski AI za pomoč pri zaposlovanju

vir: Reuters
Reuters - Amazon je bil v začetku lanskega leta primoran zapreti svoj oddelek, v katerem so razvijali umetno inteligenco za ocenjevanje kandidatov za zaposlitev, saj niso uspeli razviti algoritma, ki bi ne bil brezupno pristranski.

Strojna inteligenca zadnje čase leta visoko, zato je za prizemljitev koristno omeniti prigode, ki opozarjajo tudi na njene pomanjkljivosti. Eno takšnih so izbrskali pri Reutersu, kjer so odkrili, da je imel Amazon širokopotezne načrte z uporabo algoritmov pri zaposlovanju, ki pa so se večjidel sesuli v prah. V podjetju so od leta 2014 pospešeno razvijali AI, ki bi znala hitro sortirati med prijavami za zaposlitev, oziroma življenjepisi. Toda že v 2015 so pogruntali, da vrača hudo pristranske rezultate, saj je vse...

107 komentarjev

Prihaja strojno podprta kolektivna človeška inteligenca

vir: Axios
Axios - Napredna platforma za anketiranje ljudi Swarm AI daje boljše napovedi in diagnoze od strokovnjakov ter umetne inteligence.

Strojna pamet je trenutno eno najbolj razvpitih tehnoloških področij, a tudi človeške očitno še nismo dodobra izkoristili. Kalifornijsko podjetje Unanimous AI je s svojo platformo Swarm AI pokazalo, da je moč skupinsko presojo ljudi uporabiti kot še nikdar doslej. Swarm AI je zadnja tri leta zapored bolje od slehernega strokovnjaka napovedala dobitnike Oskarjev, pa zmagovalce v bejzbolu in na konjskih dirkah, kar je nekaterim pozornim opazovalcem dejansko navrglo denar iz stav. Zdaj firma svojo platformo usmerja v resnejše vode in na Stanfordski univerzi so pokazali, kako je osem...

30 komentarjev

DARPA vlaga novi dve milijardi v strojno inteligenco

vir: DARPA
DARPA - Ameriška agencija za vojaške raziskave DARPA je sprožila nov program za razvoj umetne inteligence, vreden dve milijardi ameriških dolarjev.

Sredi lanskega leta je kitajska oblast začrtala širokopotezno strategijo, s katero želi državo do leta 2030 zavihteti na vodilno mesto v industriji umetne inteligence. Kopica tamkajšnjih socialnih eksperimentov kaže, da ne gre za prazne besede. To je v Združenih državah povzročilo veliko vznemirjenja, saj država na tem področju nima krovne strategije, podobne kitajski, temveč pobudo pri razvoju prepušča zasebnim podjetjem. Naposled so meseca maja v Beli hiši priredili srečanje s predstavniki industrije, na katerem je padlo nekaj

4 komentarji

Brisanje meja med slušnimi aparati in pametnimi slušalkami

IEEE Spectrum - Podjetje Starkey Hearing Technologies je na tržišče poslalo slušni aparat Livio AI, ki zmore hkrati predvajati glasbo in pogovore s telefona, prevajati jezike ter meriti nekatere telesne kazalce.

Novinke: Livio AI je poskus, da bi dolgočasno medicinsko napravo preobrazili v multifunkcijske, splošno uporabne slušalke. S pomočjo vgrajene strojne pameti prepoznajo zvočno okolico in prilagodijo jakost zvoka, znajo pa se tudi usmeriti na določen vir. Obenem je možno nanje brezžično speljati signal s telefona, televizorja ali računalnika in v spregi s pametnim telefonom prevajati 27 jezikov. Zanimivo je, da je vgrajena strojna inteligenca še preprostejše, prejšnje generacije...

29 komentarjev

Evropski varuhi zasebnosti: delodajalci ne smejo preverjati kandidatov na družbenih omrežjih

Slo-Tech - Raziskava več kot 2000 delodajalcev, ki jo je izvedel CareerBuilder, je pokazala, da 60 odstotkov delodajalcev kandidate za zaposlitev preveri tudi na družbenih omrežjih. To se utegne v Evropi spremeniti, saj je Delovna skupina iz člena 29 (Article 29 Working Party), ki jo sestavljajo predstavniki vseh članic EU in je bila ustanovljena z namenom svetovati Evropski komisiji v vseh zadevah, povezanih z osebnimi podatki, mnenja, da to ni dopustno. Delovna skupina sicer ne predlaga ali sprejema zakonodaje, svetuje pa Evropski komisiji in nadzira uvedbo zakonodaje v državah članicah, zato je njeno mnenje zelo pomembno.

Skupina meni, da je preverjanje kandidatov na družbenih omrežjih pred zaposlitvijo v nasprotju z evropsko zakonodajo. Skupina je izdala nove...

92 komentarjev