Novice » Ostale najave » Apple ima težavo s pristranskim algoritmom za plačevanje
windigo ::
FormerUser je izjavil:
A lot of the business models are built around standard males with average earnings, with certain predictable patterns of earnings growth.
Samo opomba: presečna množica med modeliranjem in avtomatskim učenjem je praktično prazna. Oziroma iz tega, kar nam poutežijo algoritmi za avtomatsko učenje, še ne znamo izluščiti razumljivega modela. Pri modeliranju je pristranskost v ljudeh, ki razvijajo model, pri AI pa izvira pristranskost iz pomanjkljivih podatkov.
Skratka lahko uporabljajo s strani ljudi načrtovan model ali pa AI, oboje skupaj je zaenkrat malo verjetno.
Cruz ::
Ne upošteva.FormerUser je izjavil:
tudi ko imajo one višje kreditne ocene."
Kreditna ocena ne vključuje izdatkov za frizerja, fitnes, botoks, jogo, fešn, spa, nakit, ure, golf, klube, viski, cigare in podobne statusne simbole. Apple pa to lahko upošteva.
“As with any other individual credit card, your application is evaluated independently,” Williams said in a statement. “We look at an individual’s income and an individual’s creditworthiness, which includes factors like personal credit scores, how much personal debt you have, and how that debt has been managed.”
Sedaj bodo algoritem toliko časa "privijali", da bo zadovoljil ženske, moške, azijce, črnce, kavkazijce, avstralce, moške srednjih let ipd?Seveda, saj so enakopravni člani družbe. Zgodovinski/starejši podatki, ki so v današnjem času nerelevantni, lahko močno vplivajo na diskriminacijo.
TheBlueOne je izjavil:
da gledajo predvsem kako dolgove vracas.Verjetno je to. Premalo podatkov imamo, da bi lahko vedeli zagotovo. Bodo že povedali kje točno je bil problem.
::
TheBlueOne je izjavil:
Ce ne uposteva spola no.
Lahko pa je spol v močni korelaciji z nekaterimi drugimi parametri, ki pa se upoštevajo.
TheBlueOne ::
je izjavil:
TheBlueOne je izjavil:
Ce ne uposteva spola no.
Lahko pa je spol v močni korelaciji z nekaterimi drugimi parametri, ki pa se upoštevajo.
Ja zna biti da je, v tem je problem. Ampak ni nujno, da je to neposteno, ker ce zenske naprimer v povprecju slabse operirajo z dolgovi kot moski, bo algoritem pac deloval pristranski. Ampak ne nujno neupraviceno.
Zgodovina sprememb…
- spremenil: TheBlueOne ()
FormerUser ::
TheBlueOne je izjavil:
FormerUser je izjavil:
Saj ti lepo piše. Obnašanje povprečnega moškega je standard, vse kar odstopa pa deviacija in zato kritična.
Ce ne ve kdo je moski, samo gleda, kje se boljse izidejo stevilke. Da si ne bos na koncu dokazala, da tipi v povprecju enostavno bolj smoterno zapravljamo. Tak zakljucek marsikoga ne bo presenetil.
Tu niso navade, so podatki in stevilke na eni strani in stevilke na drugi. Samo denar je verjetno na koncu v igri, nic drugega.
Tipi predvsem več zaslužijo, da znajo smotrneje ravnati s financami, je pa stereotip, ki seveda ne drži, večkrat dokazano. Sicer pa je za konkretni primer GS sprožena uradna preiskava in se bo upam pokazalo kje so pravi vzroki.
Zgodovina sprememb…
- spremenilo: FormerUser ()
Bellzmet ::
TheBlueOne ::
FormerUser je izjavil:
Tipi predvsem več zaslužijo, da zanjo smotrneje ravnati s financami, je pa stereotip, ki seveda ne drži, večkrat dokazano. Sicer pa je za konkretni primer GS sprožena uradna preiskava in se bo upam pokazalo kje so pravi vzroki.
Mozno, ampak so vse spukulacije in si primer trenutno se ne zasluzi taksne pozornosti oz. ni pametno, da jo ima. Kjer se moras zavedati, da je zadeva dvorezni mec, ker ce GS ugotovi, da so algoritmi neseksisiticni, nerasisticni itn., potem je to bolj dokaz, da stereotip se kako drzi, kot pa obratno.
Zgodovina sprememb…
- spremenil: TheBlueOne ()
Miki N ::
TheBlueOne ::
Če spola ne smeš dat v algoritem zaradi diskriminacije... Pač daš v algoritem izdelke/trgovine/storitve, ki jih kupujejo pretežno moški in pretežno ženske in potem zna algoritem dosti zanesljivo "sklepat" za kateri spol gre.
S tem priznas, da moras za zenske tako ali drugace postaviti olajsevalne pogoje, kar seveda ne bi bilo posteno do moskih. To bi gotovo kaksna komisija prepoznala kot seksizem, ce ni seksizem samo proti zenskam.
Zgodovina sprememb…
- spremenil: TheBlueOne ()
windigo ::
Ne upošteva.
Kje to piše oz. kdo to pravi? /citirani članek že ne/
Kar se mumbo jumba z osebnimi in deljenimi računi tiče, imata gospod in gospa s twitterja najbrž osebne račune, sicer ne bi mogla niti oba zaprositi za vsak svoj Apple Card.
TheBlueOne je izjavil:
da gledajo predvsem kako dolgove vracas.Verjetno je to. Premalo podatkov imamo, da bi lahko vedeli zagotovo. Bodo že povedali kje točno je bil problem.
To je pravzaprav namen credit scora in naj bi se te reči dalo prebrati prav iz te številke. Če ima žena podobne dohodke in višji credit score od moža, to verjetno ne pomeni, da je manj zanesljiva pri servisiranju dolga.
FormerUser ::
TheBlueOne je izjavil:
FormerUser je izjavil:
Tipi predvsem več zaslužijo, da zanjo smotrneje ravnati s financami, je pa stereotip, ki seveda ne drži, večkrat dokazano. Sicer pa je za konkretni primer GS sprožena uradna preiskava in se bo upam pokazalo kje so pravi vzroki.
Mozno, ampak so vse spukulacije in si primer trenutno se ne zasluzi taksne pozornosti oz. ni pametno, da jo ima. Kjer se moras zavedati, da je zadeva dvorezni mec, ker ce GS ugotovi, da so algoritmi neseksisiticni, nerasisticni itn., potem je to bolj dokaz, da stereotip se kako drzi, kot pa obratno.
Če primer ne bi bil medijsko izpostavljen, preiskave sploh ne bi bilo. Nimam nobenih problemov s tem, da dobi ženska manj ugodne pogoje, ampak podlaga naj bo poštenost, ne predsodki.
Furbo ::
Recimo, grem čez BTC, 80% cunj in čevljev v ponudbi je za ženske. Je že kakšna cvilila kdaj, čemu taka pristranskost? Je žaljivo, če bi zdaj računalniški algoritem naredil BTC2 z istim razmerjem moških in ženskih cunj in čevljev?
Od kje trapastim feministkam ideja, da smo moški in ženske enaki, da mora biti vse enako, v isti sapi pa cvilijo, da morajo biti ženski wcji večji, ne sme biti pristranskosti - me zanima katera bi šla dol iz potapljajoče ladje raje med moškimi itd, prav tako sem opazil cviljenje pred kratkim, ko je nekdo imel idejo o vojaškem roku za oba spola..
Toughpower GF3 1000W, RTX3070, ALIENWARE AW3423DWF, Dell S2722QC
FormerUser ::
Zgodovina sprememb…
- spremenilo: FormerUser ()
TheBlueOne ::
FormerUser je izjavil:
Če primer ne bi bil medijsko izpostavljen, preiskave sploh ne bi bilo. Nimam nobenih problemov s tem, da dobi ženska manj ugodne pogoje, ampak podlaga naj bo poštenost, ne predsodki.
Pa ce spola ne upostevajo. Samo, da je na koncu razlika pac ne pomeni, da kaj ni posteno. Ne poznas teh, ki to dajejo v ospredje niti njihovih financnih specifik. Morda je seksisticno, ampak kar je za prebrati tega ne potrdi. Bo pa zanimivo videti, kaj se na koncu iscimi.
::
TheBlueOne je izjavil:
je izjavil:
TheBlueOne je izjavil:
Ce ne uposteva spola no.
Lahko pa je spol v močni korelaciji z nekaterimi drugimi parametri, ki pa se upoštevajo.
Ja zna biti da je, v tem je problem. Ampak ni nujno, da je to neposteno, ker ce zenske naprimer v povprecju slabse operirajo z dolgovi kot moski, bo algoritem pac deloval pristranski. Ampak ne nujno neupraviceno.
Neupravičeno bi bilo edino v primeru, da so algoritem natrenirali na učnih podatkih, kjer so ljudje dajali slabše pogoje ženskam.
Paradoksalno pri vsem skupaj je to, da tudi če bi imeli pošten algoritem, ki bi le na podlagi dejstev dajal slabše pogoje ženskam, bi bil tak algoritem označen za seksističnega in bi ga morali popraviti tako, da bi za ženske deloval drugače, torej bi moral biti diskriminatoren.
FormerUser ::
TheBlueOne je izjavil:
FormerUser je izjavil:
Če primer ne bi bil medijsko izpostavljen, preiskave sploh ne bi bilo. Nimam nobenih problemov s tem, da dobi ženska manj ugodne pogoje, ampak podlaga naj bo poštenost, ne predsodki.
Pa ce spola ne upostevajo. Samo, da je na koncu razlika pac ne pomeni, da kaj ni posteno. Ne poznas teh, ki to dajejo v ospredje niti njihovih financnih specifik. Morda je seksisticno, ampak kar je za prebrati tega ne potrdi. Bo pa zanimivo videti, kaj se na koncu iscimi.
Ne poznam, je bilo pa sedaj že več takšnih primerov, kjer je algoritem izvrgel seksistični rezultat, torej res ne vem zakaj bi se morali čuditi oz. sprenevedati, da kaj takega sploh ni možno.
TheBlueOne ::
FormerUser je izjavil:
Dvomim, da toliko kot sem jaz naveličana šovi cviljenja in sprenevedanja, da seksizem ne obstaja, čeprav nam vsak dan servirajo dokaze za njegov obstoj.
Seveda obstaja, ampak je na nekem formalnem nivoju nelegalen na osebnem pa stvar izbire.
Pametnim kritikom naprimer gre na jetra, ko se govori o kaksnih kvotah, ki bi izbiro dejansko naredila glede na spol in ne na sposobnosti. Tudi "srednje desna" aktualna popkultura, kar gotovo ves, nasprotuje enakosti izida ampak nikakor svobodni izbiri enakim moznostim itn.
FormerUser ::
TheBlueOne je izjavil:
FormerUser je izjavil:
Dvomim, da toliko kot sem jaz naveličana šovi cviljenja in sprenevedanja, da seksizem ne obstaja, čeprav nam vsak dan servirajo dokaze za njegov obstoj.
Seveda obstaja, ampak je na nekem formalnem nivoju nelegalen na osebnem pa stvar izbire.
Ne, ni stvar izbire in to AI lepo ponazori, ampak stvar naučenih vzorcev, ki se prenašajo iz roda v rod.
TheBlueOne ::
FormerUser je izjavil:
Ne poznam, je bilo pa sedaj že več takšnih primerov, kjer je algoritem izvrgel seksistični rezultat, torej res ne vem zakaj bi se morali čuditi oz. sprenevedati, da kaj takega sploh ni možno.
Ce spol ni faktor, potem naceloma ni seksisticen. Je pa mozno, da preferira eno skupino. Ce imas recimo algoritem za kam poslati vzorce kozmetike, bi bil hudo zanic, ce bi posiljal nakljucno, kar bi bilo priblizno 50:50. Ampak tu je jasno zakaj, ko bo jasno zakaj je pri Applu bilo tako pa bo ali, da je bil nacrtno diskriminatoren ali pa, da se zenske obnasajo manj smoterno.
Razlike lahko pricakujes, ker se obnasamo drugace, drugace kupujemo itn.
FormerUser ::
TheBlueOne ::
FormerUser je izjavil:
Ne, ni stvar izbire in to AI lepo ponazori, ampak stvar naučenih vzorcev, ki se prenašajo iz roda v rod.
To ne potrjuje algoritem, je pa seveda v teh okoljih res. Ampak, ce je posledica svobodne izbire, potem nisi nimas kaj za teziti. V tem je poanta svobode, da lahko pocnes "kar hoces". Tudi kako vzgajas otroke je naceloma v veliki vecini tvoja stvar.
FormerUser je izjavil:
Problem ni v različnem obnašanju ampak v tem, da se eno smatra za normalno, drugo pa kot odklon. TO je težava.
Ne, smatra se kot slaba financna praksa. Ker taki verjetno statisticno slabse vracajo dolgove. Verjetno, sigurni smo tezko.
Odklon od profita zaradi spola je neumnost prvega razreda, ko govoris o bankah.
Zgodovina sprememb…
- spremenil: TheBlueOne ()
stara mama ::
TheBlueOne je izjavil:
FormerUser je izjavil:
Dvomim, da toliko kot sem jaz naveličana šovi cviljenja in sprenevedanja, da seksizem ne obstaja, čeprav nam vsak dan servirajo dokaze za njegov obstoj.
Seveda obstaja, ampak je na nekem formalnem nivoju nelegalen na osebnem pa stvar izbire.
Pametnim kritikom naprimer gre na jetra, ko se govori o kaksnih kvotah, ki bi izbiro dejansko naredila glede na spol in ne na sposobnosti. Tudi "srednje desna" aktualna popkultura, kar gotovo ves, nasprotuje enakosti izida ampak nikakor svobodni izbiri enakim moznostim itn.
Me spominja na neko ameriško policijsko šolo, ki so za ženske znižali zahtevano fizično pripravljenost za 30%, da bi povečali vpis žensk.
Kot da bo bad-guy zdaj bežal 30% počasneje samo zato, ker ga lovi policistka....
Zgodovina sprememb…
- spremenilo: stara mama ()
FormerUser ::
Algoritem ponazarja kako se ljudje učijo, tako da ponavljajo obstoječe vzorce, torej ne gre za stvar izbire ampak tradicije. Glede na opisane primere, je zelo nenavadno, da ženskam, ki so bile očitno finančno dobro stoječe, niso odobrili tako dobrih pogojev, saj bi na ta način lahko več zaslužili.
Miki N ::
Zgodovina sprememb…
- spremenilo: Miki N ()
FormerUser ::
Miki N ::
FormerUser je izjavil:
@TBO
Glede na opisane primere, je zelo nenavadno, da ženskam, ki so bile očitno finančno dobro stoječe, niso odobrili tako dobrih pogojev, saj bi na ta način lahko več zaslužili.
Kot je nekdo napisal.. osnovno nerazumevanje narave posla s kreditnimi karticami. Opisuješ ljudi, ki jih ne rabijo.
Poanta kreditiranja ni v rednem odplačevanju.
Zgodovina sprememb…
- spremenilo: Miki N ()
Unilseptij ::
Imaš N vhodnih podatkov.
Podatek 1 ima X atributov, transakcijo izvedla ženska (sistem ne beleži da je transakcijo izvedla ženska).
Podatek 2 ima X atributov, transakcijo izvedel moški(sistem ne beleži da je transakcijo izvedel moški).
Podatek 3 ima X atributov, transakcijo izvedel otrok(sistem ne beleži da je transakcijo izvedel otrok).
Sistem na podlagi N vhodnih podatkov opredeli višino limita.
Kako je lahko v takšnem sistemu karkoli seksističnega, če noben atribut ni spol?
Spet se usajajo nepoznavalci. Sedaj bodo algoritem toliko časa "privijali", da bo zadovoljil ženske, moške, azijce, črnce, kavkazijce, avstralce, moške srednjih let ipd? Sedaj se bo iskalo krivca, atribut ki je pripeljal k temu??? Civilizacija je res v zadnjih izdihljajih
Moras vedeti, da je trditev, da spol ni parameter, samo megla za bucmane.... Ce se recimo v tvojem primeru podatek 1 nanasa na nakupe v trgovinah s specerijo, oblacili in kozmetiko, in se te nakupe sistematicno razvrsca kot manj "zanesljive", potem je to posredna diskriminacija, saj take nakupe vecinoma opravljajo zenske. Ce se potem podatek 2 nanasa na nakupe avtomobilov, tehnicne robe, kriptovalut in podobnega, in se te nakupe razvrsca kot bolj "zanesljive", potem ni tezko uganiti, v katero smer se bo nagibal algoritem, tudi ce spol nikjer ne vstopa v analizo neposredno.
Zato se enkrat... noben algoritem, AI ali karkoli ze, sam po sebi ni nic bolj objektiven kot clovek, ki ga je napisal/razvil. Zato je ideja o super objektivni in nepristranski AI sama po sebi protislovna in zato nerealna.
Zgodovina sprememb…
- spremenilo: Unilseptij ()
TheBlueOne ::
FormerUser je izjavil:
@TBO
Glede na opisane primere, je zelo nenavadno, da ženskam, ki so bile očitno finančno dobro stoječe, niso odobrili tako dobrih pogojev, saj bi na ta način lahko več zaslužili.
Mislis zene soustanovitelja Appla? Je morda soustanovila Microsoft? Dvomim, da med njima ni razlike.
In kdo pravi, da bi tako lahko vec zasluzuli. To moras kot resnico vzeti, da delajo narobe, kjer morda delajo cisto OK.
Unilseptij ::
stara mama ::
bbf ::
Miki N ::
Unilseptij ::
Zgodovina sprememb…
- spremenilo: Unilseptij ()
TheBlueOne ::
FormerUser je izjavil:
Nihče ni kritiziral razlik ampak neupravičene pristranskosti.
Niso dokazane, tako da "potencialne neupravičene pristranskosti". Ce se dokaze obratno, kaj potem? Bos rekla, da so verjetno bili inspektorji pristranski tipi? Ali bos rekla no morda pa zenske niste tako smoterne s financami? Ali kaj tretjega?
Zgodovina sprememb…
- spremenil: TheBlueOne ()
FormerUser ::
Zgodovina sprememb…
- spremenilo: FormerUser ()
FormerUser ::
TheBlueOne ::
FormerUser je izjavil:
Kako bi se lahko izkazalo obratno, če pa v sami banki vedo, da je zadeva problematična in se celo kao trudijo odpraviti pomanjkljivosti.
Ne, banka trdi, da ne bi smelo biti mogoce. Kritizirajo tisti, ki zadeve tehnicno ne poznajo in gledajo samo kaj pride ven na koncu in predvidevajo.
FormerUser ::
stara mama ::
FormerUser je izjavil:
Nihče ni kritiziral razlik ampak neupravičene pristranskosti.
Kaj pa če so razlike v samih nakupovalnih navadah, je to vsem očitno dejstvo tako težko sprejet?
Zgodovina sprememb…
- spremenilo: stara mama ()
TheBlueOne ::
FormerUser je izjavil:
Bom še enkrat citirala: "Goldman was aware of the potential issue before it rolled out the Apple Card in August, but it opted to go with individual accounts because of the added complexity of dealing with co-signers or other forms of shared accounts, according to a person with knowledge of the matter."
Ne pomeni nujno, da je seksisticen algoritem in so se zavedali seksizma. Lahko pomeni samo, da so vedeli za rezultate in so se zavedali, da tudi, ce so tehnicno OK zna zadeva postati problematizirana. Kar se ne cudim, ker roko na srce se danes problematizira skoraj vse.
Tudi ta se je odzvala s pojasnilom, da spol v parametrih njihovega algoritma, ki določa višino denarnih sredstev na kartici, sploh ni zajet - in da torej po njihovem ne morejo biti tarče očitkov o tovrstni diskriminaciji.
Beres nenatancno, vidis kakor hoces videti.
Zgodovina sprememb…
- spremenil: TheBlueOne ()
FormerUser ::
Ah, ne pomeni, da je algoritem seksističen, da so ženske potegnile krajši konec je čisto naključje, potem pa svizec zavije čokolado.
PR je eno, mnenje žvižgača pa nekaj drugega.
Aggressor ::
Bi bilo kar smešno, če ne bi bilo tragično.
(Pa s Hipatijo se strinjam, o groza in strah )
Master_Yoda ::
To, da bodo finančne firme šle v neke ekstreme samo zato, da bodo diskriminirale ženske in ne zgolj zato, da bi čimbolj pobirale keš komurkoli že ... je šolski primer teorije zarote.
This! Katero podjetje v ameriki kjer zastrupljajo naravo / svoje prebivalce for the almighty dollar, bo slo diskriminirati zenske in sebi odrekati vecje dobicke ?
Unilseptij ::
zlobcek ::
Zgodovina sprememb…
- spremenil: zlobcek ()
Miki N ::
Master_Yoda je izjavil:
To, da bodo finančne firme šle v neke ekstreme samo zato, da bodo diskriminirale ženske in ne zgolj zato, da bi čimbolj pobirale keš komurkoli že ... je šolski primer teorije zarote.
This! Katero podjetje v ameriki kjer zastrupljajo naravo / svoje prebivalce for the almighty dollar, bo slo diskriminirati zenske in sebi odrekati vecje dobicke ?
Mogoče jih ljudje tudi kar malo podcenjujejo (korporacije). Kao, ha, Kakšen "zajeb" - Apple Inc. se je zlobno šel neko diskriminacijo žensk mimo vsake ekonomske logike (v lastno škodo so šikanirali petične ženske stranke!) Ampak ni se jim izšlo - bili so razkrinkani od pogumnega insajderja (khm khm) in sedaj so prišli ven z rešitvijo in opravičilom (ki je nekakšen novodobni družbeni "skalp" se zdi). In vsi o tem govorijo.
Mislim ... ok, recimo! Kaj nihče nima več tistega "uličnega" instinkta prepoznati kaj je kaj?
Zgodovina sprememb…
- spremenilo: Miki N ()
Vredno ogleda ...
Tema | Ogledi | Zadnje sporočilo | |
---|---|---|---|
Tema | Ogledi | Zadnje sporočilo | |
» | Google gre v bančništvoOddelek: Novice / Ostale najave | 8102 (5633) | poweroff |
» | Novosti iz ApplaOddelek: Novice / Apple iPhone/iPad/iPod | 10889 (8036) | aborko |
» | Apple bučno najavil sveženj svojih storitev (strani: 1 2 )Oddelek: Novice / Ostale najave | 17199 (13920) | bajsibajsi |