Apple Cardの利用限度額決定アルゴリズムが男女差別をしているのではないかとの疑惑 48
ストーリー by hylom
どういうルールなのだろう 部門より
どういうルールなのだろう 部門より
今年3月にAppleが発表したクレジットカード「Apple Card」（過去記事）に対し、利用限度額を決定するアルゴリズムで男女差別があるのではないかとの指摘が出ているという（BBC、Bloomberg）。
このカードはAppleとゴールドマン・サックス、Mastercardが提携して発行されている。指摘によると、夫婦でこのカードに申し込んだユーザーに対し、妻の方が与信スコアが高いにもかかわらず、Appleカードでは夫の利用限度額が妻の20倍だった、という例があるという。また、Appleの共同創設者であるスティーブ・ウォズニアク氏は、夫婦で銀行口座や金融資産を分けずに共有しているにもかかわらず、Apple Cardでの氏の利用限度額は妻の10倍になっていたという（ウォズニアク氏のTweet）。なお、ウォズニアク氏が所有する他のクレジットカードでは夫婦ともに同じ限度額が設定されているとのこと。
単に資産や信用だけでなく (スコア:1)
いままでAppleにいくら貢いだかを限度額に反映させているのでは？
# もちろん根拠無し
Re: (スコア:0)
そりゃあ、過去クレカで高いApple製品買ったら、それが信用センターの利用額の情報として出てきて参考材料になるよ。
Re: (スコア:0)
ウォズにたった10倍しか与信してないとか売る気ないApple Creditの担当者はさっさとクビにした方がいい
Re: (スコア:0)
奥さんの10倍ってだけで絶対的な金額は示されて居ない様だが？
それで「たった」って断言できるのは何でだろう？
Re:単に資産や信用だけでなく (スコア:2)
ウォズだと上限なしのはず！
Re: (スコア:0)
他所で上限なしで使われて、アップルに貢ぐお金なくなったら困るやん？
やっぱり直でアップル製品に金落としてもらわんと。
逆にしたら逆で叩かれるんじゃね (スコア:0)
買い物ステレオタイプの妻は沢山買い物するから限度額が高いとか
くだらない指摘
Re: (スコア:0)
コンピューターの判断でも差別は差別
Re:逆にしたら逆で叩かれるんじゃね (スコア:1)
>コンピューターの判断でも差別は差別
判断させるアルゴリズムを仕込んだ人がいるよね。
与信スコアよりも性別を優先させた人。
#「コンピューター」って最近あんまり書か/言わないね。
AIは差別をしないが現状追認をする (スコア:1)
>コンピューターの判断でも差別は差別
判断させるアルゴリズムを仕込んだ人がいるよね。
与信スコアよりも性別を優先させた人。
#「コンピューター」って最近あんまり書か/言わないね。
以前にもあった「AIが女性エンジニアの履歴書を低く判断」ってのと同じだね。
そう判断しちゃうのはビッグデータがそう（男性エンジニアが圧倒的多数なのでAIは高く評価する）だから。
それと同様のことが起きたんだろう。
だからといってそれは差別であることに違いはないし、看過しちゃダメだよね
Re:逆にしたら逆で叩かれるんじゃね (スコア:1)
判断させるアルゴリズムを仕込んだ人がいるよね。
与信スコアよりも性別を優先させた人。
なんで優先させるアルゴリズムが仕込まれてるって確定出来るの？
学習させたデータにあった偏りが出てしまった可能性はないの？
Re: (スコア:0)
何をもって偏りと言うかでもあるけど
性別を省いたデータを与えたのに「女子大出身者は、生涯年収が低い。マイナス要因」などと出たケースがあった
だから現時点での正確な事実だけを使えば差別や偏見はなくなる平等だとは必ずしも言えないことが分かってる
Re: (スコア:0)
?
元データに性別判定するものが何もないのに出力には性別という属性を推定して出してきたってこと？
それとも女子大出身者は性別ではないとかいう謎理屈？
Re: (スコア:0)
「女子大出身者」を「女子」と判断するのは人間なら文字面や知識でできるけど
AIにはそう覚えさせないといけないってことじゃない？
Re: (スコア:0)
今アメリカで問題になってるのは「AIで正確に予測したら、社会的強者のスコアが高く出た」ケース
「社会的強者の方が仕事が出来るので、弱者は帰れ」では機会の平等が達成されない
弱者に下駄履かせるのは、可哀想な弱者を保護してやるためでもあるけど、社会の多様性を確保して
社会が長期的に見て局所最適に陥らないよう、数十年〜規模で衰退しないようにするためでもある
だから「働いている可能性の低い女の場合や、女の可能性が高い経歴は、警戒して与信枠を低く抑えるべき」
という「正確な計算結果」が出てしまった場合、それは差別であり排除すべき偏見ということになる
仮に科学的事実であっても人権が優先するわけ
Re: (スコア:0)
>今アメリカで問題になってるのは「AIで正確に予測したら、社会的強者のスコアが高く出た」ケース
AIって自然発生する神様ではないので、「正確に予測」ではなくて、
コーディング(教師データの傾向、とかでもいいけど)されたとおりにしか判定しないよね。
つまるところ、「正確に予測した」ではなくて、元々「社会的強者」を高くスコア付けるアルゴリズムだっただけでは？
Re: (スコア:0)
そう言っているのでは？
というかAIが神様的に予測出すのだという前提は書いてないんじゃないか
Re: (スコア:0)
いいえ
AIのソフトはみんな同じだし何度も言ってるように「正確=中立=合法」という発想は間違いという話
Re: (スコア:0)
人権が優先するというルールは数学的にどう表現するの？
結局それが難しいという話に行き着くような気がする
Re: (スコア:0)
面倒だけれと、例えば未成年だとそれだけで制限が加えられるといった従来からの法的規制と同様の手書きによるルールを組み込んで行くしかないのでは？
まあ社会的・経済的に大多数から支持されるルールの作成はもっと面倒な作業になるだろうし、例えばマイノリティに所属することで生じる不利な扱いをルールに則って補償して欲しければ、自らマイノリティであることを申告する必要が生じたりする訳だが。
誰も「逆にしろ」とは言ってない (スコア:0)
買い物ステレオタイプの妻は沢山買い物するから限度額が高いとか
くだらない指摘
差別をするなと言っているだけだ
Re: (スコア:0)
クレジット＝信用、なわけで限度額は消費額に合わせてるわけではない。
大量消費してくれる人は良いお客さんではあるけどリスクも高まるわけで。
100万収入で100万使う人より、50万収入で20万使う人の方が自分は信用できる。
Re: (スコア:0)
クレジットカード会社の商売は人を単純に信用することじゃないから。
決済手数料が収益であり、そのためには製造業が可能なら出荷量を増そうとするのと同様に、可能なら与信枠を増したいという動機がある。実際収入や預貯金と比べて与信枠が少ないと思うなら電話一本で増やして貰えたりする。
Re: (スコア:0)
ふとアップル商品を沢山買ってたらスコア高いんじゃねって気がした
Re: (スコア:0)
ウォズニアク氏のケースだとそうだろうね、他の支払いでは夫と妻とカード会社で偏りなく使っていても、行列に並んでAppleの新製品を買う時にはApple Cardを使うだろうから、利用回数も利用総額も奥さんのApple Cardと差がつくはず。
夫婦で同じなほうがおかしい (スコア:0)
結婚が永遠であるとは限らない。
Re: (スコア:0)
夫婦で同じでないのはおかしい、なんて誰も言ってないと思うけど
Re: (スコア:0)
アップルの限度額アルゴリズムがクソっていっている人は、
引き落としの口座が同じで、結婚して長いパートナーなのに、妻より俺だけが１０倍、２０倍多いのはおかしい。
と言っているように見えるので、「夫婦で同じでない(あるいは、大差がつくのは)のはおかしい」だと思いますが。
# 愛する妻を自分と差別するな！というアピールの可能性はあるかもしれないね(苦笑)
Re: (スコア:0)
ウォズに関しては、他のカード会社と同じ審査ができない点で、技術的な不満を抱いているように思う。同じ口座から引き落とされる夫婦のカードなら同じ与信枠にするのがシンプルで美しく社会的にも問題が生じない。
Re: (スコア:0)
夫婦になってまで割り勘やってるわけじゃないだろうから、片方のクレカ支払いに片寄ったら、滞納してない金額の多い方が枠増えるだろうね。
買い物依存症者による統計データが原因では？ (スコア:0)
統計上女性が陥るみたいですし。
俺ら的に、この話題の一つのポイントって (スコア:0)
Ruby on RailsのDHH氏のツイートが発端ってとこだと思うんだけど、BBCとかの一般メディアをソースにしてそのへんスルーっすか...
https://twitter.com/dhh/status/1192540900393705474 [twitter.com]
貧乏人差別 (スコア:0)
金の少ない人間の利用限度額が低く設定されたり、高い金利が設定されて、その基準が公開されない
のは貧乏人差別だ！
Re: (スコア:0)
使ってるカードの利用限度額知らなかったから調べてみたら200万だった。払えねーよ！
変更しようとしたら、減らすことはできないというメッセージが返ってきた。こっわ。
Re: (スコア:0)
人間が対応してくれるサービスセンターへ電話してみたら？
上手く働いてくれないシステムから何とか思いに叶う結果を引き出す(言い方は悪いがハッキングの)手法として、音声電話による有人操作が、コンソール画面からのコマンド入力とかより有効な場合も結構多い。
Re: (スコア:0)
ネタと思うけど、差別問題を突き詰めていくと辿り着くのはそこだよね。
＞妻の方が与信スコアが高いにもかかわらず (スコア:0)
「所有する他のクレジットカードでは～」ならともかく
「妻の方が与信スコアが高いにもかかわらず～」とさらっと出てくるあたりアメリカだなぁと。
よくわかりませんけど、与信スコアって簡単にわかるもんなんでしょうか？日本ではどう？
Re: (スコア:0)
最近、あなたのスコアがすぐわかるアプリとか出回ってるような。
Re: (スコア:0)
信用センターに1000円ぐらい払えば誰も取れるよ
Re:＞妻の方が与信スコアが高いにもかかわらず (スコア:1)
それはクレジットヒストリー。アメリカのクレジットスコアとは別。アメリカのそれは日本には導入されていない。
米国ではクレジットスコアが低いと就職や賃貸契約にも響く。
Re: (スコア:0)
結局似たようなもんじゃん、EquifaxとFICOとかもさ
Re: (スコア:0)
微妙に非ネイティブっぽい日本語
Re: (スコア:0)
そもそもの話として、何を基準に決定するかはApple Cardの自由だろう
嫌ならApple Cardを使わなけりゃいいだけ
もうさ、企業に文句言う前に自分が信じてる宗教（神）にでも文句言えばいいのに
Re: (スコア:0)
> もうさ、企業に文句言う前に自分が信じてる宗教（神）にでも文句言えばいいのに
スティーブ・ウォズニアク氏であれば、
神よりも「人類の技術と可能性」を信じており、
神よりも「Appleを含む企業全般」に期待していてもおかしくは無い。
と言うか、神に文句を言って解決する問題って世の中にあるの？
企業に文句を言った場合、それに経済的合理性が認められれば、結構な確率で解決するよ。
Re: (スコア:0)
これは神より課された試練なのだ。
だからいくら不合理でも乗り越えるのだ。
と自分を納得させる。
自分の心の拠り所の前に、他人に搾取・うまいこと使われてることを理解しないとね、宗教信じてる人たちは。
死後のことなんて誰も知らないのになんで仏壇買わなあかんねん。
宗教は政府公認の詐欺。
そもそも男女差別をしているのか？ (スコア:0)
クレジットスコアが同じだけの無関係の男女で限度額が違うという差別は発見されているんだろうか？
単なる「主婦(主夫)差別」だったりしないのかな。
Re: (スコア:0)