パスワードを忘れた? アカウント作成
14044790 story
お金

Apple Cardの利用限度額決定アルゴリズムが男女差別をしているのではないかとの疑惑 48

ストーリー by hylom
どういうルールなのだろう 部門より

今年3月にAppleが発表したクレジットカード「Apple Card」(過去記事)に対し、利用限度額を決定するアルゴリズムで男女差別があるのではないかとの指摘が出ているという(BBCBloomberg)。

このカードはAppleとゴールドマン・サックス、Mastercardが提携して発行されている。指摘によると、夫婦でこのカードに申し込んだユーザーに対し、妻の方が与信スコアが高いにもかかわらず、Appleカードでは夫の利用限度額が妻の20倍だった、という例があるという。また、Appleの共同創設者であるスティーブ・ウォズニアク氏は、夫婦で銀行口座や金融資産を分けずに共有しているにもかかわらず、Apple Cardでの氏の利用限度額は妻の10倍になっていたという(ウォズニアク氏のTweet)。なお、ウォズニアク氏が所有する他のクレジットカードでは夫婦ともに同じ限度額が設定されているとのこと。

  • by Anonymous Coward on 2019年11月13日 14時17分 (#3715591)

    いままでAppleにいくら貢いだかを限度額に反映させているのでは?

    # もちろん根拠無し

    ここに返信
    • by Anonymous Coward

      そりゃあ、過去クレカで高いApple製品買ったら、それが信用センターの利用額の情報として出てきて参考材料になるよ。

      • by Anonymous Coward
        これだよね
        ウォズにたった10倍しか与信してないとか売る気ないApple Creditの担当者はさっさとクビにした方がいい
  • by Anonymous Coward on 2019年11月13日 14時01分 (#3715573)

    買い物ステレオタイプの妻は沢山買い物するから限度額が高いとか
    くだらない指摘

    ここに返信
    • by Anonymous Coward

      コンピューターの判断でも差別は差別

      • by Anonymous Coward on 2019年11月13日 14時22分 (#3715598)

        >コンピューターの判断でも差別は差別

        判断させるアルゴリズムを仕込んだ人がいるよね。
        与信スコアよりも性別を優先させた人。

        #「コンピューター」って最近あんまり書か/言わないね。

        • >コンピューターの判断でも差別は差別

          判断させるアルゴリズムを仕込んだ人がいるよね。
          与信スコアよりも性別を優先させた人。

          #「コンピューター」って最近あんまり書か/言わないね。

          以前にもあった「AIが女性エンジニアの履歴書を低く判断」ってのと同じだね。
          そう判断しちゃうのはビッグデータがそう(男性エンジニアが圧倒的多数なのでAIは高く評価する)だから。
          それと同様のことが起きたんだろう。

          だからといってそれは差別であることに違いはないし、看過しちゃダメだよね

        • by Anonymous Coward on 2019年11月13日 14時35分 (#3715612)

          判断させるアルゴリズムを仕込んだ人がいるよね。
          与信スコアよりも性別を優先させた人。

          なんで優先させるアルゴリズムが仕込まれてるって確定出来るの?
          学習させたデータにあった偏りが出てしまった可能性はないの?

          • by Anonymous Coward

            何をもって偏りと言うかでもあるけど
            性別を省いたデータを与えたのに「女子大出身者は、生涯年収が低い。マイナス要因」などと出たケースがあった
            だから現時点での正確な事実だけを使えば差別や偏見はなくなる平等だとは必ずしも言えないことが分かってる

            • by Anonymous Coward

              ?
              元データに性別判定するものが何もないのに出力には性別という属性を推定して出してきたってこと?
              それとも女子大出身者は性別ではないとかいう謎理屈?

              • by Anonymous Coward

                「女子大出身者」を「女子」と判断するのは人間なら文字面や知識でできるけど
                AIにはそう覚えさせないといけないってことじゃない?

        • by Anonymous Coward

          今アメリカで問題になってるのは「AIで正確に予測したら、社会的強者のスコアが高く出た」ケース

          「社会的強者の方が仕事が出来るので、弱者は帰れ」では機会の平等が達成されない
          弱者に下駄履かせるのは、可哀想な弱者を保護してやるためでもあるけど、社会の多様性を確保して
          社会が長期的に見て局所最適に陥らないよう、数十年〜規模で衰退しないようにするためでもある

          だから「働いている可能性の低い女の場合や、女の可能性が高い経歴は、警戒して与信枠を低く抑えるべき」
          という「正確な計算結果」が出てしまった場合、それは差別であり排除すべき偏見ということになる
          仮に科学的事実であっても人権が優先するわけ

          • by Anonymous Coward

            >今アメリカで問題になってるのは「AIで正確に予測したら、社会的強者のスコアが高く出た」ケース

              AIって自然発生する神様ではないので、「正確に予測」ではなくて、
            コーディング(教師データの傾向、とかでもいいけど)されたとおりにしか判定しないよね。

            つまるところ、「正確に予測した」ではなくて、元々「社会的強者」を高くスコア付けるアルゴリズムだっただけでは?

            • by Anonymous Coward

              そう言っているのでは?
              というかAIが神様的に予測出すのだという前提は書いてないんじゃないか

            • by Anonymous Coward

              いいえ
              AIのソフトはみんな同じだし何度も言ってるように「正確=中立=合法」という発想は間違いという話

          • by Anonymous Coward

            人権が優先するというルールは数学的にどう表現するの?
            結局それが難しいという話に行き着くような気がする

            • by Anonymous Coward

              面倒だけれと、例えば未成年だとそれだけで制限が加えられるといった従来からの法的規制と同様の手書きによるルールを組み込んで行くしかないのでは?

              まあ社会的・経済的に大多数から支持されるルールの作成はもっと面倒な作業になるだろうし、例えばマイノリティに所属することで生じる不利な扱いをルールに則って補償して欲しければ、自らマイノリティであることを申告する必要が生じたりする訳だが。

    • 買い物ステレオタイプの妻は沢山買い物するから限度額が高いとか
      くだらない指摘

      差別をするなと言っているだけだ

    • by Anonymous Coward

      クレジット=信用、なわけで限度額は消費額に合わせてるわけではない。
      大量消費してくれる人は良いお客さんではあるけどリスクも高まるわけで。

      100万収入で100万使う人より、50万収入で20万使う人の方が自分は信用できる。

      • by Anonymous Coward

        クレジットカード会社の商売は人を単純に信用することじゃないから。
        決済手数料が収益であり、そのためには製造業が可能なら出荷量を増そうとするのと同様に、可能なら与信枠を増したいという動機がある。実際収入や預貯金と比べて与信枠が少ないと思うなら電話一本で増やして貰えたりする。

    • by Anonymous Coward

      ふとアップル商品を沢山買ってたらスコア高いんじゃねって気がした

      • by Anonymous Coward

        ウォズニアク氏のケースだとそうだろうね、他の支払いでは夫と妻とカード会社で偏りなく使っていても、行列に並んでAppleの新製品を買う時にはApple Cardを使うだろうから、利用回数も利用総額も奥さんのApple Cardと差がつくはず。

  • by Anonymous Coward on 2019年11月13日 14時18分 (#3715592)

    結婚が永遠であるとは限らない。

    ここに返信
    • by Anonymous Coward

      夫婦で同じでないのはおかしい、なんて誰も言ってないと思うけど

      • by Anonymous Coward

        アップルの限度額アルゴリズムがクソっていっている人は、
        引き落としの口座が同じで、結婚して長いパートナーなのに、妻より俺だけが10倍、20倍多いのはおかしい。
        と言っているように見えるので、「夫婦で同じでない(あるいは、大差がつくのは)のはおかしい」だと思いますが。

        # 愛する妻を自分と差別するな!というアピールの可能性はあるかもしれないね(苦笑)

        • by Anonymous Coward

          ウォズに関しては、他のカード会社と同じ審査ができない点で、技術的な不満を抱いているように思う。同じ口座から引き落とされる夫婦のカードなら同じ与信枠にするのがシンプルで美しく社会的にも問題が生じない。

    • by Anonymous Coward

      夫婦になってまで割り勘やってるわけじゃないだろうから、片方のクレカ支払いに片寄ったら、滞納してない金額の多い方が枠増えるだろうね。

  • by Anonymous Coward on 2019年11月13日 14時30分 (#3715607)

    統計上女性が陥るみたいですし。

    ここに返信
  • by Anonymous Coward on 2019年11月13日 14時46分 (#3715616)

    Ruby on RailsのDHH氏のツイートが発端ってとこだと思うんだけど、BBCとかの一般メディアをソースにしてそのへんスルーっすか...

    https://twitter.com/dhh/status/1192540900393705474 [twitter.com]

    ここに返信
  • by Anonymous Coward on 2019年11月13日 14時53分 (#3715619)

    金の少ない人間の利用限度額が低く設定されたり、高い金利が設定されて、その基準が公開されない
    のは貧乏人差別だ!

    ここに返信
    • by Anonymous Coward

      使ってるカードの利用限度額知らなかったから調べてみたら200万だった。払えねーよ!
      変更しようとしたら、減らすことはできないというメッセージが返ってきた。こっわ。

      • by Anonymous Coward

        人間が対応してくれるサービスセンターへ電話してみたら?
        上手く働いてくれないシステムから何とか思いに叶う結果を引き出す(言い方は悪いがハッキングの)手法として、音声電話による有人操作が、コンソール画面からのコマンド入力とかより有効な場合も結構多い。

    • by Anonymous Coward

      ネタと思うけど、差別問題を突き詰めていくと辿り着くのはそこだよね。

  • by Anonymous Coward on 2019年11月13日 15時33分 (#3715637)

    「所有する他のクレジットカードでは~」ならともかく
    「妻の方が与信スコアが高いにもかかわらず~」とさらっと出てくるあたりアメリカだなぁと。
    よくわかりませんけど、与信スコアって簡単にわかるもんなんでしょうか?日本ではどう?

    ここに返信
    • by Anonymous Coward

      最近、あなたのスコアがすぐわかるアプリとか出回ってるような。

    • by Anonymous Coward

      信用センターに1000円ぐらい払えば誰も取れるよ

    • by Anonymous Coward

      そもそもの話として、何を基準に決定するかはApple Cardの自由だろう
      嫌ならApple Cardを使わなけりゃいいだけ

      もうさ、企業に文句言う前に自分が信じてる宗教(神)にでも文句言えばいいのに

      • by Anonymous Coward

        > もうさ、企業に文句言う前に自分が信じてる宗教(神)にでも文句言えばいいのに

        スティーブ・ウォズニアク氏であれば、
        神よりも「人類の技術と可能性」を信じており、
        神よりも「Appleを含む企業全般」に期待していてもおかしくは無い。

        と言うか、神に文句を言って解決する問題って世の中にあるの?
        企業に文句を言った場合、それに経済的合理性が認められれば、結構な確率で解決するよ。

        • by Anonymous Coward

          これは神より課された試練なのだ。
          だからいくら不合理でも乗り越えるのだ。
          と自分を納得させる。
          自分の心の拠り所の前に、他人に搾取・うまいこと使われてることを理解しないとね、宗教信じてる人たちは。
          死後のことなんて誰も知らないのになんで仏壇買わなあかんねん。
          宗教は政府公認の詐欺。

  • by Anonymous Coward on 2019年11月26日 17時22分 (#3722281)
    ウォズの事例とかもそうだけど、ネットで話題になってるのって「夫婦で差があった」ケースだけなんだよね。
    クレジットスコアが同じだけの無関係の男女で限度額が違うという差別は発見されているんだろうか?
    単なる「主婦(主夫)差別」だったりしないのかな。
    ここに返信
typodupeerror

最初のバージョンは常に打ち捨てられる。

読み込み中...