「Apple Cardの利用限度額が男女で異なるとの問題、利用限度額の算出アルゴリズムに性別データは使われていないことが明かされる」記事へのコメント

どう思うもなにも

[Anonymous Coward]

AIだろうがアルゴリズムだろうが、「人間」が設計し「人間」がプログラムして生まれる物なんだから最初から担当者の価値観で偏向した結果しか出ないのは当たり前。
少なくとも人間以上の何かになれるわけがない。どこまでいっても計算機にすぎんよ。

それが異世界とか第三世界とか人間とは全く違う世界からもたらされたものならともかくね。

Re:

[simon (1336)]

AIだろうがアルゴリズムだろうが、「人間」が設計し「人間」がプログラムして生まれる物なんだから最初から担当者の価値観で偏向した結果しか出ないのは当たり前

いや、担当者の価値観とは関係なく差別が生まれることもあるのよ。

https://www.businessinsider.jp/post-177193 [businessinsider.jp]

Amazonの事例だけどエンジニアの履歴書の順位付けをするAIが大量の過去のデータから学習していたので「優秀なエンジニアの条件」と類似した履歴書を選んだらそれはほぼ男性だった（過去のデータはやはりほぼ男性）というのがある。

Re:

[Anonymous Crow (45505)]

>Amazonの事例だけどエンジニアの履歴書の順位付けをするAIが大量の過去のデータから学習していたので

ふと思いましたが

都合の悪い過去データは初めからないことにすれば良いんでない？
AIとか使って

どうだろか？

Re:どう思うもなにも

[Anonymous Coward]

で、都合の良い過去データはどこから持ってくるの？
現状のAIにひらめきなんざないから知らないものは知らないままだぞ

しかも、都合の良い過去データが自分たちで作れるなら
わざわざ現状のAIに頼る必要性は皆無
判定系のAIなんて、最適なアルゴリズムが分かんないからAIに丸投げしてるだけだし

Re:

[Anonymous Coward]

GANがいいんじゃ？

フェミAIを敵対者とすればばっちり！！