[論文レビュー] Fair and Unbiased Algorithmic Decision Making: Current State and Future Challenges

Songül Tolan|arXiv (Cornell University)|Jan 15, 2019

Ethics and Social Impacts of AI被引用数 41

ひとこと要約

アルゴリズムによる意思決定における公正性の批判的概観であり、公正性の定義の複雑さ、統計的基準の限界、領域特有の制約・透明性・監査の必要性を指摘する。

ABSTRACT

Machine learning algorithms are now frequently used in sensitive contexts that substantially affect the course of human lives, such as credit lending or criminal justice. This is driven by the idea that `objective' machines base their decisions solely on facts and remain unaffected by human cognitive biases, discriminatory tendencies or emotions. Yet, there is overwhelming evidence showing that algorithms can inherit or even perpetuate human biases in their decision making when they are based on data that contains biased human decisions. This has led to a call for fairness-aware machine learning. However, fairness is a complex concept which is also reflected in the attempts to formalize fairness for algorithmic decision making. Statistical formalizations of fairness lead to a long list of criteria that are each flawed (or harmful even) in different contexts. Moreover, inherent tradeoffs in these criteria make it impossible to unify them in one general framework. Thus, fairness constraints in algorithms have to be specific to the domains to which the algorithms are applied. In the future, research in algorithmic decision making systems should be aware of data and developer biases and add a focus on transparency to facilitate regular fairness audits.

研究の動機と目的

• 機械学習がデータと意思決定から偏りを継承する理由を説明する。
• 文脈ごとの既存の公正性指標とその限界を概観する。
• 公正性の制約は単一の枠組みに統合するのではなく、特定の領域に合わせて調整されるべきであると主張する。
• データと開発者の偏りに対処するための透明性と定期的な公正性監査の重要性を強調する。

提案手法

• 公正性を考慮した機械学習とその形式化に関する文献をレビューし統合する。
• 異なる文脈における統計的公正性指標の限界とトレードオフを論じる。
• 領域特有の公正性制約と透明性ベースのガバナンスに関する主張を提示する。

実験結果

リサーチクエスチョン

• RQ1 さまざまな適用領域における標準的な統計的公正性概念の限界は何か？
• RQ2 データと開発者の偏りはアルゴリズム決定にどのように影響し、透明性は監査をどう可能にするか？
• RQ3 公正性の制約はすべての設定で普遍的に統一するのではなく、文脈依存であるべき理由は何か？

主な発見

• 公正性指標は数多く存在し、多くの場合欠陥があり、単一の普遍的フレームワークを妨げるトレードオフがある。
• アルゴリズムは偏ったデータや意思決定で学習すると、人間の偏見を組み込み、拡大する可能性がある。
• 公正性の制約は適用分野に合わせて調整されるべきで、意味があり効果的である。
• 今後の研究は透明性を強調し、定期的な公正性監査を促進すべきである。
• データと開発者の偏りの両方の認識は、公正な意思決定を進めるうえで不可欠である。