[論文レビュー] The Frontiers of Fairness in Machine Learning

Alexandra Chouldechova, Aaron Roth|arXiv (Cornell University)|Oct 20, 2018

Ethics and Social Impacts of AI参考文献 13被引用数 242

ひとこと要約

2018年のCCCビジョニングワークショップからの調査で、機械学習の公平性を網羅し、現在の定義・課題・アルゴリズム的公平性の基礎的理解のための有望な研究方向を概説する。

ABSTRACT

The last few years have seen an explosion of academic and popular interest in algorithmic fairness. Despite this interest and the volume and velocity of work that has been produced recently, the fundamental science of fairness in machine learning is still in a nascent state. In March 2018, we convened a group of experts as part of a CCC visioning workshop to assess the state of the field, and distill the most promising research directions going forward. This report summarizes the findings of that workshop. Along the way, it surveys recent theoretical work in the field and points towards promising directions for research.

研究の動機と目的

• 機械学習の公平性科学を形成する基本的な問いと定義を特定し、明確化する。
• 統計的および個人の公正性の概念に関する主要な理論的アプローチとその限界を調査する。
• 堅牢で組成的かつ動的な公正性理論を構築するための未解決の問題と有望な方向性を強調する。

提案手法

• 統計的および個別の視点からの公正性に関する理論的研究を検討・統合する。
• データバイアス、分布差、探索的データニーズなど、公平性を損なう原因を論じる。
• 公正性の定義、不可能性定理、計算上の考慮事項を検討する。
• 公正な表現学習の進展と、潜在的な敵対的回復による機微情報の回復に対する制約を検討する。
• 静的なワンショット分類を超える公正性を検討する。動的性、組成、逐次意思決定を含む。

実験結果

リサーチクエスチョン

• RQ1 主要な統計的および個別の公正性の概念と、それらのトレードオフは何か？
• RQ2 少数の保護グループを超えて多くの、あるいは無限個のグループに拡張可能な実用的な公正性保証を得られるか？
• RQ3 複数の構成要素の組み合わせや動的環境下で、公正性の概念はどのように振る舞うか？
• RQ4 データバイアスを全体的な性能を損なうことなく、どのようにモデル化・修正・緩和できるか？
• RQ5 公正な表現と非分類設定（bandits, reinforcement learning）が公正性の達成に果たす役割は何か？

主な発見

• 統計的な公正性の概念（ parity, equalized odds, predictive value ）は対立することがあり、同時に満たすことはしばしば不可能である。
• 公正性の定義を強制するには計算的に困難な場合があるが、特定の設定では実用的なアルゴリズムが存在する。
• 公正な表現学習と敵対的アプローチは不均等影響を緩和できるが、より強力な下流モデルによる情報回復に脆弱である可能性がある。
• データ生成・収集におけるバイアスとフィードバックループは不公正さを伝播・拡大させる可能性があり、慎重なデータ修正と構成空間のモデリングを必要とする。
• 個人間および繰り返し相互作用するシステム要素間の公正性（組成）は依然として課題であり、長期的なダイナミクスとインセンティブの理解は限られている。