[論文レビュー] Fairness-aware Classification: Criterion, Convexity, and Bounds

Yongkai Wu, Lu Zhang+1 more|arXiv (Cornell University)|Sep 13, 2018

Ethics and Social Impacts of AI参考文献 19被引用数 16

ひとこと要約

本稿は、公平性に配慮した分類の一般的で理論的根拠に基づいたフレームワークを提案する。このフレームワークは、リスク差、リスク比、等しいオッズといった一般的な公平性指標を最適化における凸制約として定式化する。訓練データに対する制約なしの公平性基準を導入し、代理関数の境界を導出することで、実際の公平性指標が保たれることを保証する。これにより、実用的な文脈において公平性の保証と計算効率の両立が可能になる。

ABSTRACT

Fairness-aware classification is receiving increasing attention in the machine learning fields. Recently research proposes to formulate the fairness-aware classification as constrained optimization problems. However, several limitations exist in previous works due to the lack of a theoretical framework for guiding the formulation. In this paper, we propose a general framework for learning fair classifiers which addresses previous limitations. The framework formulates various commonly-used fairness metrics as convex constraints that can be directly incorporated into classic classification models. Within the framework, we propose a constraint-free criterion on the training data which ensures that any classifier learned from the data is fair. We also derive the constraints which ensure that the real fairness metric is satisfied when surrogate functions are used to achieve convexity. Our framework can be used to for formulating fairness-aware classification with fairness guarantee and computational efficiency. The experiments using real-world datasets demonstrate our theoretical results and show the effectiveness of proposed framework and methods.

研究の動機と目的

• 公平性に配慮した分類を凸最適化問題として統一的に定式化する理論的枠組みの欠如に対処すること。
• 従来の研究における限界、例えば非凸性、古典的公平性概念との関連性の欠如、および代理関数による推定誤差を克服すること。
• 訓練データに特定の条件を満たさせることで、追加の制約なしに学習された分類器が inherently fair であることを保証する条件を提供すること。
• 代理関数に基づく制約と実際の公平性指標との間の境界を導出することで、近似が行われても公平性が保たれることを保証すること。
• 従来の手法と比較して、より優れた予測精度と公平性のトレードオフを達成しつつ、効率的な公平分類を可能にすること。

提案手法

• 特徴分布上の期待値を用いて、リスク差、リスク比、等しいオッズといった公平性指標を凸制約として定式化する。
• 制約なしの公平性基準を導入：訓練データが特定の条件（条件付き確率と保護属性を含む）を満たしていれば、その上で学習されたすべての分類器は本質的に公平である。
• 凸最適化で用いられる代理関数に基づく、実際の公平性指標の理論的境界（下限と上限）を導出する。
• 境界が有効かつタイトであることを保証するため、原点で微分可能で正の導関数を持つ凸な代理関数を用いる。
• 期待値に基づく表現に再定式化することで、リスク比、等しいオッズ、等しい機会といった複数の公平性概念にフレームワークを適用する。
• インジケータ関数とその凸な代替関数（例：ハッジ型関数）を用いて、非凸な公平性制約を凸で取り扱い可能な形に変換する。

実験結果

リサーチクエスチョン

• RQ1 リスク差やリスク比といった公平性指標を、その理論的意味を保ったまま凸制約として定式化することは可能か？
• RQ2 訓練データにどのような条件を満たさせれば、その上で学習されたすべての分類器が本質的に公平であることが保証されるのか？
• RQ3 代理関数に基づく制約と真の公平性指標との間のギャップをどのように境界化できるか？ これにより、実際の公平性が保たれることを保証できるか？
• RQ4 提案されたフレームワークは、等しいオッズや等しい機会といった複数の公平性概念に理論的保証とともに拡張可能か？
• RQ5 実際の応用において、本フレームワークは既存手法と比較して、より優れた公平性・正確性のトレードオフを達成できるか？

主な発見

• 提案された制約なしの公平性基準により、条件を満たす訓練データ上で学習された任意の分類器が公平であることが保証され、最適化における公平性制約の追加が不要になる。
• 代理関数に基づく制約と実際の公平性指標との間に理論的境界（下限と上限）を導出し、修正された制約を満たせば真の公平性指標が有界な区間内に収まることが保証される。
• 実世界のデータセットを用いた実験により、制約なし基準の正しさが確認され、従来手法と比較して優れた公平性パフォーマンスを示している。
• 同じ水準の公平性を達成する際、本手法は一貫して既存手法よりも高い予測正確性を達成しており、公平性と正確性のトレードオフが改善されていることが示された。
• リスク比、等しいオッズ、等しい機会といった複数の公平性概念に、理論的および実証的裏付けとともに対応可能であることが、フレームワークの有効性を裏付けた。
• 適切な境界を備えた凸な代理関数の使用により、計算効率を維持しながら公平性の保証が可能となり、従来の非凸定式化の限界を克服した。