[論文レビュー] Fairness Constraints: Mechanisms for Fair Classification

Muhammad Bilal Zafar, Isabel Valera+2 more|arXiv (Cornell University)|Jul 19, 2015

Ethics and Social Impacts of AI被引用数 333

ひとこと要約

この論文は、ロジスティック回帰やSVMsなどの凸マージンベース分類器に対して、意思決定境界の公平性を扱いやすい共分散に基づく測度を用いて、同時に差別の的取り扱いや差別の的影響を防止する、革新的な公平性制約メカニズムを提案する。この手法により、公平性と精度の間で細かく調整可能なトレードオフが可能となり、80%-ルールおよび業務上的必要性条項を満たしつつ、高いモデル性能を維持することができる。

ABSTRACT

Algorithmic decision making systems are ubiquitous across a wide variety of online as well as offline services. These systems rely on complex learning methods and vast amounts of data to optimize the service functionality, satisfaction of the end user and profitability. However, there is a growing concern that these automated decisions can lead, even in the absence of intent, to a lack of fairness, i.e., their outcomes can disproportionately hurt (or, benefit) particular groups of people sharing one or more sensitive attributes (e.g., race, sex). In this paper, we introduce a flexible mechanism to design fair classifiers by leveraging a novel intuitive measure of decision boundary (un)fairness. We instantiate this mechanism with two well-known classifiers, logistic regression and support vector machines, and show on real-world data that our mechanism allows for a fine-grained control on the degree of fairness, often at a small cost in terms of accuracy.

研究の動機と目的

• 自動意思決定システムにおける差別的取り扱いや差別的影響を回避する公平な分類器の設計という課題に取り組む。
• データ駆動型学習の文脈において、特に80%-ルールおよび業務的必要性条項を遵守できるようにすること。
• 既存の凸マージンベース分類器に計算複雑性を増加させることなく統合可能な、柔軟で凸的かつスケーラブルなメカニズムを開発すること。
• 複数の感受性属性に適用可能な、公平性と精度の明確なトレードオフメカニズムを提供すること。
• 推論時に感受性属性情報を使用しないことで、差別的取り扱いを回避する公平性の確保

提案手法

• 感受性属性と特徴ベクトルから分類器の意思決定境界までの符号付き距離との間の共分散に基づく新しい公平性測度を提案する。
• この共分散を80%-ルールの代理指標として用い、公平な分類器学習における取り扱いやすい最適化を可能にする。
• 2つの補完的定式化を開発する：1つは公平性制約下での精度最大化（差別禁止ポリシー準拠用）、もう1つは精度制約下での公平性最大化（業務的必要性準拠用）。
• ロジスティック回帰およびSVMの最適化に公平性制約を凸ペナルティとして組み込み、元の計算複雑性を維持する。
• 公平性最大化定式化において、非保護対象者の予測を元の制約なしモデルから保持するための2段階訓練戦略を適用する。
• 初期共分散に対するしきい値処理機構を用いて、異なる感受性属性における公平性レベルを動的に調整する。

実験結果

リサーチクエスチョン

• RQ1 推論時に感受性属性を使用しないことで、差別的取り扱いを回避する分類における公平性はどのように強制可能か？
• RQ2 差別的影響の80%-ルールを効果的に代理する、凸的かつ取り扱いやすい意思決定境界公平性測度を導出可能か？
• RQ3 差別禁止法における業務的必要性条項を、公平な学習フレームワークに形式的に統合可能か？
• RQ4 凸マージンベース分類器において、公平性を精度とは独立して制御可能か、その範囲はどの程度か？
• RQ5 提案手法は、複数の感受性属性および実世界のデータセットにおいて、どのように性能を発揮するか？

主な発見

• 提案された公平性メカニズムにより、公平性レベルに対する細かいつながりの制御が可能であり、実世界のデータセットにおいては精度損失が通常は限定的である。
• 共分散しきい値が低下するにつれて、保護対象者と非保護対象者の正例クラス内での割合がますます均衡し、80%-ルールによる公平性に近づく。
• テスト時に感受性属性を使用しないことで、80%-ルールへの準拠を達成している。これは、差別的取り扱いを回避している。
• 細かいつながりの制約を用いた公平性最大化定式化は、標準的な公平性制約よりも非保護対象者の正例予測をより多く保持するが、わずかに精度コストが増加する。
• 感受性属性の値がスパースな場合（例：「その他のルック」）でも、このフレームワークは有効であるが、少数派グループでは公平性推定がやや不正確になる。
• 柔軟性において最先端の手法を上回り、複数の感受性属性および公平性・精度のトレードオフの両モードをサポートする。