[論文レビュー] A Distributionally Robust Approach to Fair Classification

Bahar Taşkesen, Viet Anh Nguyen+2 more|arXiv (Cornell University)|Jul 18, 2020

Health Systems, Economic Evaluations, Quality of Life参考文献 65被引用数 20

ひとこと要約

本稿では、Wassersteinボールに基づく不確実性集合と、新しい凸な不正義測度を用いて、不公平性を最小化することで、二値分類における公平性を向上させる分布的ロバストなロジスティック回帰モデルを提案する。合成および実世界のデータセットにおいて、精度の損失を最小限に抑えながら、公平性が向上する。

ABSTRACT

We propose a distributionally robust logistic regression model with an unfairness penalty that prevents discrimination with respect to sensitive attributes such as gender or ethnicity. This model is equivalent to a tractable convex optimization problem if a Wasserstein ball centered at the empirical distribution on the training data is used to model distributional uncertainty and if a new convex unfairness measure is used to incentivize equalized opportunities. We demonstrate that the resulting classifier improves fairness at a marginal loss of predictive accuracy on both synthetic and real datasets. We also derive linear programming-based confidence bounds on the level of unfairness of any pre-trained classifier by leveraging techniques from optimal uncertainty quantification over Wasserstein balls.

研究の動機と目的

• 機械学習におけるアルゴリズムバイアスを是正すること、特に採用、融資、刑事司法などの感受性の高い意思決定文脈におけるバイアスを対象とする。
• 訓練データに明示的に含まれていないにもかかわらず、感受性属性を間接的に通じて差別を防ぐために、公平性のための無知によるアプローチの限界を克服すること。
• Wassersteinボールを用いた分布的不確実性を扱う、実行可能な最適化フレームワークを構築すること。
• 事前学習済み分類器の不正義に対する信頼区間を、Wassersteinボール上の最適な不確実性評価を用いて導出すること。
• 凸で分布的ロバストな定式化により、予測精度の著しい損失を伴わず、公平性を向上させることを実証すること。

提案手法

• 経験的分布を中心とするWassersteinボールを用いて、分布的不確実性をモデル化する分布的ロバストなロジスティック回帰モデルを定式化する。
• 等しい機会を促進するための新しい凸な不正義測度を導入し、保護群と非保護群の両方で公平性を確保する。
• Wassersteinあいまいさ集合の構造を活用することで、ロバスト最適化問題を実行可能な凸計画問題に変換する。
• 任意の事前学習済み分類器について、Wassersteinボール上の最適な不確実性評価を用いて、線形計画法に基づく不正義レベルの信頼区間を導出する。
• 実データおよび合成データに本手法を適用し、Wasserstein半径と正則化パラメータを調整することで、公平性と精度のバランスを図る。
• 交差検証を用い、精度の閾値を設定して最適なハイパーパrameterを選択し、性能の低下を伴わない公平性の向上を保証する。

実験結果

リサーチクエスチョン

• RQ1 分布的ロバスト最適化フレームワークは、予測精度の損失を伴わず、ロジスティック回帰における不正義を効果的に低減できるか？
• RQ2 分布的不確実性をモデル化するためのWassersteinボールの使用は、感受性属性の制約下で分類の公平性をどのように向上させるか？
• RQ3 凸な不正義測度は、計算上の実行可能性を保ちつつ、どの程度等しい機会を促進できるか？
• RQ4 Wassersteinボール上の最適な不確実性評価を用いて、事前学習済み分類器の不正義に対する信頼区間を信頼性を持って導出できるか？
• RQ5 多様なデータセットにおいて、本手法は、従来の公平学習アプローチと比較して、公平性と精度のトレードオフの面で優れているか？

主な発見

• 提案手法であるDR-FLRは、標準的ロジスティック回帰や他のベースラインと比較して、顕著に低い不正義を達成している（例：DrugデータセットにおけるDet-UNFは0.04 ± 0.04）、精度に損失は見られない。
• Adultデータセットでは、DR-FLRは決定的不正義を0.06 ± 0.06まで低減し、FLR（0.06 ± 0.06）、DOB+（0.16 ± 0.10）、LR（0.08 ± 0.06）を上回る性能を示した。
• COMPASデータセットでは、DR-FLRは確率的不正義を0.03 ± 0.02まで低減したが、FLRは0.10 ± 0.03、LRは0.12 ± 0.08であった。
• すべての指標において、不正義の顕著な低減と高い精度（例：Drugでは0.79 ± 0.01、Adultでは0.80 ± 0.01）を両立させた。
• 導出された線形計画法に基づく信頼区間により、分布的不確実性下での最悪ケースの不正義が効果的に境界付けられており、本手法のロバスト性が裏付けられた。
• 精度の低下を最小限に抑えつつ、最先端の公平性向上を達成しており、公平分類における分布的ロバストネスの有効性が示された。