[論文レビュー] Learning Individually Fair Classifier with Path-Specific Causal-Effect Constraint

Yoichi Chikahara, Shinsaku Sakaue+2 more|arXiv (Cornell University)|Feb 17, 2020

Adversarial Robustness in Machine Learning参考文献 45被引用数 4

ひとこと要約

本稿では、データから推定可能なPIUの上界を用いてPIU（個々の不正義の確率）を最小化することで、制限的な関数的仮定を課さずに個別的公平性を達成するフレームワークを提案する。この手法は、予測精度のわずかな低下で強力な公平性を達成し、合成データおよび潜在的交絡要因のシナリオにおいて、既存の手法を上回る性能を示す。

ABSTRACT

Machine learning is used to make decisions for individuals in various fields, which require us to achieve good prediction accuracy while ensuring fairness with respect to sensitive features (e.g., race and gender). This problem, however, remains difficult in complex real-world scenarios. To quantify unfairness under such situations, existing methods utilize {\it path-specific causal effects}. However, none of them can ensure fairness for each individual without making impractical functional assumptions on the data. In this paper, we propose a far more practical framework for learning an individually fair classifier. To avoid restrictive functional assumptions, we define the {\it probability of individual unfairness} (PIU) and solve an optimization problem where PIU's upper bound, which can be estimated from data, is controlled to be close to zero. We elucidate why our method can guarantee fairness for each individual. Experimental results show that our method can learn an individually fair classifier at a slight cost of accuracy.

研究の動機と目的

• データに関する不切実な関数的仮定に依存せずに、機械学習における個別的公平性を達成する課題に対処すること。
• 個々の不正義の確率（PIU）を制御することで、各個人に対する公平性を保証する実用的なフレームワークを開発すること。
• 観測データから推定可能なPIUの上界を推定・最小化し、反事後的データに直接アクセスできない状況でも公平な分類器の学習を可能にすること。
• 潜在的交絡要因を扱えるようにフレームワークを拡張し、観測されない変数が存在する現実世界のシナリオにおける公平性を向上させること。
• 公平性と予測精度のバランスを図り、公平性をわずかな精度の損失で達成できることを示すこと。

提案手法

• 個々の不正義の確率（PIU）を、経路固有の因果効果（不正義の効果）が非ゼロである確率として定義する。
• マージナル潜在的アウトカム確率を用いて、観測データから推定可能なPIUの上界を導出する。
• トレーニング中にPIUの上界を最小化する正則化最適化問題を定式化し、公平性と精度のバランスを調整するハイパーパrameter λ を用いる。
• 2層のニューラルネットワークを分類器として用い、上界に基づくペナルティ項を導入して不正義な意思決定を抑制する。
• 上界におけるマージナル潜在的アウトカム確率のより信頼性の高い推定器を組み込むことで、潜在的交絡要因を扱えるようにフレームワークを拡張する。
• 合成データセット（潜在的交絡要因あり・なし）に対して本手法を適用し、PSCF、FIO、および制約なしモデルなどのベースラインと公平性と精度を比較する。

実験結果

リサーチクエスチョン

• RQ1 データに制限的な関数的仮定を課さずに、機械学習における個別的公平性を達成できるか？
• RQ2 観測データから個々の不正義の確率（PIU）をどのように推定・制御できるか？
• RQ3 PIUの上界を最小化することで、実際の状況でも個別的公平性が達成されるか？
• RQ4 潜在的交絡要因が存在する状況でも、本手法は高い予測精度を維持しながら公平性を確保できるか？
• RQ5 PSCF や FIO といった既存手法と比較して、公平性と精度の両面で本手法は優れているか？

主な発見

• 合成データにおいて、本手法はPIUを 5.04 × 10⁻² にまで低下させ、ベースライン手法よりも顕著に低く抑え、制約なしモデルと比較してテスト精度がわずかに 1.3% 減少した。
• 真のPIUにオラクルアクセスがある状況では、本手法はPIUを 2.63 × 10⁻² にまで低下させ、上界推定の有効性を示した。
• 潜在的交絡要因が存在する状況では、拡張されたフレームワーク（Proposed ex）が、Proposed や FIO よりも低い不正義効果統計量を達成し、より優れた公平性を示した。
• Proposed ex はテスト精度 95.7% ± 0.5 を達成し、PSCF（93.8% ± 0.9）や Remove（94.0% ± 0.6）を上回り、より優れた精度-公平性トレードオフを実現した。
• 本手法は、関数的仮定を必要とせずに不正義効果をほぼゼロにまで低減できたが、PSCF は強い仮定に依存しているのに対し、本手法はその点で優位であった。
• 結果から、PIUの上界を最小化することで個別的不正義が効果的に制御され、本手法の理論的基盤が妥当であることが確認された。