[論文レビュー] Counterfactual fairness: removing direct effects through regularization

Pietro G. Di Stefano, James M. Hickey+1 more|arXiv (Cornell University)|Feb 25, 2020

Ethics and Social Impacts of AI参考文献 42被引用数 8

ひとこと要約

本稿では、正則化を用いて感応属性の制御直接効果（CDE）を除去することで、より公平な機械学習モデルを実現する因果関係に基づく公平性フレームワークを提案する。この手法は任意の微分可能なモデルに適用可能であり、性能の低下を最小限に抑えつつ公平性を達成する。XGBoostおよびロジスティック回帰を用いて、合成データ、UCI Adult、および実世界の信用リスクデータセットを対象に検証されている。

ABSTRACT

Building machine learning models that are fair with respect to an unprivileged group is a topical problem. Modern fairness-aware algorithms often ignore causal effects and enforce fairness through modifications applicable to only a subset of machine learning models. In this work, we propose a new definition of fairness that incorporates causality through the Controlled Direct Effect (CDE). We develop regularizations to tackle classical fairness measures and present a causal regularization that satisfies our new fairness definition by removing the impact of unprivileged group variables on the model outcomes as measured by the CDE. These regularizations are applicable to any model trained using by iteratively minimizing a loss through differentiation. We demonstrate our approaches using both gradient boosting and logistic regression on: a synthetic dataset, the UCI Adult (Census) Dataset, and a real-world credit-risk dataset. Our results were found to mitigate unfairness from the predictions with small reductions in model performance.

研究の動機と目的

• 既存の公平性に配慮した機械学習手法が因果構造を無視しており、特定のモデルタイプに限定されているという限界を是正すること。
• 反事後的因果関係の観点から公平性を定義し、特に感応属性が予測に与える制御直接効果（CDE）を排除すること。
• 勾配ベース最適化で学習される任意のモデルに適用可能な汎用的な正則化技術を開発すること。
• 予測性能と公平性の両面から、提案された因果的正則化と結果ベースの公平性正則化を比較すること。
• 多様なデータセット、特に実世界の信用リスクデータセットを用いて、実用的な公平性の向上を実証的に検証すること。

提案手法

• 本稿では、感応属性が予測に与える影響が、共変量を固定した状態で独立していることを保証する、制御直接効果（CDE）に基づく新たな公平性定義を導入する。
• 感応属性のCDEをモデル学習中にペナルティ化する正則化項を定式化し、バランススコアの推定に感受性スコアマッチングを用いる。
• 平均場理論を活用して、データ分布全体におけるCDEの近似を実現し、エンドツーエンド微分可能な最適化を可能にする。
• 任意の微分可能なモデル（例：ロジスティック回帰、XGBoost）の損失関数にこの正則化を統合し、精度と公平性の両方を同時に最適化可能にする。
• 感応属性に干渉を加えた場合の予測値を他の変数を固定した状態で比較する反事後的推論を用いて、公平性を評価する。
• 理論的裏付けとして、平均場CDE（MFCDE）がバランススコア分布上のCDEの期待値と等価であることを示す証明を提示する。

実験結果

リサーチクエスチョン

• RQ1 正則化に基づくアプローチが、機械学習モデルにおける感応属性の制御直接効果を効果的に除去できるか。
• RQ2 反事後的因果に基づく公平性定義が、実際の応用において結果ベースの公平性指標と比べてどのように異なるか。
• RQ3 この正則化技術が、モデル性能を著しく低下させることなく、どの程度公平性を向上できるか。
• RQ4 本手法が勾配ブースティング木やロジスティック回帰を含む多様なモデルアーキテクチャに適用可能かどうか。
• RQ5 CDEに基づく正則化と結果均等性正則化の間で、公平性と性能のトレードオフはどのように異なるか。

主な発見

• 提案されたCDE正則化手法は、感応属性の直接的因果効果を除去することで、予測の不平等を効果的に是正した。
• UCI Adultデータセットでは、CDEを70%削減した一方で、ベースラインモデルと比較して予測AUCの差が2%以内にとどまった。
• 実世界の信用リスクデータセットでは、公平性の乖離を60%削減したが、制約なしモデルと比較してAUCがたった3%低下したにとどまった。
• XGBoostおよびロジスティック回帰の両方で正則化が有効であったため、微分可能なモデルへの広範な適用可能性が示された。
• 特に統計的公平性指標が矛盾する状況においても、反事後的介入に対する公平性を保つ点で、結果ベースの公平性正則化を上回った。
• 理論的分析により、CDEの平均場近似が標準仮定下で真のCDEと一貫していることが確認され、本手法の理論的基盤が裏付けられた。