[論文レビュー] A causal framework for discovering and removing direct and indirect discrimination

Lu Zhang, Yongkai Wu+1 more|arXiv (Cornell University)|Nov 22, 2016

Imbalanced Data Classification Techniques参考文献 22被引用数 11

ひとこと要約

この論文は、有向無環グラフ（DAG）における経路特異的効果として直接的・間接的差別をモデル化する因果フレームワークを提案し、履歴データから両方の差別を正確に同定・除去することを可能にする。経路特異的効果と新規アルゴリズム（PSE-DR）を活用することで、後続の予測モデルが直接的および間接的差別を含まない一方で、データの有用性を保持することができる。

ABSTRACT

Anti-discrimination is an increasingly important task in data science. In this paper, we investigate the problem of discovering both direct and indirect discrimination from the historical data, and removing the discriminatory effects before the data is used for predictive analysis (e.g., building classifiers). We make use of the causal network to capture the causal structure of the data. Then we model direct and indirect discrimination as the path-specific effects, which explicitly distinguish the two types of discrimination as the causal effects transmitted along different paths in the network. Based on that, we propose an effective algorithm for discovering direct and indirect discrimination, as well as an algorithm for precisely removing both types of discrimination while retaining good data utility. Different from previous works, our approaches can ensure that the predictive models built from the modified data will not incur discrimination in decision making. Experiments using real datasets show the effectiveness of our approaches.

研究の動機と目的

• 差別検出における既存手法の限界、すなわち直接的・間接的・説明可能な効果を混同する問題に対処すること。
• 因果的経路特異的効果を用いて直接的および間接的差別を明示的に区別する手法を開発すること。
• 変更されたデータで訓練された予測モデルが、直接的および間接的差別を含まないことを保証すること。
• 差別除去プロセス中にデータの有用性を維持し、過度な情報損失を避けること。

提案手法

• ノードが変数を表し、エッジが因果的関係を表す有向無環グラフ（DAG）を用いて、データの因果的構造をモデル化する。
• 直接的差別を、保護属性から意思決定への直接経路に沿った経路特異的効果として定義する。
• 間接的差別を、保護属性から意思決定への経路で、正当でない属性を経由する経路に沿った経路特異的効果として定義する。
• 経路特異的効果の定式化を用いて、観測データから差別を推定し、合計効果を直接的・間接的・説明可能な成分に分解可能にする。
• 観測データからの経路特異的効果推定を活用して、直接的および間接的差別を同定するPSE-DDアルゴリズムを提案する。
• 経路特異的効果に基づく反事後的補正を用いて、データを変更することで直接的および間接的差別を除去しつつ有用性を保持するPSE-DRアルゴリズムを提案する。

実験結果

リサーチクエスチョン

• RQ1 因果モデルを用いて、直接的および間接的差別を形式的に区別し、測定することは可能か？
• RQ2 因果ネットワークにおける経路特異的効果は、直接的および間接的差別を正確に捉え、定量的に評価できるか？
• RQ3 直接的および間接的差別を除去しつつ予測有用性を維持するデータ変更戦略を設計可能か？
• RQ4 提案手法は、下流の予測モデルが両方の差別的要因を含まないことを保証するか？

主な発見

• PSE-DRアルゴリズムは、トレーニングデータから直接的および間接的差別を効果的に除去し、予測において差別的効果がゼロとなった。
• 実験では、PSE-DRはトレーニングデータで直接的差別効果0.013および間接的差別効果0.049を達成し、0.05の閾値をはるかに下回った。
• PSE-DRは高いデータ有用性を維持した。カイ二乗値は1.620×10⁴であり、DI手法の7.031×10⁴と比較して顕著に低く、情報損失が少ないことを示した。
• PSE-DRで処理されたデータで訓練された予測モデルは、SVMおよび決定木分類器の両方で、直接的および間接的効果が0.05の閾値未満であり、差別的要因が顕著に検出されなかった。
• 一方、DIアルゴリズムはトレーニングデータからの差別を除去したが、SVMでは0.167、DTreeでは0.168の間接的差別を予測に残し、非差別性基準に違反した。
• PSE-DRは高い予測精度（SVMで80.54%、DTreeで80.55%）を達成し、非差別性とモデル性能が両立可能であることを示した。