[論文レビュー] Causal Discrimination Discovery Through Propensity Score Analysis.

Bilal Mazhar Qureshi, Faisal Kamiran+2 more|arXiv (Cornell University)|Aug 12, 2016

Ethics and Social Impacts of AI参考文献 3被引用数 11

ひとこと要約

本稿では、保護群と非保護群の間の交絡変数をバランスさせるために傾向スコア重み付けを用いた因果的差別発見手法を提案する。これにより、近傍ベースの指標と解釈可能な回帰木を用いて、個人レベルの因果的差別または優遇を偏りのない方法で特定可能となる。本手法は、2つの実世界のデータセットを用いた実験で、観察的分析に比べて法的根拠を有する結果をもたらす。

ABSTRACT

Social discrimination is considered illegal and unethical in the modern world. Such discrimination is often implicit in observed decisions' datasets, and anti-discrimination organizations seek to discover cases of discrimination and to understand the reasons behind them. Previous work in this direction adopted simple observational data analysis; however, this can produce biased results due to the effect of confounding variables. In this paper, we propose a causal discrimination discovery and understanding approach based on propensity score analysis. The propensity score is an effective statistical tool for filtering out the effect of confounding variables. We employ propensity score weighting to balance the distribution of individuals from protected and unprotected groups w.r.t. the confounding variables. For each individual in the dataset, we quantify its causal discrimination or favoritism with a neighborhood-based measure calculated on the balanced distributions. Subsequently, the causal discrimination/favoritism patterns are understood by learning a regression tree. Our approach avoids common pitfalls in observational data analysis and make its results legally admissible. We demonstrate the results of our approach on two discrimination datasets.

研究の動機と目的

• 交絡要因の測定が不十分なため偏りが生じる観察的データ分析の限界を是正すること。
• 交絡変数のバランスを取ることで、保護属性が意思決定に与える影響を分離する因果推論フレームワークの構築。
• バランスされたデータ分布上で近傍ベースの指標を用いて、個人レベルの因果的差別または優遇を定量化すること。
• 解釈可能な回帰木を用いて差別のパターンを解釈し、実行可能なインサイトを得ること。
• 従来の観察的分析の一般的な落とし穴を避けることで、結果が法的根拠を有することを保証すること。

提案手法

• 保護群と非保護群の間の交絡変数の分布をバランスさせるために傾向スコア重み付けを適用する。
• 観察された共変量に基づき、ロジスティック回帰または機械学習モデルを用いて傾向スコアを推定する。
• 逆確率重み付けを用いて、グループ間の差が保護属性に起因するのみとなるバランスされたデータセットを構築する。
• 重み付け・バランス化されたデータ上で近傍ベースの指標を用いて、個人の因果的差別スコアを計算する。
• 因果的スコアを用いて回帰木を学習し、差別または優遇を引き起こす要因を特定する。
• 2つの実世界の差別データセットを用いて、本手法の有効性と解釈可能性を検証する。

実験結果

リサーチクエスチョン

• RQ1 傾向スコア重み付けは、社会的差別の検出において交絡変数のバイアスを効果的に低減できるか？
• RQ2 統計的に妥当かつ法的根拠を有する形で、個人レベルの因果的差別をどのように定量化できるか？
• RQ3 交絡変数を適切に制御した場合、どのような差別のパターンが顕在化するか？
• RQ4 回帰木のような解釈可能なモデルは、検出された差別の根本的原因をどの程度効果的に説明できるか？
• RQ5 本手法は、標準的な観察的分析に比べて真の差別事例をより効果的に同定できるか？

主な発見

• 提案手法は、保護群と非保護群の共変量分布をバランスさせることで、交絡変数に起因するバイアスを効果的に低減した。
• バランス化されたデータ上で計算された因果的差別スコアは、標準的な観察的手法に比べ、より正確で法的根拠を有する評価を提供した。
• 回帰木モデルは、差別または優遇に寄与する主要因を効果的に同定し、解釈性を向上させた。
• 従来の観察的分析に比べ、2つの実世界のデータセットにおいて因果的差別パターンの検出が改善された。
• 因果的根拠と透明性を有するため、結果は法的および政策的文脈での利用に耐えうる。