[論文レビュー] Survey on Causal-based Machine Learning Fairness Notions

Karima Makhlouf, Sami Zhioua+1 more|arXiv (Cornell University)|Oct 19, 2020

Ethics and Social Impacts of AI参考文献 38被引用数 40

ひとこと要約

本論文は因果ベースの公正性の概念を調査し、観測データからの識別性と推定を検討し、適切な概念の選択に関するガイドラインとPearlの因果階層によるランキングを提供する。

ABSTRACT

Addressing the problem of fairness is crucial to safely use machine learning algorithms to support decisions with a critical impact on people's lives such as job hiring, child maltreatment, disease diagnosis, loan granting, etc. Several notions of fairness have been defined and examined in the past decade, such as statistical parity and equalized odds. The most recent fairness notions, however, are causal-based and reflect the now widely accepted idea that using causality is necessary to appropriately address the problem of fairness. This paper examines an exhaustive list of causal-based fairness notions and study their applicability in real-world scenarios. As the majority of causal-based fairness notions are defined in terms of non-observable quantities (e.g., interventions and counterfactuals), their deployment in practice requires to compute or estimate those quantities using observational data. This paper offers a comprehensive report of the different approaches to infer causal quantities from observational data including identifiability (Pearl's SCM framework) and estimation (potential outcome framework). The main contributions of this survey paper are (1) a guideline to help selecting a suitable fairness notion given a specific real-world scenario, and (2) a ranking of the fairness notions according to Pearl's causation ladder indicating how difficult it is to deploy each notion in practice.

研究の動機と目的

• 原因性が観測的概念を超える公正性の必要性を動機づける。
• 因果ベースの公正性概念の網羅的レビュー（19件分析）を提示する。
• 識別性と推定フレームワークを通じて観測データから因果量を推定する方法を説明する。
• 現実世界のシナリオのために適切な公正性概念を選択するガイドラインを提供する。
• Pearlの因果階層に基づいて公正性概念をランク付けし、デプロイの難易度を示す。

提案手法

• 因果フレームワーク（SCMと潜在結果）とその同等性を説明する。
• PearlのSCM内の因果量の識別条件を説明する。
• 潜在結果フレームワークでの推定手法（例：マッチング、再重み付け）を議論する。
• 総効果、反事実的公正、介入的公正など、複数の因果ベースの公正性概念を導入・例示する。
• 現実世界のシナリオに基づく概念選択を導く意思決定図を提供する。
• Pearlの因果階層に公正性概念を配置して実装の難易度を評価する。

実験結果

リサーチクエスチョン

• RQ1 公正性の因果概念は何が存在し、それらは因果性と相関の扱いでどのように異なるか？
• RQ2 観測データから介入・反事実などの因果量を識別・推定して公正性評価を行うにはどうすれば良いか？
• RQ3 特定の現実世界の状況とデータ構造を考慮して最も適切な公正性概念はどれか？
• RQ4 Pearlの因果階層のランキングは各概念の実用性をどう反映するか？
• RQ5 公正性分析のためのSCMと潜在結果フレームワーク間のトレードオフは何か？

主な発見

• 19の因果ベースの公正性概念が分析されている。
• 因果性ベースの概念は介入や反事実のような観測できない量を必要とする場合があり、観測データから識別できないことがある。
• 識別性は因果グラフと未観測交絡の有無に依存する。
• 現実世界のシナリオに適した公正性概念を選択するためのガイドライン（意思決定図）を提供する。
• Pearlの因果階層を用いて概念をデプロイ可能性と識別性でランク付けする。
• 潜在結果フレームワークは単位レベルの因果推論と推定をサポートし、SCMは経路特異的な因果分析と発見を支援する。