[論文レビュー] Masked Unfairness: Hiding Causality within Zero ATE

Zou Yang, Sophia Xiao+1 more|arXiv (Cornell University)|Mar 7, 2026

Advanced Causal Inference Techniques被引用数 0

ひとこと要約

ペーパーは因果マスキングを定義し、ゼロATE制約の最適化を通じて方針が不公平な因果効果をマスクしつつ結果を改善できることを示し、モデルレベルの公平性規制を主張します。

ABSTRACT

Recent work has proposed powerful frameworks, rooted in causal theory, to quantify fairness. Causal inference has primarily emphasized the detection of \emph{average} treatment effects (ATEs), and subsequent notions of fairness have inherited this focus. In this paper, we build on previous concerns about regulation based on averages. In particular, we formulate the "causal masking problem" as a linear program that optimizes an alternative objective, such as maximizing profit or minimizing crime, while retaining a zero ATE (i.e., the ATE between a protected attribute and a decision). By studying the capabilities and limitations of causal masking, we show that optimization under ATE-based regulation may induce significant unequal treatment. We demonstrate that the divergence between true and causally masked fairness is driven by confounding, underscoring the importance of full conditional-independence testing when assessing fairness. Finally, we discuss statistical and information-theoretic limitations that make causally masked solutions very difficult to detect, allowing them to persist for long periods. These results argue that we must regulate fairness at the model-level, rather than at the decision level.

研究の動機と目的

• 因果推論に基づく正式な公平性概念の動機付けとATEベースの公平性の限界の特定。
• 因果マスキング問題を導入し、ゼロATE制約でも不公平で高効用な方針を生み出し得ることを示す。
• 搾取・公平性・マスキング戦略を特徴づける線形計画法の定式化を提供。
• ATEベースの規制の理論的・実証的限界を示し、モデルレベルの公平性管理を提唱。

提案手法

• マスキングを、固定参加率とゼロATE制約の下で報酬を最大化するLPとして定式化。
• 離散的層Xと保護属性Pについて、方針変数alpha_{x,p}と報酬項gamma_{x,p}を定義。
• 最適な搾取・公平・マスキング方針（命題4.1–4.3）を導出し、その性質を議論。
• マスキングと公平性のギャップを制限する理論結果と、必要十分条件を特定する定理（定理5.2–5.4）を示す。
• マスキングを可能にする共因・異質性源として観測Xの役割を分析（セクション5.2）。
• 条件付き検定とプロセス内規制の統計的/検出上の課題を論じる（セクション5.3）。
• ゼロATE制約下のマスキングを示す合成実験と実データデモンストレーション（COMPAS/仮釈設定）を提供。

Figure 3: Synthetic data experiments showing that relaxing masking and fairness yield tempting performance improvements.

実験結果

リサーチクエスチョン

• RQ1 ゼロATE制約は、層別で不平等な公平性を持つ方針を依然として許容するか？
• RQ2 因果マスキングは共因と異質性からどのように生じ、どの条件で検出可能か？
• RQ3 最適化と小さな参加率の下で、マスキングと公平性の理論的ギャップはどの程度か？
• RQ4 公平性規制はモデル出力を対象にすべきか、個々の意思決定を対象にすべきか、マスキングを効果的に抑止するには？

主な発見

x	p	Pr(x,p)	Pr(Y=1|x,p)	Pr(D_mask=1|x,p)
0	0	1/15	0.5	0.5
0	1	9/15	0.5	0
1	0	4/15	0.25	0
1	1	1/15	1	1

• 因果マスキングは公正な方針を上回りつつゼロATEを維持でき、層間で不平等な処遇を生み出す。
• マスキングギャップは参加率とともに拡大し、共因（PがXと独立でない）または異質性（Pが与えられたときYがXに独立ではない）に driven される。
• 小さな参加率の下で、マスキング解は公正解の性能を密接に境界づける、利益機会ベースの下限を与える。
• 最適なマスキング方針は常に最適な公平性よりも良い、または場合によっては実質的に良い。
• 因果的マスキング方針を検出するには完全条件付き独立性検定が必要であり、統計的・情報理論的に難しい。
• モデルレベル・プロセス内の公平性規制を、アウトカムレベル規制より推奨し、マスキングリスクを低減する。

Figure 4: Simulations showing the average (+- standard error) sample size needed to reject each null hypothesis for all three strategies.