[논문 리뷰] Masked Unfairness: Hiding Causality within Zero ATE

Zou Yang, Sophia Xiao외 1명|arXiv (Cornell University)|2026. 03. 07.

Advanced Causal Inference Techniques인용 수 0

한 줄 요약

논문은 인과 마스킹(causal masking)을 정의하고, 제로 ATE 제약 하의 제로-ATE 제약 최적화를 통해 정책이 불공정한 인과 효과를 마스킹하면서도 결과를 개선할 수 있음을 보이며, 모델 수준의 공정성 규제를 주장한다.

ABSTRACT

Recent work has proposed powerful frameworks, rooted in causal theory, to quantify fairness. Causal inference has primarily emphasized the detection of \emph{average} treatment effects (ATEs), and subsequent notions of fairness have inherited this focus. In this paper, we build on previous concerns about regulation based on averages. In particular, we formulate the "causal masking problem" as a linear program that optimizes an alternative objective, such as maximizing profit or minimizing crime, while retaining a zero ATE (i.e., the ATE between a protected attribute and a decision). By studying the capabilities and limitations of causal masking, we show that optimization under ATE-based regulation may induce significant unequal treatment. We demonstrate that the divergence between true and causally masked fairness is driven by confounding, underscoring the importance of full conditional-independence testing when assessing fairness. Finally, we discuss statistical and information-theoretic limitations that make causally masked solutions very difficult to detect, allowing them to persist for long periods. These results argue that we must regulate fairness at the model-level, rather than at the decision level.

연구 동기 및 목표

• 인과 추론에 기초한 형식적 공정성 개념을 동기화하고 ATE 기반 공정성의 한계를 파악한다.
• 인과 마스킹 문제를 도입하고 제로-ATE 제약이 있다 하더라도 불공정하고 높은 효용의 정책이 나올 수 있음을 보인다.
• 착취, 공정성, 마스킹 전략을 특징화하는 선형 계획법(LP) 형식을 제공한다.
• ATE 기반 규제의 이론적·실험적 한계를 입증하고 모델 수준의 공정성 제어를 옹호한다.]
• method_1_번역으로_정리된_문장과_동일한_형식으로_값을_유지합니다.

제안 방법

• ILP로서의 인과 마스킹을 고정된 참여율과 제로 ATE 제약 하에서 보상을 최대화하는 형태로 형식화한다.
• X의 이산적 구간과 보호 속성 P에 대해 정책 변수 alpha_{x,p}와 보상 항 gamma_{x,p}를 정의한다.
• 최적의 착취/공정/마스킹 정책(제안 4.1–4.3)을 도출하고 그 특성을 논의한다.
• 마스킹-공정성 차이를 한계 짓는 이론적 결과와 필요충분조건(Theorems 5.2–5.4)을 제시한다.
• 마스킹을 가능하게 하는 혼동요인(confounding)과 이질성(heterogeneity)의 원인으로서 관찰된 X의 역할을 분석한다(섹션 5.2).
• 조건부 검정과 프로세스 내 모델 규제 간의 통계적/탐지상의 도전을 논의한다(섹션 5.3).
• 제로-ATE 제약 하에서의 마스킹을 보여주는 합성 실험과 실제 데이터 시연(COMPAS/석방 설정)

Figure 3: Synthetic data experiments showing that relaxing masking and fairness yield tempting performance improvements.

실험 결과

연구 질문

• RQ1 제로 ATE 제약이 하위 그룹 간의 불평등한(계층화된) 공정성을 허용할 수 있는가?
• RQ2 인과 마스킹이 혼동과 이질성으로부터 어떻게 발생하며 어떤 조건에서 탐지 가능한가?
• RQ3 최적화 및 작은 참여율 하에서 마스킹과 공정성 사이의 이론적 격차는 무엇인가?
• RQ4 공정성 규제가 마스크를 효과적으로 억제하기 위해 모델 출력이나 개별 결정 중 어느 것을 목표로 해야 하는가?

주요 결과

x	p	Pr(x,p)	Pr(Y=1|x,p)	Pr(D_mask=1|x,p)
0	0	1/15	0.5	0.5
0	1	9/15	0.5	0
1	0	4/15	0.25	0
1	1	1/15	1	1

• 인과 마스킹은 공정 정책보다 더 나은 성과를 내면서도 제로 ATE를 유지할 수 있어 구간별로 차별적 대우를 야기한다.
• 마스킹 격차는 참여율이 커질수록 커지며, 이는 혼동(P가 X와 독립적이지 않거나)을 하거나 이질성(Y가 P에 대해 X에 조건부 독립하지 않는)으로 인해 좌우된다.
• 작은 참여율에서 마스킹 해는 공정한 해의 성능을 한정된 차익 기반의 하한으로 엄격히 제시할 수 있다.
• 최적의 마스킹 정책은 항상 최적의 공정보다 더 나은 또는 적어도 동등한 효용을 가질 수 있다.
• 마 causally mask된 정책을 탐지하려면 전체 조건부 독립성 검정이 필요하며 이는 통계적·정보이론적으로 도전적이다.
• 모델 수준의, 프로세스 내 공정성 규제는 마스킹 위험을 완화하기 위해 결과 기반 규제보다 선호된다.

Figure 4: Simulations showing the average (+- standard error) sample size needed to reject each null hypothesis for all three strategies.