[논문 리뷰] Nested Counterfactual Identification from Arbitrary Surrogate Experiments

Juan D. Correa, Sanghack Lee외 1명|arXiv (Cornell University)|2021. 12. 06.

Bayesian Modeling and Causal Inference인용 수 1

한 줄 요약

이 논문은 관측 데이터와 실험 데이터의 임의의 조합에서 중첩된 반시가적 결과를 식별하기 위한 완전한 프레임워크를 제안한다. 복잡한 중첩 반시가적 결과를 비중첩 형태로 변환하기 위해 반시가적 해체 정리(Counterfactual Unnesting Theorem, CUT)를 수립하고, 식별 가능성을 판단하기 위한 必要하고 충분한 그래픽 조건을 제시하며, 식별 가능성을 확실히 판단할 수 있는 효율적이고 완전한 알고리즘을 제시한다.

ABSTRACT

The Ladder of Causation describes three qualitatively different types of activities an agent may be interested in engaging in, namely, seeing (observational), doing (interventional), and imagining (counterfactual) (Pearl and Mackenzie, 2018). The inferential challenge imposed by the causal hierarchy is that data is collected by an agent observing or intervening in a system (layers 1 and 2), while its goal may be to understand what would have happened had it taken a different course of action, contrary to what factually ended up happening (layer 3). While there exists a solid understanding of the conditions under which cross-layer inferences are allowed from observations to interventions, the results are somewhat scarcer when targeting counterfactual quantities. In this paper, we study the identification of nested counterfactuals from an arbitrary combination of observations and experiments. Specifically, building on a more explicit definition of nested counterfactuals, we prove the counterfactual unnesting theorem (CUT), which allows one to map arbitrary nested counterfactuals to unnested ones. For instance, applications in mediation and fairness analysis usually evoke notions of direct, indirect, and spurious effects, which naturally require nesting. Second, we introduce a sufficient and necessary graphical condition for counterfactual identification from an arbitrary combination of observational and experimental distributions. Lastly, we develop an efficient and complete algorithm for identifying nested counterfactuals; failure of the algorithm returning an expression for a query implies it is not identifiable.

연구 동기 및 목표

• 관측 데이터와 간섭 데이터만 제공될 때, 다른 행동을 취했을 경우 어떤 일이 일어났을지를 추론하는 반시가적 결과를 추론하는 문제에 대응한다.
• 기존 방법들이 특히 중개 분석 및 공정성 분석와 같은 분야에서 중첩 반시가적 결과를 다루는 데 어려움을 겪는 점을 극복한다.
• 관측 및 실험 분포의 임의의 조합에서 임의의 중첩 반시가적 질의를 식별하기 위한 형식적이고 완전한 해법을 제공한다.
• 반시가적 식별 가능성을 위한 필수적이고 충분한 그래픽 조건을 수립하여, 이러한 추론이 가능한지 정확히 판단할 수 있도록 한다.
• 식별 가능 여부를 확실히 판단할 수 있는 알고리즘을 개발한다. 식별 가능한 표현식이 존재하면 이를 반환하고, 否면 존재하지 않음을 엄격히 증명한다.

제안 방법

• 인과 추론에서의 구조와 의미를 명확히 하기 위해 중첩 반시가적 결과의 형식적 정의를 제시한다.
• 모든 중첩 반시가적 결과를 구조적 인과 모델을 사용해 등가의 비중첩 표현식으로 줄이는 데 성공한 반시가적 해체 정리(CUT)를 증명한다.
• 혼합된 데이터에서의 반시가적 식별 가능성을 위한 필수적이고 충분한 그래픽 기준을 인과 다이어그램의 구조에 기반해 정의한다.
• 기본적으로 그래픽 조건을 점검하고, do-계산법과 잠재적 결과의 기호적 변환을 사용해 식별 표현식을 구성하는 알고리즘을 설계한다.
• 알고리즘이 완전함을 보장한다: 표현식을 반환하지 못하면, 그 질의는 증명적으로 식별 불가능하다.
• 인과의 계단계 구조를 활용해 반시가적 추론을 간섭(도)에서 반시가적(만약-어떤 것이었을까?) 추론으로 이르는 교차 계층 문제로 프레임워크화한다.

실험 결과

연구 질문

• RQ1 관측 및 실험 분포의 임의의 조합에서 중첩 반시가적 질의는 어떤 조건에서 식별 가능할 수 있는가?
• RQ2 임의의 중첩 반시가적 결과는 체계적으로 비중첩 형태로 변환되어 식별을 단순화시킬 수 있는가?
• RQ3 주어진 반시가적 질의가 혼합된 데이터에서 식별 가능한지 판단하는 완전하고 효율적인 알고리즘이 존재하는가?
• RQ4 식별 가능한 반시가적 질의의 집합을 특징짓는 그래픽적 구조는 무엇인가?
• RQ5 이 프레임워크는 중개 분석 및 공정성 평가와 같은 실제 문제에 어떻게 적용될 수 있는가?

주요 결과

• 반시가적 해체 정리(CUT)는 임의의 중첩 반시가적 결과를 등가의 비중첩 표현식으로 변환할 수 있는 형식적 방법을 제공하여, 기존의 식별 기법을 활용할 수 있도록 한다.
• 혼합된 관측 및 실험 데이터에서의 반시가적 식별 가능성을 위한 필수적이고 충분한 그래픽 조건이 확립되어, 이 분야에서 오랫동안 애매시되었던 문제를 해결한다.
• 제안된 알고리즘은 완전하고 효율적이다: 식별 가능한 표현식이 존재하면 이를 반환하고, 그렇지 않으면 존재하지 않음을 엄격히 증명한다.
• 이 프레임워크는 기존에 특수한 처리가 필요했던 중개 분석 및 공정성 분석에서의 직접적, 간접적, 오류가 포함된 영향과 같은 복잡한 반시가적 결과를 식별할 수 있도록 한다.
• 결과적으로 혼합된 데이터에서의 반시가적 추론은 잘 정의된 조건 하에서 체계적으로 해결 가능하며, 인과 추론 분야의 최첨단 수준을 향해 한 걸음 나아간다.
• 이 방법은 인과의 계단계에서 간섭에서 반시가적 추론으로의 교차 계층 추론을 위한 통합적 접근법을 제공하며, 형식적인 보장을 제공한다.