[논문 리뷰] The inflation technique solves completely the classical inference problem

Miguel Navascués, Elie Wolfe|arXiv (Cornell University)|2017. 07. 20.

Bayesian Modeling and Causal Inference인용 수 7

한 줄 요약

이 논문은 인과적 호환성 문제를 위한 인플레이션 기반의 이론적 계층을 제안하며, 이 방법이 점점 더 정확하게 수렴하여 오차가 없는 테스트에 도달함을 증명한다. 어떤 분포가 $n^{th}$-순서 인플레이션 테스트에 통과하면, 그 분포는 유클리드 노름으로 $O(n^{-1/2})$ 이내로 진짜로 호환되는 분포에 가까워지며, 이는 고전적인 추론 문제를 점차 줄어드는 오차로 해결함을 의미한다.

ABSTRACT

The causal compatibility question asks whether a given causal structure graph -- possibly involving latent variables -- constitutes a genuinely plausible causal explanation for a given probability distribution over the graph's observed variables. Algorithms predicated on merely necessary constraints for causal compatibility typically suffer from false negatives, i.e. they admit incompatible distributions as apparently compatible with the given graph. In [arXiv:1609.00672], one of us introduced the inflation technique for formulating useful relaxations of the causal compatibility problem in terms of linear programming. In this work, we develop a formal hierarchy of such causal compatibility relaxations. We prove that inflation is asymptotically tight, i.e., that the hierarchy converges to a zero-error test for causal compatibility. In this sense, the inflation technique fulfills a longstanding desideratum in the field of causal inference. We quantify the rate of convergence by showing that any distribution which passes the $n^{th}$-order inflation test must be $O\left(n^{-1/2} ight)$-close in Euclidean norm to some distribution genuinely compatible with the given causal structure. Furthermore, we show that for many causal structures, the (unrelaxed) causal compatibility problem is faithfully formulated already by either the first or second order inflation test.

연구 동기 및 목표

• 인과적 호환성 테스팅에서 잘못된 음성 결과(불가능한 분포가 잘못되게 호환 가능하다고 판단됨) 문제가 오랫동안 지속되는 것을 해결하기 위해.
• 인플레이션 기법에 기반한 체계적인 이론적 계층을 개발하여, 인과적 호환성에 대한 제약 조건을 점차 더 강화하기 위해.
• 인플레이션 방법이 점점 더 정확하게 수렴하여 오차가 없는 테스트에 도달함을 증명함으로써, 인과적 호환성 검증에서 점점 더 정밀한 결과를 얻기 위해.
• 유클리드 거리 기반으로 인플레이션 계층의 수렴 속도를 정량화하기 위해.
• 일부 인과적 구조에서는 첫 번째 또는 두 번째 순서의 인플레이션 테스트만으로도 완전한 인과적 호환성 조건을 포괄할 수 있음을 규명하기 위해.

제안 방법

• 논문은 인플레이션 규칙에 따라 인과 구조 내 잠재변수와 관측변수를 반복적으로 복제함으로써, 인플레이션 기반의 이론적 계층을 체계적으로 구성한다.
• 이 계층의 각 수준은 인플레이션된 인과 그래프의 조건부 독립성에서 유도된 연립선형 제약 조건을 생성한다.
• 이 방법은 인플레이션된 변수들 위에서 선형 프로그래밍 문제로 인과적 호환성 문제를 재구성함으로써, 이론적 경계의 효율적 계산을 가능하게 한다.
• 계층의 수렴성을 증명하기 위해, $n^{th}$-순서 인플레이션 테스트를 통과하는 분포의 집합이 $n \to \infty$로 갈수록 진짜로 호환 가능한 분포의 집합으로 수렴함을 보였다.
• 수렴 속도는, $n^{th}$-순서 테스트를 통과하는 어떤 분포라도 가장 가까운 진짜로 호환 가능한 분포와 유클리드 거리로 $O(n^{-1/2})$ 이내임을 유계화함으로써 정량화되었다.
• 특정 인과적 구조에 대해서는, 첫 번째 또는 두 번째 순서의 인플레이션 테스트만으로도 완전한 호환성 조건을 충분히 기술할 수 있음을 논문에서 입증하였다.

실험 결과

연구 질문

• RQ1 인플레이션 기법을 점점 더 정확하게 진짜 호환 가능한 분포 집합으로 수렴하는 계층으로 체계화할 수 있는가?
• RQ2 인플레이션 계층이 인과적 호환성 집합을 근사할 때의 수렴 속도는 무엇인가?
• RQ3 어떤 인과적 구조에서는 첫 번째 또는 두 번째 순서의 인플레이션 테스트만으로도 전체 호환성 조건을 충분히 포괄할 수 있는가?
• RQ4 인플레이션 방법은 어떻게 기존 알고리즘에서 발생하는 잘못된 음성 결과 문제를 해결하는가?
• RQ5 인플레이션 계층을 사용하여 인과적 호환성에 대한 오차가 없는 테스트를 구성할 수 있는가?

주요 결과

• 인플레이션 계층은 점점 더 정밀한 수렴을 보이며, 이는 인플레이션 순서가 증가함에 따라 인과적 호환성에 대한 오차가 없는 테스트로 수렴함을 의미한다.
• 모든 $n^{th}$-순서 인플레이션 테스트를 통과하는 분포는 유클리드 노름으로 진짜로 인과 구조와 호환되는 분포와 $O(n^{-1/2})$ 이내에 가까워진다.
• 많은 일반적인 인과적 구조에서는 첫 번째 또는 두 번째 순서의 인플레이션 테스트만으로도 인과적 호환성 문제의 본질을 충분히 반영하므로, 이 수준 이상의 이론적 조정이 필요로 하지 않는다.
• 이 방법은 인플레이션을 통해 제약 조건을 점차 강화함으로써 이전 알고리즘의 잘못된 음성 결과 문제를 체계적으로 해결한다.
• $O(n^{-1/2})$ 수렴 속도는 계층의 각 수준에서 이론적 근사의 정확도에 대한 정량적 보장을 제공한다.
• 결과적으로 이 연구는 인플레이션 기법이 고전적인 인과적 호환성 문제에 대한 완전한 해결책임을 입증하였으며, 인과 추론 분야에서 오랫동안 간구되어 온 바람직한 조건을 충족시킨다.