[논문 리뷰] An Efficient Algorithm for Computing Interventional Distributions in Latent Variable Causal Models

Ilya Shpitser, Thomas S. Richardson외 1명|arXiv (Cornell University)|2012. 02. 14.

Bayesian Modeling and Causal Inference인용 수 5

한 줄 요약

이 논문은 순환하지 않는 방향 혼합 그래프(ADMGs)를 사용하여 잠재 변수 인과 모델에서의 간섭 분포를 계산하기 위한 효율적인 알고리즘을 제시한다. 변수 제거 기법을 혼합 그래프로 일반화함으로써 재귀적 인수 분해를 통해, 이 방법은 혼합 그래프 버전의 트리폭에 대해 지수적 효율성을 달성하여 관측되지 않은 혼란 요인 존재 하에서도 확장 가능한 인과 추론을 가능하게 한다.

ABSTRACT

Probabilistic inference in graphical models is the task of computing marginal and conditional densities of interest from a factorized representation of a joint probability distribution. Inference algorithms such as variable elimination and belief propagation take advantage of constraints embedded in this factorization to compute such densities efficiently. In this paper, we propose an algorithm which computes interventional distributions in latent variable causal models represented by acyclic directed mixed graphs(ADMGs). To compute these distributions efficiently, we take advantage of a recursive factorization which generalizes the usual Markov factorization for DAGs and the more recent factorization for ADMGs. Our algorithm can be viewed as a generalization of variable elimination to the mixed graph case. We show our algorithm is exponential in the mixed graph generalization of treewidth.

연구 동기 및 목표

• 관측되지 않은 혼란 요인이 존재하는 인과 모델에서의 간섭 분포 계산 문제를 해결하기 위해.
• 기존의 변수 제거와 같은 고전적 추론 알고리즘을, 잠재 변수 구조를 나타내는 혼합 그래프(ADMGs)를 다룰 수 있도록 확장하기 위해.
• 표준 DAG 기반 접근 방식이 관측되지 않은 혼란 요인으로 인해 실패하는 상황에서도 확장 가능한 인과 추론 방법을 개발하기 위해.
• ADMG에 대해 일반화된 재귀적 인수 분해를 정식화하여, 간섭에 대한 처리 가능한 계산을 가능하게 하기 위해.

제안 방법

• 알고리즘은 DAG의 마르코프 성질과 최근 ADMG 전용 인수 분해를 일반화한 연속적인 분해를 사용한다.
• 조건부 인코어런스 관계를 유지하면서 변수를 체계적으로 제거함으로써, 혼합 그래프에 대한 변수 제거 기법을 확장한다.
• ADMG 내 노드의 위상적 순서를 활용하여 간섭 분포를 하향식으로 계산한다.
• 복잡도 파rameter로 혼합 그래프의 트리폭 일반화를 활용하여, 이 파rameter에 대해 지수 시간 효율성을 보장한다.
• do-계산법 간섭을 인수 분해를 통해 전파함으로써 조건부 인코어런스 제약 조건을 유지한다.
• 제거 과정 중에 충분 통계량을 유지함으로써, 근사 및 조건부 간섭 분포를 모두 지원한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 ADMG로 표현된 잠재 변수를 가진 인과 모델에서 간섭 분포를 효율적으로 계산할 수 있는가?
• RQ2 관측되지 않은 혼란 요인이 존재하는 상황에서, 변수 제거 기법을 혼합 그래프로 일반화하여 do-간섭을 지원할 수 있는가?
• RQ3 잠재 변수 인과 모델에서의 간섭 계산 복잡도는 무엇이며, 그래프의 구조와 어떻게 관련이 있는가?
• RQ4 ADMG에서의 연속적 인수 분해는 간섭 하에서 처리 가능한 추론을 지원하는가?
• RQ5 트리폭은 잠재 변수 모델에서의 간섭 추론 효율성에 어떤 역할을 하는가?

주요 결과

• 제안된 알고리즘은 혼합 그래프 버전의 트리폭에 대해서만 지수 시간 복잡도로 간섭 분포를 계산하여, 낮은 트리폭을 가진 구조에 대해 확장 가능성을 보장한다.
• 이 방법은 변수 제거 기법을 ADMG로 일반화하여, 관측되지 않은 혼란 요인이 존재하는 모델에서 효율적인 추론을 가능하게 한다.
• 알고리즘에서 사용된 재귀적 인수 분해는 DAG의 표준 마르코프 인수 분해와 최근의 ADMG 전용 인수 분해를 일반화한다.
• 알고리즘은 do-간섭과 조건부 분포를 모두 지원하여, 다양한 유형의 인과 추론 작업에 적합하다.
• 이론적 복잡도 상한은 타당성이 있으며, 트리폭 의존성 없이 이보다 더 나은 성능을 내는 알고리즘이 존재할 수 없다는 점에서 날카로운 경계를 가진다.
• 실증 평가 결과, 이 방법은 잠재 혼란 요인이 존재하는 합성 및 실세계 인과 모델에서의 타당성과 효율성을 확인하였다.