[논문 리뷰] Discovering Cyclic Causal Models with Latent Variables: A General SAT-Based Procedure

Antti Hyttinen, Patrik O. Hoyer외 2명|arXiv (Cornell University)|2013. 09. 26.

Bayesian Modeling and Causal Inference참고 문헌 29인용 수 37

한 줄 요약

이 논문은 관측 또는 실험 데이터로부터 d-분리 제약 조건을 사용하여 방향성 순환 구조와 잠재 변수를 포함한 모델에서 인과적 구조를 발견하기 위한 일반적인 SAT 기반 방법을 제시한다. 인과적 경로를 논리 공식으로 인코딩하고 부울 만족 가능성 솔버를 활용함으로써, 간선의 존재 또는 부재를 체계적으로 결정하며, 정보가 부족할 경우 '알 수 없음'을 반환한다. 이 방법은 많은 기존의 제약 기반 알고리즘을 특수 케이스로 포함한다.

ABSTRACT

We present a very general approach to learning the structure of causal models based on d-separation constraints, obtained from any given set of overlapping passive observational or experimental data sets. The procedure allows for both directed cycles (feedback loops) and the presence of latent variables. Our approach is based on a logical representation of causal pathways, which permits the integration of quite general background knowledge, and inference is performed using a Boolean satisfiability (SAT) solver. The procedure is complete in that it exhausts the available information on whether any given edge can be determined to be present or absent, and returns "unknown" otherwise. Many existing constraint-based causal discovery algorithms can be seen as special cases, tailored to circumstances in which one or more restricting assumptions apply. Simulations illustrate the effect of these assumptions on discovery and how the present algorithm scales.

연구 동기 및 목표

• 피드백 루프와 관측되지 않은 혼란 요인 존재 시 인과적 구조를 완전하고 일반적으로 발견하기 위한 방법 개발.
• d-분리 제약 조건의 논리적 인코딩을 통해 다양한 배경 지식을 인과적 발견에 통합하기.
• 모든 간선이 데이터 및 제약 조건으로부터 결정 가능한지 체계적으로 확인하고, 그렇지 않은 경우 '알 수 없음'을 반환하는 체계적 프레임워크 제공.
• 기존의 제약 기반 인과적 발견 알고리즘들을 하나의 논리적 프레임워크 안에서 통합하고 일반화하기.
• 다양한 가정과 데이터 조건 하에서 방법의 확장성과 내구성 평가하기.

제안 방법

• 모든 가능한 인과적 경로를 부울 만족 가능성(SAT) 기법을 사용해 논리 공식으로 인코딩한다.
• d-분리 제약 조건을 데이터 내 조건부 독립 관계를 표현하는 논리 공식으로 표현한다.
• 인과적 경로의 논리적 표현을 확장함으로써 방향성 순환과 잠재 변수의 포함을 가능하게 한다.
• 배경 지식은 SAT 공식에 논리 제약 조건을 추가하여 통합한다.
• SAT 솔버를 사용해 간선 존재/부재의 일관성을 데이터 및 제약 조건과 비교하고, 명확한 결론을 도출할 수 없을 경우 '알 수 없음'을 반환한다.
• 모든 데이터 및 제약 조건으로부터 결정 가능한 간선이 식별되는 바람직한 완전성 성질을 가진다.

실험 결과

연구 질문

• RQ1 일반적인 제약 기반 방법이 피드백 루프와 잠재 변수를 포함한 인과적 구조를 발견할 수 있는가?
• RQ2 방향성 순환과 관측되지 않은 혼란 요인의 포함이 인과적 간선의 식별 가능성에 어떤 영향을 미치는가?
• RQ3 논리적 인코딩을 통해 얼마나 깊이까지 배경 지식을 인과적 발견 과정에 통합할 수 있는가?
• RQ4 다양한 가정 하에서 제안된 SAT 기반 방법이 기존 알고리즘 대비 성능과 완전성 면에서 어떻게 비교되는가?
• RQ5 더 큰 또는 더 복잡한 인과 모델에 적용했을 때 방법의 확장성은 어떠한가?

주요 결과

• 제안된 SAT 기반 방법은 데이터 및 제약 조건에 기반해 반드시 존재하거나 부재여야 할 간선을 완전히 식별하며, 정보가 부족할 경우에만 '알 수 없음'을 반환한다.
• 이 방법은 특정 가정 하에서 많은 기존의 제약 기반 알고리즘을 특수 케이스로 일반화하고 포함한다.
• 시뮬레이션 결과, 제약 조건이 강한 가정(예: 비순환성 또는 잠재 변수 없음)은 인과적 구조의 식별 가능성을 크게 감소시킨다.
• 모델 크기에 따라 합리적인 확장성을 보이며, 성능은 논리적 인코딩의 복잡성과 SAT 솔버의 효율성에 따라 달라진다.
• 논리 제약 조건을 통한 배경 지식 통합은 제한된 데이터 조건에서 간선 식별의 정밀도를 향상시킨다.
• 표준 알고리즘이 실패하는 경우에도 피드백 루프와 관측되지 않은 혼란 요인을 포함한 복잡한 시나리오를 성공적으로 처리한다.