[논문 리뷰] Bayesian Causal Induction

Pedro A. Ortega|arXiv (Cornell University)|2011. 11. 03.

Bayesian Modeling and Causal Inference참고 문헌 8인용 수 3

한 줄 요약

이 논문은 확률 트리로 경쟁하는 인과 가설을 모델링하는 베이지안 인과 유도 프레임워크를 제안한다. 여기서 간섭과 구조적 제약 조건을 통해 인과 추론과 외삽을 가능하게 한다. 간섭은 가설 간 대칭성을 깨뜨리며, 이는 사후 신뢰도 갱신을 가능하게 한다 (예: P(h|ŷ,x) = 3/5). 제약 조건은 관측된 변수에서 관측되지 않은 변수로의 일반화를 가능하게 한다.

ABSTRACT

Discovering causal relationships is a hard task, often hindered by the need for intervention, and often requiring large amounts of data to resolve statistical uncertainty. However, humans quickly arrive at useful causal relationships. One possible reason is that humans extrapolate from past experience to new, unseen situations: that is, they encode beliefs over causal invariances, allowing for sound generalization from the observations they obtain from directly acting in the world. Here we outline a Bayesian model of causal induction where beliefs over competing causal hypotheses are modeled using probability trees. Based on this model, we illustrate why, in the general case, we need interventions plus constraints on our causal hypotheses in order to extract causal information from our experience.

연구 동기 및 목표

• 관측 데이터로부터 인과 구조를 유추하는 인과 유도의 과제를 다루며, 이는 다수의 가설이 동일한 연합 분포를 유도할 때 발생한다.
• 표준 그래픽 모델의 한계를 극복하기 위해, 인과 가설을 메타 수준에서 작용하는 랜덤 변수로 모델링한다.
• 가능한 인과 구조에 대한 제약 조건을 사용하여 관측된 변수 (X, Y)에서 관측되지 않은 변수 (U, V)로의 인과 일반화를 가능하게 한다.
• 확률 트리 프레임워크 내에서 간섭을 정형화하여 조작된 시스템의 행동을 예측하고, 가설 간 통계적 대칭성을 깨뜨린다.
• 인과 가설에 대한 제약 조건과 간섭이 함께 작용할 때 인과 지식의 추출과 외삽이 어떻게 가능해지는지 조사한다.

제안 방법

• 예: X→Y 대비 Y→X와 같은 인과 가설을 확률 트리의 분지로 표현하며, 각 경로는 인과 해결 순서의 시퀀스를 코딩한다.
• 가설 H를 루트 수준의 랜덤 변수로 모델링하여, 하류 변수의 해결 순서를 결정한다 (예: H=h일 때 X가 Y보다 먼저 해결됨).
• 각 인과 가설 내에서의 스토케스틱적 의존성을 조건부 확률로 표현한다. 예: P(Y=y|h, ¬x) = 1/4.
• 예: X=x에 대한 간섭 (ŷ)를 통해 특정 결과에 대한 확률 질량을 고정함으로써, 가설에 대한 사후 분포를 변경한다.
• 베이즈 정리를 사용하여 사후 확률을 계산한다. 예: P(h|ŷ,x) = [P(y|h,ŷ)P(ŷ|h)P(h)] / [P(y|h,ŷ)P(ŷ|h)P(h) + P(ŷ|¬h,y)P(y|¬h)P(¬h)].
• 가능한 인과 구조에 대한 제약 조건 (예: X→Y와 U→V만 허용, 혼합 구조 불허)을 적용하여 관측된 시스템에서 관측되지 않은 시스템으로의 외삽을 가능하게 한다.

실험 결과

연구 질문

• RQ1 동일한 연합 분포를 생성하는 두 인과 가설 (예: X→Y 대비 Y→X)을 어떻게 구별할 수 있는가?
• RQ2 간섭은 경쟁하는 인과 가설 간 통계적 대칭성을 깨뜨리는 데 어떤 역할을 하는가?
• RQ3 어떤 조건에서 한 시스템 (X,Y)에서의 인과 지식을 다른 시스템 (U,V)로 외삽할 수 있는가?
• RQ4 가능한 인과 가설 집합에 대한 제약 조건이 인과 구조의 추론 및 일반화 능력에 어떤 영향을 미치는가?
• RQ5 확률 트리 기반 베이지안 프레임워크는 명시적 그래픽 모델 확장을 요구하지 않고도 메타 수준의 인과 추론을 모델링할 수 있는가?

주요 결과

• 간섭은 가설 간 통계적 비대칭성을 유도하며, 이는 인과 추론을 가능하게 한다: X에 간섭한 후 (X=x), P(h|ŷ,x) = 3/5로 계산되어 X→Y를 지지한다.
• 사후 확률 P(h|ŷ,x) = 3/5는 X,Y에서 U,V로의 외삽 시 동일하게 유지되며, 이는 구조적 제약 조건 하에서 성공적인 일반화를 보여준다.
• 인과 가설에 대한 제약 조건이 없을 경우, X,Y에서 U,V로의 외삽은 불가능할 것이며, 여러 인과 구조가 서로 구별되지 않기 때문이다.
• 확률 트리 프레임워크는 이질적인 해결 순서 (예: H=h일 때 X가 Y보다 먼저, H=¬h일 때 Y가 X보다 먼저)를 자연스럽게 코딩하여 서로 다른 인과 가설을 모델링한다.
• 인과 가설에 대한 제약 조건은 일반화에 필수적이며, 이는 모호성을 줄이고 관측되지 않은 시스템으로의 인과 지식 이행을 가능하게 한다.
• 이 프레임워크는 '들어온 원인이 없으면 나가는 원인이 없다'는 아이디어를 정형화한다. 즉, 인과 지식을 추출하기 위해서는 간섭과 구조적 가정이 모두 필요하다.