[논문 리뷰] Linearity Properties of Bayes Nets with Binary Variables

David Danks, Clark Glymour|arXiv (Cornell University)|2013. 01. 10.

Bayesian Modeling and Causal Inference참고 문헌 7인용 수 15

한 줄 요약

이 논문은 선형 구조 모델의 핵심 선형성 성질—특히 테트라 표현 정리, 도구 변수, 트렉 기반 공분산 인수분해—가 이산 변수를 갖는 베이지안 네트워크, 특히 노이즈 있는 OR/AND 게이트로 파arameterized된 경우에도 성립함을 입증한다. 핵심 기여는 이산 베이지안 네트워크에 대한 테트라 표현 정리의 증명이며, 이를 통해 관측되지 않은 공통 원인의 탐지가 검증 가능한 조건부 독립 제약 조건을 통해 가능해진다.

ABSTRACT

It is "well known" that in linear models: (1) testable constraints on the marginal distribution of observed variables distinguish certain cases in which an unobserved cause jointly influences several observed variables; (2) the technique of "instrumental variables" sometimes permits an estimation of the influence of one variable on another even when the association between the variables may be confounded by unobserved common causes; (3) the association (or conditional probability distribution of one variable given another) of two variables connected by a path or trek can be computed directly from the parameter values associated with each edge in the path or trek; (4) the association of two variables produced by multiple treks can be computed from the parameters associated with each trek; and (5) the independence of two variables conditional on a third implies the corresponding independence of the sums of the variables over all units conditional on the sums over all units of each of the original conditioning variables.These properties are exploited in search procedures. It is also known that properties (2)-(5) do not hold for all Bayes nets with binary variables. We show that (1) holds for all Bayes nets with binary variables and (5) holds for all singly trek-connected Bayes nets of that kind. We further show that all five properties hold for Bayes nets with any DAG and binary variables parameterized with noisy-or and noisy-and gates.

연구 동기 및 목표

• 이차 변수를 갖는 베이지안 네트워크에서 선형 모델의 어떤 선형성 성질이 성립하는지 규명하는 것.
• 이산 베이지안 네트워크에 대한 테트라 표현 정리의 타당성을 확립하는 것.
• 도구 변수 및 트렉 기반 공분산 규칙의 적용 가능성을 이산 네트워크에서 조사하는 것.
• 특히 다중 트렉 연결된 구조에서의 일반화의 한계를 검토하는 것.
• 집계된 자료로부터의 인과적 발견에 미치는 영향을 평가하는 것.

제안 방법

• 집합 U(T)와 S(T)를 기반으로 한 일반화된 트렉 규칙 변형을 사용하여 이산 베이지안 네트워크에서의 공분산 인수분해를 수행한다.
• 조건부 독립 보조정리를 적용: A ⊥⊥ C | B 이면, 이산 변수에 대해 p(A,C) = p(A,B) * p(B,C) 이다.
• 트렉의 구조적 분해와 증명 스케치를 활용하여 공분산 인수분해를 유도한다.
• 다중 트렉 연결된 네트워크에서 일반화된 트렉 규칙의 실패를 보여주기 위해 노이즈 있는 AND 게이트를 사용한 반례를 구성한다.
• 다른 조건부 집합에서의 조건부 공분산을 비교함으로써 집계 불변성 분석을 수행한다.
• P(X)와 공분산 표현식의 대수적 변환을 사용하여 집계된 자료에서의 비영속 의존성 여부를 테스트한다.

실험 결과

연구 질문

• RQ1 이차 변수만을 갖는 베이지안 네트워크에 대해 테트라 표현 정리가 성립하는가?
• RQ2 이차 베이지안 네트워크에서 도구 변수 기법을 신뢰성 있게 사용하여 인과적 영향을 추정할 수 있는가?
• RQ3 특히 일반화된 트렉 규칙을 포함한 트렉 기반 공분산 규칙이 노이즈 있는 OR/AND 파arameterization을 갖는 이산 네트워크에서 성립하는가?
• RQ4 다중 변수에 조건부로 설정할 경우 집계 불변성이 이차 모델에서 유지되는가?
• RQ5 선형 모델의 선형성 성질이 이차 베이지안 네트워크로 얼마나 일반화되는가?

주요 결과

• 테트라 표현 정리는 이차 베이지안 네트워크에서도 성립한다: 두 변수 집합 사이에 콘센트 포인트가 존재할 조건은 p(I1,J1)p(I2,J2) - p(I1,J2)p(I2,J1) = 0 이다.
• 노이즈 있는 AND/OR 게이트를 갖는 다중 트렉 연결 이차 네트워크에서는 일반화된 트렉 규칙이 실패한다. p(X0,X3) ≠ Σ p(X0,X3) over individual treks 인 반례를 통해 이를 입증하였다.
• 노이즈 있는 OR/AND 게이트를 갖는 단일 트렉 연결 이차 네트워크에서는 게이트 유형과 귀속 확률에 기반한 닫힌 형식의 공분산 공식이 도출된다.
• 도구 변수 기법은 일반적인 이차 베이지안 네트워크에서 유효하며, 공변량이 존재하는 상황에서도 인과적 영향 추정이 가능하다.
• 다중 트렉 연결 모델에서는 집계 불변성이 실패한다: 다수의 부모에 조건부로 설정하더라도 부분 공분산이 0이 되지 않는다.
• 일반화된 트렉 규칙과 집계 불변성의 실패는 복잡한 이차 네트워크에서 집계된 자료를 이용한 인과적 발견에 대한 적용을 제한한다.