[논문 리뷰] Strong Completeness and Faithfulness in Bayesian Networks

Christopher Meek|arXiv (Cornell University)|2013. 02. 20.

Bayesian Modeling and Causal Inference참고 문헌 13인용 수 199

한 줄 요약

이 논문은 측도 이론적 관점에서 주어진 네트워크 구조에 대해 거의 모든 매개변수화된 분포가 충실성(faithfulness)을 만족한다는 것을 증명함으로써 이산 베이지안 네트워크에서 강력한 완전성과 충실성을 확립한다. 즉, 분포에 포함된 모든 조건부 인코어런스 관계가 d-분리 기준에 의해 정확히 유도되는 바와 같다. 이 결과는 d-분리가 거의 모든 이산 베이지안 네트워크 분포 공간에서 타당하고 완전하다는 것을 확인한다.

ABSTRACT

A completeness result for d-separation applied to discrete Bayesian networks is presented and it is shown that in a strong measure-theoretic sense almost all discrete distributions for a given network structure are faithful; i.e. the independence facts true of the distribution are all and only those entailed by the network structure.

연구 동기 및 목표

• 이산 베이지안 네트워크에서 d-분리 기준의 완전성을 확립하기 위해.
• 분포에 포함된 모든 조건부 인코어런스 관계가 네트워크 구조에 의해 완전히 반영되는지 조사하기 위해.
• 주어진 네트워크 구조에 대해 모든 가능한 분포 공간 내에서 충실한 분포의 측도 이론적 희귀성(또는 빈도)을 규명하기 위해.
• 인과적 탐색 및 구조 학습에서 흔히 사용되는 충실성 가정에 대한 이론적 근거를 제공하기 위해.
• 충실성이 특별한 예외가 아니라 일반적인 현상임을 보여주기 위해.

제안 방법

• 주어진 베이지안 네트워크 구조에 대해 가능한 모든 매개변수화된 분포의 집합을 측도 이론적으로 분석한다.
• d-분리 기준을 적용하여 네트워크 구조가 유도하는 모든 조건부 인코어런스 관계를 식별한다.
• d-분리에 의해 유도되지 않는 추가적인 인코어런스 관계를 가진 분포(즉, 충실성을 위반하는 분포)의 집합이 르베그 측도로 0임을 증명한다.
• 충실한 분포의 공간이 네트워크의 매개변수 공간에서 조밀하고 전체 측도를 가짐을 보여준다.
• 대수기하학과 다항식 제약 조건을 활용하여 비충실한 분포의 집합을 낮은 차원의 부분다양체로 특성화한다.
• 네트워크 구조와 호환되는 모든 이산 조건부 확률 분포에 대해 충실성이 일반적으로 성립함을 보여준다.

실험 결과

연구 질문

• RQ1 d-분리 기준은 이산 베이지안 네트워크에서 모든 조건부 인코어런스 관계를 포괄적으로 포착할 수 있는가?
• RQ2 고정된 네트워크 구조에 대해 모든 분포 공간 내에서 충실한 분포의 측도 이론적 희귀성은 어떠한가?
• RQ3 충실성을 위반하는 중요한 분포의 클래스가 존재하는가, 아니면 충실성이 일반적인 현상인가?
• RQ4 이산 베이지안 네트워크에서 거의 모든 매개변수 설정에 대해 충실성이 보장될 수 있는가?
• RQ5 베이지안 네트워크의 구조가 그에 연결된 확률 분포의 독립성 사실을 어느 정도 결정하는가?

주요 결과

• 모든 이산 베이지안 네트워크 구조에 대해, 충실성이 성립하지 않는 매개변수화된 분포의 집합은 르베그 측도로 0이다.
• 주어진 베이지안 네트워크 구조에 대해 거의 모든 분포가 d-분리 기준에 대해 충실하다.
• 충실성 가정은 임의의 제약 조건이 아니라 매개변수 공간 전역에서 일반적으로 성립한다.
• 비충실한 분포의 집합은 낮은 차원의 대수다양체를 이룬다. 이는 측도 이론적으로 매우 희귀하다는 의미이다.
• d-분리 기준은 타당성 외에도 거의 모든 이산 분포에 대해 완전하다.
• 이 결과는 인과적 탐색 및 구조 학습 알고리즘에서 충실성 가정을 기초 가정으로 사용하는 데 유리함을 시사한다.