[논문 리뷰] A Bayesian Network Scoring Metric That Is Based On Globally Uniform Parameter Priors

Mehmet Kayaalp, Gregory F. Cooper|arXiv (Cornell University)|2012. 12. 12.

Bayesian Modeling and Causal Inference참고 문헌 9인용 수 31

한 줄 요약

이 논문은 네트워크 구조와 호환되는 모든 결합 확률 분포에 대해 비정보성이며 전역적으로 균일한 사전분포를 사용하는 글로벌 유니폼(Global Uniform, GU) 베이지안 네트워크 스코링 지표를 제안한다. GU 지표는 BDeu와 K2의 모순을 해결하여, 일관된 분포가 사전에 동일한 확률을 가짐을 보장함으로써 도메인 특화 사전분포가 이용 가능하지 않은 상황에서의 구조 학습을 위한 원칙적인 기본값을 제공한다. 다만 일반 네트워크에 대한 효율적 계산은 여전히 열려 있는 과제이다.

ABSTRACT

We introduce a new Bayesian network (BN) scoring metric called the Global Uniform (GU) metric. This metric is based on a particular type of default parameter prior. Such priors may be useful when a BN developer is not willing or able to specify domain-specific parameter priors. The GU parameter prior specifies that every prior joint probability distribution P consistent with a BN structure S is considered to be equally likely. Distribution P is consistent with S if P includes just the set of independence relations defined by S. We show that the GU metric addresses some undesirable behavior of the BDeu and K2 Bayesian network scoring metrics, which also use particular forms of default parameter priors. A closed form formula for computing GU for special classes of BNs is derived. Efficiently computing GU for an arbitrary BN remains an open problem.

연구 동기 및 목표

• 기본 사전분포에서 불리한 행동을 보이는 기존의 베이지안 네트워크 스코링 지표들인 BDeu와 K2의 한계를 해결하고자 한다.
• 주어진 네트워크 구조와 일관된 모든 결합 확률 분포가 사전에 동일한 확률을 가짐을 보장하는 스코링 지표를 개발하고자 한다.
• 도메인 특화 사전분포가 이용 가능하거나 실용적이지 않은 상황에서, 베이지안 네트워크 구조 학습을 위한 원칙적인 비정보성 기본 사전분포를 제공하고자 한다.
• 특정 범주에 속하는 베이지안 네트워크에서 GU 스코링의 닫힌 형태 표현식을 유도하고자 한다.
• 일반적인 베이지안 네트워크 구조에 대해 글로벌 유니폼 사전분포를 적용할 때 발생하는 계산적 과제를 규명하고 강조하고자 한다.

제안 방법

• GU 지표는 주어진 베이지안 네트워크 구조와 일치하는 모든 결합 확률 분포에 대해 균일한 사전분포를 기반으로 한다.
• 일관성은 네트워크 구조가 코딩한 조건부 인적관계 집합에 의해 정의된다.
• 모든 변수에 대한 유효한 분포가 관측 이전에 동일한 확률을 가짐을 보장하는 비정보성 사전분포를 사용한다.
• 예를 들어, 다이트리 또는 제한된 구조를 가진 네트워크와 같은 특정 범주에 속하는 베이지안 네트워크에 대해 GU 스코링의 닫힌 형태 공식을 도출한다.
• 이 방법은 균일한 사전분포 하에서 딜레트 분포 유사 매개변수 공간에 대한 통합을 통해, 이러한 비정보성 가정 하에서의 주변 가능도를 반영하는 스코어를 도출한다.
• BDeu와 K2에서 관찰되는 매개변수 민감도 및 편향 문제를 피하기 위해, 일관된 모든 분포에 대해 균일성을 확보함으로써 이에 기여한다.

실험 결과

연구 질문

• RQ1 기본 사전분포를 사용할 때 BDeu와 K2에 내재된 편향을 피할 수 있는 베이지안 네트워크 스코링 지표는 어떻게 설계할 수 있는가?
• RQ2 네트워크 구조와 일관된 모든 결합 분포가 사전에 동일한 확률을 가져야 한다는 의미는 무엇인가?
• RQ3 균일한 사전분포 하에서 특정 범주에 속하는 베이지안 네트워크에 대해 스코링 지표의 닫힌 형태 표현식을 도출할 수 있는가?
• RQ4 임의의 베이지안 네트워크 구조에 대해 전역적으로 균일한 사전분포를 적용할 때 발생하는 계산적 영향은 무엇인가?
• RQ5 비정보성 가정 하에서 GU 지표는 BDeu와 K2에 비해 구조 학습 성능 측면에서 어떻게 비교되는가?

주요 결과

• GU 지표는 베이지안 네트워크 구조와 호환되는 모든 결합 확률 분포에 동일한 사전 확률을 할당함으로써, 기본 사전분포 가정에서 발생하는 편향을 제거한다.
• GU 지표는 BDeu와 K2에서 알려진 문제들을 해결한다. 예를 들어, 매개변수 사전분포 선택에 대한 민감도와 비정보성 설정 하에서의 일관되지 않은 구조 학습 행동을 포함한다.
• 특정 범주에 속하는 베이지안 네트워크에 대해 GU 스코어의 닫힌 형태 공식이 도출되어 이러한 경우에 정확한 계산이 가능해진다.
• 이론적 이점이 있음에도 불구하고, 임의의 베이지안 네트워크 구조에 대해 GU 스코어를 효율적으로 계산하는 것은 여전히 열려 있는 문제이다.
• 도메인 특화 사전분포가 이용 가능하거나 신뢰할 수 없는 상황에서, GU 지표는 원칙적인 비정보성 대안을 제공한다.
• 이 방법은 향후 매개변수 지정에 민감하지 않고 이론적으로 타당한 기본 스코링 지표에 대한 토대를 마련한다.