[논문 리뷰] Critical Remarks on Single Link Search in Learning Belief Networks

Yang Xiang, S. K. M. Wong외 1명|arXiv (Cornell University)|2013. 02. 13.

Bayesian Modeling and Causal Inference참고 문헌 18인용 수 39

한 줄 요약

이 논문은 단일 링크 라인업 검색이 신뢰 네트워크 학습에서 특정 종속성 패턴을 가진 확률 모델의 클래스를 스코링 메트릭(엔트로피, MDL, 베이지안, 또는 조건부 인코herent)을 사용하든 간에 정확히 식별하지 못함을 보여준다. 주요 기여는 이러한 알고리즘이 잘못된 구조를 학습할 수 있으며, 진짜 모델이 이 클래스에 속할 경우 추론 오류를 유발할 수 있음을 입증함으로써, 강력한 사전 지식이 없을 경우 다중 링크 라인업 또는 대체 히우리스틱의 필요성을 주장한다.

ABSTRACT

In learning belief networks, the single link lookahead search is widely adopted to reduce the search space. We show that there exists a class of probabilistic domain models which displays a special pattern of dependency. We analyze the behavior of several learning algorithms using different scoring metrics such as the entropy, conditional independence, minimal description length and Bayesian metrics. We demonstrate that single link lookahead search procedures (employed in these algorithms) cannot learn these models correctly. Thus, when the underlying domain model actually belongs to this class, the use of a single link search procedure will result in learning of an incorrect model. This may lead to inference errors when the model is used. Our analysis suggests that if the prior knowledge about a domain does not rule out the possible existence of these models, a multi-link lookahead search or other heuristics should be used for the learning process.

연구 동기 및 목표

• 단일 링크 라인업 검색이 신뢰 네트워크 학습에서 가지는 한계를 조사하는 것.
• 엔트로피, 조건부 인코herent, MDL, 그리고 베이지안과 같은 다양한 스코링 메트릭이 단일 링크 검색 하에서 어떻게 작용하는지 분석하는 것.
• 단일 링크 검색이 올바른 구조를 복구하지 못하는 확률 모델의 클래스를 특정하는 것.
• 실제로 잘못된 모델 학습이 추론 오류로 이어질 수 있음을 입증하는 것.
• 사전 지식으로 문제가 되는 종속성 패턴을 배제할 수 없는 상황에서는 다중 링크 라인업 또는 대체 히우리스틱을 권장하는 것.

제안 방법

• 저자는 단일 링크 검색에 의해 탐지되지 않는 특정 종속성 패턴을 가진 확률 도메인 모델의 특정 클래스를 분석한다.
• 동일한 모델 클래스에 대해 엔트로피, 조건부 인코herent, 최소 기술 길이(MDL), 그리고 베이지안 스코링과 같은 여러 스코링 메트릭을 평가한다.
• 분석은 단일 링크 라인업에서 유일하게 한 개의 간선만 추가 또는 제거하는 방식으로 진행되는 구조 학습 과정에 집중한다.
• 형식적 추론을 통해 어떤 단일 링크 검색 절차도 이 모델 클래스에서 진짜 구조를 정확히 식별할 수 없음을 보여준다.
• 이러한 메트릭을 사용하는 잘 알려진 학습 알고리즘의 행동을 단일 링크 제약 조건 하에서 비교한다.
• 실패의 원인은 단일 링크 검색의 국소적 성격에 기인하며, 특정 모델에서의 전반적인 구조적 종속성을 포착하지 못하기 때문이라고 주장한다.

실험 결과

연구 질문

• RQ1 특정 종속성 패턴을 가진 신뢰 네트워크를 단일 링크 라인업 검색이 정확히 학습할 수 있는가?
• RQ2 엔트로피, MDL, 베이지안, 그리고 조건부 인코herent와 같은 다양한 스코링 메트릭이 이 모델 클래스에 대해 단일 링크 검색 하에서 동일하게 작동하는가?
• RQ3 어떤 구조적 특성 때문에 확률 모델이 단일 링크 검색 절차에 의해 탐지되지 않는가?
• RQ4 단일 링크 검색이 잘못된 모델 구조로 이어지는 조건은 무엇인가?
• RQ5 진짜 모델이 문제가 되는 클래스에 속할 경우 어떤 대체 검색 전략이 필요한가?

주요 결과

• 엔트로피, MDL, 베이지안, 또는 조건부 인코herent와 같은 스코링 메트릭을 사용하든 간에, 단일 링크 라인업 검색은 특정 종속성 패턴을 가진 확률 모델의 올바른 구조를 학습하지 못한다.
• 실패의 원인은 국소적 검색 단계가 모델 클래스 내재의 전반적인 구조적 종속성을 해결할 수 없기 때문이다.
• 베이지안 또는 MDL와 같은 최적의 스코링 메트릭을 사용하더라도 단일 링크 검색은 잘못된 네트워크 구조로 수렴할 수 있다.
• 이 연구는 이러한 모델이 단일 링크 검색을 사용해 학습될 경우 추론 오류가 발생할 수 있음을 입증한다.
• 결과적으로 단일 링크 검색은 이러한 종속성 패턴이 존재할 수 있는 도메인에는 부적절하다는 것을 암시한다.
• 저자는 사전 지식으로 문제가 되는 모델 클래스를 배제할 수 없는 상황에서는 다중 링크 라인업 또는 대체 히우리스틱이 필요하다고 결론 내린다.