[논문 리뷰] Update Rules for Parameter Estimation in Bayesian Networks

Eric Bauer, Daphne Koller외 1명|arXiv (Cornell University)|2013. 02. 06.

Bayesian Modeling and Causal Inference참고 문헌 10인용 수 39

한 줄 요약

이 논문은 누락되거나 은닉된 변수를 가진 베이지안 네트워크에서의 매개수 추정을 위한 통합 프레임워크를 제안하며, 온라인 및 배치 학습 방법을 통합한다. 새로운 업데이트 규칙을 제안하며, 특히 표준 EM보다 최대우도 추정치에 더 빨리 수렴하는 매개수 조정된 EM 알고리즘을 포함한다.

ABSTRACT

This paper re-examines the problem of parameter estimation in Bayesian networks with missing values and hidden variables from the perspective of recent work in on-line learning [Kivinen & Warmuth, 1994]. We provide a unified framework for parameter estimation that encompasses both on-line learning, where the model is continuously adapted to new data cases as they arrive, and the more traditional batch learning, where a pre-accumulated set of samples is used in a one-time model selection process. In the batch case, our framework encompasses both the gradient projection algorithm and the EM algorithm for Bayesian networks. The framework also leads to new on-line and batch parameter update schemes, including a parameterized version of EM. We provide both empirical and theoretical results indicating that parameterized EM allows faster convergence to the maximum likelihood parameters than does standard EM.

연구 동기 및 목표

• 데이터가 불완전하거나 은닉 변수를 포함할 때 베이지안 네트워크에서의 매개수 추정 과제를 해결한다.
• 매개수 업데이트에 대한 온라인 학습과 배치 학습 접근법을 하나의 수학적 프레임워크 아래 통합한다.
• 실시간 및 오프라인 학습 환경 모두에 효율적이고 확장 가능한 새로운 매개수 업데이트 규칙을 개발한다.
• 베이지안 네트워크에서 최대우도 추정을 위한 EM 알고리즘의 수렴 속도를 향상시킨다.
• 제안된 매개수 조정된 EM 변형의 효과성에 대한 이론적 및 실증적 근거를 제공한다.

제안 방법

• 온라인 학습 원리, 특히 Kivinen & Warmuth (1994)의 연구를 활용하여 매개수 추정을 최적화 문제로 재정의한다.
• 기울기 투영과 EM 알고리즘을 모두 일반화하는 공통의 형식론 아래에서 업데이트 규칙을 유도한다.
• 학습률이 반복 과정 중에 동적으로 조정되는 매개수 조정된 EM 알고리즘의 버전을 도입한다.
• 프레임워크를 온라인 학습(지속적인 데이터 도착)과 배치 학습(사전 수집된 데이터 세트)에 모두 적용한다.
• 지역 기울기와 충분통계량을 기반으로 매개수를 조정하는 통합 업데이트 규칙을 사용한다.
• 업데이트 규칙이 EM의 단조 증가 성질을 유지하면서도 수렴 속도를 가속화한다.

실험 결과

연구 질문

• RQ1 온라인 및 배치 매개수 추정이 하나의 프레임워크 아래에서 어떻게 통합될 수 있는가?
• RQ2 수렴 속도 측면에서 매개수 조정된 EM은 표준 EM에 비해 이론적·실증적으로 어떤 이점이 있는가?
• RQ3 제안된 업데이트 규칙은 수렴 보장을 유지하면서도 효율성을 향상시킬 수 있는가?
• RQ4 새로운 업데이트 규칙은 누락되거나 은닉된 변수를 포함한 실제 데이터에서 어떻게 성능을 발휘하는가?
• RQ5 매개수 조정된 학습률이 매개수 추정을 위한 EM 프레임워크에 미치는 영향은 무엇인가?

주요 결과

• 제안된 프레임워크는 베이지안 네트워크에서의 온라인 및 배치 학습을 성공적으로 통합한다.
• 매개수 조정된 EM 알고리즘이 표준 EM보다 최대우도 매개수로 더 빨리 수렴한다.
• 이론적 분석을 통해 새로운 업데이트 규칙이 EM의 단조 증가 성질을 유지함을 확인한다.
• 실증 결과는 누락된 데이터가 포함된 벤치마크 데이터셋에서 더 빠른 수렴을 보여준다.
• 프레임워크는 기울기 투영과 EM을 일반화하여 다양한 학습 환경에 광범위하게 적용 가능함을 보여준다.
• 매개수 조정된 EM 변형은 수렴성과 안정성을 유지하면서도 필요한 반복 횟수를 줄인다.