[논문 리뷰] Variational Bayesian Inference for Hidden Markov Models With Multivariate Gaussian Output Distributions

Christian Gruhl, Bernhard Sick|arXiv (Cornell University)|2016. 05. 27.

Anomaly Detection Techniques and Applications참고 문헌 1인용 수 4

한 줄 요약

이 논문은 다변량 정규분포 출력 분포를 갖는 은닉 마르코프 모델(HMM)을 위한 변분 베이지안 추론 프레임워크를 제안한다. 이는 둘째 단계 파라미터 추정을 확장하여 불확실성과 과적합을 방지한다. 이 방법은 공액 사전분포(Gaussian-Wishart)를 사용하고, 파라미터에 대한 폐쇄형 업데이트 식을 유도하여, Baum-Welch와 같은 EM 기반 접근 방식에서 흔히 발생하는 특이성 문제 없이 안정적인 학습을 가능하게 한다.

ABSTRACT

Hidden Markov Models (HMM) have been used for several years in many time series analysis or pattern recognitions tasks. HMM are often trained by means of the Baum-Welch algorithm which can be seen as a special variant of an expectation maximization (EM) algorithm. Second-order training techniques such as Variational Bayesian Inference (VI) for probabilistic models regard the parameters of the probabilistic models as random variables and define distributions over these distribution parameters, hence the name of this technique. VI can also bee regarded as a special case of an EM algorithm. In this article, we bring both together and train HMM with multivariate Gaussian output distributions with VI. The article defines the new training technique for HMM. An evaluation based on some case studies and a comparison to related approaches is part of our ongoing work.

연구 동기 및 목표

• 다변량 정규분포 출력 분포를 갖는 HMM를 위한 둘째 단계 학습 방법을 개발하기 위해 변분 베이지안 추론을 사용한다.
• Baum-Welch 알고리즘의 한계, 즉 국소 최솟값에 대한 민감성과 파라미터 특이성 문제를 해결한다.
• 사전 지식을 통합하고 HMM 파라미터 추정의 불확실성 측정 능력을 향상시킨다.
• 베이지안 비모수적 확장 기반으로 자동적인 모델 복잡도 선택을 가능하게 한다.
• 학습된 HMM를 기반으로 이상 탐지 기반의 응용을 위한 기초를 마련한다.

제안 방법

• 은닉 변수와 모델 파라미터의 사후분포를 근사하기 위해 변분 추론 프레임워크를 사용한다.
• 다변량 정규분포 출력에서 평균과 정밀도 행렬을 함께 모델링하기 위해 공액 사전분포인 Gaussian-Wishart를 적용한다.
• 증거 하한값(ELBO) 최적화를 통해 변분 파라미터에 대한 폐쇄형 업데이트 식을 유도한다.
• 은닉 상태와 모델 파라미터에 대한 변분 분포를 사용하는 반복적 기대최대화 유사 알고리즘을 적용한다.
• 초기화를 위해 정보가 없는 사전분포를 도입하며, 상태 전이 확률은 균일하게 또는 자기 순환에 대한 고정된 사전분포로 초기화한다.
• 사후분포의 평균과 분산을 사용하여 최대사후확률(MAP) 또는 사후기대값을 통한 점 추정치를 유도한다.

실험 결과

연구 질문

• RQ1 다변량 정규분포 출력 분포를 갖는 HMM에 대해 변분 베이지안 추론을 효과적으로 어떻게 적용할 수 있는가?
• RQ2 HMM 학습에서 점 추정치에 비해 둘째 단계 파라미터 추정이 가지는 장점란 무엇인가?
• RQ3 제안된 방법은 Baum-Welch 알고리즘과 비교해 학습 도중 파라미터 특이성을 어떻게 방지하는가?
• RQ4 이 프레임워크는 숨겨진 상태 수의 자동 선택을 자연스럽게 지원할 수 있는가?
• RQ5 기준 데이터 세트에서 표준 EM 기반 학습과 비교해 이 방법의 성능은 어떠한가?

주요 결과

• 제안된 변분 베이지안 HMM 프레임워크는 공액 사전분포와 폐쇄형 업데이트를 통해 다변량 정규분포 출력 분포를 효과적으로 처리한다.
• 모든 파라미터에 대한 사후분포를 통해 불확실성을 모델링함으로써 과적합과 파라미터 특이성을 방지한다.
• Gaussian-Wishart 사전분포의 사용은 평균과 공분산 추정에서 사전 지식의 체계적 통합과 불확실성 측정 능력을 가능하게 한다.
• 분산이 0으로 붕괴되는 상황에서도 EM의 비정상적 행동을 피할 수 있는데, 이는 저분산 영역에서도 0이 아닌 사전밀도를 유지하기 때문이다.
• 초기 결과는 이 방법이 안정적인 학습을 가능하게 하며, 시계열 이상 탐지와 같은 후속 작업에 적합하다는 것을 시사한다.