[논문 리뷰] Implementing spectral methods for hidden Markov models with real-valued emissions

Carl Mattfeld|arXiv (Cornell University)|2014. 04. 29.

Bayesian Methods and Mixture Models참고 문헌 9인용 수 5

한 줄 요약

이 석사학위 논문은 실수값 관측값을 갖는 은닉 마르코프 모델(HMM)을 학습하기 위한 스펙트럼 방법을 구현하고 평가한다. Hsu 등(2012)과 Anandkumar 등(2012b)의 알고리즘을 표준 Baum-Welch EM 알고리즘과 비교한다. 스펙트럼 방법은 계산 복잡도와 표본 복잡도가 크게 낮은 편이지만, 고차원 관측 공간에서는 안정성 문제가 발생하며, 실수값 데이터를 위한 바이닝 전략이 제안된다.

ABSTRACT

Hidden Markov models (HMMs) are widely used statistical models for modeling sequential data. The parameter estimation for HMMs from time series data is an important learning problem. The predominant methods for parameter estimation are based on local search heuristics, most notably the expectation-maximization (EM) algorithm. These methods are prone to local optima and oftentimes suffer from high computational and sample complexity. Recent years saw the emergence of spectral methods for the parameter estimation of HMMs, based on a method of moments approach. Two spectral learning algorithms as proposed by Hsu, Kakade and Zhang 2012 (arXiv:0811.4413) and Anandkumar, Hsu and Kakade 2012 (arXiv:1203.0683) are assessed in this work. Using experiments with synthetic data, the algorithms are compared with each other. Furthermore, the spectral methods are compared to the Baum-Welch algorithm, a well-established method applying the EM algorithm to HMMs. The spectral algorithms are found to have a much more favorable computational and sample complexity. Even though the algorithms readily handle high dimensional observation spaces, instability issues are encountered in this regime. In view of learning from real-world experimental data, the representation of real-valued observations for the use in spectral methods is discussed, presenting possible methods to represent data for the use in the learning algorithms.

연구 동기 및 목표

• EM 기반 방법에서 흔히 발생하는 국소 최적해를 피할 수 있는 실수값 관측값을 갖는 HMM에 대한 스펙트럼 학습 알고리즘을 평가하기 위해.
• 전통적인 Baum-Welch 알고리즘과 비교하여 스펙트럼 방법(Hsu 등과 Anandkumar 등)의 계산 복잡도와 표본 복잡도를 비교하기 위해.
• 고차원 실수값 관측 공간에 스펙트럼 방법을 적용했을 때의 안정성과 정확도를 조사하기 위해.
• 연속적인 관측값을 위한 실용적인 데이터 표현 기법, 특히 바이닝을 개발하고 평가하기 위해.
• 정확도, 실행 시간, 매개변수 추정의 안정성을 측정하여, 합성 데이터 기반의 비교적 실증적 평가를 제공하기 위해.

제안 방법

• Hsu 등(2012)의 스펙트럼 학습 알고리즘을 적응시켰으며, 이는 제3차 모멘트의 텐서 분해를 통해 단일값 분해를 이용해 HMM 매개변수를 추정한다.
• Anandkumar 등(2012b)의 알고리즘을 구현하였으며, 이는 HMM 학습을 다중시각 혼합 모델로 재구성하고, 경험적 모멘트의 텐서 분해를 사용한다.
• 실수값 관측값을 범주형 관측값으로 변환하기 위해 단순한 바이닝 전략을 적용하여, 이산 출력을 위한 스펙트럼 방법의 사용을 가능하게 한다.
• 관측 시퀀스의 경험적 제3차 모멘트를 모델 매개변수에서 유도된 이론적 모멘트와 일치시키는 방법 모멘트 접근법을 사용한다.
• 모멘트 텐서의 저랭크 표현을 추출하기 위해 특이값 분해(SVD)를 사용하여, 약한 식별 조건 하에서 일관된 매개변수 추정을 가능하게 한다.
• 알고리즘의 유효성을 검증하기 위해 알려진 매개변수를 갖는 합성 HMM에서 평가하며, 다양한 상태 수와 관측 차원에서 추정 오차와 실행 시간을 측정한다.

실험 결과

연구 질문

• RQ1 실수값 관측값을 갖는 합성 HMM에서 Hsu 등(2012)과 Anandkumar 등(2012b)의 스펙트럼 학습 알고리즘이 정확도와 계산 효율성 측면에서 어떻게 비교되는가?
• RQ2 스펙트럼 방법과 Baum-Welch 알고리즘 간의 추정 정확도 및 수렴 속도 측면에서의 성능 격차는 어떠한가?
• RQ3 실수값 관측값에 대한 바이닝 접근법이 스펙트럼 HMM 학습의 정확도와 안정성에 어떤 영향을 미치는가?
• RQ4 고차원 실수값 관측 공간에 스펙트럼 방법을 적용했을 때의 한계는 무엇인가?
• RQ5 스펙트럼 방법은 EM 기반 접근법보다 적은 표본 수와 더 적은 계산 자원으로 일관된 매개변수 추정을 달성할 수 있는가?

주요 결과

• 스펙트럼 알고리즘(learnHKZ 및 learnAHK)은 Baum-Welch 알고리즘에 비해 계산 복잡도와 표본 복잡도가 크게 낮다.
• 2개 및 3개의 은닉 상태에 대해, learnAHK는 learnHKZ보다 정확도와 실행 시간에서 일관되게 뛰어나며, 특히 관측 차원 d가 증가할수록 두드러진다.
• Baum-Welch 알고리즘은 무작위 초기화 시 변동성이 크고 수렴 성능이 열악한 반면, learnAHK에서 유도된 초기화는 성능을 크게 향상시킨다.
• 단순한 바이닝 전략은 실수값 데이터에서 스펙트럼 학습을 가능하게 하지만, 관측 차원이 증가할수록 정확도가 떨어지며, 고차원 영역에서의 불안정성을 시사한다.
• 장점이 있음에도 불구하고, 스펙트럼 방법은 바이닝으로 생성된 관측 범주 수가 많아지면 불안정성이 발생함을 보여주며, 이는 이산화 정밀도와 수치적 안정성 사이의 상충 관계를 시사한다.
• 실증 결과는 스펙트럼 방법이 실행 시간을 크게 줄이며 Baum-Welch와 비교해도 유사하거나 더 높은 매개변수 추정 정확도를 달성함을 확인한다. 특히 고차원 설정에서 두드러진다.