[논문 리뷰] Minimal Realization Problems for Hidden Markov Models

Qingqing Huang, Rong Ge외 2명|arXiv (Cornell University)|2014. 11. 13.

Tensor decomposition and applications참고 문헌 19인용 수 4

한 줄 요약

이 논문은 유한 길이의 출력 문자열로부터 은닉 마르코프 모델(HMM)의 최소 실현을 위한 효율적인 알고리즘을 제안한다. 스펙트럼 및 텐서 분해 방법을 활용하며, 거의 모든 HMM(매질 수가 0인 집합을 제외)에 대해, 창 크기(order $\mathcal{O}(\log_d k)$)를 사용할 경우 최소 순차 HMM 및 최소 HMM 실현 모두 다항 시간 내에 계산 가능하다. 이는 일반적인 경우에 HMM 학습과 순차 HMM 학습의 계산 복잡도가 유사함을 입증한다.

ABSTRACT

Consider a stationary discrete random process with alphabet size d, which is assumed to be the output process of an unknown stationary Hidden Markov Model (HMM). Given the joint probabilities of finite length strings of the process, we are interested in finding a finite state generative model to describe the entire process. In particular, we focus on two classes of models: HMMs and quasi-HMMs, which is a strictly larger class of models containing HMMs. In the main theorem, we show that if the random process is generated by an HMM of order less or equal than k, and whose transition and observation probability matrix are in general position, namely almost everywhere on the parameter space, both the minimal quasi-HMM realization and the minimal HMM realization can be efficiently computed based on the joint probabilities of all the length N strings, for N > 4 lceil log_d(k) rceil +1. In this paper, we also aim to compare and connect the two lines of literature: realization theory of HMMs, and the recent development in learning latent variable models with tensor decomposition techniques.

연구 동기 및 목표

• 유한 길이의 문자열에서 관측된 동시 출력 확률을 재현하는 최소 차수의 HMM을 찾는 최소 실현 문제를 다루는 것.
• 최근 잠재변수 모델 학습을 위한 스펙트럼 방법과 HMM의 실현 이론을 연결하는 것.
• 거의 모든 HMM(매질 수가 0인 집합을 제외)에 대해 최소 순차 HMM 및 최소 HMM 실현이 효율적으로 계산 가능하다는 것을 입증하는 것.
• 유한 표본 및 추정 오차 조건 하에서 HMM 실현의 계산, 정보 및 통계 복잡도를 분석하는 것.

제안 방법

• 길이-$N$ 문자열의 동시 확률을 낮은 질량의 텐서로 표현하기 위해 스펙트럼 분해를 사용하며, HMM의 재귀적 구조를 활용한다.
• 공동 확률 텐서의 질량 구조 분해를 통해 최소 HMM의 매개변수(전이 및 관측 행렬)를 복원하기 위해 텐서 분해를 적용한다.
• 행렬 분해 기법을 활용: 전 Rank 경우에 대해 행렬 $A$, $B$, $C$의 요소로부터 전이 및 관측 행렬을 복원하기 위해 가역행렬을 사용한다.
• 알고리즘 1은 최소 순차 HMM 실현을, 알고리즘 4는 HMM 실현을 위한 것으로, 둘 다 질량 조건과 텐서의 유일성에 기반한다.
• 랜덤화된 검증(알고리즘 2)을 통해 텐서 분해가 열 순열을 제외하고 유일한지 확인하여 일반 HMM의 경우 정확성을 보장한다.
• 전체 열 랭크 조건 하에서 $X^\dagger = (X^\top X)^{-1}X^\top$의 가역행렬을 사용해 $Q$와 $O$를 요소 행렬에서 복원한다.

실험 결과

연구 질문

• RQ1 거의 모든 HMM에 대해, 유한 길이의 동시 출력 확률로부터 최소 차수의 HMM을 효율적으로 재구성할 수 있는가?
• RQ2 일반적인 HMM에 대해, $\mathcal{P}^{(N)}$에서 $\mathcal{P}^{(\infty)}$의 전체 동시 분포를 복원하기 위해 필요한 최소 창 크기 $N$는 얼마인가?
• RQ3 일반 설정에서 최소 HMM 학습의 계산 복잡도는 최소 순차 HMM 학습과 비교해 어떻게 되는가?
• RQ4 유한 표본에서 $\mathcal{P}^{(N)}$를 추정할 경우, 제안된 알고리즘이 추정 오차에 대해 안정적인가?
• RQ5 전이 행렬이 전 Rank가 아닐 경우, 일반 조건 하에서 텐서 분해가 HMM 매개변수를 유일하게 복원할 수 있는가?

주요 결과

• 일반 위치에 있는 HMM(매질 수가 0인 집합을 제외)에 대해, 창 크기 $N = 2n+1$ 및 $n > 8\lceil\log_d k\rceil$ 조건 하에서 최소 순차 HMM 실현이 가능하며, 이는 $\mathcal{P}^{(\infty)}$의 복원을 보장한다.
• 최소 HMM 실현은 $d$와 $k$에 대해 다항 시간 내에 계산 가능하며, 창 크기 $N = \mathcal{O}(\log_d k)$를 사용하여 순차 HMM 학습과 유사한 복잡도를 확립한다.
• 전이 행렬 $Q$가 전 열 랭크를 가질 경우, $Q = (O \odot A^{(n-1)})^\dagger A$ 또는 $Q = O^\dagger A^{(1)}$를 통해 가역행렬 연산을 통해 $Q$와 $O$를 복원할 수 있다.
• 질량이 떨어진 경우 $\text{rank}(Q) < k$인 열악한 HMM에 대해서도 알고리즘 4는 거의 모든 경우에서 확률 1로 정확한 분해를 복원한다.
• 일반 HMM에 대해 텐서 분해는 열 순열을 제외하고 유일하며, 이는 신뢰할 수 있는 매개변수 복원을 가능하게 한다.
• 순차 HMM 및 HMM 모두에 대한 알고리즘은 $d$와 $k$에 대해 다항 시간 및 표본 복잡도를 확보하여 일반 HMM에 대한 효율적 학습을 확인한다.