[논문 리뷰] A Spectral Algorithm for Learning Hidden Markov Models

Daniel Hsu, Sham M. Kakade외 1명|arXiv (Cornell University)|2008. 11. 26.

Bayesian Methods and Mixture Models인용 수 137

한 줄 요약

이 논문은 관측 행렬과 전이 행렬의 특이값을 포함하는 자연스러운 분리 조건 하에서 은닉 마르코프 모델(HMM)을 학습하기 위한 스펙트럼 알고리즘을 제안한다. 이 방법은 과거-미래 상관관계 행렬의 특이값 분해(SVD)를 사용하여 은닉 상태의 저랭크 표현을 복원하며, 다항 시간 및 샘플 복잡도로 증명 가능하게 정확한 학습을 달성한다. 이는 자연어 처리와 같은 고차원 관측 공간에서도 가능하다.

ABSTRACT

Hidden Markov Models (HMMs) are one of the most fundamental and widely used statistical tools for modeling discrete time series. In general, learning HMMs from data is computationally hard (under cryptographic assumptions), and practitioners typically resort to search heuristics which suffer from the usual local optima issues. We prove that under a natural separation condition (bounds on the smallest singular value of the HMM parameters), there is an efficient and provably correct algorithm for learning HMMs. The sample complexity of the algorithm does not explicitly depend on the number of distinct (discrete) observations---it implicitly depends on this quantity through spectral properties of the underlying HMM. This makes the algorithm particularly applicable to settings with a large number of observations, such as those in natural language processing where the space of observation is sometimes the words in a language. The algorithm is also simple, employing only a singular value decomposition and matrix multiplications.

연구 동기 및 목표

• 일반 조건 하에서 HMM 학습의 계산적 난이도를 해결하기 위해 증명 가능 보장을 갖는 다루기 쉬운 설정을 규명한다.
• 지역 최적해에 빠지거나 이론적 보장이 없는 EM 등의 국소 탐색 휴리스틱 기법의 한계를 극복한다.
• 관측 수가 큰 고차원 관측 공간(예: 자연어 처리에서의 단어 시퀀스)에서도 효율적인 학습을 가능하게 한다.
• 전이 행렬과 관측 행렬을 명시적으로 복원하지 않고도 은닉 상태 표현을 선형적으로 유지하는 방법을 개발한다.
• 스펙트럼 분리 조건 하에서 연합 및 조건부 시퀀스 분포에 대한 근사 오차에 대한 이론적 경계를 제공한다.

제안 방법

• 과거와 미래 관측 시퀀스 간의 경험적 상관관계에 대해 SVD 기반의 정규화 상관계분석(cca)을 적용하여 은닉 상태의 저차원 부분공간을 추정한다.
• 과거와 미래 관측 간의 상관계수 행렬의 스펙트럼 분해를 통해 기저 은닉 상태 구조를 식별한다.
• 두 단계 추정을 적용: 먼저 SVD를 통해 부분공간을 추정하고, 그 다음 추정된 부분공간에서 행렬 연산을 통해 미래 관측의 조건부 분포를 복원한다.
• 추정된 조건부 분포가 유효한 확률 벡터가 되도록 정규화 및 재정규화 단계를 적용한다.
• 관측 행렬(최소 특이값)과 전이 행렬(연속 관측 간 상관관계)에 대한 스펙트럼 조건을 분리 조건으로 사용한다.
• 행렬 섭동 이론을 활용하여 추정 오차를 경계하고, 관측 수를 스펙트럼 특성에 의해 암묵적으로 포함하는 샘플 복잡도 경계를 유도한다.

실험 결과

연구 질문

• RQ1 자연스러운 스펙트럼 분리 조건 하에서 증명 가능하게 정확하고 효율적인 HMM 학습 알고리즘을 설계할 수 있는가?
• RQ2 자연어 처리와 같은 고차원 관측 공간에서도 이 알고리즘이 양호한 성능을 유지하는가?
• RQ3 시퀀스 길이가 증가함에 따라 미래 관측을 예측하는 데서 오차가 유한하게 유지되는가?
• RQ4 샘플 복잡도가 서로 다른 관측 수에 대해 어떻게 변화하는가? 이 수치와 독립적으로 유지될 수 있는가?
• RQ5 모든 HMM 매개변수를 명시적으로 추정하지 않더라도 의미 있는 은닉 상태 표현을 어느 정도 회복할 수 있는가?

주요 결과

• 알고리즘은 다항 샘플 및 계산 복잡도를 달성하여 대규모 응용에 스케일이 가능하다.
• 샘플 복잡도는 관측 수에 대해 암묵적으로 스펙트럼 특성에 의해 결정되며, 명시적으로 의존하지 않아 고관측 설정에서 유리하다.
• 길이 $ t $ 의 시퀀스 조합 분포에 대한 근사 오차는 $ t $ 에 대해 다항적으로 악화되지만, 다음 관측을 예측하는 데서 오차는 점 渐차적으로 유계이다.
• 진짜 조건부 분포와 추정된 조건부 분포 사이의 쿨백-라이블러 발산에 대해 증명 가능한 경계를 제공하며, 오차 항은 스펙트럼 조건과 추정 오차에 의해 제어된다.
• 상관계수 행렬의 추정 오차에 대해 알고리즘이 강건하며, 오차 경계는 행렬 섭동 이론과 농도 불등식을 통해 유도된다.
• 이론적 분석에 따르면 적절한 샘플 크기 하에서 추정 모델은 다음 관측 예측 오차가 $ O(\theta) $ 이며, 여기서 $ \theta $ 는 HMM 매개변수의 스펙트럼 갭과 특이값에 의해 결정된다.