[논문 리뷰] Learning Overcomplete HMMs

Vatsal Sharan, Sham M. Kakade외 2명|arXiv (Cornell University)|2017. 11. 07.

Machine Learning and Algorithms참고 문헌 18인용 수 8

한 줄 요약

이 논문은 출력 알파벳 크기보다 숨겨진 상태 수가 훨씬 많은 초과완전한 은닉 마르코프 모델(HMM)의 학습 가능성에 대해 연구한다. 랜덤 정규 전이 행렬과 작은 출력 알파벳을 가진 HMM이 다항수의 샘플로 학습될 수 없음을 보여주는 정보이론적 하한을 확립하며, 동시에 희소 HMM에 대해 짧은 사이클 확률이 제한된 경우, 텐서 분해와 모멘트 방법을 사용하여 다항 시간 복잡도로 학습 가능한 양면 결과를 제시한다.

ABSTRACT

We study the problem of learning overcomplete HMMs---those that have many hidden states but a small output alphabet. Despite having significant practical importance, such HMMs are poorly understood with no known positive or negative results for efficient learning. In this paper, we present several new results---both positive and negative---which help define the boundaries between the tractable and intractable settings. Specifically, we show positive results for a large subclass of HMMs whose transition matrices are sparse, well-conditioned, and have small probability mass on short cycles. On the other hand, we show that learning is impossible given only a polynomial number of samples for HMMs with a small output alphabet and whose transition matrices are random regular graphs with large degree. We also discuss these results in the context of learning HMMs which can capture long-term dependencies.

연구 동기 및 목표

• 숨겨진 상태 수 n이 출력 알파벳 크기 m보다 훨씬 큰 초과완전한 HMM의 학습에 대한 근본적 한계를 이해하기 위해.
• 다항 샘플 복잡도로 효율적으로 학습 가능한 전이 행렬의 구조적 성질을 규명하기 위해.
• 표준 스펙트럼 방법이 실패할 때 초과완전한 HMM에서 식별 가능성과 샘플 복잡도 간의 갈등을 해결하기 위해.
• 일반적 또는 랜덤 HMM이 초과완전한 환경에서 학습 가능한지 명확히 하기 위해, 이는 식별 가능성에는 부합하나 정보이론적으로 비가역적일 수 있기 때문이다.
• 조건부 상태 영향 기반 새로운 기억 개념을 도입하여 HMM의 장기적 의존성 포착 능력을 분석하는 프레임워크를 개발하기 위해.

제안 방법

• 도수 d = n^ε인 랜덤 정규 그래프의 수를 세는 계산을 통해 정보이론적 하한을 증명하며, 다항 샘플로는 전이 행렬을 특정지을 수 없는 정보 부족을 보여준다.
• 관측된 출력에 조건부로 과거 상태가 미래 상태에 미치는 영향의 감쇠를 분석하기 위해, 사후 분포를 시간에 따라 변하는 마르코프 체인으로 모델링한다.
• 시간에 따라 변하는 전이 행렬의 스펙트럼 분석을 통해, 조건부로라도 초기 상태의 영향이 시간이 지남에 따라 지수적으로 감소함을 보여준다.
• 희소 전이 행렬과 10 log_m n 미만의 사이클에 대한 확률 질량이 낮은 HMM에 대해, 텐서 분해와 모멘트 방법을 활용한 긍정적 학습 알고리즘을 제안한다.
• 관측 행렬의 복잡도를 전이 행렬의 구조와 분리하기 위해, i.i.d. 성분을 가지며 E[O_ij] = 1/m인 랜덤 관측 행렬을 가정한다.
• 과거 상태가 미래 예측에 미치는 조건부 영향 기반으로 새로운 HMM 출력 과정의 기억 측도를 도입하며, 이는 장기적 의존성 포착 능력을 설명하는 데 기여한다.

실험 결과

연구 질문

• RQ1 작은 출력 알파벳과 많은 숨겨진 상태를 가진 초과완전한 HMM은 다항 샘플 복잡도로 효율적으로 학습될 수 있는가?
• RQ2 전이 행렬의 어떤 구조적 성질이 초과완전한 환경에서 학습 가능성을 보장하는가?
• RQ3 식별 가능성은 있지만 정보이론적으로 비가역적인 랜덤 정규 전이 행렬을 가진 HMM에 대해 학습에 정보이론적 장벽이 존재하는가?
• RQ4 전이 그래프에 짧은 사이클이 존재할 경우 HMM의 학습 가능성에 어떤 영향을 미치는가?
• RQ5 출력 과정의 기억과 HMM이 장기적 의존성을 포착하는 능력 간의 관계는 무엇인가?

주요 결과

• d = n^ε인 d-정규 그래프에서의 랜덤 워크에 해당하는 전이 행렬을 가진 HMM은 m = polylog(n)일 때, 다항 샘플로도 근사적으로 학습될 수 없으며, 이는 정보이론적 제약 때문이다.
• 다항 길이 창에서의 정보 비트 수는 최대 Õ(n)이며, 전이 행렬을 특정지우기 위해선 Ω(nd) 비트가 필요하므로 학습은 불가능하다.
• 유한 차수를 가지며 10 log_m n 미만의 사이클에 대한 확률 질량이 낮은 희소 HMM에 대해서는, 랜덤 관측 행렬을 사용한 텐서 분해와 모멘트 방법을 통해 효율적인 학습이 가능하다.
• 짧은 사이클 조건은 다항 시간 창 내에서 상태 공간의 충분한 혼합과 탐색을 보장하며, 이는 고차 모멘트를 통한 식별 가능성 가능성을 보장한다.
• 중간 관측에 조건부로 초기 숨겨진 상태가 미래 상태에 미치는 영향은 지수적으로 감쇠하며, 이는 정보이론적 하한의 근거가 된다.
• 과거 상태의 조건부 영향 기반으로 새로운 HMM 기억 개념을 도입하였으며, 이는 장기적 의존성 포착 능력을 정량화하고 학습 가능성과 연관지킨다.