[논문 리뷰] Nonparametric identification and maximum likelihood estimation for hidden Markov model

Grigory Alexandrovich, Hajo Holzmann외 1명|arXiv (Cornell University)|2014. 04. 16.

Bayesian Methods and Mixture Models참고 문헌 12인용 수 6

한 줄 요약

이 논문은 전이 행렬이 전순위이자 에르고딕이며, 상태별로 서로 다른 분포를 가진 유한 상태 히든 마르코프 모델(HMM)에 대해 비모수적 식별성과 비모수적 최대우도추정(NP-MLE)의 일致성을 확립한다. 일반화된 쿨백-라이블러 발산이 진짜 모수를 유일하게 식별함을 증명하고, 상태 밀도가 임의의 모수적 가족의 혼합일 경우에도 혼합 분포 자체를 식별할 필요 없이 NP-MLE의 일치성을 보여준다.

ABSTRACT

Nonparametric identification and maximum likelihood estimation for finite-state hidden Markov models are investigated. We obtain identification of the parameters as well as the order of the Markov chain if the transition probability matrices have full-rank and are ergodic, and if the state-dependent distributions are all distinct, but not necessarily linearly independent. Based on this identification result, we develop nonparametric maximum likelihood estimation theory. First, we show that the asymptotic contrast, the Kullback--Leibler divergence of the hidden Markov model, identifies the true parameter vector nonparametrically as well. Second, for classes of state-dependent densities which are arbitrary mixtures of a parametric family, we show consistency of the nonparametric maximum likelihood estimator. Here, identification of the mixing distributions need not be assumed. Numerical properties of the estimates as well as of nonparametric goodness of fit tests are investigated in a simulation study.

연구 동기 및 목표

• 최소한의 정규성 조건 하에서 HMM의 모수, 특히 상태 수를 포함한 비모수적 식별성을 확립하기 위해.
• 일반화된 쿨백-라이블러 발산이 HMM에서 NP-MLE에 대해 일致한 대비 함수로 기능함을 보여주기 위해.
• 상태별 밀도가 모수적 가족의 임의의 혼합일 경우, 혼합 분포를 식별할 필요 없이 비모수적 최대우도추정기의 일치성을 증명하기 위해.
• 성분 밀도에 대한 모수적 가정을 피하는 비모수적 추론을 위한 이론적 기초를 마련하기 위해.

제안 방법

• 숨은 상태에 조건부인 조건부 분포의 식별성을 확보하기 위해 시간 반전 기법과 삼차원 앨리어레이에 대한 크루스칼의 정리를 사용한다.
• 기하학적 대비(일반화된 KL 발산)의 점근적 존재성과 정의성 증명을 위해 킹먼의 부분합성 에르고딕 정리를 적용한다.
• 원래 상태별 밀도가 선형적으로 종속일지라도, 관측 세그먼트에 대한 조건부 분포 함수의 선형 독립성을 이용한다.
• 비모수적 혼합 클래스에서 혼합 측도의 수렴을 다루기 위해 볼록 해석학과 유계 리프시츠 거리 측도를 활용한다.
• 점근적 대비를 일반 KL 발산의 적분으로 표현하기 위해 단체값 시작 분포에 대한 공동 분포를 구성한다.
• 기술적 논증을 가능하게 하기 위해 전이 행렬과 시작 분포의 양성 확보를 위해 고차 전이(순서 $t_0 = K^2 - 2K + 2$)를 사용한다.

실험 결과

연구 질문

• RQ1 유한 상태 HMM의 모수 벡터, 특히 상태 수가 어떤 조건에서 비모수적으로 식별 가능한가?
• RQ2 일반화된 쿨백-라이블러 발산이 비모수적 설정에서 진짜 HMM 모수를 유일하게 식별할 수 있는가?
• RQ3 상태별 밀도가 모수적 가족의 임의의 혼합일 경우, 혼합 분포를 식별할 수 없더라도 비모수적 최대우도추정기가 일치할 수 있는가?
• RQ4 상태별 밀도가 선형적으로 독립적이지 않을 경우, 예를 들어 매끄럽거나 로그-볼록 밀도와 같이 흔한 비모수적 클래스에서 식별은 어떻게 달성할 수 있는가?

주요 결과

• 전이 행렬이 전순위이자 에르고딕이며, 상태별 분포가 모두 서로 다를 경우, 유한 상태 HMM의 모수, 특히 상태 수가 비모수적으로 식별 가능하다.
• 일반화된 쿨백-라이블러 발산은 정규화된 로그우도의 극한으로 정의되며, 진짜 HMM 모수를 유일하게 식별하는 정의된 대비 함수이다.
• 모수적 가족의 임의의 혼합일 수 있는 상태별 밀도 클래스에 대해, 혼합 분포의 식별성 가정 없이도 비모수적 최대우도추정기는 일치한다.
• 밀도 간 선형 종속성의 과제를 극복하기 위해 시간 반전 HMM과 삼차원 앨리어레이에 대한 크루스칼의 정리를 사용한다.
• 밀도의 점별 값에 대해 리프시츠 연속 함수로의 근사와 혼합 측도에 대한 유계 리프시츠 거리 측도를 통해 NP-MLE의 일치성을 확보한다.
• 다른 모수에 대해 점근적 대비가 엄격히 양수임을 보여, 진짜 모델이 대비의 유일한 최소화자임을 보장한다.