[논문 리뷰] Supplement paper to "Online Expectation Maximization based algorithms for inference in hidden Markov models"

Sylvain Le Corff, Gersende Fort|arXiv (Cornell University)|2011. 08. 20.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 4인용 수 6

한 줄 요약

이 보충 논문은 은닉 마르코프 모델에서 온라인 기대값 최대화(EM) 알고리즘의 이론적 기초와 수치적 검증을 제공한다. 주로 스토하스틱 번들의 EM(BOEM) 및 그 입자 필터 기반 변형에 초점을 맞추며, 약간의 혼합성과 정규성 조건 하에서 평균화된 BOEM 알고리즘이 진짜 매개변수로 거의 확실히 수렴함을 입증한다. 수치 결과는 랜덤 볼륨 모델에서 순차적 최대우도 추정법과 온라인 EM과 유사한 성능을 보임을 보여준다.

ABSTRACT

This is a supplementary material to the paper "Online Expectation Maximization based algorithms for inference in hidden Markov models". It contains further technical derivations and additional simulation results.

연구 동기 및 목표

• 부모 논문 [7]에서 제시된 은닉 마르코프 모델에서의 온라인 EM 알고리즘 이론적 분석을 뒷받침하는 기술적 증명과 보조 결과를 제공하기 위해.
• 모델과 관측 과정에 대한 약한 의존성과 정규성 조건 하에서 평균화된 BOEM 알고리즘이 진짜 매개변수로 거의 확실히 수렴함을 입증하기 위해.
• 스토하스틱 볼륨 모델에서 정확한 계산이 불가능한 상황에서 몬테카를로 시뮬레이션을 통해 스토하스틱 BOEM 알고리즘의 성능을 검증하기 위해.
• 평균화된 BOEM의 수렴 행동을 평균화된 폴리악-룹퍼트 순차적 최대우도(RML) 절차와 온라인 EM 알고리즘과 비교하기 위해.
• 입자 필터링 근사치가 BOEM 프레임워크 내에서 정규화된 로그우도의 정적점으로 수렴함을 보여주며, 근사 오차에 대한 이론적 통제를 보장하기 위해.

제안 방법

• H1–H7의 가정 하에 이론적 결과를 유도하며, 충분통계량과 관측 밀도에 대한 정규성, 혼합성, 모멘트 조건을 포함한다.
• 블록 n에 대해 스무딩된 충분통계량을 나타내는 중간 양 $ S_n = \bar{S}_{\tau_n}^{\chi_{n-1},T_{n-1}}(\theta_{n-1}, \mathbf{Y}) $ 와 그 몬테카를로 근사치 $ \widetilde{S}_n $ 을 도입한다.
• 블록 크기 $ \tau_n = \lfloor c n^a \rfloor $ 와 단계 크기 $ \gamma_n $ 를 사용한 BOEM 알고리즘을 적용하며, 지정된 감쇠 비율 하에서 수렴 보장한다.
• 정확한 계산이 불가능한 경우, 특히 스토하스틱 볼륨 모델에서 필터링 및 스무딩 분포를 입자 필터링으로 근사한다.
• 폴리악-룹퍼트 평균화 기법을 사용하여 확률적 알고리즘의 수렴 성질을 향상시키며, 정적점으로 거의 확실히 수렴함을 보장한다.
• 100회의 몬테카를로 시행 동안 평균화된 BOEM, 평균화된 RML, 온라인 EM 알고리즘의 중앙값 및 분위수 도표를 비교한다.

실험 결과

연구 질문

• RQ1 은닉 마르코프 모델에서 평균화된 BOEM 알고리즘이 거의 확실히 진짜 매개변수로 수렴하는 조건은 무엇인가요?
• RQ2 수렴 속도와 정확도 측면에서 스토하스틱 볼륨 모델에서 스토하스틱 BOEM 알고리즘의 성능은 순차적 최대우도 추정법과 온라인 EM과 비교해 어떻게 되나요?
• RQ3 BOEM 프레임워크 내에서 입자 필터링 근사치가 진짜 매개변수로의 이론적 수렴 보장을 유지할 수 있나요?
• RQ4 블록 크기 $ \tau_n $ 와 단계 크기 $ \gamma_n $ 는 알고리즘의 수렴 속도와 안정성에 어떤 영향을 미치나요?
• RQ5 잠재 과정이 강한 의존성을 보일 때, 예를 들어 $ \phi = 0.8 $ 또는 $ \phi = 0.95 $ 인 스토하스틱 볼륨 모델에서 알고리즘은 어떻게 행동하나요?

주요 결과

• H1–H7의 가정 하에, 특히 $ \beta $-혼합성에 의한 약한 의존성과 충분통계량에 대한 모멘트 조건을 포함하여 평균화된 BOEM 알고리즘이 거의 확실히 진짜 매개변수로 수렴한다.
• 수치 결과에 따르면, 평균화된 BOEM과 평균화된 RML 절차는 매개변수 $ v $ 와 $ m(1,2) $ 를 추정할 때 유사한 수렴 행동을 보이며, 10,000개의 관측 후 안정된 추정을 달성한다.
• 스토하스틱 볼륨 모델에서 $ \phi = 0.8 $ 인 경우, 평균화된 온라인 EM과 평균화된 BOEM이 박스플롯을 통해 유사한 추정 성능을 보인다. $ n = 100k $ 개의 관측치에서 확인됨.
• $ \phi = 0.95 $ 인 경우에도 두 알고리즘이 안정적인 수렴을 유지하며, 잠재 상태 과정의 높은 지속성에 대해 강건함을 보여준다.
• 입자 필터 기반 스토하스틱 BOEM은 정규화된 로그우도의 정적점으로 수렴하며, 조건 $ \|S_n - \widetilde{S}_n\|_p = O(\tau_{n+1}^{-b}) $ 를 통해 근사 오차에 대한 이론적 통제가 가능하다. 여기서 $ b \geq (a+1)/(2a) $ 이다.
• 결과는 스토하스틱 BOEM 알고리즘이 몬테카를로 근사치를 사용하더라도 정확한 BOEM의 渐近적 행동을 그대로 이어받으며, 이는 계산이 불가능한 모델에서의 적용을 뒷받침한다.