[논문 리뷰] Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo

Sinan Yıldırım, Sumeetpal S. Singh외 2명|arXiv (Cornell University)|2013. 11. 17.

Markov Chains and Monte Carlo Methods참고 문헌 24인용 수 4

한 줄 요약

이 논문은 관측 밀도가 비가감 가능한 은닉 마르코프 모델(HMM)에 대해 순차적 몬테카를로(SMC) 기반 최대우도추정(MLE)을 제안한다. 이는 우도 평가를 피하기 위해 근사 베이지안 계산(ABC) 원리를 사용한다. 유한차분 근사 대신 SMC를 통해 스코어 함수를 직접 추정함으로써, 온라인 및 오프라인 파rameter 추정이 점점 더 편향 없이 이루어지며, 기존의 기울기 기반 방법들보다 편향과 분산 제어에서 뛰어나다.

ABSTRACT

We propose sequential Monte Carlo based algorithms for maximum likelihood estimation of the static parameters in hidden Markov models with an intractable likelihood using ideas from approximate Bayesian computation. The static parameter estimation algorithms are gradient based and cover both offline and online estimation. We demonstrate their performance by estimating the parameters of three intractable models, namely the alpha-stable distribution, g-and-k distribution, and the stochastic volatility model with alpha-stable returns, using both real and synthetic data.

연구 동기 및 목표

• 관측 밀도가 비가감 가능하지만 시뮬레이션은 가능한 HMM에서 최대우도추정의 과제를 해결하기 위해.
• 비가감 가능한 관측 밀도를 명시적으로 평가할 필요가 없는 기울기 기반 MLE 알고리즘을 개발하기 위해.
• SMC와 ABC 유사 기법을 사용하여 오프라인 및 온라인 파rameter 추정 절차를 제공하기 위해.
• 특히 장기간의 데이터 시퀀스에서, 기존의 유한차분 방법에 비해 편향과 분산을 줄이기 위해.
• α-스테이블, g-and-k, 그리고 스토하스틱 볼라티리티 모델을 포함한 비가감 가능한 밀도를 가진 모델들에 대해 이론적 일致성과 실용적 성능을 입증하기 위해.

제안 방법

• 이 방법은 비가감 가능한 관측 밀도 $ g_{ heta}(y|x) $ 를 평가할 필요 없이, 스코어 함수(로그우도의 기울기)를 직접 SMC를 사용해 근사한다.
• ABC 원리를 활용하여 비가감 가능한 $ g_{ heta}(y|x) $ 에서 시뮬레이션을 수행하고, 이러한 시뮬레이션을 바탕으로 기울기 추정을 위한 의사우도를 구성한다.
• 핵심 기반 근사법을 사용한 ABC 허용 오차를 적용하여 SMC를 통해 스코어 함수를 추정함으로써, 로그우도의 기울기 추정이 일致되게 한다.
• 경로공간 SMC 기반 알고리즘을 사용하여 입자와 가중치를 전파하며, 비가감 가능한 관측 모델에 적합하게 리샘플링 및 전파 단계를 조정한다.
• 온라인 추정을 위해, 입자 수가 증가함에 따라 渐진적으로 편향 없어지는 SMC 기반 스코어 근사치를 사용하여 파rameter 추정치를 재귀적으로 업데이트한다.
• 기존의 유한차분 근사치는 장기간의 시퀀스에서 편향과 높은 분산을 유발하는 것으로 알려져 있으므로, 이 방법은 이를 피한다.

실험 결과

연구 질문

• RQ1 비가감 가능한 관측 밀도를 가진 HMM에 대해 SMC 기반 MLE가 직접 우도 평가가 불가능한 상황에서도 효과적으로 적용될 수 있는가?
• RQ2 관측 밀도 $ g_{ heta}(y|x) $ 의 명시적 지식 없이도 스코어 함수를 추정할 수 있으며, 여전히 일관된 파rameter 추정치를 도출할 수 있는가?
• RQ3 특히 온라인 및 장기간 시퀀스 설정에서, 기존의 유한차분 기반 MLE에 비해 이 방법이 편향과 분산 측면에서 더 나은 성능을 보일 수 있는가?
• RQ4 장기간의 데이터 스트림에서 표준 입자 필터 대비 입자 탈락 문제를 줄이고 추정 일치성을 유지할 수 있는가?
• RQ5 기존의 베이지안 또는 EM 기반 방법에 비해, 비가감 가능한 HMM에서 수렴성과 정확성 측면에서 SMC-ABC MLE의 성능은 어떠한가?

주요 결과

• 제안된 SMC 기반 MLE 알고리즘은 Ehrlich 등(2013)의 유한차분 방법과 달리 온라인 추정에서 점점 더 편향 없어지며, 정확한 우도 평가 조건에서도 지속적인 편향을 보인다.
• 제안된 방법 하에서 파rameter 추정치의 분산은 데이터 길이가 증가함에 따라 감소하는 반면, Ehrlich 등의 방법은 분산 감소 경향이 없음을 보였다.
• 이 방법은 α-스테이블 분포, g-and-k 분포, α-스테이블 수익률을 가진 스토하스틱 볼라티리티 모델을 포함한 세 가지 비가감 가능한 모델에서, 시뮬레이션 및 실데이터를 모두 사용해 파rameter를 성공적으로 추정하였다.
• SMC 기반 스코어 추정은 유한차분 근사치가 필요 없음을 보여주며, 추정 오차를 줄이고 수렴 안정성을 향상시켰다.
• 수치 결과는 이 방법이 실용적으로 일치하며, 기존의 기울기 기반 MLE 기법들보다 편향과 분산 제어 측면에서 뛰어나다는 것을 확인하였다.
• 이 방법은 장기간의 데이터 시퀀스에 대해 강건하며, 표준 입자 필터에서 입자 탈락 문제가 우려되는 상황에서도 파rameter 추정치의 분산을 낮게 유지한다.