[論文レビュー] Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo

Sinan Yıldırım, Sumeetpal S. Singh+2 more|arXiv (Cornell University)|Nov 17, 2013

Markov Chains and Monte Carlo Methods参考文献 24被引用数 4

ひとこと要約

本稿では、観測密度が評価不能な非線形マルコフ連鎖（HMM）に対して、逐次モンテカルロ（SMC）に基づく最尤推定（MLE）を提案する。この手法は、尤度評価を回避するため、近似ベイズ計算（ABC）の原則を用いる。有限差分近似を避けてスコア関数を直接推定することで、漸近的に不偏なオンラインおよびオフラインパラメータ推定を達成し、従来の勾配ベースの手法と比較してバイアスと分散の制御が優れている。

ABSTRACT

We propose sequential Monte Carlo based algorithms for maximum likelihood estimation of the static parameters in hidden Markov models with an intractable likelihood using ideas from approximate Bayesian computation. The static parameter estimation algorithms are gradient based and cover both offline and online estimation. We demonstrate their performance by estimating the parameters of three intractable models, namely the alpha-stable distribution, g-and-k distribution, and the stochastic volatility model with alpha-stable returns, using both real and synthetic data.

研究の動機と目的

• 観測密度が評価不能だがシミュレーション可能であるHMMにおける最尤推定の課題に対処すること。
• 評価不能な観測密度 $ g_{ heta}(y|x) $ を明示的に評価する必要のない勾配ベースのMLEアルゴリズムを開発すること。
• SMCとABCに類似した手法を用いて、オフラインおよびオンラインの両方のパラメータ推定手順を提供すること。
• 特に長いデータ列において、有限差分法と比較してバイアスと分散を低減すること。
• α安定分布、g-and-k分布、および確率的ボラティリティモデルを含む、尤度が評価不能なモデルに対して、本手法の一貫性と実用的性能を示すこと。

提案手法

• 本手法は、評価不能な観測密度 $ g_{ heta}(y|x) $ を評価する必要を回避するため、逐次モンテカルロ（SMC）を用いてスコア関数（対数尤度の勾配）を直接近似する。
• ABCの原則を活用し、評価不能な $ g_{ heta}(y|x) $ からシミュレーションを行い、それらを用いて勾配推定のための擬似尤度を構築する。
• 核関数を用いたABC許容誤差の近似を伴うSMCにより、対数尤度の勾配の一貫性のある推定が可能になる。
• パス空間SMC方式を用いて粒子と重みを伝搬させ、リサンプリングおよび伝搬ステップを評価不能な観測モデルに適応させる。
• オンライン推定では、SMCに基づくスコア近似を再帰的に更新することで、粒子数が増加するにつれて漸近的に不偏なパラメータ推定が保証される。
• 有限差分近似を避けることで、特に長い系列においてバイアスと高い分散を引き起こすことが知られている勾配推定の問題を回避する。

実験結果

リサーチクエスチョン

• RQ1 尤度が直接評価不能なHMMに対して、SMCベースのMLEが効果的に適用可能か。
• RQ2 観測密度 $ g_{ heta}(y|x) $ の明示的知識がなくても、対数尤度の勾配を推定可能であり、かつ一貫性のあるパラメータ推定が得られるか。
• RQ3 特にオンラインおよび長い系列の設定において、有限差分法に比べて本手法がバイアスと分散の点で優れているか。
• RQ4 長期間のデータストリームにおいて、標準のパーティクルフィルターよりも推定の一貫性を保ち、粒子の劣化問題を軽減できるか。
• RQ5 尤度が評価不能なHMMにおいて、SMC-ABC MLEの収束性と精度は、既存のベイズ的手法やEM法と比較して優れているか。

主な発見

• 提案手法のSMCベースMLEアルゴリズムは、Ehrlichら（2013）の有限差分法とは異なり、オンライン推定において漸近的に不偏である。Ehrlichらの手法は、尤度が正確に評価可能であっても、依然として恒常的なバイアスを示す。
• 提案手法では、データ長が増加するにつれてパラメータ推定の分散が減少するが、Ehrlichらの手法ではそのような分散の減少が見られない。
• 本手法は、α安定分布、g-and-k分布、α安定分布を伴う確率的ボラティリティモデルの3つの評価不能なモデルにおいて、合成データおよび実データを用いてパラメータ推定に成功した。
• SMCベースのスコア推定により、有限差分近似の必要がなくなり、推定誤差が低減され、収束の安定性が向上した。
• 数値的結果により、本手法が実用的に一貫性を示し、バイアスと分散の制御において、既存の勾配ベースのMLE技術を上回ることが確認された。
• 本手法は長いデータ列に対してもロバストであり、標準のパーティクルフィルターよりも粒子の劣化が深刻な場合でも、パラメータ推定の分散を低く維持した。