[论文解读] Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo

Sinan Yıldırım, Sumeetpal S. Singh+2 more|arXiv (Cornell University)|Nov 17, 2013

Markov Chains and Monte Carlo Methods参考文献 24被引用 4

一句话总结

本文提出了一种基于顺序蒙特卡洛（SMC）的最大似然估计（MLE）方法，用于隐马尔可夫模型（HMMs），其观测密度不可解析计算，通过近似贝叶斯计算（ABC）原则绕过似然函数的直接计算。通过直接利用SMC估计得分函数，避免使用有限差分近似，该方法实现了渐近无偏的在线与离线参数估计，在偏差与方差控制方面优于现有基于梯度的方法。

ABSTRACT

We propose sequential Monte Carlo based algorithms for maximum likelihood estimation of the static parameters in hidden Markov models with an intractable likelihood using ideas from approximate Bayesian computation. The static parameter estimation algorithms are gradient based and cover both offline and online estimation. We demonstrate their performance by estimating the parameters of three intractable models, namely the alpha-stable distribution, g-and-k distribution, and the stochastic volatility model with alpha-stable returns, using both real and synthetic data.

研究动机与目标

• 解决观测密度不可解析但可模拟的HMM中最大似然估计的挑战。
• 开发无需显式计算不可解析观测密度的基于梯度的MLE算法。
• 利用SMC与ABC启发式技术，提供离线与在线参数估计方法。
• 与有限差分方法相比，降低参数估计的偏差与方差，尤其在长数据序列中表现更优。
• 在具有不可解析密度的模型（包括α稳定分布、g-and-k分布及随机波动率模型）上，验证该方法的一致性与实际性能。

提出的方法

• 该方法使用顺序蒙特卡洛（SMC）直接近似得分函数（对数似然函数的梯度），从而避免对不可解析观测密度 $ g_{ heta}(y|x) $ 的显式计算。
• 借鉴ABC原则，通过从不可解析的 $ g_{ heta}(y|x) $ 中进行模拟，并利用这些模拟结果构建伪似然函数以实现梯度估计。
• 通过基于核函数的ABC容差近似，利用SMC估计得分函数，实现对对数似然函数梯度的一致估计。
• 算法采用路径空间SMC方案传播粒子与权重，重采样与传播步骤根据不可解析观测模型进行调整。
• 在在线估计中，该方法通过SMC-based得分近似递归更新参数估计，随着粒子数增加，确保渐近无偏性。
• 该方法避免使用有限差分近似，后者在长序列中已知会引入偏差与高方差，尤其在梯度估计中表现不佳。

实验结果

研究问题

• RQ1 当似然函数无法直接计算时，基于SMC的MLE能否有效应用于观测密度不可解析的HMM？
• RQ2 如何在不显式掌握观测密度 $ g_{ heta}(y|x) $ 的前提下估计对数似然函数的梯度，同时仍能获得一致的参数估计？
• RQ3 所提出的方法在偏差与方差方面是否优于基于有限差分的MLE，尤其在在线与长序列设置中？
• RQ4 与标准粒子滤波器相比，该方法是否能在长数据流中保持估计一致性并减少粒子退化问题？
• RQ5 在收敛性与准确性方面，SMC-ABC MLE与现有贝叶斯或EM方法相比表现如何，适用于不可解析HMM？

主要发现

• 所提出的基于SMC的MLE算法在在线估计中实现渐近无偏，而Ehrlich等人（2013）的有限差分方法即使在似然函数精确计算时仍存在持续偏差。
• 在所提方法下，随着数据长度增加，参数估计的方差减小；而Ehrlich等人方法的方差无此减小趋势。
• 该方法成功估计了三种不可解析模型的参数：α稳定分布、g-and-k分布，以及具有α稳定收益的随机波动率模型，涵盖合成与真实数据。
• 基于SMC的得分估计避免了对有限差分近似的依赖，降低了估计误差并提升了收敛稳定性。
• 数值结果证实，该方法在实际中具有一致性，并在偏差与方差控制方面优于现有基于梯度的MLE技术。
• 该方法对长数据序列具有鲁棒性，在标准粒子滤波器面临粒子退化问题时，仍能保持低方差的参数估计。