[论文解读] Supplement paper to "Online Expectation Maximization based algorithms for inference in hidden Markov models"

Sylvain Le Corff, Gersende Fort|arXiv (Cornell University)|Aug 20, 2011

Target Tracking and Data Fusion in Sensor Networks参考文献 4被引用 6

一句话总结

本附录论文为隐马尔可夫模型中在线期望最大化（EM）算法提供了理论基础和数值验证，重点研究了随机EM的束法（BOEM）及其基于粒子滤波的变体。在较弱的混合与正则性条件下，建立了平均BOEM算法几乎必然收敛至真实参数的结论，数值结果表明其性能与递归最大似然方法及在线EM方法相当，尤其在随机波动率模型中表现良好。

ABSTRACT

This is a supplementary material to the paper "Online Expectation Maximization based algorithms for inference in hidden Markov models". It contains further technical derivations and additional simulation results.

研究动机与目标

• 为母论文[7]中提出的隐马尔可夫模型在线EM算法的理论分析提供技术证明与辅助结果。
• 在模型与观测过程满足弱依赖性及正则性条件的前提下，建立平均BOEM算法几乎必然收敛至真实参数的结论。
• 通过蒙特卡洛模拟验证随机BOEM算法的性能，尤其在精确计算不可行的随机波动率模型背景下。
• 比较平均BOEM与Polyak-Ruppert平均递归最大似然（RML）方法及在线EM算法的收敛行为。
• 证明在BOEM框架中，基于粒子滤波的近似方法可保持对归一化对数似然函数驻点的收敛性，从而实现对近似误差的理论控制。

提出的方法

• 在假设H1–H7下推导理论结果，包括对充分统计量与观测密度的正则性、混合性及矩条件。
• 引入中间量 $ S_n = \bar{S}_{\tau_n}^{\chi_{n-1},T_{n-1}}(\theta_{n-1}, \mathbf{Y}) $，表示第 $ n $ 个块上的平滑充分统计量，及其蒙特卡洛近似 $ \widetilde{S}_n $。
• 采用块大小 $ \tau_n = \lfloor c n^a \rfloor $ 与步长 $ \gamma_n $ 的BOEM算法，确保在指定衰减速率下实现收敛。
• 当精确计算不可行时（尤其在随机波动率模型中），应用粒子滤波近似滤波与平滑分布。
• 采用Polyak-Ruppert平均化方案以改善随机算法的收敛性质，确保几乎必然收敛至驻点。
• 通过100次蒙特卡洛运行的中位数与四分位数图，比较平均BOEM与平均RML及在线EM算法的表现。

实验结果

研究问题

• RQ1 在何种条件下，平均BOEM算法在隐马尔可夫模型中几乎必然收敛至真实参数？
• RQ2 在收敛速度与精度方面，随机BOEM算法相较于递归最大似然与在线EM算法表现如何？
• RQ3 在BOEM框架中，基于粒子滤波的近似能否保持对真实参数的理论收敛保证？
• RQ4 块大小 $ \tau_n $ 与步长 $ \gamma_n $ 对算法收敛速度与稳定性有何影响？
• RQ5 当隐状态过程表现出强依赖性时（如 $ \phi = 0.8 $ 或 $ \phi = 0.95 $ 的随机波动率模型），各算法的行为如何？

主要发现

• 在假设H1–H7下，平均BOEM算法几乎必然收敛至真实参数，包括通过 $ \beta $-混合实现的弱依赖性及对充分统计量的矩条件。
• 数值结果表明，平均BOEM与平均RML方法在估计参数 $ v $ 与 $ m(1,2) $ 时表现出相似的收敛行为，两者在观测数达10,000后均实现稳定估计。
• 在 $ \phi = 0.8 $ 的随机波动率模型中，平均在线EM与平均BOEM在 $ n = 100k $ 观测数时的箱线图显示其估计性能相当。
• 当 $ \phi = 0.95 $ 时，两种算法均保持稳定收敛，表明对潜状态过程高持久性的鲁棒性。
• 基于粒子滤波的随机BOEM可保持对归一化对数似然函数驻点的收敛性，且通过条件 $ \|S_n - \widetilde{S}_n\|_p = O(\tau_{n+1}^{-b}) $（其中 $ b \geq (a+1)/(2a) $）实现对近似误差的理论控制。
• 结果表明，尽管使用蒙特卡洛近似，随机BOEM算法仍继承了精确BOEM的渐近行为，支持其在不可计算模型中的应用。