[论文解读] Non-asymptotic deviation inequalities for smoothed additive functionals in non-linear state-space models

Cyrille Dubarry, Sylvain Le Corff|arXiv (Cornell University)|Dec 19, 2010

Statistical Methods and Inference参考文献 4被引用 6

一句话总结

本论文利用前向滤波后向平滑（FFBS）和前向滤波后向模拟（FFBSi）粒子方法，为非线性状态空间模型中的平滑加法泛函建立了非渐近偏差不等式。结果表明，在强混合条件下，两种估计器的Lq-均值误差和指数偏差界仅通过T与N的比值T/N依赖于T和N，优于以往依赖于T/√N的边界。

ABSTRACT

The approximation of fixed-interval smoothing distributions is a key issue in inference for general state-space hidden Markov models (HMM). This contribution establishes non-asymptotic bounds for the Forward Filtering Backward Smoothing (FFBS) and the Forward Filtering Backward Simulation (FFBSi) estimators of fixed-interval smoothing functionals. We show that the rate of convergence of the Lq-mean errors of both methods depends on the number of observations T and the number of particles N only through the ratio T/N for additive functionals. In the case of the FFBS, this improves recent results providing bounds depending on T and the square root of N.

研究动机与目标

• 推导非线性状态空间模型中平滑加法泛函的非渐近Lq-均值误差界。
• 为FFBS与FFBSi估计器建立指数偏差不等式。
• 证明在强混合条件下，误差界仅通过T与N的比值T/N依赖于T和N。
• 通过展示T/N依赖性，改进以往依赖于T/√N的结果。
• 通过蒙特卡洛实验验证理论结果。

提出的方法

• 分析采用序列蒙特卡洛方法，特别是FFBS与FFBSi算法，用于近似固定区间平滑分布。
• FFBS算法在保持粒子固定的同时修改后向权重，而FFBSi在反向传递中重新采样完整轨迹。
• 利用矩不等式和转移核的强混合条件，推导Lq-均值误差界。
• 通过集中不等式，特别是引理4（用于界定依赖随机变量之和的尾部概率），建立指数偏差不等式。
• 证明依赖于将估计误差分解为前向与后向两部分，利用振荡范数与混合系数推导界。
• 使用技术引理（如引理3与引理4）在矩条件与集中条件控制随机变量之比与和的尾部行为。

实验结果

研究问题

• RQ1 FFBS与FFBSi估计器的Lq-均值误差是否仅通过T与N的比值T/N依赖于T和N？
• RQ2 能否为FFBS与FFBSi建立具有相同T与N函数依赖性的指数偏差不等式？
• RQ3 新边界与以往依赖于T/√N的边界相比如何？
• RQ4 在何种条件下（如强混合）这些改进的边界成立？
• RQ5 理论边界能否通过数值实验验证？

主要发现

• 在强混合条件下，FFBS与FFBSi估计器的Lq-均值误差上界仅通过T与N的比值T/N依赖于T和N。
• 对于任意q ≥ 2，Lq-均值误差界为O(T/N)量级，优于以往依赖于T/√N的结果。
• 建立了具有相同T与N函数依赖性的指数偏差不等式，表明尾部概率分别以exp(−CNε / (T/N))（FFBS）与exp(−CNε² / (T/N))（FFBSi）的速率衰减。
• 边界对以下两类情形均成立：(i) 一致有界的路径相关泛函，以及(ii) 在强混合条件下的未归一化加法泛函。
• 蒙特卡洛实验支持理论结论，确认了误差率对T/N的依赖性。
• 分析表明，FFBS与FFBSi中通过后向采样机制有效控制了粒子平滑中的路径退化问题。