[论文解读] Smoothing with Couplings of Conditional Particle Filters

Pierre Jacob, Fredrik Lindsten+1 more|arXiv (Cornell University)|Jan 8, 2017

Advanced Statistical Process Monitoring被引用 4

一句话总结

该论文通过结合条件粒子滤波与Rhee–Glynn去偏技术，提出了一种用于状态空间模型的无偏平滑估计器。该方法支持并行计算，并通过独立估计器实现有效的置信区间，尽管去除了偏差，但方差增加仍在可控范围内，实验结果在玩具模型和具有不可行转移密度的Lotka-Volterra系统中得到了验证。

ABSTRACT

In state space models, smoothing refers to the task of estimating a latent stochastic process given noisy measurements related to the process. We propose an unbiased estimator of smoothing expectations. The lack-of-bias property has methodological benefits: independent estimators can be generated in parallel, and confidence intervals can be constructed from the central limit theorem to quantify the approximation error. To design unbiased estimators, we combine a generic debiasing technique for Markov chains with a Markov chain Monte Carlo algorithm for smoothing. The resulting procedure is widely applicable and we show in numerical experiments that the removal of the bias comes at a manageable increase in variance. We establish the validity of the proposed estimators under mild assumptions. Numerical experiments are provided on toy models, including a setting of highly-informative observations, and a realistic Lotka-Volterra model with an intractable transition density.

研究动机与目标

• 开发一般状态空间模型中平滑期望的无偏估计器，以克服标准粒子平滑器固有的偏差。
• 实现独立估计器的并行生成，以提高计算效率和统计推断能力。
• 利用中心极限定理为平滑估计提供有效的置信区间，而这是有偏估计器无法实现的。
• 通过调节参数和对独立重复样本取平均，保持计算可行性与方差控制。
• 将去偏技术扩展应用于非线性、非高斯状态空间模型中的平滑问题。

提出的方法

• 该方法将条件粒子滤波（CPFs）与马氏链的Rhee–Glynn去偏技术相结合，以生成平滑期望的无偏估计器。
• 采用耦合的CPF链，在随机相遇时间处耦合轨迹，通过Rhee–Glynn框架确保无偏性。
• 通过生成多组独立的耦合CPF链对，并应用Rhee–Glynn求和公式以消除偏差。
• 耦合链之间的相遇时间被用作停止时间，耦合时间分布影响方差和计算成本。
• 在较弱条件下得到验证，包括计算成本和方差的有限性，确保理论有效性。
• 通过调节粒子数$N$、耦合延迟$k$和相遇时间阈值$m$等参数，控制方差和计算负载。

实验结果

研究问题

• RQ1 能否通过粒子滤波与去偏技术，在一般状态空间模型中构建无偏平滑估计器？
• RQ2 所提出的方法是否能实现可靠置信区间与并行计算，而标准有偏平滑器则不能？
• RQ3 在相当的计算成本下，所提无偏估计器的方差与标准粒子滤波器和固定滞后平滑器相比如何？
• RQ4 该方法能否应用于具有不可行转移密度的模型，如Lotka-Volterra系统？
• RQ5 耦合参数（如$k$、$m$）对方差和计算效率有何影响？

主要发现

• 所提出的无偏估计器在平滑均值估计的相对方差方面，与使用大量粒子的粒子滤波器相当——在$N=4,096$的实验中，等效于78,377个粒子。
• 当与固定滞后平滑结合使用时，该方法在等效计算成本下相比标准粒子滤波器进一步降低了方差。
• 基于1,000条独立链（$N=4,096$）的相遇时间分布，确定了$k=7$、$m=14$，表明耦合效果良好。
• 在浮游动物模型中，固定滞后平滑的偏差可忽略不计，但仅靠固定滞后方法难以评估此类偏差。
• 该方法在较弱条件下保持理论有效性，包括计算成本有限和估计器方差有限。
• 该框架可通过粒子MCMC扩展至联合参数与状态推断，也可通过Fisher恒等式支持完美模拟或得分估计。