[论文解读] Optimized Auxiliary Particle Filters: adapting mixture proposals via convex optimization

Nicola Branchini, V́ıctor Elvira|arXiv (Cornell University)|Nov 18, 2020

Target Tracking and Data Fusion in Sensor Networks被引用 6

一句话总结

本文提出了一种新型框架——优化辅助粒子滤波器（OAPF），将混合提议权重建模为凸优化问题，以最小化重要性权重的方差。通过将辅助变量解释为混合权重，并利用凸规划进行优化，OAPF在非线性状态空间模型中显著提升了估计精度，实现了无偏且一致的估计器，同时计算成本与现有方法相当。

ABSTRACT

Auxiliary particle filters (APFs) are a class of sequential Monte Carlo (SMC) methods for Bayesian inference in state-space models. In their original derivation, APFs operate in an extended state space using an auxiliary variable to improve inference. In this work, we propose optimized auxiliary particle filters, a framework where the traditional APF auxiliary variables are interpreted as weights in an importance sampling mixture proposal. Under this interpretation, we devise a mechanism for proposing the mixture weights that is inspired by recent advances in multiple and adaptive importance sampling. In particular, we propose to select the mixture weights by formulating a convex optimization problem, with the aim of approximating the filtering posterior at each timestep. Further, we propose a weighting scheme that generalizes previous results on the APF (Pitt et al. 2012), proving unbiasedness and consistency of our estimators. Our framework demonstrates significantly improved estimates on a range of metrics compared to state-of-the-art particle filters at similar computational complexity in challenging and widely used dynamical models.

研究动机与目标

• 开发一种灵活的序列蒙特卡洛推理框架，通过优化提议分布，超越传统辅助粒子滤波器。
• 通过基于凸优化的、有原则的混合权重选择，降低提议分布中重要性权重的方差。
• 通过实现自适应、数据驱动的混合权重，推广并扩展辅助粒子滤波器，且无需依赖非凸优化。
• 在计算复杂度相近的前提下，实现优于现有最先进粒子滤波器的滤波性能，包括改进的APF和基本Bootstrap PF。

提出的方法

• OAPF框架将APF中的辅助变量重新解释为重要性采样提议中的混合权重，从而实现对混合成分的优化。
• 将混合权重的选择建模为一个凸优化问题，使提议分布在一组关键点上匹配滤波后验分布。
• 该方法在混合提议中使用灵活数量的核函数，与粒子数量解耦，从而实现自适应且高效的逼近。
• 提出一种新的加权方案，推广了先前的APF估计器，并确保了边缘似然估计的无偏性和一致性。
• 该框架利用预测似然和后验结构，定义了一个凸目标函数，以最小化有效样本量的损失。
• 优化过程在每个时间步进行，从而实现提议分布对当前滤波分布的在线自适应。

实验结果

研究问题

• RQ1 是否可以利用凸优化自适应选择粒子滤波提议中的混合权重，以降低重要性权重的方差？
• RQ2 如何推广辅助粒子滤波框架，以实现灵活、数据驱动的混合提议，并具备可证明的统计性质？
• RQ3 通过凸规划优化混合权重，是否能在具有挑战性的非线性状态空间模型中实现优于现有粒子滤波器的滤波性能？
• RQ4 所提出的方法是否能在保持计算效率的同时，实现无偏且一致的估计器？

主要发现

• 在非线性状态空间模型（如随机Lorenz 63模型和多变量随机波动率模型）中，OAPF框架在多个指标上相比最先进粒子滤波器（包括改进的APF，即IAPF）实现了显著提升的估计精度。
• 所提出的混合权重选择凸优化方法显著降低了重要性权重的方差，直接提升了有效样本量和估计器精度。
• OAPF中的边缘似然估计器被证明是无偏且一致的，推广了Pitt等人（2012年）的结果，并扩展了APF的理论基础。
• 该方法允许在提议中使用灵活数量的核函数，且独立于粒子数量，从而在不增加计算成本的前提下实现更精确的逼近。
• 实验结果表明，即使计算复杂度相同，OAPF在滤波精度和稳定性方面也优于基本Bootstrap PF和IAPF。