[论文解读] Kernel embedding of maps for sequential Bayesian inference: The variational mapping particle filter

Manuel Pulido, Peter Jan vanLeeuwen|arXiv (Cornell University)|May 29, 2018

Target Tracking and Data Fusion in Sensor Networks参考文献 14被引用 8

一句话总结

本文提出变分映射粒子滤波（MPF），一种基于核嵌入映射以最小化中间密度与后验分布之间Kullback-Leibler散度的序列蒙特卡洛方法，可在无需重采样情况下实现高效的高维状态估计。该方法在洛伦兹-63和洛伦兹-96等混沌系统中表现出稳定性能，有效粒子数近乎恒定，即使在部分、稀疏观测和长同化窗口条件下亦然。

ABSTRACT

In this work, a novel sequential Monte Carlo filter is introduced which aims at efficient sampling of high-dimensional state spaces with a limited number of particles. Particles are pushed forward from the prior to the posterior density using a sequence of mappings that minimizes the Kullback-Leibler divergence between the posterior and the sequence of intermediate densities. The sequence of mappings represents a gradient flow. A key ingredient of the mappings is that they are embedded in a reproducing kernel Hilbert space, which allows for a practical and efficient algorithm. The embedding provides a direct means to calculate the gradient of the Kullback-Leibler divergence leading to quick convergence using well-known gradient-based stochastic optimization algorithms. Evaluation of the method is conducted in the chaotic Lorenz-63 system, the Lorenz-96 system, which is a coarse prototype of atmospheric dynamics, and an epidemic model that describes cholera dynamics. No resampling is required in the mapping particle filter even for long recursive sequences. The number of effective particles remains close to the total number of particles in all the experiments.

研究动机与目标

• 解决高维、非线性、混沌状态空间模型中粒子滤波的滤波退化与粒子贫化问题。
• 克服传统粒子滤波在递归推断中因需要重采样而产生的局限性，以及权重退化问题。
• 开发一种方法，在有限粒子数下维持高有效粒子数并实现精确的状态估计。
• 在具有部分、噪声观测和复杂动力学约束的系统中实现鲁棒推断。
• 提供一种可扩展的、基于梯度的采样框架，在避免重采样的同时保持高维状态空间中的精度。

提出的方法

• 提出一种序列蒙特卡洛滤波器，通过一系列确定性映射将粒子从先验映射到后验。
• 映射通过梯度流推导，以最小化中间密度与真实后验之间的Kullback-Leibler散度。
• 采用再生核希尔伯特空间（RKHS）嵌入映射，实现KL散度梯度的解析计算。
• 利用Stein变分梯度下降原理，基于梯度信息迭代更新粒子位置。
• 采用变分推断框架，其中后验通过从先验经学习映射的前向推算序列近似。
• 利用基于核的函数逼近表示映射函数，并高效计算梯度，无需显式密度估计。

实验结果

研究问题

• RQ1 在高维、非线性、混沌系统中，粒子滤波是否能在无重采样情况下维持高有效样本量？
• RQ2 在具有部分和噪声观测的状态空间模型中，基于核嵌入的变分映射在近似后验分布方面表现如何？
• RQ3 在稀疏观测和长同化窗口条件下，变分映射粒子滤波的性能如何？
• RQ4 与标准粒子滤波（如SIR）和集合卡尔曼滤波相比，该方法在RMSE和粒子分布扩散性方面表现如何？
• RQ5 核带宽的选择在不同动力学状态下对滤波器精度和鲁棒性的影响程度如何？

主要发现

• MPF在所有实验中均维持近乎恒定的有效粒子数（接近总粒子数），即使在长时间递归序列后亦无滤波退化现象。
• 在仅观测变量x的洛伦兹-63系统中，使用5个粒子时，MPF能准确跟踪真实状态，而SIR滤波器在数个循环后完全发散。
• 在Δt = 0.1（100个模型步长）的长同化窗口下，MPF保持稳定性能且RMSE较低，而SIR滤波器完全失效。
• 在40变量的洛伦兹-96系统中，20个观测下，MPF在RMSE上优于随机集合卡尔曼滤波（EnKF），且粒子分布更优。
• MPF对核带宽选择具有鲁棒性，在洛伦兹-96系统中，带宽从α=2到α=100时，RMSE变化极小。
• 在洛伦兹-63系统中仅观测z变量时，MPF在短暂失效后能快速恢复完整状态，而SIR滤波器则彻底丢失跟踪且无法恢复。