[论文解读] A Stable Particle Filter in High-Dimensions

Alex Beskos, Dan Crisan+3 more|arXiv (Cornell University)|Dec 11, 2014

Target Tracking and Data Fusion in Sensor Networks参考文献 14被引用 26

一句话总结

本文提出空间-时间粒子滤波器，一种新颖算法，旨在稳定高维状态空间模型中的粒子滤波。通过利用空间-时间分解与顺序重采样，其在计算成本为 O(nNd²) 的条件下实现一致的蒙特卡洛估计，相较于标准粒子滤波器在高维（d）情形下展现出更优的可扩展性，尤其适用于独立同分布（i.i.d.）与马尔可夫结构。

ABSTRACT

We consider the numerical approximation of the filtering problem in high dimensions, that is, when the hidden state lies in $\mathbb{R}^d$ with $d$ large. For low dimensional problems, one of the most popular numerical procedures for consistent inference is the class of approximations termed particle filters or sequential Monte Carlo methods. However, in high dimensions, standard particle filters (e.g. the bootstrap particle filter) can have a cost that is exponential in $d$ for the algorithm to be stable in an appropriate sense. We develop a new particle filter, called the \emph{space-time particle filter}, for a specific family of state-space models in discrete time. This new class of particle filters provide consistent Monte Carlo estimates for any fixed $d$, as do standard particle filters. Moreover, we expect that the state-space particle filter will scale much better with $d$ than the standard filter. We illustrate this analytically for a model of a simple i.i.d. structure and one of a Markovian structure in the $d$-dimensional space-direction, when we show that the algorithm exhibits certain stability properties as $d$ increases at a cost $\mathcal{O}(nNd^2)$, where $n$ is the time parameter and $N$ is the number of Monte Carlo samples, that are fixed and independent of $d$. Similar results are expected to hold, under a more general structure than the i.i.d.~one. independently of the dimension. Our theoretical results are also supported by numerical simulations on practical models of complex structures. The results suggest that it is indeed possible to tackle some high dimensional filtering problems using the space-time particle filter that standard particle filters cannot handle.

研究动机与目标

• 解决标准粒子滤波器在高维滤波问题中因维度 d 增加而导致计算成本呈指数级增长的不稳定性问题。
• 设计一种粒子滤波算法，使在 d 增大时仍能保持一致性和稳定性，且无需粒子数 N 指数增长。
• 为该算法在高维下的性能提供理论依据，尤其针对状态空间中具有 i.i.d. 或马尔可夫依赖结构的模型。
• 证明该算法在 d 上实现次指数级成本增长，而标准粒子滤波器则需 N = O(κ^d)，κ > 1。
• 通过复杂模型上的数值模拟支持理论发现，展示其在实际高维滤波任务中的可行性。

提出的方法

• 提出一种空间-时间粒子滤波器，将高维滤波问题分解为在空间与时间维度上的一系列低维条件滤波步骤。
• 采用基于时间与空间相关提议密度的重要性采样顺序重采样策略，以维持粒子多样性。
• 利用条件期望与半群算子对滤波分布进行递归分解，以管理高维状态转移。
• 引入基于加权粒子的归一化常数的归一化粒子估计，其方差通过潜在函数与粒子数的假设得到控制。
• 利用 [7, 定理 16.4.1] 的理论结果，对归一化常数估计的相对方差进行上界估计，确保在 d 增大时保持稳定性。
• 利用空间-时间结构解耦维度间的依赖关系，使算法在每个时间步的计算成本保持固定，与 d 无关。

实验结果

研究问题

• RQ1 能否设计一种粒子滤波器，使其在高维滤波问题（d 较大）中保持稳定性和一致性，且计算成本在 d 上呈次指数级增长？
• RQ2 空间-时间粒子滤波器是否在固定 n 与 N 的条件下，实现 O(nNd²) 的计算成本，且与 d 无关，同时保持一致性？
• RQ3 该算法在 d 维状态空间中具有 i.i.d. 或马尔可夫依赖结构的模型中表现如何？
• RQ4 能否在对转移密度与观测密度的一般假设下，建立对归一化常数估计方差的理论边界？
• RQ5 该算法在标准粒子滤波器因权重退化而失效的复杂高维模型中，其适用范围有多大？

主要发现

• 空间-时间粒子滤波器在高维状态空间模型中，即使 d 增大，仍能提供对滤波分布的一致蒙特卡洛估计。
• 对于 d 维空间中具有 i.i.d. 与马尔可夫结构的情形，该算法在计算成本为 O(nNd²) 的条件下表现出稳定性，其中 n 与 N 固定且与 d 无关。
• 归一化常数估计的相对方差被控制在 O(d/M_d) 内，只要 M_d ≥ c d（c 为某常数），即可确保在 d 增大时保持稳定性。
• 理论分析证实，在对潜在函数的弱假设下，该算法能对归一化常数估计的二阶矩实现均匀控制。
• 在复杂模型上的数值模拟支持理论发现，表明该算法在标准粒子滤波器失效的高维滤波任务中具有可行性。
• 该方法避免了标准粒子滤波器在高维中常见的指数级成本 N = O(κ^d)，使其适用于实际的高维推断任务。