[论文解读] FLUX: Progressive State Estimation Based on Zakai-type Distributed Ordinary Differential Equations

Uwe D. Hanebeck|arXiv (Cornell University)|Aug 8, 2018

Gaussian Processes and Bayesian Inference被引用 4

一句话总结

FLUX 提出了一种同伦延续方法，利用扎卡伊型分布普通微分方程（DODEs）在非线性状态估计中逐步估计概率密度函数。通过在人工时间 γ ∈ [0,1] 上将参数从先验密度演化至后验密度，该方法实现了快速、非迭代且无需优化的近似，无需求解偏微分方程，适用于参数化和非参数化表示，包括粒子流。

ABSTRACT

We propose a homotopy continuation method called FLUX for approximating complicated probability density functions. It is based on progressive processing for smoothly morphing a given density into the desired one. Distributed ordinary differential equations (DODEs) with an artificial time $\\gamma \\in [0,1]$ are derived for describing the evolution from the initial density to the desired final density. For a finite-dimensional parametrization, the DODEs are converted to a system of ordinary differential equations (SODEs), which are solved for $\\gamma \\in [0,1]$ and return the desired result for $\\gamma=1$. This includes parametric representations such as Gaussians or Gaussian mixtures and nonparametric setups such as sample sets. In the latter case, we obtain a particle flow between the two densities along the artificial time. FLUX is applied to state estimation in stochastic nonlinear dynamic systems by gradual inclusion of measurement information. The proposed approximation method (1) is fast, (2) can be applied to arbitrary nonlinear systems and is not limited to additive noise, (3) allows for target densities that are only known at certain points, (4) does not require optimization, (5) does not require the solution of partial differential equations, and (6) works with standard procedures for solving SODEs. This manuscript is limited to the one-dimensional case and a fixed number of parameters during the progression. Future extensions will include consideration of higher dimensions and on the fly adaption of the number of parameters.

研究动机与目标

• 为解决在传统方法因粒子退化或计算成本过高而难以近似复杂后验概率密度函数的非线性随机系统中的挑战。
• 开发一种方法，实现从先验密度到目标后验密度的平滑、渐进式变换，无需迭代优化或求解偏微分方程。
• 提供一个支持参数化（如高斯混合）和非参数化（如粒子集）表示的框架，实现一致且高效的计算。
• 通过利用标准 ODE 求解器并避免复杂的数值过程（如 MCMC 或重要性采样），实现实际的实时状态估计。
• 为未来扩展至高维系统和自适应参数化（包括动态调整粒子数或分量数）奠定基础。

提出的方法

• 采用人工时间 γ ∈ [0,1] 的同伦延续方法，通过由 DODE 定义的流，平滑地将初始密度转化为目标后验密度。
• 推导出控制密度近似演化的分布普通微分方程（DODEs）系统，其在 γ = 1 处的解即为所需的后验分布。
• 对于有限维参数化（如粒子位置、高斯混合参数），DODEs 被简化为可使用标准 ODE 求解器求解的普通微分方程系统（SODEs）。
• 引入粒子流机制，使粒子位置通过由密度流对数导数导出的速度场在 γ 上演化，实现无权重的粒子传播。
• 使用配点对状态域进行离散化，并数值求解 DODEs，将连续流转换为参数向量 η(γ) 的耦合 ODE 集。
• 采用形式 ˙fₑ(x,γ) = pᵀ(x,γ) · ˙η(γ) 表达演化密度的时间导数，其中 p(x,γ) 编码密度对参数变化的敏感性。

实验结果

研究问题

• RQ1 如何在不依赖迭代优化或求解偏微分方程的前提下，高效近似非线性状态估计中的复杂后验密度？
• RQ2 能否使用同伦方法构建从前验密度到后验密度的连续渐进流，以确保数值稳定性和计算效率？
• RQ3 所提出的方法在处理非参数化表示（如粒子集）时，能在多大程度上避免粒子退化或重采样？
• RQ4 与标准粒子滤波器或反馈粒子滤波器相比，该方法在非线性、非高斯系统中的准确性和速度表现如何？
• RQ5 当前一维、固定参数形式的局限性是什么？如何在高维空间和自适应参数化下加以克服？

主要发现

• 该方法通过在人工时间 γ ∈ [0,1] 上演化参数向量实现对后验密度的准确近似，γ = 1 时的最终状态即对应目标后验密度。
• 该方法避免了优化和偏微分方程求解，转而依赖标准 ODE 求解器，显著降低了计算复杂度和运行时间的变异性。
• 对于粒子表示，该方法生成一种粒子流，使粒子向高后验概率区域移动，且无需依赖权重，从而缓解了粒子退化问题。
• 该方法适用于参数化和非参数化密度表示，包括高斯分布、高斯混合和样本集，且公式一致。
• 推导过程数学上可处理且直观，流的物理解释为沿参数化路径的密度质量传输。
• 该框架可扩展至高维空间和动态参数自适应，未来工作将致力于生成用于嵌入式部署的实时 C++ 代码。