[论文解读] Stochastic Analysis Seminar on Filtering Theory

Andrew C. Papanicolaou|arXiv (Cornell University)|Jun 7, 2014

Water Systems and Optimization被引用 4

一句话总结

本文对非线性滤波理论提供了全面的理论与计算综述，重点聚焦于隐马尔可夫模型、Zakai方程与Kushner-Stratonovich方程，以及粒子滤波和马尔可夫链近似等数值方法。研究建立了有限状态滤波的关键稳定性与遍历性结果，包括李雅普诺夫指数的界，以及概率单纯形空间中欧氏距离与夹角正弦之间的关系。

ABSTRACT

These notes were originally written for the Stochastic Analysis Seminar in the Department of Operations Research and Financial Engineering at Princeton University, in February of 2011. The seminar was attended and supported by members of the Research Training Group, with the author being partially supported by NSF grant DMS-0739195.

研究动机与目标

• 为连续时间和离散时间设置下的非线性滤波提供统一的理论框架。
• 分析有限状态隐马尔可夫模型滤波器的稳定性、遍历性与收敛性特征。
• 推导并证明数值近似方法（包括粒子滤波与马尔可夫链近似）的合理性，以实现实际应用。
• 将滤波理论与金融应用相联系，特别是随机波动率与VIX指数。
• 利用李雅普诺夫指数与概率单纯形空间中的几何关系，建立滤波性能的严格界。

提出的方法

• 使用Zakai方程描述给定噪声观测下信号的非归一化条件分布。
• 将Zakai方程的归一化版本导出为Kushner-Stratonovich方程，以实现最优均方估计。
• 应用创新方法，将滤波问题重新表述为具有独立增量的布朗运动形式。
• 采用序贯重要性采样（SIS）与重要性重采样（SIR）实现非线性系统中的粒子滤波。
• 利用马尔可夫链近似方法对连续时间SDE进行离散化，并通过有限状态链近似滤波器。
• 应用Perron-Frobenius定理与Oseledec定理，通过李雅普诺夫指数分析滤波器的长期行为与稳定性。

实验结果

研究问题

• RQ1 在存在噪声和部分观测的情况下，如何最优估计隐马尔可夫过程的后验分布？
• RQ2 非线性滤波在何种条件下能够实现收敛并保持时间上的稳定性？
• RQ3 李雅普诺夫指数如何刻画有限状态滤波器中收敛速率与初始条件敏感性的特征？
• RQ4 后验分布之间欧氏距离与夹角正弦之间的几何与概率界是什么？
• RQ5 如何系统性地应用粒子滤波与马尔可夫链近似方法，以近似求解Zakai方程？

主要发现

• 滤波器的稳定性由李雅普诺夫指数决定，估计误差衰减速率的下界为 $ c \\-2\min_{i\neq j}\sqrt{\Lambda_{ij}\Lambda_{ji}} $。
• 在低噪声模型中，渐近误差 $ \gamma^2\mathcal{E}_{\gamma} $ 的界位于 $ -\frac{1}{2}\sum_{i=1}^{d}\mu_{i}\min_{i\neq j}(h(x_i)-h(x_j))^2 $ 与 $ -\frac{1}{2}\sum_{i=1}^{d}\mu_{i}\sum_{j=1}^{d}(h(x_i)-h(x_j))^2 $ 之间。
• 滤波过程 $ (X_n, \pi_n) $ 是遍历的，并存在唯一的不变测度 $ \mathcal{M} $，确保经验平均值长期收敛至 $ \mathcal{M} $ 下的期望。
• 在 $ \mathbb{R}^d $ 中，两个概率向量之间的欧氏距离 $ \|a-b\| $ 满足 $ \frac{1}{\sqrt{d}}|\sin(a,b)| \leq \|a-b\| \leq \sqrt{d}|\sin(a,b)| $，建立了距离与夹角分离之间的几何关系。
• 在弱收敛与正则性条件下，采用SIR重采样的粒子滤波可实现对真实滤波器的一致近似。
• 在满足线性高斯假设时，卡尔曼-布齐滤波器可作为非线性滤波的特例推导得出，从而提供闭式解。