[论文解读] Mean-field limit and numerical analysis for Ensemble Kalman Inversion: linear setting

Zhiyan Ding, Li Qin|arXiv (Cornell University)|Aug 15, 2019

Statistical Mechanics and Entropy被引用 4

一句话总结

该论文在线性设定下建立了连续时间集合卡尔曼逆向（EKI）的平均场极限，证明了当粒子数量趋于无穷时，底层随机微分方程（SDE）系统的解在有限时间内以Wasserstein距离收敛到真实的后验分布。该分析首次为EKI在平均场范式下的收敛性提供了严格的保证。

ABSTRACT

Ensemble Kalman inversion (EKI) is a method introduced in [14] to find samples from the target posterior distribution in the Bayesian formulation. As a deviation from Ensemble Kalman filter [6], it introduces a pseudo-time along which the particles sampled from the prior distribution are pushed to fit the profile of the posterior distribution. To today, however, the thorough analysis on EKI is still unavailable. In this article, we analyze the continuous version of EKI, a coupled SDE system, and prove the solution to this SDE system convergences, as the number of particles goes to infinity, to the target posterior distribution in Wasserstein distance in finite time.

研究动机与目标

• 对线性贝叶斯反问题设定下的连续时间集合卡尔曼逆向（EKI）公式进行严格分析。
• 在粒子数量趋于无穷时，建立EKI粒子系统收敛到真实后验分布的结论。
• 通过随机微分方程证明收敛性，为EKI提供理论基础。
• 弥合EKI理论理解上的空白，尽管其广泛应用，但此前缺乏全面分析。

提出的方法

• 将EKI建模为一组耦合的随机微分方程（SDE），以描述粒子在伪时间上的演化。
• 运用概率论和SDE分析的工具，研究混沌传播与平均场极限。
• 在Wasserstein距离度量下分析粒子系统向目标后验分布的收敛性。
• 分析聚焦于线性设定，简化动力学同时保持EKI的核心结构。
• 在有限时间内证明理论收敛性，确立EKI在平均场范式下的有效性。
• 论文利用连续时间公式推导粒子经验测度的极限行为。

实验结果

研究问题

• RQ1 连续时间EKI系统在平均场极限下是否收敛到真实后验分布？
• RQ2 粒子系统在有限时间内向后验分布收敛的速率或性质是什么？
• RQ3 在设定下，EKI的SDE公式与底层贝叶斯后验分布有何关系？
• RQ4 能否在连续时间框架下严格建立EKI的混沌传播？
• RQ5 在平均场极限下，EKI是否能在有限时间内实现Wasserstein距离下的收敛？

主要发现

• 随着粒子数量趋于无穷，连续EKI SDE系统的解在有限时间内收敛到目标后验分布。
• 收敛性在Wasserstein距离下建立，为近似精度提供了强有力的概率保证。
• 在反问题的线性设定下，EKI的平均场极限得到了严格证明。
• 收敛性无需粒子数量随时间增长，与某些粒子方法不同。
• 该结果证实了EKI在连续时间、无限粒子情形下的理论合理性。
• 该分析为理解有限粒子数下EKI实际实现中的行为提供了理论基础。