[论文解读] On the Incorporation of Box-Constraints for Ensemble Kalman Inversion

Neil K. Chada, Claudia Schillings+1 more|arXiv (Cornell University)|Aug 2, 2019

Gaussian Processes and Bayesian Inference参考文献 35被引用 4

一句话总结

本文提出一种带盒约束的投影集合卡尔曼逆方法（pEnKF），以确保在求解逆问题过程中参数估计始终处于可行范围内。通过将方差膨胀整合到投影预处理梯度流框架中，该方法确保收敛至真实解，克服了朴素投影在非线性环境下无法保持正确下降方向的缺陷。

ABSTRACT

The Bayesian approach to inverse problems is widely used in practice to infer unknown parameters from noisy observations. In this framework, the ensemble Kalman inversion has been successfully applied for the quantification of uncertainties in various areas of applications. In recent years, a complete analysis of the method has been developed for linear inverse problems adopting an optimization viewpoint. However, many applications require the incorporation of additional constraints on the parameters, e.g. arising due to physical constraints. We propose a new variant of the ensemble Kalman inversion to include box constraints on the unknown parameters motivated by the theory of projected preconditioned gradient flows. Based on the continuous time limit of the constrained ensemble Kalman inversion, we discuss a complete convergence analysis for linear forward problems. We adopt techniques from filtering which are crucial in order to improve the performance and establish a correct descent, such as variance inflation. These benefits are highlighted through a number of numerical examples on various inverse problems based on partial differential equations.

研究动机与目标

• 为解决标准集合卡尔曼逆（EnKF）中缺乏约束处理的问题，后者可能导致不可行的参数估计。
• 开发一种理论基础扎实的方法，在线性逆问题中强制执行盒约束的同时保持收敛性。
• 证明朴素投影无法确保正确下降，且方差膨胀对于收敛至关重要。
• 将分析扩展至连续时间极限，并为投影EnKF提供收敛性框架。
• 将该方法推广至集合平方根滤波器（ESRF）和层次化逆问题。

提出的方法

• 将EnKF重新表述为最小二乘不适配泛函的无导数优化器，从而通过优化理论重新解释其机制。
• 采用受Bertsekas等人启发的投影预处理梯度流方法，在每一步迭代后将参数更新投影到可行盒集上。
• 通过加法修正 $ \vartheta C_0 $ 将方差膨胀引入预处理器，以稳定下降方向并防止停滞。
• 推导约束EnKF的连续时间极限，得到一个右端具有不连续性的常微分方程（ODE），随后采用光滑障碍法进行分析。
• 利用集合协方差 $ C(u) $ 和模型雅可比矩阵 $ D\mathcal{G}(\bar{u}) $ 近似交叉协方差 $ C^{up}(u) $，其中方差膨胀形式为 $ (C(u) + \vartheta C_0)D\mathcal{G}(\bar{u})^\top $。
• 通过解的存在性/唯一性、集合展布收敛与残差衰减分析收敛性，并通过基于PDE的逆问题数值实验加以验证。

实验结果

研究问题

• RQ1 带盒约束的投影EnKF能否收敛至线性逆问题的真实解？
• RQ2 为何EnKF迭代的朴素投影无法确保下降方向？何种机制可恢复收敛性？
• RQ3 预处理器中的方差膨胀如何影响投影EnKF的收敛行为？
• RQ4 尽管动力学存在不连续性，能否对约束EnKF的连续时间极限进行严格分析？
• RQ5 所提方法在多大程度上可推广至确定性集合平方根滤波器（ESRF）和层次化逆问题？

主要发现

• 对EnKF迭代进行朴素投影至可行盒集无法确保收敛，因其可能无法产生正确的下降方向。
• 预处理器中的方差膨胀对于恢复正确下降方向并实现全局最小化收敛至关重要。
• 在数值实验中，所提出的带方差膨胀的变换EnKF持续降低不适配泛函，而投影EnKF与标准EnKF则出现停滞。
• 所有方法中集合展布均收敛至零，但变换EnKF在残差减少方面表现更优。
• 通过光滑障碍公式，为连续时间极限建立了收敛性分析，确保了解的存在性与唯一性。
• 该方法可推广至ESRF，并适用于超参数受均匀先验约束的层次化逆问题。