[论文解读] Unscented Kalman Inversion.

Daniel Zhengyu Huang, Tapio Schneider+1 more|arXiv (Cornell University)|Feb 2, 2021

Reservoir Engineering and Simulation Methods参考文献 90被引用 6

一句话总结

本文提出了无迹卡尔曼反演（UKI），一种用于求解黑箱前向模型逆问题的无导数方法。通过利用无迹变换近似参数分布，UKI克服了扩展卡尔曼反演在不可微设置下的局限性，并在计算成本较高的中等维参数空间中优于集合卡尔曼反演。

ABSTRACT

A useful approach to solve inverse problems is to pair the parameter-to-data map with a stochastic dynamical system for the parameter, and then employ techniques from filtering to estimate the parameter given the data. Three classical approaches to filtering of nonlinear systems are the extended, ensemble and unscented Kalman filters. The extended Kalman inversion (ExKI) is impractical when the forward map is not readily differentiable and given as a black box, and also for high dimensional parameter spaces because of the need to propagate large covariance matrices. Ensemble Kalman inversion (EKI) has emerged as a useful tool which overcomes both of these issues: it is derivative free and works with a low-rank covariance approximation formed from the ensemble. In this paper, we demonstrate that unscented Kalman methods also provide an effective tool for derivative-free inversion in the setting of black-box forward models, introducing unscented Kalman inversion (UKI). Theoretical analysis is provided for linear inverse problems, and a smoothing property of the data mis-fit under the unscented transform is explained. We provide numerical experiments, including various applications: learning subsurface flow permeability parameters; learning the structure damage field; learning the Navier-Stokes initial condition; and learning subgrid-scale parameters in a general circulation model. The theory and experiments show that the UKI outperforms the EKI on parameter learning problems with moderate numbers of parameters and outperforms the ExKI on problems where the forward model is not readily differentiable, or where the derivative is very sensitive. In particular, UKI based methods are of particular value for parameter estimation problems in which the number of parameters is moderate but the forward model is expensive and provided as a black box which is impractical to differentiate.

研究动机与目标

• 解决扩展卡尔曼反演（ExKI）在不可微和高维参数空间中的局限性。
• 开发ExKI的无导数替代方法，在无需梯度信息的情况下保持精度。
• 在中等维参数空间的反问题中，提升参数估计性能，优于集合卡尔曼反演（EKI）。
• 为涉及计算成本高、黑箱前向模型的逆问题，提供理论基础扎实且数值鲁棒的方法。
• 在多种应用中展示UKI的有效性，包括地下水流、结构损伤、流体动力学和气候建模。

提出的方法

• UKI利用无迹变换生成捕捉参数分布均值和协方差的sigma点，避免了对解析雅可比矩阵的需求。
• 该方法将这些sigma点通过前向模型传播，以计算预测数据分布，从而实现高效的参数更新。
• UKI采用平方根无迹卡尔曼滤波框架，以保持数值稳定性并避免协方差矩阵求逆问题。
• 该算法通过基于数据残差和无迹变换统计量的卡尔曼式校正，迭代更新参数集合。
• 对无迹变换下数据残差的平滑性质进行了理论分析，以解释线性逆问题中收敛行为的合理性。
• 该方法被应用于合成问题和真实世界问题，包括纳维-斯托克斯方程初始条件恢复，以及气候模型中亚格子尺度参数的学习。

实验结果

研究问题

• RQ1 无迹变换能否有效适配于前向模型为黑箱且不可微的逆问题？
• RQ2 在中等维参数估计中，UKI与EKF相比在收敛速度和精度方面表现如何？
• RQ3 在前向模型导数不可用或高度敏感的情况下，UKI是否优于ExKI？
• RQ4 UKI在线性逆问题中表现优异的理论基础是什么，例如数据残差的平滑效应？
• RQ5 在哪些实际应用中，UKI相较于现有基于滤波的反演方法展现出更优的鲁棒性和效率？

主要发现

• 在参数数量适中且前向模型计算成本较高的参数学习问题中，UKI优于EKF。
• 在前向模型不易求导或导数数值不稳定的反问题中，UKI的收敛精度优于ExKI。
• 理论分析证实，由于无迹变换的存在，数据残差具有平滑效应，从而促进稳定且鲁棒的优化。
• 数值实验表明，UKI成功实现了对地下水流渗透率、结构损伤场、纳维-斯托克斯方程初始条件，以及通用环流模型中亚格子尺度参数的学习。
• 在高维但参数数量适中的场景中，UKI表现更优，此时EKF的低秩近似效果下降，而ExKI因导数不可及而失效。
• 该方法在涉及计算成本高、黑箱前向模型的实际应用中尤为有价值，因为此时导数计算不切实际。