[論文レビュー] On the Incorporation of Box-Constraints for Ensemble Kalman Inversion

Neil K. Chada, Claudia Schillings+1 more|arXiv (Cornell University)|Aug 2, 2019

Gaussian Processes and Bayesian Inference参考文献 35被引用数 4

ひとこと要約

本稿では、逆問題の解法中にパラメータ推定値が妥当な範囲内に保たれるようにボックス制約を組み込んだ、射影型アンサンブルカルマン逆問題（pEnKF）手法を提案する。変動拡張を射影された事前条件付き勾配勾配フレームワークに組み込むことで、非線形設定下でも真の解への収束を保証する。これは、単純な射影では非線形設定下で適切な降下方向を維持できないという失敗を克服する。

ABSTRACT

The Bayesian approach to inverse problems is widely used in practice to infer unknown parameters from noisy observations. In this framework, the ensemble Kalman inversion has been successfully applied for the quantification of uncertainties in various areas of applications. In recent years, a complete analysis of the method has been developed for linear inverse problems adopting an optimization viewpoint. However, many applications require the incorporation of additional constraints on the parameters, e.g. arising due to physical constraints. We propose a new variant of the ensemble Kalman inversion to include box constraints on the unknown parameters motivated by the theory of projected preconditioned gradient flows. Based on the continuous time limit of the constrained ensemble Kalman inversion, we discuss a complete convergence analysis for linear forward problems. We adopt techniques from filtering which are crucial in order to improve the performance and establish a correct descent, such as variance inflation. These benefits are highlighted through a number of numerical examples on various inverse problems based on partial differential equations.

研究の動機と目的

• 標準アンサンブルカルマン逆問題（EnKF）における制約処理の欠如により、妥当でないパラメータ推定値が生じる問題に対処すること。
• 線形逆問題においてボックス制約を強制しながら収束性を保つ理論的裏付けのある手法を開発すること。
• 単純な射影が適切な降下を保証しない理由を示し、変動拡張が収束を回復させる仕組みであることを示すこと。
• 連続時間極限への一般化を行い、射影EnKFの収束フレームワークを提供すること。
• アンサンブル平方根フィルタ（ESRF）および階層的逆問題への応用への一般化を図ること。

提案手法

• 最小二乗誤差関数の最適化器としてEnKFを再解釈し、微分フリーな最適化理論に基づく再定式化を実施する。
• ベルツェカスらの研究にインspiredされた、各ステップ後にパラメータ更新を許容領域のボックス集合に射影する、射影された事前条件付き勾配勾配法を採用する。
• 事前条件子に変動拡張（加法的補正 $ \vartheta C_0 $）を導入することで、降下方向の安定化と停滞の防止を実現する。
• 制約付きEnKFの連続時間極限を、右辺が不連続な常微分方程式（ODE）として導出し、解析には滑らかなバリア関数法を用いる。
• アンサンブル共分散 $ C(u) $ とモデルヤコビアン $ D\mathcal{G}(\bar{u}) $ を用いて、共分散 $ C^{up}(u) $ を近似し、変動拡張を $ (C(u) + \vartheta C_0)D\mathcal{G}(\bar{u})^\top $ の形で適用する。
• 存在・一意性、アンサンブル分散の収縮、残差の減少を用いた収束解析を行い、PDEに基づく逆問題における数値実験で検証する。

実験結果

リサーチクエスチョン

• RQ1 ボックス制約付きの射影EnKFは、線形逆問題の真の解に収束するか？
• RQ2 EnKF反復の単純な射影が降下を保証しない理由は何か？ そして、収束を回復させるメカニズムは何か？
• RQ3 事前条件子における変動拡張は、射影EnKFの収束行動にどのように影響を与えるか？
• RQ4 動的挙動に不連続性があるにもかかわらず、制約付きEnKFの連続時間極限を厳密に解析可能か？
• RQ5 提案手法は、決定的アンサンブル平方根フィルタ（ESRF）および階層的逆問題へどの程度一般化可能か？

主な発見

• パラメータ推定値を許容領域のボックス集合に単純に射影する方法では、適切な降下方向が得られないため収束を保証できない。
• 事前条件子における変動拡張が、適切な降下方向を回復させ、グローバル最小値への収束を可能にする。
• 変動拡張を施した変換済みEnKFは、数値実験で誤差関数が継続的に減少するが、射影EnKFおよび標準EnKFは停滞を示す。
• すべての手法でアンサンブル分散がゼロに収縮するが、変換済みEnKFは残差低減において優れた収束を維持する。
• 滑らかなバリア関数による定式化により、連続時間極限における解の存在・一意性が保証され、収束解析が確立される。
• 本手法はESRFへ一般化可能であり、一様事前分布で制約されるハイパーパrameterを含む階層的逆問題へも適用可能である。