[論文レビュー] Localization in Ensemble Kalman inversion

Xin T. Tong, Matthias Morzfeld|arXiv (Cornell University)|Jan 26, 2022

Image and Signal Denoising Methods被引用数 4

ひとこと要約

本稿では、局所化を適用することで従来のEKFの部分空間性を破る、局所化されたアンサンブルカルマンインバージョン（LEKI）を導入する。著者らは、LEKIが制限された仮定のもとで、グローバルミニマにサブラインアー速度で収束し、均一なデータ不適合性の減少を保証することを証明しており、微分計算を伴わずに大規模な逆問題を効率的に解けることを示している。

ABSTRACT

Ensemble Kalman inversion (EKI) is a technique for the numerical solution of inverse problems. A great advantage of the EKI's ensemble approach is that derivatives are not required in its implementation. But theoretically speaking, EKI's ensemble size needs to surpass the dimension of the problem. This is because of EKI's "subspace property", i.e., that the EKI solution is a linear combination of the initial ensemble it starts off with. We show that the ensemble can break out of this initial subspace when "localization" is applied. In essence, localization enforces an assumed correlation structure onto the problem, and is heavily used in ensemble Kalman filtering and data assimilation. We describe and analyze how to apply localization to the EKI, and how localization helps the EKI ensemble break out of the initial subspace. Specifically, we show that the localized EKI (LEKI) ensemble will collapse to a single point (as intended) and that the LEKI ensemble mean will converge to the global optimum at a sublinear rate. Under strict assumptions on the localization procedure and observation process, we further show that the data misfit decays uniformly. We illustrate our ideas and theoretical developments with numerical examples with simplified toy problems, a Lorenz model, and an inversion of electromagnetic data, where some of our mathematical assumptions may only be approximately valid.

研究の動機と目的

• アンサンブルのすべてのメンバーが初期アンサンブルが張る部分空間に制限されるEKFの根本的制限を解消すること。
• データ同化で一般的に用いられる局所化をEKFに適用する数学的に厳密な枠組みを構築し、この部分空間制約を克服すること。
• 局所化EKF（LEKI）アンサンブルが単一の点に収束し、損失関数のグローバルミニマにサブラインアー速度で収束することを証明すること。
• LEKIにおいてすべての成分でデータ不適合性が均一に減少する条件を確立すること。
• トライアル問題、Lorenzモデル、電磁気的データインバージョンの数値実験を通じて理論的発見を検証すること。

提案手法

• 空間的相関の減衰を強制することで、アンサンブル共分散行列を変更する局所化演算子を導入し、誤った相関を低減し、有効なランクを向上させる。
• 標準的なEKF更新則を、局所化された共分散行列を組み込むことで修正し、アンサンブルが初期部分空間外の方向を探索できるようにする。
• サンプル共分散に局所化関数を適用する局所化EKF（LEKI）アルゴリズムを定義し、アンサンブルが初期線形スパンから脱出できるように保証する。
• 連続時間近似とリャプノフ型の議論を用いて、LEKIアンサンブル平均の収束を分析し、サブラインアー収束速度を導出する。
• 局所化および観測モデルに関する厳密な仮定のもとで、損失関数の進化に関する境界を用いて、データ不適合性の均一な減少を確立する。
• 確率過程およびマルコフ連鎖の議論を用いて、特に最小値への到達時間の期待値を分析し、局所化されたアンサンブルの挙動を検討する。

実験結果

リサーチクエスチョン

• RQ1 アンサンブル共分散における局所化は、EKFの部分空間性を破り、アンサンブルが初期低次元部分空間から脱出可能にするか？
• RQ2 LEKIアンサンブル平均が損失関数のグローバルミニマに到達する際、保証可能な収束速度は何か？
• RQ3 LEKIフレームワークにおいて、すべての成分でデータ不適合性が均一に減少する条件は何か？
• RQ4 局所化された共分散構造は、LEKIアンサンブルが単一の点に収束するのをどのように影響するか？
• RQ5 アンサンブルベースの逆問題手法における局所化の経験的成功を裏付ける数学的根拠は何か？

主な発見

• LEKIアンサンブルは指定された速度で単一の点に収束し、一意な解への収束を保証する。
• LEKIアンサンブル平均は、損失関数のグローバルミニマにサブラインアー速度で収束する。具体的には、あるc>0に対してO((t+1)^{-c})の速度である。
• 局所化および観測プロセスに関する厳密な仮定のもとで、すべての成分でデータ不適合性が均一に減少し、その減少速度はO((t+1)^{-2c})で有界である。
• 理論的分析により、局所化がアンサンブル共分散の有効ランクを向上させ、初期部分空間からの脱出を可能にすることが確認された。
• トライアル問題、Lorenz系、電磁気的データインバージョンにおける数値実験により、仮定が近似的にしか満たされていなくても、LEKIの実用的妥当性が示された。
• 収束および収束結果は、連続時間近似とグローバル型不等式を用いて確立され、損失関数およびアンサンブル分散の進化に関する厳密な境界が得られた。