[論文レビュー] Unscented Kalman Inversion.

Daniel Zhengyu Huang, Tapio Schneider+1 more|arXiv (Cornell University)|Feb 2, 2021

Reservoir Engineering and Simulation Methods参考文献 90被引用数 6

ひとこと要約

この論文では、ブラックボックス型の前向きモデルを用いた逆問題を解くための導関数フリーな手法であるアンサンブルカルマン逆問題（UKI）を紹介する。アンサンブル変換を用いてパラメータ分布を近似することで、微分不能な設定下での拡張カルマン逆問題（ExKI）の限界を克服し、計算コストの高い前向きモデルを有する中程度次元のパラメータ空間において、アンサンブルカルマン逆問題（EKI）を上回る性能を発揮する。

ABSTRACT

A useful approach to solve inverse problems is to pair the parameter-to-data map with a stochastic dynamical system for the parameter, and then employ techniques from filtering to estimate the parameter given the data. Three classical approaches to filtering of nonlinear systems are the extended, ensemble and unscented Kalman filters. The extended Kalman inversion (ExKI) is impractical when the forward map is not readily differentiable and given as a black box, and also for high dimensional parameter spaces because of the need to propagate large covariance matrices. Ensemble Kalman inversion (EKI) has emerged as a useful tool which overcomes both of these issues: it is derivative free and works with a low-rank covariance approximation formed from the ensemble. In this paper, we demonstrate that unscented Kalman methods also provide an effective tool for derivative-free inversion in the setting of black-box forward models, introducing unscented Kalman inversion (UKI). Theoretical analysis is provided for linear inverse problems, and a smoothing property of the data mis-fit under the unscented transform is explained. We provide numerical experiments, including various applications: learning subsurface flow permeability parameters; learning the structure damage field; learning the Navier-Stokes initial condition; and learning subgrid-scale parameters in a general circulation model. The theory and experiments show that the UKI outperforms the EKI on parameter learning problems with moderate numbers of parameters and outperforms the ExKI on problems where the forward model is not readily differentiable, or where the derivative is very sensitive. In particular, UKI based methods are of particular value for parameter estimation problems in which the number of parameters is moderate but the forward model is expensive and provided as a black box which is impractical to differentiate.

研究の動機と目的

• 微分不能で高次元なパラメータ空間における拡張カルマン逆問題（ExKI）の限界を解消すること。
• 勾配情報が不要な、ExKI の導関数フリーな代替手法を確立し、精度を維持すること。
• 中程度次元のパラメータ空間におけるパラメータ推定性能を、アンサンブルカルマン逆問題（EKI）を上回ること。
• 計算コストの高いブラックボックス型前向きモデルを伴う逆問題に対して、理論的裏付けと数値的安定性を備えた手法を提供すること。
• UKIの有効性を、地下水流、構造的損傷、流体動力学、気候モデルなど多様な応用分野において実証すること。

提案手法

• UKI はアンサンブル変換を用いて、パラメータ分布の平均と分散を捉えるシグマ点を生成し、解析的ヤコビ行列の必要性を回避する。
• これらのシグマ点を前向きモデルに通して予測されたデータ分布を計算し、効率的なパラメータ更新を可能にする。
• 数値的安定性を確保し、共分散行列の逆行列計算の問題を回避するため、平方根アンサンブルカルマンフィルタフレームワークを採用する。
• データ誤差とアンサンブル変換統計に基づくカルマン型補正を用いて、反復的にパラメータアンサンブルを更新する。
• 線形逆問題における収束挙動の裏付けとして、アンサンブル変換下でのデータ誤差の滑らかさに関する理論的分析を実施する。
• 合成的および実世界の問題に適用し、ナビエ-ストークス初期条件の回復や気候モデルにおけるサブグリッドスケールパラメータの学習を含む。

実験結果

リサーチクエスチョン

• RQ1 前向きモデルがブラックボックスであり微分不能な逆問題において、アンサンブル変換を効果的に適応可能か？
• RQ2 中程度次元のパラメータ推定において、UKI と EKI の収束速度および精度の違いは何か？
• RQ3 前向きモデルの導関数が入手不能または非常に感度が高い状況下で、UKI は ExKI を上回るか？
• RQ4 線形逆問題における UKI の性能を裏付ける理論的性質（例：データ誤差の滑らかさ）は何か？
• RQ5 既存のフィルタリングベースの逆問題手法と比較して、実用的応用において UKI が優れたロバスト性と効率性を示す分野は何か？

主な発見

• 前向きモデルの計算コストが高い中で、中程度のパラメータ数を有するパラメータ学習問題において、UKI は EKI を上回る性能を発揮する。
• 前向きモデルが容易に微分できない、もしくは数値的に不安定な導関数を有する問題において、UKI は ExKI よりも高い収束精度を達成する。
• 理論的分析により、アンサンブル変換によってデータ誤差に滑らかさが生じることを確認し、安定的かつロバストな最適化に寄与することが分かった。
• 数値実験では、UKI が地下水流の透水率、構造的損傷領域、ナビエ-ストークス初期条件、一般循環モデルにおけるサブグリッドスケールパラメータの学習に成功している。
• EKI の低ランク近似が効果を失う高次元だがパラメータ数が中程度の設定において、UKI は EKI より優れた性能を示す。また、ExKI が導関数のアクセス不能性により失敗する状況でも、UKI は有効に機能する。
• 導関数の計算が非現実的である実世界の応用において、UKI は特に価値がある。