[論文レビュー] Physics-Informed Machine Learning with Conditional Karhunen-Loève Expansions

Alexandre M. Tartakovsky, David A. Barajas‐Solano+1 more|arXiv (Cornell University)|Dec 4, 2019

Model Reduction and Neural Networks参考文献 45被引用数 4

ひとこと要約

この論文では、希な測定値から空間的に不均一なパラメータと状態を再構成するために、条件付きカーフェン・ロイヴェ展開（cKLE）を用いる物理的制約付き機械学習手法PICKLEを提案する。観測値を条件付け、PDEの残差ノルムを最小化することで、特に不連続で粗い場において、MAPやPINN手法を上回る高い精度を達成する。

ABSTRACT

We present a new physics-informed machine learning approach for the inversion of PDE models with heterogeneous parameters. In our approach, the space-dependent partially-observed parameters and states are approximated via Karhunen-Loève expansions (KLEs). Each of these KLEs is then conditioned on their corresponding measurements, resulting in low-dimensional models of the parameters and states that resolve observed data. Finally, the coefficients of the KLEs are estimated by minimizing the norm of the residual of the PDE model evaluated at a finite set of points in the computational domain, ensuring that the reconstructed parameters and states are consistent with both the observations and the PDE model to an arbitrary level of accuracy. In our approach, KLEs are constructed using the eigendecomposition of covariance models of spatial variability. For the model parameters, we employ a parameterized covariance model calibrated on parameter observations; for the model states, the covariance is estimated from a number of forward simulations of the PDE model corresponding to realizations of the parameters drawn from their KLE. We apply the proposed approach to identifying heterogeneous log-diffusion coefficients in diffusion equations from spatially sparse measurements of the log-diffusion coefficient and the solution of the diffusion equation. We find that the proposed approach compares favorably against state-of-the-art point estimates such as maximum a posteriori estimation and physics-informed neural networks.

研究の動機と目的

• 希でノイズの多い測定値からPDEモデルにおける空間依存パラメータと状態の逆問題を解くこと。
• 低次元でデータに整合するパrameter化によって、PDE制約付き逆問題の不適切さを克服すること。
• 観測データと基礎となるPDEモデルの両方に任意の精度で整合する手法を開発すること。
• 不連続性を含む複雑な空間変動を示す場の再構成において、MAP や物理的制約付きニューラルネットワーク（PINN）などの既存手法を改善すること。
• ガウス分布でない場の統計的分布にかかわらず、パラメータと状態のロバストな推定を可能にすること、特に非ガウス分布の場に対しても。

提案手法

• 共分散作用素から導かれる固有関数の重み付き和としてランダム場を表現するカルフエン・ロイヴェ展開（KLE）を用いて、空間的に不均一なパラメータと状態を近似する。
• 条件付きガウス過程を用いてKLEを測定値で条件付け、観測データを正確に満たすcKLEを導出する。
• パラメータの共分散モデルを、観測されたパラメータデータにキャリブレーションされたパラメトリックカーネル（例：マテルン）を用いて構築する。
• cKLE表現からサンプリングされたパラメータの実現に基づく前向きPDEシミュレーションを用いて、状態の共分散を推定する。
• 有限個のコロケーション点におけるPDEの残差のL2ノルムを最小化することで、cKLE係数を最適化し、PDEの整合性を強制する。
• 観測誤差共分散で重み付けされたデータ不適合項とPDE残差最小化を組み合わせた正則化最適化フレームワークを用いる。

実験結果

リサーチクエスチョン

• RQ1 標準的なMAP推定と比較して、cKLEに基づくパラメータ化は、希でノイズの多い測定値を用いたPDE逆問題の再構成精度を向上させるか？
• RQ2 PICKLE手法は、ガウス仮定を破る不連続または粗い空間場を再構成する際に、どのように性能を発揮するか？
• RQ3 限られたデータにおいて、cKLE表現は、深層ニューラルネットワーク（例：PINN）に比べて、空間相関のある場をどれほど効果的に捉えるか？
• RQ4 PICKLEの精度は、パラメータおよび状態の測定値の質と数にどれほど依存するか？
• RQ5 元の場がガウス分布でない場合でも、cKLEは不連続な拡散係数や有界領域の解のような非ガウス分布の場を効果的にモデル化できるか？

主な発見

• 不連続な対数拡散係数の推定において、PICKLEは相対的ℓ₁誤差を0.179に低減し、MAP推定の0.380よりも2倍以上低い。
• 連続的で粗い対数拡散場において、PICKLEは最大事後確率（MAP）推定と物理的制約付きニューラルネットワーク（PINN）の両方を上回る高い精度を達成した。
• ガウス仮定を必要とせず、不連続な伝導度場や有界領域の解を含む非ガウス統計の場を、成功裏に再構成した。
• PICKLEの精度は、推定されたパラメータ共分散の忠実度に依存しており、測定値が増えるほど向上する。
• 類似したシステムからのパラメータ共分散を推定することで、類似した空間変動を示すドメイン間での一般化が可能となる。
• データが限られる状況において、cKLEはニューラルネットワークに比べて、物理的整合性と構造的特徴を内蔵しているため、空間場の低次元表現としてより効果的である。