[論文レビュー] Physics-Informed Kriging: A Physics-Informed Gaussian Process Regression Method for Data-Model Convergence.

Xiu Yang, G. Tartakovsky+1 more|arXiv (Cornell University)|Sep 10, 2018

Gaussian Processes and Bayesian Inference参考文献 26被引用数 29

ひとこと要約

この論文では、支配する偏微分方程式の確率的実現から非定常な平均および共分散関数を構築する物理情報付きクリギング（PhIK）というガウス過程回帰手法を紹介する。PhIKはハイパーパrameter最適化の必要性を排除し、決定的線形作用素を用いて物理的制約を保証し、アクティブラーニングとマルチレベルモンテカルロサンプリングを活用して正確で効率的な予測を実現する。実験では変更版ブレイン関数とトレーサー分布再構築の応用で有効性が示された。

ABSTRACT

In this work, we propose a new Gaussian process regression (GPR) method: physics-informed Kriging (PhIK). In the standard data-driven Kriging, the unknown function of interest is usually treated as a Gaussian process with assumed stationary covariance with hyperparameters estimated from data. In PhIK, we compute the mean and covariance function from realizations of available stochastic models, e.g., from realizations of governing stochastic partial differential equations solutions. Such a constructed Gaussian process generally is non-stationary, and does not assume a specific form of the covariance function. Our approach avoids the costly optimization step in data-driven GPR methods to identify the hyperparameters. More importantly, we prove that the physical constraints in the form of a deterministic linear operator are guaranteed in the resulting prediction. We also provide an error estimate in preserving the physical constraints when errors are included in the stochastic model realizations. To reduce the computational cost of obtaining stochastic model realizations, we propose a multilevel Monte Carlo estimate of the mean and covariance functions. Further, we present an active learning algorithm that guides the selection of additional observation locations. The efficiency and accuracy of PhIK are demonstrated for reconstructing a partially known modified Branin function and learning a conservative tracer distribution from sparse concentration measurements.

研究の動機と目的

• 標準的なデータ駆動型クリギングの限界、すなわち定常共分散仮定に依存し、コストの高いハイパーパrameter最適化を必要とすることを是正すること。
• 決定的線形作用素として表現される物理的制約をガウス過程予測に直接埋め込み、予測が支配方程式と整合的であることを保証すること。
• 支配方程式の確率的モデル実現からのマルチレベルモンテカルロ推定を用いることで、平均および共分散関数の構築における計算コストを低減すること。
• 予測分散と物理的一致性に基づいて情報量の多い観測位置を選択するアクティブラーニング戦略を統合し、データ効率を向上させること。

提案手法

• 支配方程式の確率的解の実現から、非定常なガウス過程の平均および共分散関数を構築する。
• 決定的線形作用素を用いて物理的制約を直接予測に埋め込み、学習関数が基本的な物理法則を満たすことを保証する。
• 従来のハイパーパrameter最適化に代えて、共分散構造を物理的根拠に基づいて直接構築することで、反復的チューニングを回避する。
• マルチレベルモンテカルロサンプリングを用いて、確率的モデル実現からの平均および共分散関数の効率的推定を実施する。
• 予測分散と物理的一致性に基づいて新しい観測位置を選択するアクティブラーニング戦略を統合し、最小限のデータでモデル精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 定常共分散関数のハイパーパrameter最適化に依存せずに、物理情報付きガウス過程を構築できるか？
• RQ2 線形作用素として表現される物理的制約を、ガウス過程回帰モデルの予測でどのように保証できるか？
• RQ3 確率的モデル実現に含まれる誤差が、得られる予測における物理的制約の保持にどの程度影響を及えるか？
• RQ4 マルチレベルモンテカルロサンプリングは、ガウス過程における平均および共分散関数の構築にかかる計算コストを顕著に低減できるか？
• RQ5 アクティブラーニングは、データが乏しい状況下で収束性と精度を向上させる観測配置を効果的に誘導できるか？

主な発見

• PhIKは、確率的モデル実現からの共分散構造の直接構築により、ハイパーパrameter最適化の必要性を排除し、計算オーバーヘッドを低減する。
• 本手法は、決定的線形作用素によって定義される物理的制約が予測に満たされることを保証し、支配方程式と整合的であることを確保する。
• 誤差解析の結果、確率的モデル実現に誤差が含まれても物理的制約が保持され、正確な制約からの偏差が有界であることが示された。
• マルチレベルモンテカルロ推定は、標準的なモンテカルロ法と比較して、平均および共分散関数の計算コストを顕著に低減した。
• アクティブラーニングはデータ効率を向上させ、変更版ブレイン関数および保守的トレーサー分布の再構築において、少ない観測数で高精度な再構築を可能にした。