[論文レビュー] Probabilistic Numerical Methods for Partial Differential Equations and Bayesian Inverse Problems

Jon Cockayne, Chris J. Oates+2 more|arXiv (Cornell University)|May 25, 2016

Gaussian Processes and Bayesian Inference被引用数 4

ひとこと要約

本稿では、離散化誤差を認識的不確実性として扱い、解の確率分布として表現することで、偏微分方程式（PDE）を確率的数値的手法で解く方法を提案する。この手法により、統計的推論に不確実性を伝播させることで、粗いメッシュでも堅牢なベイズ逆問題を実現し、PDEソルバの選択を推定誤差を最小化するベイズ実験設計問題として定式化する。

ABSTRACT

This paper develops a probabilistic numerical method for solution of partial differential equations (PDEs) and studies application of that method to PDE-constrained inverse problems. This approach enables the solution of challenging inverse problems whilst accounting, in a statistically principled way, for the impact of discretisation error due to numerical solution of the PDE. In particular, the approach confers robustness to failure of the numerical PDE solver, with statistical inferences driven to be more conservative in the presence of substantial discretisation error. Going further, the problem of choosing a PDE solver is cast as a problem in the Bayesian design of experiments, where the aim is to minimise the impact of solver error on statistical inferences; here the challenge of non-linear PDEs is also considered. The method is applied to parameter inference problems in which discretisation error in non-negligible and must be accounted for in order to reach conclusions that are statistically valid.

研究の動機と目的

• 古典的手法がPDEの完全な解を仮定するが、PDE制約付き逆問題における離散化誤差の課題に取り組む。
• 数値解法の誤差を認識的不確実性として扱う統計的フレームワークを構築し、後続の推論における不確実性評価を可能にする。
• 特に離散化誤差が無視できない場合に、パラメータ推定におけるソルバ誤差を考慮することで、逆問題の結果の統計的妥当性を保証する。
• 推定の堅牢性を向上させるために、PDEソルバの選択をベイズ実験設計問題として再定式化する。
• 有界な離散化誤差を伴う確率的PDEソルバを用いた場合の、逆問題における事後分布の収束に関する理論的保証を提供する。

提案手法

• 離散化に起因する認識的不確実性を符号化する解の確率分布を出力する確率的数値手法（PNM）を構築する。
• 再生成核ヒルベルト空間（RKHS）上の事前分布を用いてPDE解を確率変数としてモデル化し、滑らかさと正則性の仮定を組み込む。
• ランダム化された基底を用いたガラーキン法による有限次元近似を用い、解係数に関する事後分布を導出する。
• ベイズ逆問題における尤度関数を通じて得られる不確実性を、パrameter事後分布への一貫した不確実性伝播に活用する。
• 濃縮不等式と行列ノルムの境界を用いて、真の対数事後分布と近似対数事後分布の差の誤差境界を導出する。
• PDEソルバ選択をベイズ実験設計問題として定式化し、期待情報ゲインを最小化することで、推定誤差の影響を低減する。

実験結果

リサーチクエスチョン

• RQ1 PDEのための確率的数値手法は、逆問題における離散化誤差を統計的に根拠ある方法で評価・伝播できるか？
• RQ2 PDEが粗いメッシュで解かれる場合、PNMの使用がベイズ推論の堅牢性と妥当性にどのように影響するか？
• RQ3 PDEソルバの選択をベイズ実験設計問題として最適化することで、逆問題の結果における不確実性をどの程度低減できるか？
• RQ4 有界な離散化誤差を伴うPNMを用いた場合、逆問題における事後分布の収束に関する理論的保証はどの程度確立できるか？
• RQ5 提案手法は非線形PDEに対しても適用可能であり、複雑なモデルにおける不確実性評価にどのような意味を持つのか？

主な発見

• 確率的PDEソルバは、離散化に起因する認識的不確実性を符号化する解の事後分布を生成し、逆問題推論への不確実性伝播を可能にする。
• ソルバ誤差を考慮することで、逆問題の結果の統計的妥当性が保証され、特に離散化誤差が大きい場合にはより慎重な推論が得られる。
• 理論的解析により、真の事後分布と近似事後分布の間のヘルンダーバー距離が $ O(h^{eta - ho - d/2}) $ の速度で減少することが示された。ここで $ h $ はメッシュサイズを表す。
• 尤度関数の対数差の誤差境界は、行列ノルムの不等式と解のソボレフ型正則性仮定を用いて導出され、データと事前の正則性に明示的な依存関係を示す。
• フレームワークにより、離散化誤差の影響を最小化するPDEソルバの選択がベイズ実験設計により可能になる。
• 本手法は非線形PDEに対しても適用可能であり、解とデータの標準的な正則性および滑らかさ条件の下で理論的整合性を維持する。