[論文レビュー] Probability Measures for Numerical Solutions of Differential Equations

Patrick R. Conrad, Mark Girolami+3 more|arXiv (Cornell University)|Jun 15, 2015

Probabilistic and Robust Engineering Design参考文献 15被引用数 49

ひとこと要約

この論文は、常微分方程式（ODE）および偏微分方程式（PDE）の解における数値的不確実性を確率的枠組みで定量化するための手法を提案する。既存の数値解法を確率的に変換することで、離散化誤差にガウス過程を組み込み、解の空間に確率測度を定義する。この測度は、古典的手法と整合的なレートで真の解に収束するため、統計的推論や逆問題における一貫性のある不確実性定量化を可能にする。

ABSTRACT

In this paper, we present a formal quantification of epistemic uncertainty induced by numerical solutions of ordinary and partial differential equation models. Numerical solutions of differential equations contain inherent uncertainties due to the finite dimensional approximation of an unknown and implicitly defined function. When statistically analysing models based on differential equations describing physical, or other naturally occurring, phenomena, it is therefore important to explicitly account for the uncertainty introduced by the numerical method. This enables objective determination of its importance relative to other uncertainties, such as those caused by data contaminated with noise or model error induced by missing physical or inadequate descriptors. To this end we show that a wide variety of existing solvers can be randomised, inducing a probability measure over the solutions of such differential equations. These measures exhibit contraction to a Dirac measure around the true unknown solution, where the rates of convergence are consistent with the underlying deterministic numerical method. Ordinary differential equations and elliptic partial differential equations are used to illustrate the approach to quantifying uncertainty in both the statistical analysis of the forward and inverse problems.

研究の動機と目的

• 統計的推論に用いられる標準的な数値解法に明示的な不確実性定量化が欠けている問題に対処する。
• 特に逆問題において、決定論的解法が有限解像度の設定で不自然な自信を生じさせることを認識する。
• 微分方程式の解における数値近似に起因するエピステメン的不確実性を形式的に表現する枠組みを構築する。
• 数値的手法による不確実性定量化が、データノイズやモデル誤差などの他の不確実性源と一貫して比較可能であることを保証する。
• ベイズ的および逆問題フレームワークにおいて、数値的不確実性を一貫して伝搬させることで、頑健な統計的推論を可能にする。

提案手法

• 有限要素法や有限差分法などの既存の数値解法を、離散化仮定に局所的な確率場（特にガウス過程）を導入することで確率的変換する。
• 微分方程式を満たす未観測関数を推定するベイズ推論問題として解を確率測度として定式化する。
• 有限要素法において、ランダム基底関数を導入するために、切断されたカラウンェン＝ロイ展開を用いる。
• 異なる多項式次数（例：線形対二次）を比較する誤差指標を用いて、ランダム化の分散スケールをキャリブレーションし、収束レートと整合性を保つ。
• 元の決定論的手法の形式的収束順序を維持しつつ不確実性を導入することで、理論的信頼性を確保する。
• 前向き問題および逆問題の両方において確率的解法を適用し、メッシュの細分化に伴う事後分布の収束が一貫していることを示す。

実験結果

リサーチクエスチョン

• RQ1 微分方程式解法における数値的不確実性を、確率測度として形式的に定量化・表現することは可能か？
• RQ2 数値的不確実性を無視すると、ベイズ的逆問題における事後分布の収束にどのような影響を与えるか？
• RQ3 確率的解法は、古典的手法の収束レートを維持しつつ、不確実性定量化を提供できるか？
• RQ4 ランダム化された解法を用いることで、異なるメッシュ解像度間での統計的推論の一貫性はどのように変化するか？
• RQ5 確率的数値法は、科学的計算における不確実性定量化を改善するための構造的不一致モデルとして、どの程度活用可能か？

主な発見

• 提案された確率的解法は、真の解の周りにディラック測度に収束する解の確率測度を定義する。収束レートは、元の決定論的手法と一致する。
• ベイズ的逆問題において、決定論的解法は有限解像度で誤って鋭い事後分布を生じるが、確率的解法は適切な不確実性を明らかにし、メッシュの細分化に伴い自信が高まる。
• 1次元楕円型PDEに対しては、確率的解法はメッシュサイズにわたって一貫した事後分布を生成するが、決定論的解法は互換性のない事後分布を生成する。
• この方法は形式的収束順序を維持する：確率的解法の期待誤差は、$ L^1( ext{H}) $ノルムにおいて $ Ch^2 $ で有界であり、決定論的解法のレートと一致する。
• ノードで条件づけられたブラウン運動ブリッジ事前分布に基づくランダム化戦略は、離散化不確実性を実用的かつ理論的に根拠のある形で表現する手段を提供する。
• この枠組みにより、推論タスクにおける計算コストと統計的分散の間の原理的トレードオフが可能になる。