[論文レビュー] Numerical posterior distribution error control and expected Bayes Factors in the bayesian Uncertainty Quantification of Inverse Problems

J. Andrés Christen, Marcos A. Capistrán+1 more|arXiv (Cornell University)|Jul 7, 2016

Probabilistic and Robust Engineering Design参考文献 16被引用数 3

ひとこと要約

本稿では、逆問題におけるベイズ的不確実性評価における数値ソルバの実用的誤差制御フレームワークを提案し、数値的後方分布が理論的後方分布と区別できないことを保証する。期待ベイズ因子を用いてソルバのグローバル誤差を制限することで、計算コストが低減された適応的ソルバの使用が可能となり、低分解能近似でも後方分布の正確性を維持できる。

ABSTRACT

In the bayesian analysis of Inverse Problems most relevant cases the forward maps (FM, or regressor function) are defined in terms of a system of (O, P)DE's with intractable solutions. These necessarily involve a numerical method to find approximate versions of such solutions and lead to a numerical/approximate posterior distribution. Recently several results have been published on the regularity conditions required on such numerical methods to ensure converge of the numerical to the theoretical posterior. However, more practical guidelines are needed to ensure a suitable working numerical posterior. ]Capistran2016] prove for ODE's that the Bayes Factor of the approximate vs the theoretical model tends to 1 in the same order as the numerical method order. In this work we generalize the latter paper in that we consider 1) also PDE's, 2) correlated observations, 3) practical guidelines in a multidimensional setting and 4) explore the use of expected Bayes Factors. This permits us to obtain bounds on the absolute global errors to be tolerated by the FM numerical solver, which we illustrate with some examples. Since the Bayes Factor is kept above 0.95 we expect that the resulting numerical posterior is basically indistinguishable from the theoretical posterior, even though we are using an approximate numerical FM. The method is illustrated with some examples using synthetic data.

研究の動機と目的

• ベイズ的不確実性評価（UQ）における逆問題の数値ソルバの精度選定に関する実用的ガイドラインの欠如を解消すること。
• 従来の理論的収束結果を、相関のある観測を伴うODEおよびPDEを含む実世界の設定に拡張すること。
• グローバルソルバ誤差に定量的バインドを設けることで、数値的後方分布が理論的後方分布と実質的に区別できないことを保証すること。
• 計算コストを削減しつつ、後方分布の正確性を損なわずに適応的・低分解能ソルバの使用を可能にすること。
• 観測ノイズに強く、多次元で複雑な系に適用可能な誤差制御フレームワークを構築すること。

提案手法

• 数値モデル（近似された前向きマップを伴う）と理論モデル（正確な前向きマップを伴う）を比較する指標として、期待ベイズ因子（BF）を用いる。
• 期待ベイズ因子が1に近づくように、数値ソルバのグローバル誤差にバインドを導出する。これにより、後方分布の差が無視できることが保証される。
• ODEおよびPDEシステムにこのバインドを適用し、適応的メッシュリファインメントを用いてソルバ分解能を動的に調整する。
• twalk MCMCアルゴリズムを用い、高分解能および適応的ソルバの両方において後方分布からのサンプリングを実行する。
• 数値手法の正則性条件および収束順序（例：ルンゲ・クッタ、不連続ガレルキン）を活用し、ソルバ誤差と後方誤差の関係を定式化する。
• 例題では合成データを用い、適応的ソルバが著しく低い計算コストで高分解能基準と同等の後方分布を達成できることを検証する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ的UQにおいて、数値的後方分布が理論的後方分布と実質的に区別できないように保証するには、数値ソルバ誤差をどのように制限すればよいか？
• RQ2 数値ソルバの収束順序と、数値モデルと理論モデルの間のベイズ因子との関係は何か？
• RQ3 後方分布に検出可能な誤差を生じさせることなく、適応的・低分解能ソルバをベイズ的逆問題で使用可能か？
• RQ4 観測ノイズは、後方推論における許容可能なソルバ誤差レベルにどのように影響するか？
• RQ5 提案された誤差制御フレームワークは、相関のある観測を伴うPDEベースの逆問題に、どの程度一般化可能か？

主な発見

• 数値ソルバのグローバル誤差は、観測ノイズの標準偏差σに比例する閾値以下に制限され、標本サイズの平方根に反比例する必要がある。これにより、期待ベイズ因子が1に近づくことが保証される。
• ODE例では、適応的グリッドを用いることでCPU時間を60％削減（10.95hから4.27h）したが、高分解能基準と同一の後方分布が得られた。
• PDE例（バーガース方程式）では、誤差制御付きの適応的ソルバが512点グリッドの結果とほぼ同一の後方分布を生成し、本手法の正確性と効率性を確認した。
• 期待ベイズ因子は、数値手法のグローバル誤差と同程度の速度で1に収束する。これにより、ソルバ精度と後方分布の忠実度の理論的関係が裏付けられた。
• グローバル誤差が導出されたバインド内に保たれていれば、精度が低いが計算コストが低いソルバの使用が可能となり、不確実性評価に影響を与えない。
• 本フレームワークはODEおよびPDEに適用可能であり、相関のある観測にも拡張可能であり、実世界のベイズ的UQに実用的かつ実行可能なガイドラインを提供する。