[論文レビュー] Higher order Quasi-Monte Carlo integration for Bayesian Estimation

Josef Dick, Robert N. Gantner+2 more|arXiv (Cornell University)|Feb 24, 2016

Probabilistic and Robust Engineering Design参考文献 34被引用数 18

ひとこと要約

本稿は、不確実な入力に正則的依存を示す無限次元パrametric作用素方程式におけるベイズ推定のための高次Quasi-Monte Carlo (HoQMC) 法を提案する。SPOD重み付き関数空間とインタラーブド多項式格子則を活用することで、p < 1 に対して O(N^{-1/p}) の次元に依存しない収束率を達成し、最大 10^4 パrameterまで効率的かつ決定論的なベイズ推定を可能にする。

ABSTRACT

We analyze combined Quasi-Monte Carlo quadrature and Finite Element approximations in Bayesian estimation of solutions to countably-parametric operator equations with holomorphic dependence on the parameters as considered in [Cl.~Schillings and Ch.~Schwab: Sparsity in Bayesian Inversion of Parametric Operator Equations. Inverse Problems, {\bf 30}, (2014)]. Such problems arise in numerical uncertainty quantification and in Bayesian inversion of operator equations with distributed uncertain inputs, such as uncertain coefficients, uncertain domains or uncertain source terms and boundary data. We show that the parametric Bayesian posterior densities belong to a class of weighted Bochner spaces of functions of countably many variables, with a particular structure of the QMC quadrature weights: up to a (problem-dependent, and possibly large) finite dimension $S$ product weights can be used, and beyond this dimension, weighted spaces with so-called SPOD weights are used to describe the solution regularity. We establish error bounds for higher order Quasi-Monte Carlo quadrature for the Bayesian estimation based on [J.~Dick, Q.T.~LeGia and Ch.~Schwab, Higher order Quasi-Monte Carlo integration for holomorphic, parametric operator equations, Report 2014-23, SAM, ETH Zürich]. It implies, in particular, regularity of the parametric solution and of the countably-parametric Bayesian posterior density in SPOD weighted spaces. This, in turn, implies that the Quasi-Monte Carlo quadrature methods in [J. Dick, F.Y.~Kuo, Q.T.~Le Gia, D.~Nuyens, Ch.~Schwab, Higher order QMC Galerkin discretization for parametric operator equations, SINUM (2014)] are applicable to these problem classes, with dimension-independent convergence rates $\calO(N^{-1/p})$ of $N$-point HoQMC approximated Bayesian estimates, where $0

研究の動機と目的

• 分布型不確実入力を有するパラメトリック作用素方程式における高次元ベイズ推定の計算的課題に対処する。
• 無限次元問題におけるスケーラブルな収束を達成するための標準モンテカルロ法および低次元QMC法の限界を克服する。
• パラメトリック次元に依存しない、証明可能な収束率を有する効率的かつ決定論的なベイズ推定を可能にする。
• SPOD重み付き関数空間におけるパラメトリック解および事後分布の正則性の理論的枠組みを確立する。
• パラメトリック不確実性のパラメータ化、有限要素離散化、およびHoQMC統合を統合した実用的な計算パイプラインを開発する。

提案手法

• 可算基底を用いて無限次元の不確実入力をパラメータ化し、問題を可算次元の決定論的設定に還元する。
• 次元切断を適用して、次元 s の有限次元部分空間にパrameter空間を制限する。
• Petrov-Galerkin有限要素法を用いてパラメトリック作用素方程式を離散化し、前方解を近似する。
• SPOD重みを用いた重み付きBochner空間において、事後密度を有限切断次元 S を超えて正則的関数としてモデル化する。
• 高速逐次的成分別（CBC）アルゴリズムを用いてインタラーブド多項式格子則を構築し、効率的かつ高次元のQMC統合を実現する。
• 離散化誤差、切断誤差、QMC統合誤差を分離した組み合わせ誤差境界を導出し、s に依存しない収束率 O(N^{-1/p}) を保証する。

実験結果

リサーチクエスチョン

• RQ1 高次Quasi-Monte Carlo法は、無限次元パラメトリックPDEのベイズ推定において次元に依存しない収束を達成できるか？
• RQ2 高次元QMC収束を可能にするために、パラメトリック解および事後密度がどの関数空間の正則性を満たす必要があるか？
• RQ3 SPOD重みは、高次元パrameter空間における事後分布の正則性を効果的に記述できるか？
• RQ4 Karahunen-Loève法とインジケータ関数などの異なるパラメトリック基底の選択が、QMC収束および計算コストに与える影響は何か？
• RQ5 Lattice則の高速CBC構築法により、最大 10^4 パrameterを持つ問題に対してもHoQMCが実用可能になるか？

主な発見

• パラメトリック解およびベイズ事後密度は、有限次元 S を超えてSPOD重みを有する重み付きBochner空間に属し、高次元QMC収束を可能にする。
• 正則的依存条件の下で、高次Quasi-Monte Carlo統合は、p < 1 に対して O(N^{-1/p}) の収束率を達成し、パラメトリック次元 s に依存しない。
• Karahunen-Loève基底の例では、QMC収束率が O(N^{-1.5}) であった。これは、p ≈ 1.5 の理論的 O(N^{-1/p}) 界と整合的である。
• P2有限要素を用いたインジケータ関数基底の例では、QMC収束率が O(N^{-2}) に達し、高次元ルールの理論的予測と一致した。
• インジケータ関数の場合に積の重みを用いることで、CBC構築の計算コストが O(s^2) から O(s) に削減され、s = 8192 までのスケーラビリティが達成された。
• Karahunen-Loèveの場合には離散化誤差が総誤差を支配したが、正確な有限要素解を用いたインジケータ関数の場合にはQMC誤差が主な寄与要因であった。これは、組み合わせ誤差境界の鋭さを裏付けた。