[論文レビュー] A Bayes-Sard Cubature Method

Toni Karvonen, Chris J. Oates+1 more|arXiv (Cornell University)|Apr 9, 2018

Probabilistic and Robust Engineering Design参考文献 45被引用数 4

ひとこと要約

この論文は、ユーザーが指定した基底関数の正確な積分をガウス過程モデルに組み込むことで、ベイジアンキューブチャチャと古典的キューブチャチャ則を組み合わせた確率的数値法、Bayes-Sardキューブチャチャを導入する。この手法は、高次元の金融的積分において、標準的なベイジアンキューブチャチャと比較して誤差を2桁低減するが、回帰係数の不適切な事前分布を用いた場合でもロバスト性を保つ。

ABSTRACT

This paper focusses on the formulation of numerical integration as an inferential task. To date, research effort has largely focussed on the development of Bayesian cubature, whose distributional output provides uncertainty quantification for the integral. However, the point estimators associated to Bayesian cubature can be inaccurate and acutely sensitive to the prior when the domain is high-dimensional. To address these drawbacks we introduce Bayes-Sard cubature, a probabilistic framework that combines the flexibility of Bayesian cubature with the robustness of classical cubatures which are well-established. This is achieved by considering a Gaussian process model for the integrand whose mean is a parametric regression model, with an improper flat prior on each regression coefficient. The features in the regression model consist of test functions which are guaranteed to be exactly integrated, with remaining degrees of freedom afforded to the non-parametric part. The asymptotic convergence of the Bayes-Sard cubature method is established and the theoretical results are numerically verified. In particular, we report two orders of magnitude reduction in error compared to Bayesian cubature in the context of a high-dimensional financial integral.

研究の動機と目的

• 高次元設定下でのベイジアンキューブチャチャにおける点推定の不安定性と不正確さを解消すること。
• 古典的キューブチャチャ則のロバスト性とベイジアンキューブチャチャの不確実性評価を統合すること。
• 事前に指定された基底関数の正確な積分を保証する一貫性のあるガウス過程フレームワークを構築すること。
• 理論的収束性質を確立し、高次元積分における性能を検証すること。
• Bayes-Sardキューブチャチャが、基底関数の数とノード数が一致する場合、任意のキューブチャチャ則に確率的出力を与えることができることを示すこと。

提案手法

• 被積分関数を、ユーザーが指定した基底関数上のパラメトリック回帰モデルによって定義される平均関数を持つガウス過程としてモデル化する。
• 回帰係数に不適切な平坦事前分布を用いることで、情報のない、ロバストな推定を保証する。
• 基底関数が、得られるキューブチャチャ則によって正確に積分可能であるように選択する。
• カーネル構造 $k_{\sigma}(x,x') = k(x,x') + \sigma^2 k_\pi(x,x')$ を用い、$\sigma \to \infty$ の極限をとることで、パラメトリック成分を強調する。
• 得られる重みは、RKHSにおける最悪誤差を最小化する制約付き最適化問題の解として導出される。この制約には、基底関数における正確性が含まれる。
• この手法は、カーネルに基づくキューブチャチャの計算効率を継承し、積分値に関する完全な事後分布を提供する。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンキューブチャチャの不確実性評価と古典的キューブチャチャ則のロバスト性を統合した確率的統合手法を構築できるか？
• RQ2 正確に積分可能な基底関数の組み込みが、得られるキューブチャチャ則の収束性と精度に与える影響は何か？
• RQ3 カーネル分散が非常に大きい極限におけるこの手法の理論的挙動は何か？また、古典的キューブチャチャ則とどのように関係するか？
• RQ4 標準的なベイジアンキューブチャチャと比較して、この手法が高次元問題において優れた精度とロバスト性を達成できるか？
• RQ5 Bayes-Sardキューブチャチャ手法が、どのような条件下で既存のキューブチャチャ則を回復または一般化できるか？

主な発見

• Bayes-Sardキューブチャチャ手法は、高次元の金融的積分において、標準的なベイジアンキューブチャチャと比較して、数値的積分誤差を約2桁低減する。
• この手法は、カーネルパラメータが不適切に指定されてもロバストであり、パラメータの不確実性下でもベイジアンキューブチャチャを上回る性能を示す。
• 理論的分析により、基底関数および設計点にやや弱い条件下で、この手法の漸近的収束性が確認された。
• 基底関数の数とキューブチャチャノード数が一致する場合、この手法は任意のキューブチャチャ則に確率的出力を与えることができる。
• $\sigma \to \infty$ の極限において、この手法の挙動は、基底関数を正確に積分する最悪誤差最適キューブチャチャ則に対応する。
• Bayes-Sardルールの重みは、基底関数における正確性を満たす制約付き最適化問題を解くことと等価である。