[论文解读] A Bayes-Sard Cubature Method

Toni Karvonen, Chris J. Oates+1 more|arXiv (Cornell University)|Apr 9, 2018

Probabilistic and Robust Engineering Design参考文献 45被引用 4

一句话总结

该论文提出贝叶斯-Sard求积法，一种概率数值方法，通过在高斯过程模型中嵌入用户指定基函数的精确积分，将贝叶斯求积与经典求积规则相结合。该方法在高维金融积分中实现的误差比标准贝叶斯求积低两个数量级，同时通过在回归系数上采用极限不当先验，保持了对核参数误设的鲁棒性。

ABSTRACT

This paper focusses on the formulation of numerical integration as an inferential task. To date, research effort has largely focussed on the development of Bayesian cubature, whose distributional output provides uncertainty quantification for the integral. However, the point estimators associated to Bayesian cubature can be inaccurate and acutely sensitive to the prior when the domain is high-dimensional. To address these drawbacks we introduce Bayes-Sard cubature, a probabilistic framework that combines the flexibility of Bayesian cubature with the robustness of classical cubatures which are well-established. This is achieved by considering a Gaussian process model for the integrand whose mean is a parametric regression model, with an improper flat prior on each regression coefficient. The features in the regression model consist of test functions which are guaranteed to be exactly integrated, with remaining degrees of freedom afforded to the non-parametric part. The asymptotic convergence of the Bayes-Sard cubature method is established and the theoretical results are numerically verified. In particular, we report two orders of magnitude reduction in error compared to Bayesian cubature in the context of a high-dimensional financial integral.

研究动机与目标

• 解决贝叶斯求积在高维设置下点估计量的不稳定性和不准确性问题。
• 将经典求积规则的鲁棒性与贝叶斯求积的不确定性量化相结合。
• 构建一个一致的高斯过程框架，确保预设基函数的精确积分。
• 建立理论收敛性质，并在高维积分上验证性能。
• 证明当基函数数量等于节点数量时，贝叶斯-Sard求积法可为任意求积规则赋予概率输出。

提出的方法

• 该方法将被积函数建模为高斯过程，其均值函数由用户指定的基函数上的参数回归模型定义。
• 在回归系数上采用非信息性、鲁棒的非正式平坦先验。
• 选择基函数，使其可被所得求积规则保证精确积分。
• 该方法利用核结构 $k_{\sigma}(x,x') = k(x,x') + \sigma^2 k_\pi(x,x')$，并取 $\sigma \to \infty$ 极限以强调参数成分。
• 所得权重是通过求解一个约束优化问题得到的，该问题在再生核希尔伯特空间（RKHS）中最小化最坏情况误差，同时对基函数施加精确性约束。
• 该方法继承了基于核的求积的计算效率，并为积分值提供了完整的后验分布。

实验结果

研究问题

• RQ1 能否构建一种概率积分方法，将贝叶斯求积的不确定性量化与经典求积规则的鲁棒性相结合？
• RQ2 包含可精确积分的基函数如何影响所得求积规则的收敛性和准确性？
• RQ3 在核方差趋于无穷的极限下，该方法的理论行为如何？其与经典求积规则有何关系？
• RQ4 与标准贝叶斯求积相比，该方法能否在高维问题中实现更高的精度和鲁棒性？
• RQ5 在何种条件下，贝叶斯-Sard求积法能恢复或推广现有求积规则？

主要发现

• 在高维金融积分中，贝叶斯-Sard求积法相比标准贝叶斯求积将数值积分误差降低了约两个数量级。
• 该方法对核参数误设表现出鲁棒性，在参数不确定条件下优于贝叶斯求积。
• 理论分析证实，在基函数和设计点满足弱条件时，该方法具有渐近收敛性。
• 当基函数数量等于求积节点数量时，该方法可为任意求积规则赋予概率输出。
• 当 $\sigma \to \infty$ 时，该方法的极限行为对应于一个最坏情况最优的求积规则，该规则可精确积分基函数。
• 贝叶斯-Sard规则的权重等价于求解一个约束优化问题，即在满足基函数精确性的前提下最小化RKHS误差。