[论文解读] ProBO: a Framework for Using Probabilistic Programming in Bayesian Optimization.

Willie Neiswanger, Kirthevasan Kandasamy+3 more|arXiv (Cornell University)|Jan 31, 2019

Machine Learning and Data Classification参考文献 16被引用 7

一句话总结

ProBO 是一种框架，通过标准操作使任意概率程序（PP）能够在贝叶斯优化（BO）中使用，无需进行特定模型的推导。它引入了黑箱采集函数和贝叶斯专家产品模型，在多个 PP 实现中相比标准 BO 方法表现出更高的查询效率。

ABSTRACT

Optimizing an expensive-to-query function is a common task in science and engineering, where it is beneficial to keep the number of queries to a minimum. A popular strategy is Bayesian optimization (BO), which leverages probabilistic models for this task. Most BO today uses Gaussian processes (GPs), or a few other surrogate models. However, there is a broad set of Bayesian modeling techniques that we may want to use to capture complex systems and reduce the number of queries. Probabilistic programs (PPs) are modern tools that allow for flexible model composition, incorporation of prior information, and automatic inference. In this paper, we develop ProBO, a framework for BO using only standard operations common to most PPs. This allows a user to drop in an arbitrary PP implementation and use it directly in BO. To do this, we describe black box versions of popular acquisition functions that can be used in our framework automatically, without model-specific derivation, and show how to optimize these functions. We also introduce a model, which we term the Bayesian Product of Experts, that integrates into ProBO and can be used to combine information from multiple models implemented with different PPs. We show empirical results using multiple PP implementations, and compare against standard BO methods.

研究动机与目标

• 使多样化的概率程序（PP）在贝叶斯优化中使用，而无需进行特定模型的推导。
• 通过利用灵活且表达能力强的 PP 作为代理模型，减少优化过程中昂贵函数查询的次数。
• 开发一个通用框架，仅通过标准操作支持贝叶斯优化中的任意 PP。
• 提出一种黑箱方法来优化采集函数，适用于不同的 PP 实现。
• 提出贝叶斯专家产品模型，用于在统一的 BO 框架中融合多个 PP 的信息。

提出的方法

• 该框架使用大多数概率编程语言中常见的标准操作，将任意 PP 集成到贝叶斯优化中。
• 它引入了黑箱采集函数，无需特定模型的解析推导，可自动用于任意 PP。
• 该框架支持使用标准的无导数或基于梯度的方法优化这些黑箱采集函数。
• 提出贝叶斯专家产品模型，用于结合多个 PP 的预测结果，提升模型的表达能力和鲁棒性。
• 该框架设计为可扩展，允许用户无需修改核心 BO 组件即可插入任意 PP 实现。
• 实验评估使用了多个 PP 后端（例如，Pyro、Stan、TensorFlow Probability），以验证在多样化建模场景下的性能。

实验结果

研究问题

• RQ1 能否构建一个通用框架，使任意概率程序在贝叶斯优化中使用，而无需进行特定模型的推导？
• RQ2 在没有解析梯度的情况下，黑箱采集函数在优化复杂且灵活的模型时效果如何？
• RQ3 通过贝叶斯专家产品模型组合多个 PP 是否能提升优化性能和样本效率？
• RQ4 与基于高斯过程的标准 BO 方法相比，ProBO 在查询效率和收敛速度方面表现如何？
• RQ5 当真实函数复杂或非平稳时，使用多样化 PP 对 BO 的实际影响是什么？

主要发现

• ProBO 仅通过标准操作即可在贝叶斯优化中使用任意概率程序，显著提升了模型灵活性。
• ProBO 中的黑箱采集函数在无需解析推导的情况下实现了具有竞争力的性能，支持即插即用的集成。
• 贝叶斯专家产品模型有效融合了多个 PP 的信息，提升了预测准确性和优化鲁棒性。
• 实验结果表明，与基于标准高斯过程的 BO 相比，ProBO 在复杂或非平稳场景下显著减少了达到收敛所需的查询次数。
• 该框架在多个 PP 后端（包括 Pyro、Stan 和 TensorFlow Probability）上均表现出色，证实了其通用性和可扩展性。
• ProBO 能够高效优化传统 GP 基 BO 难以处理的复杂模型，从而扩展了适用问题的范围。