[论文解读] Trieste: Efficiently Exploring The Depths of Black-box Functions with TensorFlow

Victor Picheny, Joel Berkeley+14 more|arXiv (Cornell University)|Feb 16, 2023

Gaussian Processes and Bayesian Inference被引用 20

一句话总结

Trieste 是一个基于 TensorFlow 的开源贝叶斯优化与主动学习库，采用模块化设计，支持即插即用的模型和灵活的获取策略，适用于真实世界的 BO 工作流。

ABSTRACT

We present Trieste, an open-source Python package for Bayesian optimization and active learning benefiting from the scalability and efficiency of TensorFlow. Our library enables the plug-and-play of popular TensorFlow-based models within sequential decision-making loops, e.g. Gaussian processes from GPflow or GPflux, or neural networks from Keras. This modular mindset is central to the package and extends to our acquisition functions and the internal dynamics of the decision-making loop, both of which can be tailored and extended by researchers or engineers when tackling custom use cases. Trieste is a research-friendly and production-ready toolkit backed by a comprehensive test suite, extensive documentation, and available at https://github.com/secondmind-labs/trieste.

研究动机与目标

• 提供一个基于 TensorFlow 的贝叶斯优化库，以在 BO 循环中利用 TF 建模生态（GPflow、GPflux、Keras）。
• 实现 BO 中多种概率模型的即插即用（高斯过程、深度高斯过程、深度集合等），并支持多目标、多保真度和有约束的设置。
• 提供灵活的采集函数和规则，最小化重追踪开销，适用于现实世界的异步或批处理评估场景。
• 提供用户友好的、生产就绪的工具包，附带测试和文档，促进在现实问题中的研究与部署。

提出的方法

• 推出一个高度模块化的 BO 库，设计用于 TensorFlow 环境中运行。
• 提供不同控制级别的接口（AskTellOptimizer 和 BayesianOptimizer），包括异步和批量评估工作流。
• 支持来自基于 TensorFlow 的库（GPflow、GPflux、Keras）的一系列概率模型，并提供多输出/多任务能力。
• 定义 AcquisitionRule 与 AcquisitionFunction 抽象，以处理复杂的查询点选择，并提供用于梯度优化的自动微分。
• 确保循环内图管理高效，避免昂贵的重追踪，从而实现可扩展的并行优化和监控（如 TensorBoard）。
• 提供全面的测试套件（97% 覆盖率）和广泛的文档，以支持研究扩展和生产使用。

(a)

实验结果

研究问题

• RQ1 Trieste 是否能够在 TensorFlow 生态系统内实现有效的贝叶斯优化，而不需要在各步骤之间进行完整的模型重追踪？
• RQ2 Trieste 在支持不同模型类型、获取函数和决策循环接口以应对现实世界的 BO 任务方面有多灵活？
• RQ3 在基于 TensorFlow 的流程中，该框架是否促进异步、批量、多目标、多保真度和有约束的优化？
• RQ4 Trieste 在严格测试和文档完善的情况下，在研究和生产用例方面的覆盖程度如何？

主要发现

• Trieste 是一个开源、基于 TensorFlow 的 BO 库，旨在实现模块化和易于扩展。
• 它支持通过 AskTellOptimizer 和 BayesianOptimizer 实现基于 TF 的模型（GPflow、GPflux、Keras）的一键接入，以及多种 BO 范式。
• AcquisitionRule 和 AcquisitionFunction 抽象支持灵活、可扩展的查询点选择与分批，并具有用于梯度的自动微分。
• 该项目包含全面的测试套件，覆盖率为 97%，以及丰富的文档，支持研究与生产应用。
• Trieste 已经在研究和工业应用中产生影响（例如换热器、粘接），并将继续在未来添加高维和非欧几里得的支持。

(b)