[论文解读] Bayesian Optimization with High-Dimensional Outputs

Wesley J. Maddox, Maximilian Balandat+2 more|arXiv (Cornell University)|Jun 24, 2021

Gaussian Processes and Bayesian Inference参考文献 62被引用 9

一句话总结

该论文通过利用Kronecker结构和Matheron法则，提出了一种精确且可扩展的多任务高斯过程（MTGP）采样方法，适用于高维输出，将计算复杂度从O(n³t³)降低至O(n³ + t³)。该方法实现了对数万个相关输出的高效贝叶斯优化——在优化基站覆盖和光学干涉仪镜面配置等实际问题中得到验证，相比聚合度量方法展现出更优的样本效率和性能。

ABSTRACT

Bayesian Optimization is a sample-efficient black-box optimization procedure that is typically applied to problems with a small number of independent objectives. However, in practice we often wish to optimize objectives defined over many correlated outcomes (or "tasks"). For example, scientists may want to optimize the coverage of a cell tower network across a dense grid of locations. Similarly, engineers may seek to balance the performance of a robot across dozens of different environments via constrained or robust optimization. However, the Gaussian Process (GP) models typically used as probabilistic surrogates for multi-task Bayesian Optimization scale poorly with the number of outcomes, greatly limiting applicability. We devise an efficient technique for exact multi-task GP sampling that combines exploiting Kronecker structure in the covariance matrices with Matheron's identity, allowing us to perform Bayesian Optimization using exact multi-task GP models with tens of thousands of correlated outputs. In doing so, we achieve substantial improvements in sample efficiency compared to existing approaches that only model aggregate functions of the outcomes. We demonstrate how this unlocks a new class of applications for Bayesian Optimization across a range of tasks in science and engineering, including optimizing interference patterns of an optical interferometer with more than 65,000 outputs.

研究动机与目标

• 解决现有多任务贝叶斯优化方法在处理高维输出（如图像或空间网格）时可扩展性差的问题。
• 实现在数万个相关结果上的多任务高斯过程（MTGP）的精确后验采样，而标准方法对此无能为力。
• 通过建模单个输出而非聚合度量，提升复合贝叶斯优化中的样本效率。
• 通过高效的后验采样，将高阶高斯过程（HOGP）模型的应用扩展至大规模贝叶斯优化。
• 在涉及空间相关输出的真实问题（如无线电波覆盖和光学干涉测量）中，展示该方法的有效性。

提出的方法

• 利用Matheron法则实现MTGP模型的精确后验采样，无需依赖诱导点或随机特征。
• 利用MTGP后验协方差矩阵中固有的Kronecker结构，将采样复杂度从O(n³t³)降低至O(n³ + t³)。
• 将推导出的采样技术应用于高阶高斯过程（HOGP）模型，实现高维输出优化的精确后验采样。
• 在贝叶斯优化中使用蒙特卡洛采集函数，通过所提方法高效抽取后验样本以估计期望改进。
• 在硬件资源有限的条件下采用批量采样，使用32–64个蒙特卡洛样本和批量限制，以管理GPU集群上的计算负载。
• 将该方法集成至标准贝叶斯优化流程中，以联合建模所有相关输出的方式，取代聚合度量优化。

实验结果

研究问题

• RQ1 能否使具有数万个相关输出的问题实现MTGP的精确后验采样，且计算上可行？
• RQ2 在复合贝叶斯优化框架中，建模单个输出是否比优化聚合度量具有更高的样本效率？
• RQ3 所提方法能否扩展至高维输出空间的真实问题，如空间信号覆盖或基于图像的优化？
• RQ4 使用HOGP模型结合精确采样的贝叶斯优化，在收敛速度和最终目标值方面，与标准方法相比表现如何？
• RQ5 后验协方差矩阵中的Kronecker结构在多任务GP模型中，对实现可扩展采样起到了多大作用？

主要发现

• 所提方法实现了对65,000个相关输出的MTGP精确后验采样，支持大规模复合贝叶斯优化。
• 在射频覆盖问题中，HOGP + GP模型降低了方差，实现了比聚合度量优化更好的信号覆盖，可见度目标值从约0.44提升至约0.94。
• 在光学干涉仪问题中，使用HOGP模型的复合贝叶斯优化达到了0.94的可见度，而标准EI在聚合度量上仅达约0.44，随机初始化则仅为约3e-5。
• 该方法将计算复杂度从O(n³t³)降低至O(n³ + t³)，即使在5,000多个任务和2,500多个数据点的情况下也能实现可行采样。
• HOGP + GP模型在覆盖和光学问题中均优于标准EI在聚合度量上的表现，展现出更高的样本效率和更优的最终解。
• 该方法首次实现了在超过65,000个输出的问题上，基于精确MTGP采样的复合贝叶斯优化，为科学与工程领域开辟了新应用。