[论文解读] pySOT and POAP: An event-driven asynchronous framework for surrogate optimization

David Eriksson, David Bindel+1 more|arXiv (Cornell University)|Jul 30, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 38被引用 67

一句话总结

POAP 提供一个事件驱动的异步框架，用于构建和协调代理优化（surrogate-optimization）策略，而 pySOT 则在 POAP 的基础上提供一套代理优化方法，使对昂贵黑盒函数的同步或异步全局优化成为可能。

ABSTRACT

This paper describes Plumbing for Optimization with Asynchronous Parallelism (POAP) and the Python Surrogate Optimization Toolbox (pySOT). POAP is an event-driven framework for building and combining asynchronous optimization strategies, designed for global optimization of expensive functions where concurrent function evaluations are useful. POAP consists of three components: a worker pool capable of function evaluations, strategies to propose evaluations or other actions, and a controller that mediates the interaction between the workers and strategies. pySOT is a collection of synchronous and asynchronous surrogate optimization strategies, implemented in the POAP framework. We support the stochastic RBF method by Regis and Shoemaker along with various extensions of this method, and a general surrogate optimization strategy that covers most Bayesian optimization methods. We have implemented many different surrogate models, experimental designs, acquisition functions, and a large set of test problems. We make an extensive comparison between synchronous and asynchronous parallelism and find that the advantage of asynchronous computation increases as the variance of the evaluation time or number of processors increases. We observe a close to linear speed-up with 4, 8, and 16 processors in both the synchronous and asynchronous setting.

研究动机与目标

• 激励并解决评估时间不均的昂贵黑盒函数的全局优化问题。
• 提出一个异步、具容错能力的框架（POAP），用于协调工作者与策略。
• 提供一个基于POAP的Python代理优化工具箱（pySOT），包含多种模型与设计。
• 评估同步与异步并行性，并在时间方差增大和处理器数量增多的情况下展示其优势。

提出的方法

• 将 POAP 介绍为一个事件驱动框架，包含工作池、策略和用于管理异步评估的控制器。
• 在 POAP 内实现一组代理优化策略（RBF、GP、SVR、MARS、多项式回归）。
• 描述代理模型选项（带正则化的 RBF、高斯过程等）以及实验设计（LHD、SLHD）。
• 详细说明辅助问题（通过 LMS-RBF、DYCORS、PI/EI/LCB 在贝叶斯优化中的候选点选择）以及动态采样半径更新。
• 解释异步算法（算法3）及其如何处理评估事件、工作者可用性和重启（算法4）。
• 讨论实现组件（控制器、策略、工作者）及异步优化的接口，包括 MPI 和仿真时间测试。

实验结果

研究问题

• RQ1 当评估时间变化且使用更多处理器时，异步（相对于同步）并行性对基于代理的全局优化的性能有何影响？
• RQ2 POAP 是否能提供容错能力和动态工作者重新分配，以提升异步代理优化的鲁棒性？
• RQ3 在事件驱动的异步框架中，不同的代理模型、实验设计和获取函数的表现如何？
• RQ4 在异步设置中，重新启动、更新采样半径和组合策略的实际指南是什么？

主要发现

• 在不同评估时间下，异步在同步和异步两种设置下，在4、8、16个处理器时均可实现接近线性的加速。
• 异步计算减少空闲时间，其优势随着评估方差增大和处理器增多而增强。
• 并行性促进探索，在评估次数方面可超过串行运行。
• POAP 提供容错能力和动态工作者管理，能够优雅地处理崩溃或失败。
• pySOT 作为在 POAP 框架下比较代理模型、设计和获取函数的强健测试平台。
• 结合的 POAP-pySOT 框架已获得广泛采用，pySOT 下载量超过 88,000 次，POAP 下载量超过 126,000 次。