[论文解读] PARyOpt: A software for Parallel Asynchronous Remote Bayesian Optimization

Balaji Sesha Sarath Pokuri, Alec Lofquist+2 more|arXiv (Cornell University)|Sep 12, 2018

Advanced Bandit Algorithms Research参考文献 14被引用 6

一句话总结

PARyOpt 是一个基于 Python 的软件框架，用于并行、异步、远程贝叶斯优化，旨在减少昂贵仿真优化中的实际运行时间。它通过将函数评估与代理模型更新解耦，实现稳健且容错的优化，利用异步数据融合技术，使优化速度最高提升 50%，并支持扩展至克里金法（Kriging）以实现响应面建模。

ABSTRACT

PARyOpt is a python based implementation of the Bayesian optimization routine designed for remote and asynchronous function evaluations. Bayesian optimization is especially attractive for computational optimization due to its low cost function footprint as well as the ability to account for uncertainties in data. A key challenge to efficiently deploy any optimization strategy on distributed computing systems is the synchronization step, where data from multiple function calls is assimilated to identify the next campaign of function calls. Bayesian optimization provides an elegant approach to overcome this issue via asynchronous updates. We formulate, develop and implement a parallel, asynchronous variant of Bayesian optimization. The framework is robust and resilient to external failures. We show how such asynchronous evaluations help reduce the total optimization wall clock time for a suite of test problems. Additionally, we show how the software design of the framework allows easy extension to response surface reconstruction (Kriging), providing a high performance software for autonomous exploration. The software is available on PyPI, with examples and documentation.

研究动机与目标

• 解决在函数评估时间可变且不确定的分布式 HPC 环境中，同步优化效率低下的问题。
• 开发一个可扩展、具备容错能力的远程贝叶斯优化框架，能够容忍硬件/网络故障以及作业调度延迟。
• 为材料与化学工程中的昂贵仿真设计问题，提供高效、自适应的采样方法。
• 将框架扩展以支持基于克里金法（Kriging）的响应面重构，实现自主实验设计。
• 提供模块化、可扩展的软件堆栈，具备开源可用性与全面的文档支持。

提出的方法

• 该框架采用并行、异步的贝叶斯优化算法，将函数评估与代理模型更新解耦。
• 采用具有平方指数核的高斯过程代理模型，并使用期望改进（Expected Improvement）或下置信界（Lower Confidence Bound, LCB）作为获取函数，实现自适应采样。
• 异步数据融合机制允许在不阻塞优化循环的情况下，整合延迟到达的函数评估结果。
• 软件使用 Python 实现，具备模块化组件，支持对优化组件的灵活替换，或与 HPC 作业调度器无缝集成。
• 通过相同的代理建模框架支持克里金法（Kriging），采用最大似然估计（MLE）优化核函数超参数，以提升插值精度。
• 系统设计支持远程、分布式评估，具备自动重试逻辑与故障容错能力。

实验结果

研究问题

• RQ1 在函数完成时间可变的 HPC 环境中，异步贝叶斯优化在多大程度上减少了总的实际运行时间？
• RQ2 与同步方法相比，PARyOpt 的异步设计在多大程度上提升了优化效率？
• RQ3 该框架能否高效支持贝叶斯优化与基于克里金法（Kriging）的响应面建模？
• RQ4 在远程、异步评估条件下，该框架在高维基准函数中定位全局最优解的效率如何？
• RQ5 通过 MLE 优化的超参数与获取函数的选择，对克里金法（Kriging）的精度与采样效率有何影响？

主要发现

• 与同步方法相比，异步贝叶斯优化在基准问题上将总的实际运行时间减少了最高达 50%。
• 该框架成功在二维及更高维基准函数（Ackley、Rosenbrock、Rastrigin、Griewangk）中找到全局最优解，最坏情况下误差低于 1.6e-4。
• 对于 20D 问题，找到的最优解与真实最优解之间的 L∞ 距离小于 6e-3，表明其具备良好的可扩展性。
• 使用 MLE 优化核参数的克里金法（Kriging）重构，其代理模型的置信度与精度显著优于未优化设置。
• 该软件对延迟到达或失败的函数评估表现出强鲁棒性，保持了收敛性与稳定性。
• 模块化设计使得克里金法（Kriging）与贝叶斯优化可在同一框架内无缝集成，相关示例已发布于 ReadTheDocs。