[论文解读] Information-Theoretic Multi-Objective Bayesian Optimization with Continuous Approximations

Syrine Belakaria, Aryan Deshwal+1 more|arXiv (Cornell University)|Sep 12, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 47被引用 6

一句话总结

该论文提出iMOCA，一种基于信息论的多目标贝叶斯优化框架，通过同时选择输入和连续保真度近似，以最大化单位成本的信息增益，从而更准确地逼近帕累托前沿。该方法引入了两种高效的熵近似方法——iMOCA-T与iMOCA-E，在收敛速度和鲁棒性方面优于单保真度和朴素连续保真度基线方法，在真实世界基准测试中最高可实现85%的成本降低。

ABSTRACT

Many real-world applications involve black-box optimization of multiple objectives using continuous function approximations that trade-off accuracy and resource cost of evaluation. For example, in rocket launching research, we need to find designs that trade-off return-time and angular distance using continuous-fidelity simulators (e.g., varying tolerance parameter to trade-off simulation time and accuracy) for design evaluations. The goal is to approximate the optimal Pareto set by minimizing the cost for evaluations. In this paper, we propose a novel approach referred to as information-Theoretic Multi-Objective Bayesian Optimization with Continuous Approximations (iMOCA)} to solve this problem. The key idea is to select the sequence of input and function approximations for multiple objectives which maximize the information gain per unit cost for the optimal Pareto front. Our experiments on diverse synthetic and real-world benchmarks show that iMOCA significantly improves over existing single-fidelity methods.

研究动机与目标

• 解决具有连续保真度模拟器的多目标黑箱优化问题，其中函数评估在精度和成本上存在差异。
• 在昂贵的仿真环境中，最小化总评估成本，同时逼近最优帕累托集。
• 将非贪心、基于信息论的获取函数扩展至连续保真度的多目标设置，该方向在机器学习中仍处于研究不足状态。
• 为具有连续保真度的多目标贝叶斯优化开发计算高效的熵估计近似方法。
• 在合成问题与真实世界问题上，展示iMOCA相较于单保真度和朴素连续保真度多目标优化基线方法的优越性。

提出的方法

• iMOCA使用非贪心获取函数，通过最大化关于最优帕累托前沿的信息增益与单位成本的比值，利用候选评估与帕累托集之间的互信息。
• 通过在输入空间与保真度空间上使用高斯过程建模目标的联合分布，将MESMO算法扩展至连续保真度设置。
• 提出两种不同的熵近似方法：iMOCA-T采用泰勒展开实现快速计算，而iMOCA-E采用更紧密的蒙特卡洛近似以提升精度。
• 该方法优化一个兼顾期望信息增益与评估成本的成本感知获取函数，从而高效探索输入-保真度空间。
• 熵估计基于输出空间熵搜索原理进行近似，相比输入空间方法显著降低了计算负担。
• 该框架支持合成与真实世界基准测试，包括火箭设计与片上网络优化，且保真度参数可配置。

实验结果

研究问题

• RQ1 能否有效将基于信息论的获取函数扩展至具有连续保真度近似的多目标贝叶斯优化？
• RQ2 不同的熵近似策略如何影响连续保真度MOO中计算效率与优化性能之间的权衡？
• RQ3 iMOCA在收敛成本与帕累托前沿质量方面是否优于当前最先进的单保真度与朴素连续保真度多目标优化方法？
• RQ4 与PESMO等现有方法相比，iMOCA在熵估计中使用的蒙特卡洛样本数变化时表现出多强的鲁棒性？
• RQ5 在多样化的现实世界与合成基准测试中，iMOCA在保持或提升帕累托前沿质量的同时，能在多大程度上降低总评估成本？

主要发现

• 在合成与真实世界基准测试中，iMOCA在帕累托超体积（PHV）与R2指标上始终优于所有单保真度基线方法及一种朴素连续保真度方法。
• 由于采用了更紧密的熵近似，iMOCA-E的收敛速度优于iMOCA-T，尽管iMOCA-T在计算时间上显著更低，但性能仍具竞争力。
• iMOCA-T与iMOCA-E对蒙特卡洛样本数量均表现出强鲁棒性，即使仅使用一个样本也能保持优异性能，而PESMO的性能在样本数减少时急剧下降。
• 在火箭发射问题中，iMOCA相比表现最佳的基线方法将收敛成本降低了78.9%，实现了85%的成本降低因子。
• 在电路设计基准测试中，iMOCA相比最佳基线实现了52.1%的成本降低，展现出在多样化问题类型上的强大泛化能力。
• 在所有基准测试中，该方法实现了高达85%的总评估成本降低，且在PHV与R2指标上均保持一致的性能提升。