[论文解读] Max-value Entropy Search for Multi-Objective Bayesian Optimization with Constraints

Syrine Belakaria, Aryan Deshwal+1 more|arXiv (Cornell University)|Sep 1, 2020

Advanced Multi-Objective Optimization Algorithms被引用 13

一句话总结

该论文提出 MESMOC，一种新颖的最大值熵搜索方法，用于约束型多目标贝叶斯优化，通过选择能最大化输出空间中关于帕累托前沿信息增益的输入，实现高效优化。在真实工程应用中，该方法在更少的函数评估次数下，显著优于最先进的方法（如 PESMOC、MOEAD 和 NSGA-II），实现了更高的超体积和约束满足率。

ABSTRACT

We consider the problem of constrained multi-objective blackbox optimization using expensive function evaluations, where the goal is to approximate the true Pareto set of solutions satisfying a set of constraints while minimizing the number of function evaluations. For example, in aviation power system design applications, we need to find the designs that trade-off total energy and the mass while satisfying specific thresholds for motor temperature and voltage of cells. This optimization requires performing expensive computational simulations to evaluate designs. In this paper, we propose a new approach referred as {\\em Max-value Entropy Search for Multi-objective Optimization with Constraints (MESMOC)} to solve this problem. MESMOC employs an output-space entropy based acquisition function to efficiently select the sequence of inputs for evaluation to uncover high-quality pareto-set solutions while satisfying constraints. We apply MESMOC to two real-world engineering design applications to demonstrate its effectiveness over state-of-the-art algorithms.

研究动机与目标

• 解决工程设计中昂贵的、有约束的多目标黑箱优化挑战。
• 减少在多重约束下逼近真实帕累托集所需的函数评估次数。
• 开发一种比现有输入空间熵方法更高效、更准确的获取函数。
• 实现在如电动航空动力系统和模拟电路设计等真实应用中的稳健且可扩展的优化。
• 与最先进的方法（如 PESMOC 和 NSGA-II）相比，提升约束处理能力和收敛速度。

提出的方法

• MESMOC 使用基于输出空间熵的获取函数，选择能最大化关于最优帕累托前沿信息增益的输入。
• 该方法将单目标优化中的最大值熵搜索（MES）原理扩展至多目标约束优化。
• 该方法使用高斯过程建模目标函数和约束条件，并在输出空间中计算信息增益，以实现高效优化。
• 采用基于采样的近似方法估算熵增益，相比输入空间方法，计算更快且更紧密。
• 使用 DIRECT 算法优化获取函数，在满足所有约束的前提下平衡探索与利用。
• 该算法迭代选择新点进行评估，更新代理模型并逐步优化帕累托前沿估计。

实验结果

研究问题

• RQ1 在有约束的多目标优化中，输出空间熵搜索是否能提供比输入空间熵搜索更高效、更准确的获取函数？
• RQ2 MESMOC 在超体积和约束满足率方面与最先进的方法（如 PESMOC、MOEAD 和 NSGA-II）相比表现如何？
• RQ3 在真实工程问题中，MESMOC 能在更少的昂贵函数评估次数下恢复高质量的帕累托最优解到何种程度？
• RQ4 在具有复杂约束的离散与连续设计空间中，MESMOC 的表现如何？
• RQ5 在高维、有约束的多目标优化任务中，MESMOC 是否能实现更好的收敛性和鲁棒性？

主要发现

• 在电动航空动力系统设计中，MESMOC 实现了 50% 的约束满足率，显著优于 PESMOC（1.5%）、MOEAD（9.5%）和 NSGA-II（7.5%）。
• 在模拟电路设计任务中，MESMOC 实现了 88.81% 的转换效率，较 PESMOC 提高 12.61%，较 NSGA-II 提高 17.86%。
• MESMOC 恢复的帕累托前沿超体积高于所有基线方法，表明其在离散和连续设计空间中均具备更优的收敛性和多样性。
• 该算法在达到高质量解时所需的函数评估次数更少，证实其在昂贵黑箱优化中的样本效率。
• MESMOC 的输出空间熵方法相比输入空间方法（如 PESMOC）实现了更紧密的近似和更快的计算速度。
• 在模拟电路领域，MESMOC 生成的设计在不同负载下，电压基准目标均满足在 0.52V 至 0.76V（1/3x 比例）和 0.99V 至 1.17V（2/3x 比例）范围内。