[论文解读] A Scalable Evolution Strategy with Directional Gaussian Smoothing for Blackbox Optimization.

Jiaxin Zhang, Hoang Tran+2 more|arXiv (Cornell University)|Feb 7, 2020

Advanced Optimization Algorithms Research参考文献 56被引用 7

一句话总结

本文提出一种基于方向性高斯平滑（DGS）的可扩展进化策略，以实现在高维黑箱优化中的非局部、高精度梯度估计。通过在正交方向上使用高斯-埃尔米特求积代替蒙特卡洛采样来计算一维积分，DGS降低了方差并增强了全局搜索能力，在基准测试和实际问题上均优于标准进化策略方法。

ABSTRACT

We propose an improved evolution strategy (ES) using a novel nonlocal gradient operator for high-dimensional black-box optimization. Standard ES methods with $d$-dimensional Gaussian smoothing suffer from the curse of dimensionality due to the high variance of Monte Carlo (MC) based gradient estimators. To control the variance, Gaussian smoothing is usually limited in a small region, so existing ES methods lack nonlocal exploration ability required for escaping from local minima. We develop a nonlocal gradient operator with directional Gaussian smoothing (DGS) to address this challenge. The DGS conducts 1D nonlocal explorations along $d$ orthogonal directions in $\mathbb{R}^d$, each of which defines a nonlocal directional derivative as a 1D integral. We then use Gauss-Hermite quadrature, instead of MC sampling, to estimate the $d$ 1D integrals to ensure high accuracy (i.e., small variance). Our method enables effective nonlocal exploration to facilitate the global search in high-dimensional optimization. We demonstrate the superior performance of our method in three sets of examples, including benchmark functions for global optimization, and real-world science and engineering applications.

研究动机与目标

• 解决由于高方差蒙特卡洛梯度估计器导致的进化策略中的维度灾难问题。
• 在高维空间中实现非局部探索，以逃离局部极小值。
• 在不依赖局部小区域平滑的前提下，提升黑箱优化中的梯度估计精度。
• 为实际科学与工程应用开发一种可扩展且高精度的方法。

提出的方法

• 该方法提出一种基于方向性高斯平滑（DGS）的非局部梯度算子，沿 R^d 中的 d 个正交方向执行一维非局部探索。
• 每个方向导数被定义为沿高斯加权非局部区域的一维积分，从而捕捉全局信息。
• 使用高斯-埃尔米特求积来数值计算 d 个一维积分，替代随机的蒙特卡洛采样。
• 基于求积的估计方法确保了在高维空间中梯度近似具有低方差和高精度。
• 通过将 d 维问题分解为 d 个独立的一维积分，该方法保持了可扩展性。
• 该方法被集成到进化策略框架中，以实现具有改进收敛性和探索能力的全局优化。

实验结果

研究问题

• RQ1 能否为高维黑箱优化构建一种低方差的非局部梯度估计器？
• RQ2 用确定性求积替代蒙特卡洛采样是否能提升进化策略中的梯度估计精度？
• RQ3 方向性高斯平滑是否能通过实现非局部探索来增强全局搜索性能？
• RQ4 所提方法在高维基准函数上的表现与标准进化策略相比如何？
• RQ5 该方法能否在实际科学与工程优化问题中实现有效扩展？

主要发现

• 基于 DGS 的进化策略在梯度估计方差方面显著低于基于蒙特卡洛的方法。
• 该方法在标准基准函数上表现出优越的全局优化性能，包括具有多个局部极小值的函数。
• 方向性高斯平滑实现了有效的非局部探索，提升了逃离局部最优的能力。
• 使用高斯-埃尔米特求积确保了高精度的梯度估计，减少了优化过程中的噪声。
• 该方法在高维问题中表现出良好的可扩展性，且在标准 ES 方法性能下降时仍能保持性能。
• 实证结果表明，该方法在实际科学与工程应用中实现了更快的收敛速度和更高的解质量。