[論文レビュー] A Scalable Evolution Strategy with Directional Gaussian Smoothing for Blackbox Optimization.

Jiaxin Zhang, Hoang Tran+2 more|arXiv (Cornell University)|Feb 7, 2020

Advanced Optimization Algorithms Research参考文献 56被引用数 7

ひとこと要約

本稿では、高次元ブラックボックス最適化における非局所的で高精度な勾配推定を可能にする、方向性ガウス平滑化（DGS）を用いたスケーラブルな進化戦略を提案する。モンテカルロサンプルに代えて、直交方向に沿った1次元積分にガウス＝エイミート積分を用いることで、DGSは分散を低減し、グローバルサーチ能力を向上させる。ベンチマークおよび実世界の問題において、標準的なES手法を上回る性能を発揮する。

ABSTRACT

We propose an improved evolution strategy (ES) using a novel nonlocal gradient operator for high-dimensional black-box optimization. Standard ES methods with $d$-dimensional Gaussian smoothing suffer from the curse of dimensionality due to the high variance of Monte Carlo (MC) based gradient estimators. To control the variance, Gaussian smoothing is usually limited in a small region, so existing ES methods lack nonlocal exploration ability required for escaping from local minima. We develop a nonlocal gradient operator with directional Gaussian smoothing (DGS) to address this challenge. The DGS conducts 1D nonlocal explorations along $d$ orthogonal directions in $\mathbb{R}^d$, each of which defines a nonlocal directional derivative as a 1D integral. We then use Gauss-Hermite quadrature, instead of MC sampling, to estimate the $d$ 1D integrals to ensure high accuracy (i.e., small variance). Our method enables effective nonlocal exploration to facilitate the global search in high-dimensional optimization. We demonstrate the superior performance of our method in three sets of examples, including benchmark functions for global optimization, and real-world science and engineering applications.

研究の動機と目的

• 高次元における進化戦略の次元の呪いを解消すること。これは、高分散なモンテカルロ勾配推定器に起因する。
• 局所的探索を回避し、高次元空間におけるグローバル探索を可能にすること。
• 局所的・小領域の平滑化に依存せずに、ブラックボックス最適化における勾配推定の精度を向上させること。
• 実世界の科学および工学的応用に適したスケーラブルで高精度な手法を開発すること。

提案手法

• 本手法は、方向性ガウス平滑化（DGS）に基づく非局所勾配作用素を導入し、R^d 内のd個の直交方向に沿って1次元の非局所探索を実行する。
• 各方向微分は、ガウス重み付き非局所領域上の1次元積分として定義され、グローバルな情報を捉える。
• ガウス＝エイミート積分を用いてd個の1次元積分を数値的に評価し、確率的モンテカルロサンプルに代わる。
• 積分に基づく推定により、高次元でも分散が低く、高精度な勾配近似が保証される。
• d次元問題をd個の独立した1次元積分に分解することで、スケーラビリティを維持する。
• 進化戦略フレームワークに統合することで、収束性と探索能力が向上したグローバル最適化を実現する。

実験結果

リサーチクエスチョン

• RQ1 高次元ブラックボックス最適化に適した、低分散な非局所勾配推定器を構築可能か？
• RQ2 確率的サンプリングに代えて決定的積分を用いることで、進化戦略における勾配精度が向上するか？
• RQ3 方向性ガウス平滑化により、非局所探索を可能にすることでグローバルサーチ性能が向上するか？
• RQ4 提案手法は、高次元ベンチマーク関数において標準的進化戦略と比較して優れているか？
• RQ5 本手法は、実世界の科学および工学的最適化問題へも効果的にスケーリング可能か？

主な発見

• 提案されたDGSに基づく進化戦略は、モンテカルロベースの手法と比較して顕著に低い勾配推定分散を達成した。
• 複数の局所的最小値を有する標準ベンチマーク関数においても、優れたグローバル最適化性能を示した。
• 方向性ガウス平滑化により、効果的な非局所探索が可能となり、局所的最適解からの脱出能力が向上した。
• ガウス＝エイミート積分の使用により、高精度な勾配推定が保証され、最適化プロセスのノイズが低減した。
• 本手法は高次元問題へも効果的にスケーリングでき、標準的なES手法が性能を落とす領域でも安定した性能を維持した。
• 実験的結果から、実世界の科学および工学的応用において収束性と解の質が向上した。