[논문 리뷰] A Scalable Evolution Strategy with Directional Gaussian Smoothing for Blackbox Optimization.

Jiaxin Zhang, Hoang Tran외 2명|arXiv (Cornell University)|2020. 02. 07.

Advanced Optimization Algorithms Research참고 문헌 56인용 수 7

한 줄 요약

이 논문은 고차원 블랙박스 최적화에서 비국소적이고 고정밀도의 기울기 추정을 가능하게 하기 위해 방향성 가우시안 스무딩(DGS)을 사용하는 확장 가능한 진화 전략을 제안한다. 몬테카를로 샘플링 대신 직교 방향을 따라 1차원 적분에 대해 가우스-에르미트 적분을 사용함으로써 DGS는 분산을 감소시키고 전역 탐색 능력을 향상시킨다. 이는 벤치마크 문제와 실제 문제에서 표준 ES 방법보다 뛰어난 성능을 보인다.

ABSTRACT

We propose an improved evolution strategy (ES) using a novel nonlocal gradient operator for high-dimensional black-box optimization. Standard ES methods with $d$-dimensional Gaussian smoothing suffer from the curse of dimensionality due to the high variance of Monte Carlo (MC) based gradient estimators. To control the variance, Gaussian smoothing is usually limited in a small region, so existing ES methods lack nonlocal exploration ability required for escaping from local minima. We develop a nonlocal gradient operator with directional Gaussian smoothing (DGS) to address this challenge. The DGS conducts 1D nonlocal explorations along $d$ orthogonal directions in $\mathbb{R}^d$, each of which defines a nonlocal directional derivative as a 1D integral. We then use Gauss-Hermite quadrature, instead of MC sampling, to estimate the $d$ 1D integrals to ensure high accuracy (i.e., small variance). Our method enables effective nonlocal exploration to facilitate the global search in high-dimensional optimization. We demonstrate the superior performance of our method in three sets of examples, including benchmark functions for global optimization, and real-world science and engineering applications.

연구 동기 및 목표

• 고차원에서 기울기 추정기의 높은 분산으로 인한 차원의 극복 문제를 해결하기 위해.
• 국소 최소값에서 벗어나기 위해 고차원 공간에서 비국소적 탐색을 가능하게 하기 위해.
• 로컬이고 작은 영역의 스무딩에 의존하지 않고도 블랙박스 최적화에서 기울기 추정 정확도를 향상시키기 위해.
• 실제 과학 및 공학 적용 분야에 적합한 확장 가능하고 정확한 방법을 개발하기 위해.

제안 방법

• 이 방법은 d차원 공간 R^d 내에서 d개의 직교 방향을 따라 1차원 비국소적 탐색을 수행하는 방향성 가우시안 스무딩(DGS) 기반의 비국소 기울기 연산자를 도입한다.
• 각 방향 도함수는 가우시안 가중치가 부여된 비국소 영역에 대한 1차원 적분으로 정의되며, 전역 정보를 포괄한다.
• 가우스-에르미트 적분을 사용하여 d개의 1차원 적분을 수치적으로 평가함으로써 확률적 몬테카를로 샘플링을 대체한다.
• 적분 기반 추정은 고차원에서도 낮은 분산과 높은 정확도를 보장하여 기울기 근사에 유리하다.
• d차원 문제를 d개의 독립적인 1차원 적분으로 분해함으로써 확장 가능성을 유지한다.
• 이 방법은 진화 전략 프레임워크에 통합되어 향상된 수렴성과 탐색 능력을 갖춘 전역 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 고차원 블랙박스 최적화를 위한 낮은 분산의 비국소 기울기 추정기 구축이 가능한가?
• RQ2 확률적 몬테카를로 샘플링을 결정적 적분으로 대체하면 진화 전략에서 기울기 정확도가 향상되는가?
• RQ3 방향성 가우시안 스무딩이 비국소 탐색을 가능하게 하여 전역 탐색 성능을 향상시킬 수 있는가?
• RQ4 제안된 방법은 고차원 벤치마크 함수에서 표준 진화 전략과 비교해 어떻게 성능을 발휘하는가?
• RQ5 이 방법은 실제 과학 및 공학 최적화 문제에 효과적으로 확장 가능한가?

주요 결과

• 제안된 DGS 기반 진화 전략은 몬테카를로 기반 방법보다 기울기 추정 분산이 유의미하게 낮게 나타났다.
• 표준 벤치마크 함수, 특히 다수의 국소 최소값을 포함한 문제들에서 뛰어난 전역 최적화 성능을 보였다.
• 방향성 가우시안 스무딩은 효과적인 비국소 탐색을 가능하게 하여 국소 최적값에서 벗어나는 능력을 향상시켰다.
• 가우스-에르미트 적분의 사용은 고정밀 기울기 추정을 보장하여 최적화 과정의 노이즈를 감소시켰다.
• 이 방법은 고차원 문제로도 효과적으로 확장 가능했으며, 표준 ES 방법이 성능을 저하시키는 영역에서도 성능을 유지했다.
• 실험 결과, 실제 과학 및 공학 적용 분야에서 수렴성과 해의 품질이 향상됨을 보였다.