[논문 리뷰] Escaping local minima with derivative-free methods: a numerical investigation

Coralia Cartis, Lindon Roberts외 1명|arXiv (Cornell University)|2018. 12. 29.

Advanced Multi-Objective Optimization Algorithms참고 문헌 37인용 수 24

한 줄 요약

이 논문은 파이썬 기반의 파이-보비카(Py-BOBYQA)를 사용한 유도수 없는 신뢰영역 최적화 방법이 전역 최적화 문제에 얼마나 효과적인지 조사한다. 개선된 재시작 전략을 도입함으로써, 저자들은 파이-보비카의 변종이 특히 매끄럽고 다중성 노이즈 문제에서 고정밀도 영역에서 최신의 전역 최적화 솔버들—베이지안 최적화, CMA-ES, DIRECT—와 경쟁하거나 그들을 능가함을 보여준다.

ABSTRACT

We apply a state-of-the-art, local derivative-free solver, Py-BOBYQA, to global optimization problems, and propose an algorithmic improvement that is beneficial in this context. Our numerical findings are illustrated on a commonly-used but small-scale test set of global optimization problems and associated noisy variants, and on hyperparameter tuning for the machine learning test set MNIST. As Py-BOBYQA is a model-based trust-region method, we compare mostly (but not exclusively) with other global optimization methods for which (global) models are important, such as Bayesian optimization and response surface methods; we also consider state-of-the-art representative deterministic and stochastic codes, such as DIRECT and CMA-ES. As a heuristic for escaping local minima, we find numerically that Py-BOBYQA is competitive with global optimization solvers for all accuracy/budget regimes, in both smooth and noisy settings. In particular, Py-BOBYQA variants are best performing for smooth and multiplicative noise problems in high-accuracy regimes. As a by-product, some preliminary conclusions can be drawn on the relative performance of the global solvers we have tested with default settings.

연구 동기 및 목표

• 지역 최적화 방법인 유도수 없는 최적화 기법이 전통적으로 전역 최적화 솔버가 다루는 문제를 효과적으로 해결할 수 있는지 평가하는 것.
• 특히 재시작 전략과 같은 알고리즘적 개선이 파이-보비카의 국소 최소값 탈출 성능에 미치는 영향을 조사하는 것.
• 매끄럽고 노이즈가 있는 테스트 문제, 그리고 실제 머신러닝 하이퍼파라미터 튜닝 과제에서 파이-보비카 변종을 광범위한 전역 최적화 솔버들과 비교하는 것.
• 유도수 없는 방법의 고정밀도 및 고예산 영역에서의 확장성과 강건성 평가.
• 특히 노이즈가 있고 매끄러운 환경에서, 전역 최적화 솔버의 기본 설정에 따른 상대적 성능에 대한 경험적 통찰 제공.

제안 방법

• 연구는 모델 기반의 신뢰영역 유도수 없는 최적화 솔버인 파이-보비카를 사용하며, 소프트 재시작과 적응형 신뢰영역 반경 조정을 통한 개선을 적용한다.
• 향상된 파이-보비카 변종은 함수 평가로부터 구축된 이차 보간 모델을 사용해 신뢰영역 내에서 국소 탐색을 이끌며, 수렴 행동에 따라 모델과 영역 크기를 조정한다.
• 알고리즘은 표준 전역 최적화 테스트 세트와 노이즈가 있는 변형, 그리고 MNIST 데이터셋에 대한 하이퍼파라미터 튜닝 과제에서 테스트된다.
• 성능 평가는 다양한 정밀도 수준(저정밀도: τ=10⁻², 고정밀도: τ=10⁻⁵)과 예산 영역(10²(n+1)에서 10⁴(n+1)개의 함수 평가)에서 평가된다.
• 최신 전역 최적화 솔버들과의 비교를 위해 베이지안 최적화(GPyOpt, HyperOpt, PySMAC), 서rogate 방법(SNOBFIT, PySOT), CMA-ES, DIRECT를 대상으로 한다.
• 이전 벤치마킹 기반으로, 전체 이차 보간과 적응형 재시작을 적용한 파이-보비카 변종이 최고 성능을 보였기에 최종 선택된 구성이다.

실험 결과

연구 질문

• RQ1 파이-보비카와 같은 지역적 유도수 없는 신뢰영역 방법이 전역 최적화 문제에서 국소 최소값을 효과적으로 벗어나는가?
• RQ2 개선된 재시작 전략을 적용한 파이-보비카의 성능이 다양한 노이즈 유형과 정밀도 수준에서 기존의 전역 최적화 솔버들과 비교해 어떻게 되는가?
• RQ3 어떤 영역(정밀도, 예산, 노이즈 유형)에서 파이-보비카가 CMA-ES, DIRECT, 베이지안 최적화와 같은 전역 최적화 솔버를 능가하거나 그들과 경쟁하는가?
• RQ4 기본 설정을 가진 전역 최적화 솔버들이 표준 테스트 문제와 실제 머신러닝 과제에서 성능 측면에서 어떻게 비교되는가?
• RQ5 고정밀도 및 고예산 설정에서 파이-보비카는 다른 전역 최적화 솔버들과 비교해 상대적으로 어떤 확장성과 강건성을 가지는가?

주요 결과

• 개선된 파이-보비카 변종은 매끄럽고 다중성 노이즈 문제에서 고정밀도 영역에서 모든 다른 솔버를 능가하며, 전체적으로 최고의 성능을 기록한다.
• 매끄러운 문제에서 고정밀도(τ=10⁻⁵) 조건에서는 최고의 파이-보비카 변종이 가장 뛰어난 성능을 보이며, 그 다음으로 DIRECT가 뒤이른다.
• 다중성 노이즈 문제에서는 고정밀도 영역에서 파이-보비카와 DIRECT가 유사한 강력한 성능을 보인다.
• 가감성 노이즈 문제에서는 DIRECT가 가장 뛰어나며, 그 다음으로 PySOT과 파이-보비카가 뒤이어 성능을 보이며, 이는 이 노이즈 유형에 대한 강건성을 시사한다.
• MNIST 하이퍼파라미터 튜닝 과제에서는 DIRECT와 PySOT이 최고 성능을 보이며, 최고의 파이-보비카 변종은 약간 뒤처져서 성능을 보였다.
• 저정밀도 영역에서는 PySOT과 최고의 파이-보비카 변종이 다른 베이지안 및 서rogate 솔버들을 능가하며, 평균적으로 PySOT이 약간 더 뛰어난 성능을 보였다.