[논문 리뷰] Advancing Bayesian Optimization: The Mixed-Global-Local (MGL) Kernel and Length-Scale Cool Down

Kim P. Wabersich, Marc Toussaint|arXiv (Cornell University)|2016. 12. 09.

Advanced Multi-Objective Optimization Algorithms참고 문헌 12인용 수 6

한 줄 요약

이 논문은 국소적 볼록 다항식 영역을 모델링하는 혼합-글로벌-로컬(Mixed-Global-Local, MGL) 커널과 함께, 획득 함수 기반 길이 척도 냉각(α-비율 냉각)을 통합한 새로운 베이지안 최적화 프레임워크를 제안한다. 이 방법은 향후 획득 잠재력에 기반해 초모수를 적응적으로 개선하고 국소 최적화 효율성을 명시적으로 표현함으로써, Rosenbrock, Hartmann, 지수 목표 함수를 포함한 벤치마크 함수에서 최신 기법들을 능가하는 최적화 효율성을 확보한다.

ABSTRACT

Bayesian Optimization (BO) has become a core method for solving expensive black-box optimization problems. While much research focussed on the choice of the acquisition function, we focus on online length-scale adaption and the choice of kernel function. Instead of choosing hyperparameters in view of maximum likelihood on past data, we propose to use the acquisition function to decide on hyperparameter adaptation more robustly and in view of the future optimization progress. Further, we propose a particular kernel function that includes non-stationarity and local anisotropy and thereby implicitly integrates the efficiency of local convex optimization with global Bayesian optimization. Comparisons to state-of-the art BO methods underline the efficiency of these mechanisms on global optimization benchmarks.

연구 동기 및 목표

• 표준 초모수 선택의 한계를 해결하기 위해, 과거 데이터에 대한 최대우도 기반 의존성으로 인해 국소 최적점이나 비정상 함수에서 성능이 열 劣할 수 있는 문제를 다루는 것.
• 과거 데이터 피팅이 아닌 향후 최적화 진행 상황과 초모수 적응을 일치시킴으로써, 베이지안 최적화에서 모델 선택을 향상시키는 것.
• 국소 볼록이고 비등방성 영역을 암묵적으로 모델링할 수 있는 커널 함수를 개발하여, 글로벌 베이지안 프레임워크 내에서 국소 모델 기반 최적화의 효율성을 통합하는 것.
• 획득 함수 유용성에 기반한 온라인 초모수 적응과 특수 설계된 커널의 조합이 최신 기법들보다 뛰어난 최적화 성능을 보임을 입증하는 것.

제안 방법

• 과거 데이터에 대한 최대우도가 아닌, 다음 쿼리 포인트에서 예상되는 획득 함수 향상에 기반해 길이 척도 초모수를 선택하는 α-비율 냉각 메커니즘을 제안한다.
• 초기 최적화 단계에서 과적합에 대비한 안정성을 확보하기 위해 길이 척도 값에 대한 하한 히우리스틱을 도입한다.
• 목적 함수가 국소적으로 볼록하고 비등방성 이차형태로 잘 근사될 수 있는 영역을 모델링하기 위해 글로벌 및 로컬 공분산 구조를 조합한 혼합-글로벌-로컬(MGL) 커널을 개발한다.
• MGL 커널을 활용해 국소 이차 보간 및 최적화 단계를 암묵적으로 가능하게 하여, 쿼아-뉴턴 방법과 유사한 국소 수렴 속도 향상을 도모한다.
• 검색 공간 내에서 국소 볼록 다항식 영역을 탐지하기 위한 알고리즘을 구현하여, 글로벌 베이지안 프레임워크 내에서 국소 최적화 전략을 적응적으로 적용할 수 있도록 한다.
• α-비율 냉각을 기대값 향상(Expected Improvement, EI) 획득 함수 설정과 결합하며, 초모수에 대한 사전 가정 없이 작동한다.

실험 결과

연구 질문

• RQ1 과거 데이터 우도가 아닌 향후 획득 잠재력에 기반해 초모수 적응을 개선할 수 있는가?
• RQ2 국소 볼록 다항식 영역을 모델링하는 커널 함수가 비정상적, 이방향성 또는 다모달 함수에서 최적화 성능을 향상시키는가?
• RQ3 획득 함수 유용성에 기반한 온라인 길이 척도 적응이 실질적으로 최대우도 및 한 개 제외 교차검증보다 우수한가?
• RQ4 획득 함수 기반 초모수 적응과 특수 설계된 MGL 커널의 조합이 다양한 벤치마크 함수에서 최신 기법들과 비교해 어떻게 성능을 냅니다?

주요 결과

• α-비율 냉각 방법은 비정상적이고 이방향성 목적 함수에서 한 개 제외 교차검증 및 사후 최적 초모수보다 뚜렷이 뛰어나며, 특히 강인성과 수렴 속도 측면에서 뛰어난 성능을 보였다.
• Rosenbrock 및 지수 함수에서, MGL 커널과 α-비율 냉각을 적용한 본 방법은 최적 초모수를 가진 전통적 기대값 향상 기법보다 유의미하게 낮은 회귀 손실을 기록했다.
• Branin-Hoo 및 Hartmann 6D 함수에서는 PES와 IMGPO를 포함한 최신 기법들을 능가하며, 더 뛰어난 글로벌 탐색 효율성을 입증했다.
• MGL 커널은 비등방성 곡률을 띠는 영역에서 효과적인 국소 최적화를 가능하게 하였으며, 이는 이차형 유사 및 다차원 함수에서의 성능 향상으로 입증되었다.
• α-비율 냉각과 MGL 커널의 조합은 테스트한 모든 벤치마크 함수에서 일관된 성능 향상을 이끌었으며, Hartmann 3D를 제외한 모든 경우에서 성능 향상이 뚜렷했다. Hartmann 3D에서는 PES가 略로 더 우수한 성능을 보였다.
• 정상적인 경우에서는 최적 초모수와 유사한 성능를 달성했지만, 노이즈가 있거나 비정상적인 목표 함수를 가진 실제 환경에서는 훨씬 뛰어난 성능을 보였다.