[논문 리뷰] Adaptive and Safe Bayesian Optimization in High Dimensions via One-Dimensional Subspaces

Johannes Kirschner, Mojmír Mutný외 3명|arXiv (Cornell University)|2019. 02. 08.

Advanced Bandit Algorithms Research참고 문헌 40인용 수 46

한 줄 요약

LineBO는 전역 GP 모델과 임의의(또는 휴리스틱) 방향을 사용하여 연속적인 일차원 하위 문제의 시퀀스를 해결함으로써 Bayesian optimization을 고차원으로 확장합니다; SafeOpt와 결합하면 이론적 보장을 갖춘 안전한 고차원 BO를 제공하고 SwissFEL에서 최대 40 매개변수로 시연됩니다.

ABSTRACT

Bayesian optimization is known to be difficult to scale to high dimensions, because the acquisition step requires solving a non-convex optimization problem in the same search space. In order to scale the method and keep its benefits, we propose an algorithm (LineBO) that restricts the problem to a sequence of iteratively chosen one-dimensional sub-problems that can be solved efficiently. We show that our algorithm converges globally and obtains a fast local rate when the function is strongly convex. Further, if the objective has an invariant subspace, our method automatically adapts to the effective dimension without changing the algorithm. When combined with the SafeOpt algorithm to solve the sub-problems, we obtain the first safe Bayesian optimization algorithm with theoretical guarantees applicable in high-dimensional settings. We evaluate our method on multiple synthetic benchmarks, where we obtain competitive performance. Further, we deploy our algorithm to optimize the beam intensity of the Swiss Free Electron Laser with up to 40 parameters while satisfying safe operation constraints.

연구 동기 및 목표

• 고차원이고 노이즈가 많은 목적 함수에 대한 확장 가능한 Bayesian optimization의 필요성과 암시적 제약의 동기를 제시한다.
• 고효율적으로 해결 가능한 1D 하위 문제로 고차원 문제를 분해하는 방법을 개발한다.
• 수렴 보장과 함수의 유효 차원에 대한 적응성을 제공한다.
• 안전 제약을 도입하여 고차원에서 원칙에 기반한 안전 최적화를 가능하게 한다.
• 합성 벤치마크와 실제 응용(SwissFEL)에서의 실용적 성능을 시연한다.

제안 방법

• LineBO를 도입한다: 현재의 최적 지점을 포함하는 연속적인 일차원 선형 부분공간 하위 문제를 반복적으로 해결한다.
• 지시자 Pi를 사용하여 부분공간 방향을 선택하며, 보통 무작위로 선택되어 L_i = L(x_i, l_i)를 생성한다.
• 각 1D 하위 문제를 선 위에서 Bayesian optimization으로 해결하되, 전역 GP 모델을 통해 정보를 공유한다.
• 선택적으로 하위 해결기를 SafeOpt로 교체하여 SafeLineBO를 얻고 암시적 제약하에서 안전 보장을 가능하게 한다.
• 이론적 분석을 제공한다: (i) 전역 수렴과 속도는 유효 차원 d_e에 연관되어 있음; (ii) 강볼록성 하에서 국소 선형 수렴; (iii) 1D 하위공간에서의 최대 정보 이득 gamma_T를 통한 정보 이론적 경계.
• 실용적인 선택에 대해 논의한다: 하강 방향 휴리스틱, 좌표 정렬 방향, 전역 대 지역 탐색의 trade-off; 전체 고차원 BO 대비 각 반복의 계산 효율성을 강조한다.

실험 결과

연구 질문

• RQ1 고려하는 변수 공간을 확장하여 Bayesian optimization의 전역 최적화 이점을 유지하면서 어떻게 확장할 수 있는가?
• RQ2 고차원 BO가 불활성(불변) 부분공간에 적응하고 활성 차원의 효과를 사전 지식 없이 효과적으로 줄일 수 있는가?
• RQ3 고차원 BO에 안전 제약을 이론적 보장과 함께 도입할 수 있는가?
• RQ4 LineBO가 표준 벤치마크 및 실제 고차원 응용(예: SwissFEL)에서 기존 방법과 비교해 어떻게 성능을 보이는가?

주요 결과

• LineBO는 무작위 방향에서 전역 수렴을 달성하며 함수가 강볼록인 경우 빠른 국소 속도를 보인다.
• 알고리즘은 함수의 유효 차원과 함께 적응적으로 확장되어 d_e에 의존하는 리프시츠 스타일의 전역 속도를 제공한다.
• SafeLineBO는 SafeOpt 하위 해결기로 LineBO를 확장하여 고차원에서 원칙에 기반한 안전 최적화를 제공한다.
• 합성 벤치마크에서의 실험 결과는 전체 규모의 BO 및 REMBO 변형에 비해 경쟁력 있는 성능과 속도 상승을 보여준다.
• SwissFEL 빔라인 조정에 최대 40 매개변수로 적용했을 때, 안전 기능이 있는 LineBO는 Nelder-Mead를 능가했고 약 15분 내에 더 높은 펄스 에너지를 달성했다.
• 이 접근법은 모델 적합도와 진행 상황 모니터링을 위한 사용자 친화적인 슬라이스 플롯 등 실용적 이점을 제공한다.