[논문 리뷰] Multi-Objective Bayesian Optimization over High-Dimensional Search Spaces

Samuel Daulton, David Eriksson외 2명|arXiv (Cornell University)|2021. 09. 22.

Advanced Multi-Objective Optimization Algorithms인용 수 24

한 줄 요약

MORBO는 높은 차원의 검색 공간에서 파레토 최적 해면의 다양한 영역을 효율적으로 탐색하기 위해 조율된 국소 신뢰 영역(TRs)을 사용하는 확장 가능한 다목적 베이지안 최적화 방법이다. 국소 가우시안 프로세스 모델과 협업형 후보 선택을 활용하여, 최대 222개의 파라미터를 가진 문제들, 특히 실제 광학 및 차량 설계 과제에서 최신 기법들에 비해 표본 효율성에서 수배수 수준의 향상을 달성한다.

ABSTRACT

Many real world scientific and industrial applications require optimizing multiple competing black-box objectives. When the objectives are expensive-to-evaluate, multi-objective Bayesian optimization (BO) is a popular approach because of its high sample efficiency. However, even with recent methodological advances, most existing multi-objective BO methods perform poorly on search spaces with more than a few dozen parameters and rely on global surrogate models that scale cubically with the number of observations. In this work we propose MORBO, a scalable method for multi-objective BO over high-dimensional search spaces. MORBO identifies diverse globally optimal solutions by performing BO in multiple local regions of the design space in parallel using a coordinated strategy. We show that MORBO significantly advances the state-of-the-art in sample efficiency for several high-dimensional synthetic problems and real world applications, including an optical display design problem and a vehicle design problem with 146 and 222 parameters, respectively. On these problems, where existing BO algorithms fail to scale and perform well, MORBO provides practitioners with order-of-magnitude improvements in sample efficiency over the current approach.

연구 동기 및 목표

• 기존의 베이지안 최적화가 확장성과 표본 효율성 문제로 인해 실패하는 고차원 검색 공간에서 상호 간섭하는 다수의 블랙박스 목적함수를 최적화하는 데 도전하는 것.
• 대규모 표본 집합에서 전역 가우시안 프로세스 추론의 삼차 시간 복잡도 문제를 국소 서로서브 모델을 사용하여 해결하는 것.
• 고차원 문제에서 분리된 영역으로 이루어진 파레토 최적 해면의 다양한 전역 최적 트레이드오프를 효과적으로 탐색하는 것.
• 다양한 국소 영역 간에 관측치를 공유하고 최적화를 조율하는 확장 가능한 협업 프레임워크를 개발하여 수렴성과 커버리지 향상에 기여하는 것.
• 기존 최신 기법들인 NSGA-II, q-NEHVI, q-ParEGO보다 표본 효율성과 최종 하이퍼볼륨 측면에서 뛰어난 성능을 보이는 방법을 제공하는 것, 특히 고차원 실세계 및 합성 문제에서의 성능을 고려하여.

제안 방법

• MORBO는 설계 공간 전역에 분포된 다수의 국소 신뢰 영역(TRs)을 사용하며, 각 TR은 서로 다른 파레토 최적 트레이드오프 중심에 위치하여 전역 파레토 최적 해면의 다양성 있는 탐색을 보장한다.
• 각 TR은 국소 가우시안 프로세스(GP) 서로서브 모델을 유지하여, 전체 표본 수 n에 대해 O(n³)에서 TR 내 국소 관측 수 n_T에 대해 O(n_T³)로 추론 시간 복잡도를 감소시킨다.
• 모든 TR에서 수집된 관측치는 전역적으로 공유되어, 겹치는 영역에서 수집된 데이터가 각 국소 모델의 정확도와 표본 효율성 향상에 기여한다.
• 전역 유틸리티 함수를 다수의 TR 간에 공동으로 최대화하여 후보 점의 배치를 선택함으로써, 검색 공간의 조율된 효율적 탐색을 보장한다.
• MORBO는 이론적 성능 보장을 갖춘 전역 정책에 기반해 성능이 열악한 TR을 동적으로 종료하고 새로운 TR을 할당함으로써 장기적인 최적화 효율성을 향상시킨다.
• 파레토 최적 해면의 분리된 영역이나 복잡한 트레이드오프 영역을 효과적으로 커버하기 위해, 파레토 최적 해면을 따라 잘 분포된 점들에 TR 중심을 배치하는 전략을 사용한다.

실험 결과

연구 질문

• RQ1 전역 서로서브 모델이 계산적으로 불가능해지는 수백 개의 파라미터를 가진 고차원 문제에 대해 다목적 베이지안 최적화를 효과적으로 확장할 수 있는가?
• RQ2 복잡하고 분리된 파레토 최적 해면을 가진 고차원 다목적 블랙박스 최적화 문제에서 다양한 전역 최적 트레이드오프를 어떻게 효율적으로 탐색할 수 있는가?
• RQ3 공유된 데이터를 가진 국소 서로서브 모델이 고차원 환경에서 전역 모델 대비 표본 효율성 향상과 계산 비용 감소에 얼마나 기여할 수 있는가?
• RQ4 MORBO는 고차원 합성 및 실세계 문제에서 최신 기법들인 NSGA-II, q-NEHVI, q-ParEGO와 비교해 표본 효율성과 최종 하이퍼볼륨 측면에서 어떻게 성능을 내는가?
• RQ5 협업식 다중 신뢰 영역 접근 방식이 복잡한 고차원 설계 공간에서 단일 영역 또는 비조율된 방법보다 더 나은 파레토 최적 해면 커버리지와 수렴 속도를 달성할 수 있는가?

주요 결과

• 146차원 광학 디스플레이 설계 문제에서, MORBO는 NSGA-II와 Sobol보다 유의미하게 높은 하이퍼볼륨과 커버리지 성능을 달성했으며, 10,000회 평가 완료 시 더 나은 트레이드오프 탐색 성능을 보였다.
• 222차원 마즈다 차량 설계 문제에서, MORBO는 차량 질량을 NSGA-II보다 더 효과적으로 감소시켰고, 질량과 공통 부품 수 사이의 더 넓은 트레이드오프 영역을 탐색함으로써 산업적 핵심 제약 조건을 효과적으로 충족시켰다.
• 100차원 DTLZ 문제에서, MORBO는 네목적함수 문제에서 평균 순위가 가장 낮은 1.67을 기록했으며, DTLZ7과 DTLZ3 문제에서 최종 하이퍼볼륨 측면에서 q-NEHVI와 q-ParEGO를 모두 능가했다.
• 100차원 궤도 계획 문제에서, MORBO의 후보 생성 속도는 q-ParEGO와 q-NEHVI 대비 두 배수 빠르게 나타나, 뛰어난 계산 확장성의 가능성을 입증했다.
• 4차원 용접 보강재 문제에서, MORBO는 모든 기준 기법보다 더 나은 파레토 최적 해면 커버리지 성능을 달성했으며, 낮은 차원에서도 강력한 성능을 보여, 문제 규모에 관계없이 뛰어난 안정성과 신뢰성을 입증했다.
• 최악, 중간, 최고의 반복 실험 전반에서 MORBO는 높은 하이퍼볼륨과 양호한 커버리지 성능을 지속적으로 달성하여 최적화 성능의 뛰어난 신뢰성과 안정성을 보여주었다.