[논문 리뷰] A Batched Scalable Multi-Objective Bayesian Optimization Algorithm

Xi Lin, Hui‐Ling Zhen외 3명|arXiv (Cornell University)|2018. 11. 04.

Advanced Multi-Objective Optimization Algorithms참고 문헌 45인용 수 8

한 줄 요약

이 논문은 배치 처리가 가능하고 확장 가능한 다목적 베이지안 최적화 알고리즘인 BS-MOBO를 제안한다. 이 알고리즘은 몬테 카를로 드롭아웃과 소볼레프 훈련을 활용한 베이지안 신경망을 사용하여 기울기 정보를 반영하는 고차원 대체 모델링을 가능하게 한다. 또한 효율적인 병렬 평가를 위해 새로운 배치 히퍼볼륨 상한 신뢰도(이하 B-HUCB) 획득 함수를 도입하여, 최신 기술 대비 대규모 벤치마크 문제와 실제 우주선 궤도 최적화 문제에서 뛰어난 성능을 달성한다.

ABSTRACT

The surrogate-assisted optimization algorithm is a promising approach for solving expensive multi-objective optimization problems. However, most existing surrogate-assisted multi-objective optimization algorithms have three main drawbacks: 1) cannot scale well for solving problems with high dimensional decision space, 2) cannot incorporate available gradient information, and 3) do not support batch optimization. These drawbacks prevent their use for solving many real-world large scale optimization problems. This paper proposes a batched scalable multi-objective Bayesian optimization algorithm to tackle these issues. The proposed algorithm uses the Bayesian neural network as the scalable surrogate model. Powered with Monte Carlo dropout and Sobolov training, the model can be easily trained and can incorporate available gradient information. We also propose a novel batch hypervolume upper confidence bound acquisition function to support batch optimization. Experimental results on various benchmark problems and a real-world application demonstrate the efficiency of the proposed algorithm.

연구 동기 및 목표

• 기존의 대체 모델 기반 다목적 최적화 알고리즘이 고차원 결정 공간에서 가지는 확장성 한계를 해결하기 위해.
• 현재 문헌에서 다루지 않은 바와 같이, 가용한 기울기 정보를 다목적 베이지안 최적화에 효과적으로 통합하기 위해.
• 비용이 큰 최적화 시나리오에서 전체 계산 시간을 줄이기 위해 병렬 평가를 위한 배치 최적화를 지원하기 위해.
• 배치 환경에서 탐색과 이용의 균형을 잘 유지하는 확장성 있고 효율적이며 적응형 획득 함수를 개발하기 위해.
• 제안된 방법이 대규모 벤치마크 문제와 실제 우주선 궤도 최적화 응용 사례에서 효과적으로 작동함을 입증하기 위해.

제안 방법

• 알고리즘은 몬테 카를로 드롭아웃을 활용한 베이지안 신경망을 사용하여 확장 가능한 대체 모델링을 구현하며, 이는 고차원 공간에서의 효율적 불확실성 정량화를 가능하게 한다.
• 기울기 정보를 대체 모델에 통합하기 위해 소볼레프 훈련을 사용하여, 함수 평가 횟수가 제한된 상황에서도 예측 정확도를 향상시킨다.
• 병렬 평가를 위해 동시에 여러 유망한 해를 선택할 수 있도록 새로운 배치 히퍼볼륨 상한 신뢰도(B-HUCB) 획득 함수를 제안한다.
• B-HUCB 함수는 이전에 평가된 모든 해를 고려하여, 배치 선택 과정에서 탐색과 이용의 균형을 유지한다.
• 알고리즘은 적응형 배치 크기 스케줄링을 고려하여 설계되었지만, 현재 구현에서는 문제 차원에 따라 고정된 배치 크기를 사용한다.
• 알고리즘은 22차원 결정 공간을 가진 벤치마크 문제와 실제 우주선 궤도 최적화 작업에서 평가되었다.

실험 결과

연구 질문

• RQ1 몬테 카를로 드롭아웃과 소볼레프 훈련을 활용한 베이지안 신경망 대체 모델은 다목적 최적화에서 고차원 결정 공간으로 효과적으로 확장될 수 있는가?
• RQ2 소볼레프 훈련을 통한 기울기 정보 통합은 비용이 큰 다목적 최적화 문제에서 성능 향상에 어떻게 기여하는가?
• RQ3 히퍼볼륨 상한 신뢰도 기반의 배치 획득 함수는 순차적 또는 비적응형 배치 방법보다 더 나은 수렴성과 다양성을 달성할 수 있는가?
• RQ4 고정된 배치 크기와 적응형 배치 크기의 차이는 배치 처리 다목적 최적화 알고리즘의 성능에 어떤 영향을 미치는가?
• RQ5 BS-MOBO는 대규모 문제와 실제 문제에서 최신 기술의 대체 모델 기반 및 모델 무관 다목적 최적화 알고리즘과 비교해 어떻게 성능을 냈는가?

주요 결과

• Rosetta 우주선 궤도 최적화 문제에서 기울기 정보를 포함한 BS-MOBO_g는 모든 비교 알고리즘보다 유의미하게 뛰어난 히퍼볼륨 성능을 기록했으며, 기준점은 [500, 8]이었다.
• Rosetta 문제에서 BS-MOBO와 BS-MOBO_g가 도출한 근사 페레토 최적 해는 다른 알고리즘이 생성한 대부분의 해를 지배하여, 더 뛰어난 수렴성과 다양성을 확인했다.
• 50개의 결정 변수를 가진 대규모 벤치마크 문제에서 BS-MOBO는 최신 기술의 대체 모델 기반 다목적 유전적 알고리즘과 모델 무관 방법보다 히퍼볼륨 수렴 측면에서 뛰어난 성능을 보였다.
• 소볼레프 훈련을 통한 기울기 정보 활용은 특히 함수 평가 횟수가 제한된 고차원 공간에서 최적화 성능 향상에 뚜렷한 기여를 하였다.
• 제안된 B-HUCB 획득 함수는 효과적인 배치 선택을 가능하게 하여, 여러 반복 동안 탐색과 이용의 균형을 잘 유지하였다.
• 실험 결과에 따르면 고정된 배치 크기는 최적의 선택이 아니며, 최적화 단계에 따라 적응형 배치 크기 스케줄링을 적용하는 것이 향후 연구에서 유망한 방향임을 시사한다.