[논문 리뷰] Batch Bayesian Optimization on Permutations using the Acquisition Weighted Kernel

Changyong Oh, Roberto Bondesan외 2명|arXiv (Cornell University)|2021. 02. 26.

Advanced Bandit Algorithms Research인용 수 10

한 줄 요약

이 논문은 비용이 많이 들지만 목적 함수가 복잡한 순열 기반 조합 문제를 위한 배치 베이지안 최적화 프레임워크인 LAW2ORDER를 제안한다. 다양성과 정보성의 균형을 이루기 위해 DPPs를 통한 확보 가중 커널(LAW)을 도입하여, 하위선형 배치 누적 손실을 달성하고, 이차 할당 문제, 플로우숍 스케줄링, TSP, 구조 학습 작업에서 최신 기법들을 능가한다.

ABSTRACT

In this work we propose a batch Bayesian optimization method for combinatorial problems on permutations, which is well suited for expensive-to-evaluate objectives. We first introduce LAW, an efficient batch acquisition method based on determinantal point processes using the acquisition weighted kernel. Relying on multiple parallel evaluations, LAW enables accelerated search on combinatorial spaces. We then apply the framework to permutation problems, which have so far received little attention in the Bayesian Optimization literature, despite their practical importance. We call this method LAW2ORDER. On the theoretical front, we prove that LAW2ORDER has vanishing simple regret by showing that the batch cumulative regret is sublinear. Empirically, we assess the method on several standard combinatorial problems involving permutations such as quadratic assignment, flowshop scheduling and the traveling salesman, as well as on a structure learning task.

연구 동기 및 목표

• 실제 응용 분야인 칩 설계 및 3D 프린팅 등에서 흔한 순열 기반 조합 문제에 대해 효율적인 베이지안 최적화 방법의 부족을 해결하기 위해.
• 다중 순열을 동시에 평가할 수 있도록 배치 확보를 통해 최적화 속도를 향상시키기 위해.
• 기존 DPPs의 한계를 극복하기 위해 DPPs를 통한 다양성과 확보 점수를 통한 정보성의 균형을 통해 배치 확보를 향상시키기 위해.
• 순열 공간에서 제안된 방법의 단순 손실이 점점 줄어드는 이론적 보장을 수립하기 위해.
• 기준 문제에서의 방법의 실증적 검증을 통해 유전 알고리즘과 기존의 배치 BO 방법들에 비해 뛰어난 성능을 보여주기 위해.

제안 방법

• 확보 점수와 DPPs를 결합하여 다양성과 정보성을 균형 잡는 배치 확보 방법인 LAW(Determinantal Point Processes를 통한 확보 가중 커널)를 제안한다.
• 기존 DPPs가 예측 분산에만 의존하여 정보성이 부족한 점을 보완하기 위해, 확보 값에 의해 가중된 커널을 사용한다.
• DPP-L-ensemble 프레임워크를 적용하여 평가를 위한 다양하고 정보적인 순열 배치를 추출한다.
• 목적 함수 값과 불확실성을 예측하기 위해 가우시안 프로세스 서로서브 모델을 사용하며, 이를 통해 확보 함수 계산이 가능하다.
• 신규로 평가된 병렬 배치를 업데이트하는 방식으로, 확보 함수를 베이지안 최적화 루프에 통합한다.
• 특히 순열 공간 최적화에 특화된 전체 프레임워크를 LAW2ORDER로 명명한다.

실험 결과

연구 질문

• RQ1 비용이 많이 들지만 목적 함수가 복잡한 순열 기반 조합 공간에 대해 배치 베이지안 최적화를 효과적으로 확장할 수 있는가?
• RQ2 DPPs를 통한 다양성과 확보 점수를 통한 정보성의 조합이 기존의 배치 확보 방법보다 더 나은 최적화 성능을 내는가?
• RQ3 제안된 배치 방법이 순열 공간에서 이론적으로 어떻게 수렴하는가?
• RQ4 유전 알고리즘과 다른 기존의 배치 BO 방법들에 비해 LAW2ORDER의 수렴 속도와 최종 해 품질 측면에서 어떻게 성능을 냈는가?
• RQ5 고차원 순열을 포함한 대규모 순열 문제, 예를 들어 높은 차원의 구조 학습 문제에서도 이 방법이 우수한 성능 유지를 하는가?

주요 결과

• LAW2ORDER는 하위선형 배치 누적 손실을 달성하여 단순 손실이 점점 줄어드는 이론적 수렴 보장을 확립한다.
• 구조 학습 작업에서 LAW2ORDER는 모든 기준보다 뛰어나며, 더 큰 순열 공간일수록 성능 격차가 크게 증가한다.
• LAW2ORDER는 평가 횟수를 절반으로 줄여도 유전 알고리즘보다 더 좋은 결과를 내어 더 뛰어난 샘플 효율성을 보여준다.
• 여행하는 판매원 문제(TSP)에서 LAW-EST와 LAW-prior-EST는 530회의 평가로 평균 비용 3,367.40 ± 10.66을 기록하여 가장 낮은 평균 비용을 달성한다.
• 플로우숍 스케줄링 문제에서 LAW-prior-EST는 530회의 평가로 평균 비용 7,751.94 ± 7.80을 기록하여 가장 낮은 평균 비용을 달성한다.
• 이차 할당 문제에서 LAW-prior-EST는 830회의 평가로 평균 비용 1,888.93 ± 1.91을 기록하여 모든 경쟁자들을 능가한다.