[논문 리뷰] Pareto-efficient Acquisition Functions for Cost-Aware Bayesian Optimization

Gauthier Guinet, Valerio Perrone외 1명|arXiv (Cornell University)|2020. 11. 23.

Advanced Multi-Objective Optimization Algorithms참고 문헌 34인용 수 5

한 줄 요약

이 논문은 비용-정확도 트레이드오프 경계를 재정의함으로써 비용 인지 베이지안 최적화를 위한 파레토 효율적 프레임워크를 제안한다. 비용과 성능 간의 동적 균형을 이루는 새로운 기대 개선 변형인 CEI를 도입하여, 144개의 실제 하이퍼파rameter 최적화 문제에서 표준 EI 및 EIpu 대비 최대 50% 빠른 성능 향상을 이룩했으며, 비용-정확도 트레이드오프에 대한 더 나은 제어를 가능하게 했다.

ABSTRACT

Bayesian optimization (BO) is a popular method to optimize expensive black-box functions. It efficiently tunes machine learning algorithms under the implicit assumption that hyperparameter evaluations cost approximately the same. In reality, the cost of evaluating different hyperparameters, be it in terms of time, dollars or energy, can span several orders of magnitude of difference. While a number of heuristics have been proposed to make BO cost-aware, none of these have been proven to work robustly. In this work, we reformulate cost-aware BO in terms of Pareto efficiency and introduce the cost Pareto Front, a mathematical object allowing us to highlight the shortcomings of commonly used acquisition functions. Based on this, we propose a novel Pareto-efficient adaptation of the expected improvement. On 144 real-world black-box function optimization problems we show that our Pareto-efficient acquisition functions significantly outperform previous solutions, bringing up to 50% speed-ups while providing finer control over the cost-accuracy trade-off. We also revisit the common choice of Gaussian process cost models, showing that simple, low-variance cost models predict training times effectively.

연구 동기 및 목표

• 표준 베이지안 최적화가 평등한 평가 비용을 가정하지만, 실제 하이퍼파ram터 평가에서 비용이 크게 다름을 고려하여 이에 대한 한계를 해결하고자 한다.
• 이론적으로 탄탄하지 못한 기존의 비용 인지 히우리스틱(예: EIpu, EI-cool)의 결함을 식별하고 체계화하고자 한다.
• 최적화 정확도와 평가 비용 간의 동적이고 적응적인 트레이드오프 제어를 가능하게 하는 원칙적인, 파레토 효율적 획득 함수를 개발하고자 한다.
• 144개의 실제 하이퍼파arameter 최적화 문제에서 제안된 방법을 실험적으로 검증하여, 고전적 및 최근의 비용 인지 기반 기준 대비 뛰어난 성능을 입증하고자 한다.

제안 방법

• 함수 값과 평가 비용을 동시에 최소화하는 이목적 문제로 비용 인지 베이지안 최적화를 재구성하며, 이론적 기초로 비용 파레토 프론트를 사용한다.
• 기대 개선과 비용의 가중 조합에서 유도된 새로운 획득 함수인 CEI(Cost-Enhanced Improvement)를 제안하며, 감도 파ram터 α를 동적으로 조정한다.
• 현재 비용-정확도 파레토 프론트 상의 위치에 따라 반복마다 α를 적응적으로 조정하여 실시간 트레이드오프 제어를 가능하게 한다.
• 비용 예측을 위해 단순 선형 모델을 사용하여, 일반적으로 사용되는 왜곡된 가우시안 프로세스보다 훈련 시간 예측에서 뛰어난 성능을 보였다.
• 순차적 베이지안 최적화 루프에서 CEI 획득 함수를 적용하며, 현재 비용-정확도 트레이드오프 하에서 기대 개선을 최대화하는 다음 점을 선택한다.
• 획득 함수가 개선과 비용의 가중합에서 유도되는 이목적 최적화 프레임워크를 사용하며, α는 파레토 프론트의 동역학을 통해 튜닝된다.

실험 결과

연구 질문

• RQ1 EIpu 및 EI-cool과 같은 일반적으로 사용되는 비용 인지 획득 함수는 실제로 어떻게 작동하며, 이들의 이론적 한계는 무엇인가?
• RQ2 비용 인지 베이지안 최적화의 파레토 효율적 공식화는 더 강력하고 제어 가능한 하이퍼파arameter 튜닝을 가능하게 하는가?
• RQ3 최적화 중 비용 민감도 파ram터 α를 동적으로 조정하면 고정 또는 히우리스틱 스케줄 대비 성능 향상이 이루어지는가?
• RQ4 가우시안 프로세스와 같은 선형 모델과의 비용 모델링 접근 방식의 차이는 비용 인지 BO의 정확도와 효율성에 어떤 영향을 미치는가?
• RQ5 제안된 방법은 다양한 실제 하이퍼파arameter 최적화 문제에서 표준 EI 및 기존의 비용 인지 기반 기준을 일관되게 초월하는가?

주요 결과

• 제안된 CEI 획득 함수는 144개의 실제 하이퍼파arameter 튜닝 문제에서 표준 EI 및 EIpu 대비 최대 50% 더 빠른 최적화를 달성했다.
• CEI는 저예산 환경에서 EIpu를 일관되게 뛰어넘으며, 고예산 환경에서도 표준 EI를 초월해 뛰어난 강건성을 입증했다.
• 이 방법은 비용-정확도 트레이드오프에 대해 세밀한 제어가 가능하다: α=0.01일 경우 정확도 손실 없이 20%의 월클럭 타임 절감이 가능하며, α=0.1일 경우 정확도 손실 1% 이내로 50%의 시간 절감이 가능하다.
• 비용 예측을 위한 단순 선형 모델이 왜곡된 가우시안 프로세스보다 훈련 시간 예측에서 뛰어난 성능을 보였으며, 이는 문헌에서 일반적으로 공인된 가정에 도전하는 대목이다.
• 파레토 프론트를 통한 α의 동적 적응은 고정 α 전략보다 뛰어난 성능을 보였으며, CEI가 평균적으로 선택하는 α 값이 최적화 경관에 따라 시간이 지남에 따라 변화하는 것으로 나타났다.
• 비용 파레토 프론트는 명확하고 부드러운 트레이드오프 곡선을 제공하여, 다양한 비용 제약 조건 하에서도 해석 가능하고 제어 가능한 최적화를 가능하게 한다.