[논문 리뷰] Cost-aware Multi-objective Bayesian optimisation

Majid Abdolshah, Alistair Shilton외 3명|arXiv (Cornell University)|2019. 09. 09.

Advanced Multi-Objective Optimization Algorithms참고 문헌 21인용 수 8

한 줄 요약

이 논문은 사용자가 정의한 비용 인지 제약 조건을 활용하여 검색 공간 내에서 비균일한 평가 비용을 고려하는 Cost-aware Multi-objective Bayesian Optimisation (CA-MOBO) 프레임워크를 제안한다. Chebyshev 스칼라화 기반의 비용 인지 획득 함수와 선형적으로 스케일링 가능한 회귀 분석을 통합함으로써, CA-MOBO는 초기에 저비용 입력 조합을 우선적으로 고려하면서도 파레토 최적성을 유지하며, 신경망 및 랜덤 포레스트 하이퍼파rameter 튜닝 실험에서 비용이 많이 드는 하이퍼파ram터 사용을 최대 50% 감소시켰다.

ABSTRACT

The notion of expense in Bayesian optimisation generally refers to the uniformly expensive cost of function evaluations over the whole search space. However, in some scenarios, the cost of evaluation for black-box objective functions is non-uniform since different inputs from search space may incur different costs for function evaluations. We introduce a cost-aware multi-objective Bayesian optimisation with non-uniform evaluation cost over objective functions by defining cost-aware constraints over the search space. The cost-aware constraints are a sorted tuple of indexes that demonstrate the ordering of dimensions of the search space based on the user's prior knowledge about their cost of usage. We formulate a new multi-objective Bayesian optimisation acquisition function with detailed analysis of the convergence that incorporates this cost-aware constraints while optimising the objective functions. We demonstrate our algorithm based on synthetic and real-world problems in hyperparameter tuning of neural networks and random forests.

연구 동기 및 목표

• 기존 방법들이 평가 비용을 균일하게 가정하고 있음에도 불구하고, 입력 차원 간 평가 비용이 비균일하게 변하는 상황에서 Bayesian 최적화의 격차를 해결하기 위해.
• 사용자가 입력 차원 비용에 대한 사전 지식을 기반으로 정의한 비용 인지 제약 조건을 다목적 최적화에 통합하는 프레임워크를 개발하기 위해.
• 초기 탐색을 저비용 입력 영역으로 우선적으로 유도하면서 점차 비용 제약 조건을 완화하여 전체 파레토 프론트로의 수렴을 유지하기 위해.
• 많은 목표 문제에 대응할 수 있고 이론적 회귀 경계를 제공할 수 있도록 선형적으로 스케일링 가능한 획득 함수를 설계하기 위해.
• 합성 및 실제 하이퍼파ram터 튜닝 작업(신경망 및 랜덤 포레스트 포함)에서 방법을 실증적으로 검증하기 위해.

제안 방법

• 비용 인지 제약 조건을 입력 차원 인덱스의 정렬된 튜플로 도입하여, 사용자의 입력 비용 상대적 지식을 반영한다(예: 차원 1은 차원 2보다 더 비싸다).
• 목표 함수의 Chebyshev 스칼라화와 비용 함수 성분을 결합한 새로운 획득 함수를 제안하며, 이는 성능와 비용 간의 트레이드오���을 가능하게 한다.
• 획득 함수는 목표 수에 따라 선형적으로 스케일링되므로, 히프레볼륨 기반 대안과 달리 다목적 문제에 적용 가능하다.
• 알고리즘은 시간이 지남에 따라 비용 제약 조건의 영향을 점차 줄여 비용이 많이 드는 입력의 전체 탐색을 허용하면서도, 초기에는 저비용 입력을 우선적으로 고려하도록 설계된다.
• 이론적 회귀를 정의하고 상한을 제시함으로써, 제안된 비용 인지 프레임워크 하에서 수렴 보장을 제공한다.
• 모델링을 위해 가우시안 프로세스를 사용하고, 실수 및 합성 실험에서 MO-UCB와 비교하여 구현 및 평가한다.

실험 결과

연구 질문

• RQ1 다목적 베이지안 최적화 프레임워크가 입력 차원 간 비균일한 평가 비용을 효과적으로 통합할 수 있는가?
• RQ2 비용 인지 제약 조건은 어떻게 공식적으로 모델링하고 획득 함수에 통합되어 저비용 입력 영역으로의 초기 탐색을 이끌 수 있는가?
• RQ3 제안된 CA-MOBO 방법은 비용이 많이 드는 입력 차원의 사용을 줄이면서도 파레토 최적성을 유지하는가?
• RQ4 표준 MOBO에 비해 비용 인지 획득 함수는 누적 비용(예: 비용이 많이 드는 하이퍼파ram터의 수)을 얼마나 줄이는가?
• RQ5 알고리즘의 이론적 회귀는 유계이며, 비균일한 비용 조건 하에서도 이 유계가 유지되는가?

주요 결과

• 합금 조성 실험에서 CA-MOBO는 바닐라 베이지안 최적화 대비 니켈 사용을 32.1g에서 54.1g로 줄여 비용이 많이 드는 입력 사용을 40.7% 감소시켰다.
• 랜덤 포레스트 하이퍼파ram터 튜닝 작업에서 CA-MOBO는 500회 반복 기간 동안 선택된 추정기 수의 합을 MO-UCB 대비 49.6% 감소시켰다(71.4 vs. 141.8).
• 신경망 튜닝 실험에서 CA-MOBO는 300회 반복 기간 동안 은닉층 수의 누적 합을 41.2% 감소시켰다(205.7 vs. 349.5), 이는 상당한 비용 절감을 의미한다.
• 초기 반복에서 CA-MOBO는 더 높은 초기 지배 히프레볼륨과 더 낮은 누적 회귀를 기록하여, 고성능이고 비용 효율적인 해에 더 빨리 수렴함을 시사한다.
• 초기 비용 인지 탐색 덕분에 저비용, 고오차 영역에서 더 다양한 파레토 프론트를 생성하여, 비용 민감 영역에서의 해의 다양성을 향상시켰다.
• 이론적 분석을 통해 CA-MOBO의 회귀가 상한을 가지며, 제안된 비용 인지 프레임워크 하에서 수렴이 보장됨을 확인하였다.