[논문 리뷰] Many Objective Bayesian Optimization

Lucia Asencio Martín, Eduardo C. Garrido‐Merchán|arXiv (Cornell University)|2021. 07. 08.

Advanced Multi-Objective Optimization Algorithms인용 수 4

한 줄 요약

이 논문은 다수의 목적함수를 가진 베이지안 최적화(MOBO) 알고리즘을 제안하며, 새로운 가우시안 프로세스(GP) 예측 분포 유사도 측도를 사용해 중복 목적함수를 탐지하고 제거함으로써 계산 비용을 줄이면서도 해의 품질을 유지한다. 이 방법은 예측 시간과 모델 크기 등 매우 유사한 목적함수(예: 딥러닝 신경망 하이퍼파rameter 튜닝에서)를 식별하고 조기에 평가를 중단함으로써 다수의 목적함수 문제를 성능을 유지하면서 다목적 문제로 전환시킨다.

ABSTRACT

Some real problems require the evaluation of expensive and noisy objective functions. Moreover, the analytical expression of these objective functions may be unknown. These functions are known as black-boxes, for example, estimating the generalization error of a machine learning algorithm and computing its prediction time in terms of its hyper-parameters. Multi-objective Bayesian optimization (MOBO) is a set of methods that has been successfully applied for the simultaneous optimization of black-boxes. Concretely, BO methods rely on a probabilistic model of the objective functions, typically a Gaussian process. This model generates a predictive distribution of the objectives. However, MOBO methods have problems when the number of objectives in a multi-objective optimization problem are 3 or more, which is the many objective setting. In particular, the BO process is more costly as more objectives are considered, computing the quality of the solution via the hyper-volume is also more costly and, most importantly, we have to evaluate every objective function, wasting expensive computational, economic or other resources. However, as more objectives are involved in the optimization problem, it is highly probable that some of them are redundant and not add information about the problem solution. A measure that represents how similar are GP predictive distributions is proposed. We also propose a many objective Bayesian optimization algorithm that uses this metric to determine whether two objectives are redundant. The algorithm stops evaluating one of them if the similarity is found, saving resources and not hurting the performance of the multi-objective BO algorithm. We show empirical evidence in a set of toy, synthetic, benchmark and real experiments that GPs predictive distributions of the effectiveness of the metric and the algorithm.

연구 동기 및 목표

• 4개 이상의 목적함수를 포함하는 다수의 목적함수 베이지안 최적화(MOBO)에서 높은 계산 비용 문제를 해결하기 위해.
• MOBO에서 추가 정보를 거의 제공하지 않는 중복 목적함수를 식별하고 제거하기 위해.
• 최적화의 관련성이 높은 영역에 초점을 맞춘 GP 예측 분포 유사도 측도를 개발하여 분포 겹침 외에도 최적화의 관련성을 반영하기 위해.
• 유사도 측도를 기반으로 중복 목적함수를 동적으로 제거하는 다수의 목적함수 BO 알고리즘을 설계하기 위해.
• 중복 목적함수 제거가 최종 추천 품질을 떨어뜨리지 않는다는 것을 경험적으로 검증하기 위해.

제안 방법

• 전체 분포 지원이 아닌 최적화의 관련성이 높은 영역에 초점을 맞춘 GP 예측 분포 유사도 측도를 제안한다.
• 임계값 기반 접근법을 사용: 두 목적함수 간의 유사도가 임계값을 초과하면 하나는 중복으로 간주하고 제거한다.
• GP 공분산 행렬의 차이에 대한 프로베니우스 노름을 유도한 거리 측도를 사용해 예측 분포의 유사도를 정량화한다.
• 목적함수를 반복적으로 평가하고, 다른 목적함수와 높은 유사도를 보이는 목적함수를 제거하는 베이지안 최적화 루프에 유사도 측도를 통합한다.
• 자원 절약과 해의 정밀도의 균형을 맞추기 위해 δ(유사도 임계값)와 ε(삭제 허용 오차)의 초모수를 설정한다.
• 합성 문제, 벤치마크 문제, 실제 딥러닝 신경망 하이퍼파rameter 튜닝 작업에 알고리즘을 적용하여 안정성과 효과를 테스트한다.

실험 결과

연구 질문

• RQ1 GP 예측 분포 유사도 측도가 다수의 목적함수 최적화에서 중복 목적함수를 효과적으로 식별할 수 있는가?
• RQ2 이 유사도 측도를 기반으로 중복 목적함수를 제거하면 최종 추천 품질을 떨어뜨리지 않으면서도 계산 비용을 줄일 수 있는가?
• RQ3 임계값 초모수 δ와 ε의 선택이 자원 절약과 해 성능 간의 트레이드오프에 어떤 영향을 미치는가?
• RQ4 특히 목적함수가 상관도가 높을 경우, 최적화 과정의 초기 단계에서 중복 목적함수를 조기에 탐지할 수 있는가?
• RQ5 제안된 측도가 다양한 합성 문제, 벤치마크 문제, 실제 문제에 걸쳐 강건한가?

주요 결과

• 딥러닝 신경망 하이퍼파rameter 튜닝 실험에서 예측 시간과 모델 크기 간의 유사도가 매우 높았고(거리 = 0.0006) 이에 따라 크기 목적함수가 제거되었다.
• 더 엄격한 초모수 설정(δ=20, ε=0.05)으로 인해 알고리즘이 더 이르게(반복 21회차) 중복성을 탐지했고, 중복 목적함수 간의 유사도 거리도 더 낮아져(0.0004)진단되었다.
• 중복 목적함수와 예측 오차 목적함수 간의 거리는 여전히 높았음(0.75)으로, 진정으로 유사한 목적함수들만 제거되었음을 확인하였다.
• 중복 목적함수 제거에도 불구하고 최종 추천 품질이 유지되어 성능 저하 없음을 입증하였다.
• 알고리즘이 최적화 과정에서 목적함수의 수를 효과적으로 줄여 다수의 목적함수 문제를 표준 다목적 문제로 전환시켰다.
• 유사도 측도는 정확히 일치하지는 않지만 상관관계가 있는 목적함수를 식별하는 데 효과적이었으며, 실제 환경에서도 강건함을 보였다.