[논문 리뷰] Parallel Multi-Objective Hyperparameter Optimization with Uniform Normalization and Bounded Objectives

Romain Égelé, Tyler H. Chang외 3명|arXiv (Cornell University)|2023. 09. 26.

Advanced Multi-Objective Optimization AlgorithmsComputer Science인용 수 3

한 줄 요약

이 논문은 초기 수렴성과 해의 품질을 향상시키기 위해 균일 분위수 정규화와 소프트 페널티를 사용하는 병렬 다목적 베이지안 최적화 프레임워크인 D-MoBO를 제안한다. 16배 더 많은 워커를 사용할 때 5배의 속도 향상을 기록하며, 벤치마크 작업에서 NSGA-II와 MoTPE를 능가한다. 특히 초기 수렴성과 초과체적 지표 점수에서 두드러진 성능을 보인다.

ABSTRACT

Machine learning (ML) methods offer a wide range of configurable hyperparameters that have a significant influence on their performance. While accuracy is a commonly used performance objective, in many settings, it is not sufficient. Optimizing the ML models with respect to multiple objectives such as accuracy, confidence, fairness, calibration, privacy, latency, and memory consumption is becoming crucial. To that end, hyperparameter optimization, the approach to systematically optimize the hyperparameters, which is already challenging for a single objective, is even more challenging for multiple objectives. In addition, the differences in objective scales, the failures, and the presence of outlier values in objectives make the problem even harder. We propose a multi-objective Bayesian optimization (MoBO) algorithm that addresses these problems through uniform objective normalization and randomized weights in scalarization. We increase the efficiency of our approach by imposing constraints on the objective to avoid exploring unnecessary configurations (e.g., insufficient accuracy). Finally, we leverage an approach to parallelize the MoBO which results in a 5x speed-up when using 16x more workers.

연구 동기 및 목표

• 목적함수 척도의 격차, 이상치에 대한 민감도, 그리고 흥미롭지 않은 트레이드오프의 비효율적 탐색 등의 과제를 해결하기 위해 다목적 하이퍼파ram터 최적화(MOHPO)의 과제를 해결한다.
• 특히 기계학습 워크플로우에서 흔한 고비용 블랙박스 함수에 대해 반복 효율성과 해의 다양성을 향상시키기 위한 모델 기반 MOHPO의 개선을 목표로 한다.
• 가우시안 프로세스 기반 방법에서 관찰되는 성능 포화를 피하기 위해 계산 자원에 비례해 확장 가능한 효과적인 병렬화를 가능하게 한다.
• 사용자가 정의한 목적함수 범위 외의 구성에 대해 소프트 페널티를 통합하여 높은 품질의 탐색 가능한 트레이드오프만을 보장한다.
• 실제 기계학습 벤치마크에서 기존 방법인 NSGA-II와 MoTPE보다 수렴 속도와 최종 해 품질 측면에서 모두 뛰어난 성능을 달성한다.

제안 방법

• 목적함수의 스케일링을 향상시키고 이상치에 대한 강건성을 높이며 파레토 최적 해에 집중하기 위해 분위수 균일 정규화(QU)를 사용한다.
• 사용자가 정의한 탐색 가능 범위 외의 목적함수 값에 대해 탐색을 억제하기 위해 소프트 페널티 함수를 적용한다.
• 파레토 최적 해의 전역적 다양성을 증진하기 위해 균일하게 샘플링된 가중치를 통한 무작위 스칼라화를 활용한다.
• 다목적 최적화 경계를 효율적으로 모델링하고 획득 함수를 안내하기 위해 랜덤 포레스트 서rogate 모델을 사용한다.
• 공유 큐와 워커 간의 협업을 통해 분산된 병렬 평가를 가능하게 하여 확장성을 향상시킨다.
• 특정 관심 영역 내의 트레이드오프만 탐색하도록 제한하는 경계 설정 스칼라화 접근법을 구현한다.

실험 결과

연구 질문

• RQ1 균일 분위수 정규화는 하이퍼파ram터 최적화에서 다목적 베이지안 최적화의 강건성과 수렴성에 기여하는가?
• RQ2 비가능한 또는 흥미롭지 않은 목적함수 트레이드오프에 대해 소프트 페널티 함수가 MOHPO의 효율성과 품질에 어떤 영향을 미치는가?
• RQ3 병렬화가 모델 기반 MOHPO의 성능에 얼마나 기여하는가? 특히 속도 향상과 해 품질 측면에서 말이다.
• RQ4 D-MoBO는 다양한 기계학습 벤치마크에서 기존 기준인 NSGA-II와 MoTPE와 비교해 초과체적 지표와 수렴 속도 측면에서 어떻게 성능을 냈는가?
• RQ5 제안된 방법은 병렬 워커 수 증가에 따라 효과적으로 확장되는가? 성능 향상이 포화 없이 유지되는가?

주요 결과

• 16배 더 많은 워커를 사용할 때 D-MoBO는 수렴 속도를 5배로 높였으며, 640개의 GPU를 사용해 40개 워커의 해를 30분 내에 도달했다.
• 640개의 워커를 사용했을 때 D-MoBO는 초과체적 지표(HVI)를 0.66로 기록했으며, 동일한 스케일에서 NSGA-II(0.66)와 MoTPE(0.26)를 크게 앞섰다.
• 640개 워커에서 D-MoBO의 HVI 곡선 아래 면적(AUC)은 0.51이었으며, NSGA-II(0.45), MoTPE(0.23), 랜덤 서치(0.13)를 모두 초월했다.
• 소프트 페널티 메커니즘이 흥미롭지 않은 구성의 탐색을 줄여 효율성을 향상시켰다. D-MoBO NP(페널티 없음)는 640개 워커에서 HVI 0.51을 기록했지만, D-MoBO는 0.66을 달성했다.
• 랜덤 서치는 병렬성 증가에 비해 성능 향상이 거의 없었으며, 640개 워커에서 30회 평가를 완료했지만 HVI는 0.21에 머물러 있어 확장성 부족을 보였다.
• 모든 워커 수에서 D-MoBO는 모든 경쟁자들을 뛰어넘었으며, 특히 초기 단계의 수렴에서 가장 큰 성능 격차를 보였다.