[논문 리뷰] Asynchronous Batch Bayesian Optimisation with Improved Local Penalisation

Ahsan Alvi, Bin Xin Ru외 3명|arXiv (Cornell University)|2019. 01. 29.

Machine Learning and Data Classification인용 수 20

한 줄 요약

이 논문은 지역적 페널라이제이션을 사용하여 중복된 배치 선택을 방지함으로써 샘플 효율성과 월클록 성능을 향상시키는 이방향 배치 베이지안 최적화 방법인 PLAyBOOK을 제안한다. 국소적으로 추정된 리프시츠 상수와 동적 작업 재할당을 통해, 특히 더 큰 배치 크기에서 동기식 및 기존 이방향 방법보다 뛰어난 성능을 발휘한다.

ABSTRACT

Batch Bayesian optimisation (BO) has been successfully applied to hyperparameter tuning using parallel computing, but it is wasteful of resources: workers that complete jobs ahead of others are left idle. We address this problem by developing an approach, Penalising Locally for Asynchronous Bayesian Optimisation on $k$ workers (PLAyBOOK), for asynchronous parallel BO. We demonstrate empirically the efficacy of PLAyBOOK and its variants on synthetic tasks and a real-world problem. We undertake a comparison between synchronous and asynchronous BO, and show that asynchronous BO often outperforms synchronous batch BO in both wall-clock time and number of function evaluations.

연구 동기 및 목표

• 지연된 작업이 완료될 때까지 대기하는 느린 작업을 기다리는 동기식 배치 베이지안 최적화의 비효율성을 해결하기 위해.
• 이방향 함수 평가를 통해 병렬 하이퍼파rameter 튜닝에서 자원 활용도를 향상시키기 위해.
• 이방향 환경에서 중복된 배치 점 선택을 방지하는 페널라이제이션 기반 방법을 개발하기 위해.
• 대체 모델의 국소 변동성 특징을 활용하여 이방향 BO에서 샘플 효율성을 향상시키기 위해.
• 이방향 BO에 있어서 PLAyBOOK이 동기식 및 기존 이방향 베이스라인을 능가하는 것을 경험적으로 검증하기 위해.

제안 방법

• 지속적으로 평가 중인 영역 근처에서 획득 함수를 페널라이징하여, 유휴 상태인 워커를 동적으로 재할당하는 새로운 이방향 배치 베이지안 최적화 프레임워크인 PLAyBOOK을 제안한다.
• 지속적인 가우시안 프로세스(GP) 대체 모델의 국소 변동성 특징(예: 국소 리프시츠 상수)을 사용하는 새로운 페널라이제이션 함수를 도입하여 탐색을 안내하고 중복을 방지한다.
• 대체 모델의 국소적 변동성(예: 국소 리프시츠 경계)의 국소적 추정치를 사용하여 페널라이제이션을 정교화함으로써, 전역 측정치보다 탐색 효율성을 향상시킨다.
• 목적 함수를 모델링하기 위해 가우시안 프로세스(GP) 대체 모델을 사용하고, 함수 값에 대한 사후 분포를 유지하여 획득 함수 최대화를 안내한다.
• 새로운 평가가 완료될 때 실시간으로 업데이트되는 페널라이제이션 항을 포함한 획득 함수 최대화를 적용하여, 지속적인 작업 재할당을 가능하게 한다.
• 국소(PLAyBOOK-L) 및 고차원 국소(PLAyBOOK-LL, PLAyBOOK-HL) 페널라이제이션 변종을 지원하며, 국소 리프시츠 상수의 추정치를 사용하여 다양성과 수렴성을 향상시킨다.

실험 결과

연구 질문

• RQ1 지역적 페널라이제이션을 사용한 이방향 배치 베이지안 최적화가 월클록 시간과 샘플 효율성 측면에서 동기식 배치 BO를 능가하는가?
• RQ2 국소 변동성 특징에 기반한 지역적 페널라이제이션 전략이 이방향 BO에서 탐색을 향상시키고 중복을 줄일 수 있는가?
• RQ3 실세계 하이퍼파rameter 튜닝 작업에서 PLAyBOOK은 톰슨 샘플링(TS) 및 지식 기반 경향(KB)과 같은 기존 이방향 BO 방법보다 어떻게 비교되는가?
• RQ4 국소적으로 추정된 리프시츠 상수가 성능 향상에 기여하는가, 특히 배치 크기가 증가할수록 더 두드러지는가?
• RQ5 페널라이제이션 기반 접근법은 동기식 설정보다 이방향 설정에 본질적으로 더 적합한가?

주요 결과

• PLAyBOOK은 특히 더 큰 배치 크기에서 월클록 시간과 함수 평가 횟수 측면에서 동기식 배치 BO를 모두 능가한다.
• 합성 테스트 함수에서 PLAyBOOK은 TS 및 KB보다 일관되게 뛰어난 최적화 성능을 달성했으며, 국소 리프시츠 변종(PLAyBOOK-LL)이 가장 우수한 성능을 보였다.
• CIFAR-10에서의 실세계 CNN 하이퍼파rameter 튜닝 작업에서 PLAyBOOK 메서드는 TS 및 KB보다 높은 테스트 정확도를 달성했으며, PLAyBOOK-HL은 k=2일 때 85.2%의 정확도, k=4일 때 84.2%의 정확도를 기록했다.
• k=4일 때 PLAyBOOK-LL는 검증 오차 감소 속도가 가장 빠르게 나타나, 뛰어난 수렴 속도와 샘플 효율성을 보였다.
• 국소 리프시츠 추정치의 사용은 전역 또는 국소 외 페널라이제이션 대비 성능 향상에 크게 기여했으며, 특히 배치 크기가 증가할수록 두드러졌다.
• 경험적 결과는 페널라이제이션 기반 방법이 본질적으로 이방향 설정에 더 적합하며, PLAyBOOK이 TS 및 KB와 같은 기존 이방향 방법보다 열등하지 않음을 시사한다.