[논문 리뷰] pySOT and POAP: An event-driven asynchronous framework for surrogate optimization

David Eriksson, David Bindel외 1명|arXiv (Cornell University)|2019. 07. 30.

Advanced Multi-Objective Optimization Algorithms참고 문헌 38인용 수 67

한 줄 요약

POAP는 대리 최적화 전략을 구축하고 조정하기 위한 이벤트 기반 비동기 프레임워크를 제공하는 반면, pySOT는 POAP를 기반으로 한 대리 최적화 방법의 모음을 제공하여 비용이 큰 블랙박스 함수의 동기식 또는 비동기식 글로벌 최적화를 가능하게 한다.

ABSTRACT

This paper describes Plumbing for Optimization with Asynchronous Parallelism (POAP) and the Python Surrogate Optimization Toolbox (pySOT). POAP is an event-driven framework for building and combining asynchronous optimization strategies, designed for global optimization of expensive functions where concurrent function evaluations are useful. POAP consists of three components: a worker pool capable of function evaluations, strategies to propose evaluations or other actions, and a controller that mediates the interaction between the workers and strategies. pySOT is a collection of synchronous and asynchronous surrogate optimization strategies, implemented in the POAP framework. We support the stochastic RBF method by Regis and Shoemaker along with various extensions of this method, and a general surrogate optimization strategy that covers most Bayesian optimization methods. We have implemented many different surrogate models, experimental designs, acquisition functions, and a large set of test problems. We make an extensive comparison between synchronous and asynchronous parallelism and find that the advantage of asynchronous computation increases as the variance of the evaluation time or number of processors increases. We observe a close to linear speed-up with 4, 8, and 16 processors in both the synchronous and asynchronous setting.

연구 동기 및 목표

• 다양한 평가 시간대를 가진 비용이 큰 블랙박스 함수의 글로벌 최적화를 동기화시키고 다루는 것을 목표로 한다.
• 작업자와 전략을 조정하기 위한 비동기적이고 장애 복원력이 있는 프레임워크(POAP)를 제안한다.
• 여러 모델과 설계로 POAP에 구축된 파이썬 대리 최적화 도구상자(pySOT)를 제공한다.
• 시간 변동성과 더 큰 프로세서 수에서 동기식 대 비동기식 병렬성을 평가하고 이점들을 입증한다.

제안 방법

• 비동기 평가를 관리하기 위해 워커 풀, 전략, 컨트롤러를 갖춘 이벤트 구동 프레이크워크로 POAP를 도입한다.
• POAP 내에서 RBF, GP, SVR, MARS, 다항 회귀 등 대리 최적화 전략 모음을 통해 pySOT를 구현한다.
• 정규화가 있는 RBF, 가우시안 프로세스 등 대리 모델 옵션과 실험 설계(LHD, SLHD)를 설명한다.
• LMS-RBF, DYCORS, PI/EI/LCB 획득 등 보조 문제와 동적 샘플링 반지름 업데이트를 자세히 다룬다.
• 비동기 알고리즘(알고리즘 3)과 평가 이벤트의 처리, 워커 가용성, 재시작(알고리즘 4) 방법을 설명한다.
• 비동기 최적화를 위한 구현 구성요소(컨트롤러, 전략, 워커)와 MPI 및 시뮬레이션 시간 테스트를 포함한 인터페이스를 논의한다.

실험 결과

연구 질문

• RQ1 비동기(대 동기) 병렬성이 평가 시간이 달라질 때 더 많은 프로세서가 사용될 때 대리 기반 글로벌 최적화의 성능에 어떤 영향을 미치는가?
• RQ2 POAP가 장애 복원력과 동적 워커 재할당을 제공하여 비동기 대리 최적화의Robustness를 개선할 수 있는가?
• RQ3 이벤트 드리븐 비동기 프레임워크 내에서 서로 다른 대리 모델, 실험 설계 및 획득 함수는 어떻게 성능 차이가 나타나는가?
• RQ4 비동기 설정에서 샘플링 반경 재시작, 업데이트 및 전략 결합에 대한 실용적인 가이드는 무엇인가?

주요 결과

• 비동기성은 평가 시간이 다르고 4, 8, 16 프로세서에서 동기식 및 비동기식 설정 모두에서 거의 선형에 가까운 속도 향상을 제공한다.
• 비동기 계산은 유휴 시간을 줄이고 그 이점은 평가 분산이 더 크고 더 많은 프로세서가 있을 때 커진다.
• 병렬성은 탐사를 개선하고 평가 횟수 측면에서 직렬 실행보다 성능이 더 좋을 수 있다.
• POAP는 장애 복원력과 동적 워커 관리를 제공하며 충돌이나 실패를 우아하게 처리한다.
• pySOT는 POAP 프레임워크 내에서 대리 모델, 설계 및 획득 함수의 비교를 위한 강력한 테스트용 도구를 제공한다.
• 통합된 POAP-pySOT 프레임워크는 널리 채택되어 왔으며 pySOT는 88,000회 이상 다운로드되었고 POAP는 126,000회 이상 다운로드되었다.