[논문 리뷰] Bayesian Optimization with Dimension Scheduling: Application to Biological Systems

Doniyor Ulmasov, Caroline Baroukh외 3명|arXiv (Cornell University)|2015. 11. 17.

Advanced Multi-Objective Optimization Algorithms참고 문헌 14인용 수 6

한 줄 요약

이 논문은 매 반복에서 일부 차원만 최적화함으로써 수렴 속도를 높이고 계산 비용을 줄이는 베이지안 최적화(Bayesian Optimization) 방법인 차원 스케줄링 알고리즘(Dimension Scheduling Algorithm, DSA)을 제안한다. DSA는 특히 시뮬레이션이 빠르고 수천 번에 이르는 평가가 필요한 고차원 생물학적 모델 파라미터 추정에서 전통적인 BO보다 더 빠른 수렴 속도와 낮은 目적 값(목적 함수 값)을 달성한다.

ABSTRACT

Bayesian Optimization (BO) is a data-efficient method for global black-box optimization of an expensive-to-evaluate fitness function. BO typically assumes that computation cost of BO is cheap, but experiments are time consuming or costly. In practice, this allows us to optimize ten or fewer critical parameters in up to 1,000 experiments. But experiments may be less expensive than BO methods assume: In some simulation models, we may be able to conduct multiple thousands of experiments in a few hours, and the computational burden of BO is no longer negligible compared to experimentation time. To address this challenge we introduce a new Dimension Scheduling Algorithm (DSA), which reduces the computational burden of BO for many experiments. The key idea is that DSA optimizes the fitness function only along a small set of dimensions at each iteration. This DSA strategy (1) reduces the necessary computation time, (2) finds good solutions faster than the traditional BO method, and (3) can be parallelized straightforwardly. We evaluate the DSA in the context of optimizing parameters of dynamic models of microalgae metabolism and show faster convergence than traditional BO.

연구 동기 및 목표

• 실험 평가가 빠르지만 BO 계산 비용이 높은 경우, 특히 고차원 파라미터 공간에서 전통적 베이지안 최적화(BO)의 비효율성을 해결한다.
• 베이지안 최적화에서 가우시안 프로세스(GP) 추론의 입방형 스케일링(3차 스케일링) 문제를 해결하여 약 1,000개의 실험과 10개의 파라미터 이하로의 확장성 제한을 극복한다.
• 시뮬레이션이 빠르지만 수천 번의 평가가 필요한 동적 생물학적 모델(예: 미세조류 대사)에서 효율적인 파라미터 추정을 가능하게 한다.
• 모델 정확도를 유지하면서도 반복당 계산 부담을 크게 줄이는 가용성 있고 병렬 처리 가능한 BO 프레임워크를 개발한다.
• 데이터 크기와 차원 수가 증가하여 전통적 BO가 계산적으로 비현실적이게 되는 파라미터 추정 작업에서 수렴 속도와 해의 품질을 향상시킨다.

제안 방법

• 각 BO 반복에서 파라미터 중요도를 반영한 확률 분포에 기반해 동적으로 작은 차원 부분집합을 선택하는 차원 스케줄링 알고리즘(DSA)을 도입한다.
• 전체 데이터 세트를 여러 개의 GP로 분할하여 각 GP는 부분 집합의 차원과 해당 관측치에 대해 학습함으로써, 각 GP의 데이터 크기와 계산 비용을 감소시킨다.
• 각 반복에서 선택된 차원 부분집합에 대해서만 획득 함수를 최적화함으로써, GP 예측 및 최적화에 소요되는 시간을 크게 줄인다.
• 관리자 프로세스를 통해 여러 워커 프로세스를 조율하며, 각 워커는 자신이 할당된 차원 부분집합에 대해 GP를 유지하고 획득 함수를 최적화함으로써 간단한 병렬 처리를 가능하게 한다.
• 학습 데이터를 GP 간에 분배하여 각 GP가 전체 데이터의 소규모이고 자주 업데이트되는 부분집합을 처리하도록 하여, GP당 관측치 수를 최소화하고 확장성을 향상시킨다.
• 마진형 가능도를 적용하여 덜 관련성이 있는 GP를 제거하고 모델 복잡도를 줄여, 정확도를 유지하면서도 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 전통적 BO가 계산적으로 비현실적이게 되는 고차원, 빠른 평가가 가능한 시뮬레이션 모델에 대해, 베이지안 최적화를 어떻게 확장할 수 있는가?
• RQ2 각 반복에서 일부 차원만 최적화함으로써, 동적 생물학적 시스템의 파라미터 추정에서 수렴 속도와 해의 품질이 향상되는가?
• RQ3 수천 번의 시뮬레이션을 포함한 고차원 생물학적 모델에 적용했을 때, DSA의 계산 오버헤드는 전통적 BO에 비해 어떻게 되는가?
• RQ4 DSA는 어느 정도 병렬 처리가 가능하며, 이러한 병렬화가 최적화 시간에 측정 가능한 성능 향상으로 이어지는가?
• RQ5 GP에 부분 데이터만 사용할 경우 정확도와 최적화 과정의 수렴에 어떤 영향을 미치는가?

주요 결과

• DSA는 그림 3에서 보듯이, 더 작은 GP 학습 세트와 반복당 감소된 차원 수 덕분에 평균 실험당 계산 시간을 전통적 BO의 약 1/5로 줄였다.
• 대부분의 경우 DSA는 전통적 BO보다 더 낮은 최적 목적 함수 값을 달성했으며, 특히 초기 반복에서 수렴 속도가 더 빠른 것으로 관찰되었다(그림 2 참조).
• DSA는 다양한 차원 부분집합을 자주 재평가함으로써 탐색 공간의 더 동적인 탐색을 가능하게 하여 수렴 빈도를 향상시켰다.
• 전통적 BO가 계산 확장성 문제로 실패하는 고차원의 미세조류 대사 모델에서도 DSA는 효율적인 파라미터 추정을 가능하게 했다.
• DSA는 GP와 획득 함수 최적화를 여러 프로세스에 분산함으로써 간단한 아키텍처 변경으로도 직렬화 가능한 병렬 처리를 지원한다.
• 장점이 있음에도 불구하고, 차원 수가 증가함에 따라 다수의 GP 간 데이터 희소성으로 인해 DSA는 가끔 전통적 BO에 비해 성능이 열 劣하다.