[논문 리뷰] PHOENICS: A universal deep Bayesian optimizer

Florian Häse, Loı̈c M. Roch외 2명|arXiv (Cornell University)|2018. 01. 04.

Gaussian Processes and Bayesian Inference참고 문헌 48인용 수 8

한 줄 요약

PHOENICS는 블랙박스 목적 함수의 효율적이고 병렬적인 글로벌 최적화를 가능하게 하는 통합적인 딥 베이지안 최적화기이다. 베이지안 커널 밀도 추정과 베이지안 신경망을 결합하여, 이는 이산, 준이산, 연속 함수 전반에서 가우시안 프로세스와 랜덤 포레스트를 능가하며, 다른 방법이 실패하는 복잡한 오레고나토르 모델의 동적 행동을 성공적으로 복원한다.

ABSTRACT

In this work we introduce PHOENICS, a probabilistic global optimization algorithm combining ideas from Bayesian optimization with concepts from Bayesian kernel density estimation. We propose an inexpensive acquisition function balancing the explorative and exploitative behavior of the algorithm. This acquisition function enables intuitive sampling strategies for an efficient parallel search of global minima. The performance of PHOENICS is assessed via an exhaustive benchmark study on a set of 15 discrete, quasi-discrete and continuous multidimensional functions. Unlike optimization methods based on Gaussian processes (GP) and random forests (RF), we show that PHOENICS is less sensitive to the nature of the co-domain, and outperforms GP and RF optimizations. We illustrate the performance of PHOENICS on the Oregonator, a difficult case-study describing a complex chemical reaction network. We demonstrate that only PHOENICS was able to reproduce qualitatively and quantitatively the target dynamic behavior of this nonlinear reaction dynamics. We recommend PHOENICS for rapid optimization of scalar, possibly non-convex, black-box unknown objective functions.

연구 동기 및 목표

• 이산, 준이산, 연속 영역을 포함한 다양한 목적 함수 유형에서 잘 작동하는 글로벌 최적화 알고리즘을 개발하는 것.
• 순차적 베이지안 최적화의 한계를 극복하기 위해 저비용의 획득 함수를 통해 효율적인 병렬 평가를 가능하게 하는 것.
• 선형 스케일링을 갖춘 베이지안 신경망을 사용하여 고차원 및 평가가 비싼 최적화 문제에서 계산 비용을 줄이는 것.
• 기존 방법이 목표 동적 행동을 재현하지 못하는 복잡한 비선형 시스템, 예를 들어 오레고나토르 반응 메커니즘과 같은 곳에서도 강건한 성능을 달성하는 것.
• 알 수 없는 비凸, 블랙박스 목적 함수를 갖는 과학적 및 공학적 문제에 적용 가능한 융통성 있고 통합적인 최적화 프레임워크를 제공하는 것.

제안 방법

• PHOENICS는 각 관측된 목적 함수 값에 대해 베이지안 신경망(BNN)을 사용하여 커널 분포를 추정함으로써 목적 함수의 비모수적 근사치를 제공한다.
• 이러한 커널 분포에서 목적 함수의 기능적 근사치를 구성함으로써, BNN에서 전체 베이지안 추론의 입체 비용을 피한다.
• 탐색과 이용의 균형을 이루는 저비용 획득 함수를 제안하여 직관적이고 효율적인 병렬 샘플링 전략을 가능하게 한다.
• 차원 수와 관측 수에 대해 선형으로 확장되므로 고차원 문제에 대해 계산적으로 효율적이다.
• 획득 함수는 동시에 여러 유의미한 후보 점을 생성함으로써 배치 최적화를 지원하여, 기존 베이지안 최적화의 순차적 제약을 극복한다.
• PHOENICS는 파이썬으로 구현되어 있으며, GitHub에서 개방형 액세스 및 재현 가능성을 위해 공개되어 있다.

실험 결과

연구 질문

• RQ1 일관된 목적 함수 유형(이산, 준이산, 연속 영역 포함) 전반에서 가우시안 프로세스와 랜덤 포레스트를 능가하는 단일 최적화 알고리즘이 존재할 수 있는가?
• RQ2 획득 함수가 수렴성이나 성능을 희생시키지 않으면서 베이지안 최적화에서 효율적이고 직관적인 병렬 처리를 얼마나 잘 가능하게 하는가?
• RQ3 기존 방법이 실패하는 복잡한 비선형 화학 진동자인 오레고나토르 모델에서 PHOENICS가 목표 리미트 사이클의 정성적·정량적 동적 행동을 성공적으로 복원할 수 있는가?
• RQ4 다양한 벤치마크 함수에서 PHOENICS의 수렴 속도와 전역 최적해에의 접근 정도는 GP 및 RF와 비교해 어떻게 되는가?
• RQ5 비용이 많이 들고 비凸이며 블랙박스인 고차원 최적화 문제에서 제안된 방법이 강건성과 효율성을 유지하는가?

주요 결과

• PHOENICS는 15개의 벤치마크 함수 중 12개에서 가우시안 프로세스와 랜덤 포레스트를 모두 능가했으며, 특히 GP와 RF가 성능을 발휘하지 못하는 이산 및 준이산 영역에서 뛰어난 성능을 보였다.
• Dejong, Ellipsoid, Rosenbrock와 같은 볼록 함수에서는 PHOENICS가 GP와 유사한 성능을 달성했지만, 약간 낮은 최적성은 보였으며, 이는 광범위한 강건성을 보여준다.
• PHOENICS를 사용한 배치 최적화는 15개 함수 중 12개에서 상호보완적인 향상을 보였으며, 다양한 문제 유형에서 병렬 평가의 일관된 성과를 확인했다.
• 오레고나토르 사례 연구에서는 오직 PHOENICS만이 목표 리미트 사이클의 정성적·정량적 동적 행동을 성공적으로 재현했으며, 손실 값이 100 이하일 경우 목표 진동 행동과 밀도 있게 일치했다.
• 손실 값이 300~500 사이인 농도 추적에서는 위상 이동이 있는 진동이 나타났고, 손실 값이 3000 이상일 경우 안정 상태 또는 급속한 진동이 발생하여, 방법의 목적 함수 값에 대한 민감도를 확인했다.
• PHOENICS의 계산 비용은 차원 수와 관측 수에 대해 선형으로 증가하므로, 고차원 및 평가가 비싼 설정에서 효율적인 최적화를 가능하게 한다.