[논문 리뷰] Multi-fidelity Bayesian Optimisation with Continuous Approximations

Kirthevasan Kandasamy, Gautam Dasarathy외 2명|arXiv (Cornell University)|2017. 03. 18.

Machine Learning and Data Classification참고 문헌 29인용 수 95

한 줄 요약

이 논문은 연속 충실도 공간용 Bayesian 최적화 방법 BOCA를 도입하고, 연속적인 저충실도 정보를 이용해 고충실도에서 최적점을 찾는 속도를 높임을 이론적 regret 보장으로 제시한다.

ABSTRACT

Bandit methods for black-box optimisation, such as Bayesian optimisation, are used in a variety of applications including hyper-parameter tuning and experiment design. Recently, \emph{multi-fidelity} methods have garnered considerable attention since function evaluations have become increasingly expensive in such applications. Multi-fidelity methods use cheap approximations to the function of interest to speed up the overall optimisation process. However, most multi-fidelity methods assume only a finite number of approximations. In many practical applications however, a continuous spectrum of approximations might be available. For instance, when tuning an expensive neural network, one might choose to approximate the cross validation performance using less data $N$ and/or few training iterations $T$. Here, the approximations are best viewed as arising out of a continuous two dimensional space $(N,T)$. In this work, we develop a Bayesian optimisation method, BOCA, for this setting. We characterise its theoretical properties and show that it achieves better regret than than strategies which ignore the approximations. BOCA outperforms several other baselines in synthetic and real experiments.

연구 동기 및 목표

• 비용이 큰 목표 함수에 대해 연속적인 저가 근사 스펙트럼이 이용 가능할 때 최적화를 동기 부여하고 형식화한다.
• 연속적 충실도를 활용하여 샘플 효율을 높이는 GP 기반 Bayesian 최적화 알고리즘을 개발한다.
• 충실도 매핑이 매끄럽게 이루어질 때 단일 충실도 GP-UCB에 비해 이득을 보여주는 이론적 regret 경계를 제공한다.
• 합성 및 실제 문제에서 BOCA를 베이스라인과 실험적으로 비교하여 유효성을 검증한다.

제안 방법

• 목표를 g(z, x)로 모델링하고 f(x)=g(z x), z가 연속 충실도 공간 Z에 놓여 있다.
• g에 대해 가우시안 프로세스 사전 분포를 사용하고 곱 커널 k([z,x],[z',x'])=k0 * phi_Z(||z-z'||) * phi_X(||x-x'||)를 가진다.
• x_t를 선택하기 위해 GP-UCB 스타일 상한 신뢰 한계 varphi_t(x)=mu_{t-1}(x)+sqrt(beta_t)*sigma_{t-1}(x)를 구성한다.
• 비용, 정보 격차 xi(z), 후방 불확실성을 균형 있게 고려하는 세 가지 조건으로 Z_t(x_t) 충실도 부분집합을 정의하고, 사용 가능하고 가장 저렴한 z_t(해당 없음이면 z_bullet)을 선택한다.
• g가 Z 전체에서 매끄러울 때 BOCA가 GP-UCB에 비해 단순 regret 경계가 개선됨을 보여주는 이론적 결과(비공식)를 제공하고, 매끄러움이 더 낮아지면 우아하게 악화된다.

실험 결과

연구 질문

• RQ1 연속 충실도 공간을 베이지안 최적화에서 효과적으로 활용해 고충실도 최적점을 더 빨리 찾을 수 있는가?
• RQ2 정보 획득과 비용의 균형을 맞추기 위해 연속적 충실도 공간에서 의사결정 변수 x와 충실도 z를 어떻게 선택해야 하는가?
• RQ3 BOCA의 regret 보장은 무엇이며, 충실도 공간의 매끄러움이 달라질 때 단일 충실도 GP-UCB와 어떻게 비교되는가?
• RQ4 합성 및 실제 작업에서의 경험적 결과가 BOCA의 이론적 이점을 유한 충실도 및 비다중충실도 기반 베이스라인에 대해 뒷받침하는가?

주요 결과

• 합성 실험에서 BOCA는 GP-UCB, EI, MF-GP-UCB, MF-SKO를 포함한 베이스라인보다 더 좋은 성능을 보인다.
• 이 방법은 충실도 공간에서 g의 매끄러움에 적응하며, 충실도가 고충실도 목표에 대해 정보를 많이 제공할 때 더 잘 수행된다.
• BOCA는 xi가 작을 때( Z에서 큰 커널 대역폭) 충실도 정보 격차가 작으면 성능이 향상된다는 이론적 regret 경계를 제공한다.
• 해석은 고충실도 질의의 대부분이 최적점 주변의 작은 영역에 집중되며, 충실도 간의 공유 정보에 의해 도움을 받는다고 보여준다.
• BOCA는 이산 충실도 집합 및 다른 커널로 확장 가능하며, 고차원 설정에서의 확장성 한계가 있는 것으로 인정된다.