[논문 리뷰] Bayesian optimization with virtual derivative sign observations

Eero Siivola, Aki Vehtari외 2명|arXiv (Cornell University)|2017. 04. 04.

Gaussian Processes and Bayesian Inference인용 수 2

한 줄 요약

이 논문은 검색 공간의 경계에서 가상의 도함수 관측값을 도입함으로써 수렴성을 향상시키는 베이지안 최적화 방법을 제안한다. 가우시안 프로세스를 사용한다. 목적 함수가 경계에서 최소값을 가질 가능성이 낮다는 것을 강제함으로써, 과도한 탐색을 줄이고 다양한 취득 함수에 걸쳐 함수 평가 횟수를 일관되게 감소시킨다.

ABSTRACT

Bayesian optimization (BO) is a global optimization strategy designed to find the minimum of an expensive black-box function, typically defined on a compact subset of $\mathcal{R}^d$, by using a Gaussian process (GP) as a surrogate model for the objective. Although currently available acquisition functions address this goal with different degree of success, an over-exploration effect of the contour of the search space is typically observed. However, in problems like the configuration of machine learning algorithms, the function domain is conservatively large and with a high probability the global minimum does not sit on the boundary of the domain. We propose a method to incorporate this knowledge into the search process by adding virtual derivative observations in the \gp at the boundary of the search space. We use the properties of GPs to impose conditions on the partial derivatives of the objective. The method is applicable with any acquisition function, it is easy to use and consistently reduces the number of evaluations required to optimize the objective irrespective of the acquisition used. We illustrate the benefits of our approach in an extensive experimental comparison.

연구 동기 및 목표

• 고차원이며 보수적인 검색 공간에서 전역 최소값이 경계에 존재할 가능성이 낮은 상황에서의 과도한 탐색 문제를 해결하기 위해.
• 전역 최소값이 검색 도메인의 경계에 존재할 가능성이 낮다는 사전 지식을 통합하기 위해.
• 비용이 많이 드는 함수 평가 횟수를 줄이기 위해 최적화 과정을 도메인 내부로 이끌기 위해.
• 모든 취득 함수와 호환되며 쉽게 구현할 수 있는 방법을 개발하기 위해.

제안 방법

• 검색 공간의 경계에서 가우시안 프로세스 사후 모델에 가상의 도함수 관측값을 삽입하기 위해.
• 가우시안 프로세스의 성질을 활용하여 경계점에서 부분 도함수의 평균을 0으로 제약하는 방법을 사용하기 위해.
• 경계 행동에 대한 신뢰도에 따라 도함수 관측값을 노이즈가 있는 또는 결정론적인 것으로 모델링하기 위해.
• 목적 함수가 경계에서 기울기가 0임을 사전 신뢰로 설정하는 것을 가우시안 프로세스 사후에 대한 선형 제약 조건의 집합으로 공식화하기 위해.
• 취득 함수를 수정하지 않고도 가상의 관측값을 GP 학습 과정에 통합하기 위해.
• 가상의 도함수 제약 조건을 GP 모델에 직접 통합함으로써 표준 취득 함수와의 호환성을 확보하기 위해.

실험 결과

연구 질문

• RQ1 경계에 가상의 도함수 관측값을 삽입하면 베이지안 최적화의 수렴 속도가 향상되는가?
• RQ2 제안된 방법은 특히 경계 근처에서 과도한 탐색을 줄이는가?
• RQ3 이 방법은 다양한 취득 함수와 목적 함수에서 어떻게 성능을 발휘하는가?
• RQ4 이 방법은 취득 함수를 수정하지 않고도 일반적으로 적용 가능한가?
• RQ5 가상의 도함수 관측값은 최소값을 찾기 위해 필요한 함수 평가 횟수에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 테스트된 모든 취득 함수에 걸쳐 목적 함수 최적화에 필요한 함수 평가 횟수를 일관되게 감소시킨다.
• 가상의 도함수 관측값은 고차원적이고 보수적인 검색 공간에서 특히 경계 근처의 과도한 탐색을 효과적으로 줄인다.
• 기존의 취득 함수에 대한 수정 없이도 최적화 효율성을 향상시킨다.
• GP 기반의 도함수 제약 조건을 사용함으로써 도메인 내부로 탐색을 이끌어내어 수렴 속도를 빠르게 한다.
• 실험 결과는 합성 데이터 및 실제 머신러닝 하이퍼파라미터 튜닝 과제에서 뚜렷한 성능 향상을 보였다.