[논문 리뷰] Practical Bayesian Optimization for Variable Cost Objectives

Mark McLeod, Michael A. Osborne외 1명|arXiv (Cornell University)|2017. 03. 13.

Advanced Multi-Objective Optimization Algorithms참고 문헌 14인용 수 16

한 줄 요약

이 논문은 평가 비용이 변동하는 목표 함수를 위한 실용적인 베이지안 최적화 방법인 EnvPES를 제안한다. 평가 비용을 제어하는 변수와 입력 변수에 대해 예측 엔트로피 탐색 할 acquisition 함수를 사용한다. 기존의 FABOLAS와 비교해 더 빠른 수렴을 이룰 수 있도록, 정확도는 높이고 계산 오버헤드는 줄이는 새로운 효율적인 샘플링 전략을 도입한다. 이는 합성 및 실제 응용 벤치마크, 예를 들어 하이퍼파rameter 튜닝과 가우시안 프로세스 커널 피팅에서 성능을 향상시킨다.

ABSTRACT

We propose a novel Bayesian Optimization approach for black-box functions with an environmental variable whose value determines the tradeoff between evaluation cost and the fidelity of the evaluations. Further, we use a novel approach to sampling support points, allowing faster construction of the acquisition function. This allows us to achieve optimization with lower overheads than previous approaches and is implemented for a more general class of problem. We show this approach to be effective on synthetic and real world benchmark problems.

연구 동기 및 목표

• 평가 비용을 품질에 따라 조정할 수 있는 고비용의 블랙박스 목표 함수 최적화 문제를 해결하기 위해.
• 총 비용을 최소화하기 위해 입력 포인트와 평가 품질을 동적으로 선택하는 실용적인 베이지안 최적화 프레임워크를 개발하기 위해.
• 이전에 확장성에 제약을 줬 엔트로피 기반 acquisition 함수의 계산 오버헤드를 줄이기 위해.
• 하이퍼파rameter 튜닝과 커널 파rameter 피팅과 같은 고비용 평가 문제에 대해 효과적인 최적화를 가능하게 하기 위해.
• 기존의 변수 비용 베이지안 최적화 방법보다 더 일반적이고 효율적인 대안을 제공하기 위해.

제안 방법

• 평가 비용을 제어하는 연속적인 환경 변수를 포함한 예측 엔트로피 탐색(PES) 기반의 새로운 acquisition 함수를 제안한다.
• 기존의 슬라이스 샘플링보다 진정한 전역 최소화자에 대한 사후분포에 더 잘 근사하는 지원점에 대한 새로운 샘플링 전략을 도입한다.
• 다양한 최적화 문제에 걸쳐 더 유연하고 강건한 성능을 내기 위해 Matérn 5/2 커널을 사용한다.
• GP 모델의 불확실성을 반영하기 위해 슬라이스 샘플링을 통한 하이퍼파rameter 마진화를 수행한다.
• 샘플된 지원점에 대한 몬테카를로 근사를 사용해 상호정보량을 추정하고, acquisition 함수를 구성한다.
• 로그우도에 연속적이고 단조적인 변환을 적용해 부분집합 평가를 정규화함으로써, 다양한 데이터셋 크기에서 일관된 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 연속적인 환경 변수를 사용해 평가 비용과 품질을 효과적으로 균형 잡는 베이지안 최적화 프레임워크는 가능한가?
• RQ2 제안된 샘플링 전략은 엔트로피 기반 acquisition 함수의 정확성과 효율성을 어떻게 향상시키는가?
• RQ3 기존의 변수 비용 베이지안 최적화 접근법보다 더 낮은 총 비용으로 더 빠른 수렴을 달성하는가?
• RQ4 이 방법은 고비용 평가를 요구하는 실제 기계학습 문제에 효과적으로 적용될 수 있는가?
• RQ5 계산 오버헤드는 변수 비용 환경에서 엔트로피 기반 acquisition 함수의 실용적 성능에 어떤 영향을 미치는가?

주요 결과

• EnvPES는 Branin, Hartman 3D, Hartman 6D 함수를 포함한 합성 벤치마크에서 FABOLAS와 PES와 비슷하거나 더 뛰어난 성능을 달성한다.
• MNIST SVM 하이퍼파rameter 튜닝 작업에서, FABOLAS와 유사한 평가 비용 성능에도 불구하고 EnvPES는 더 빨리 낮은 오차율에 도달한다.
• 영국 전기 수요 데이터에 대한 가우시안 프로세스 커널 피팅에서, EnvPES는 전체 데이터셋의 2%까지의 부분집합에 대해 최적화를 성공적으로 수행했으며, FABOLAS보다 실시간 수렴 속도가 더 빠르다.
• 제안된 샘플링 방법은 오버헤드를 크게 줄여주어, FABOLAS와 유사한 평가 비용 성능에도 불구하고 EnvPES가 총 시간 측면에서 FABOLAS를 능가한다.
• EnvPES는 합성 함수, 하이퍼파라미터 튜닝, 실제 시계열 모델링을 포함한 다양한 문제 유형에서 강건성과 효율성을 보였다.
• acquisition 함수 평가의 계산 비용이 감소함에 따라, 이전에는 비용이 너무 높아 실현 불가능했던 변수 비용 목표 함수의 실용적 최적화를 가능하게 한다.