[논문 리뷰] Fast Information-theoretic Bayesian Optimisation

Binxin Ru, Mark McLeod외 2명|arXiv (Cornell University)|2017. 11. 02.

Advanced Bandit Algorithms Research참고 문헌 17인용 수 11

한 줄 요약

이 논문은 정보 이론적 베이지안 최적화 방법인 FITBO를 제안한다. FITBO는 전역 최소값의 비용이 큰 샘플링을 단일 하이퍼파rameter η의 효율적 샘플링으로 대체한다. 이는 f(x) = η + ½g(x)²의 포물선 변환을 통해 이루어지며, 목적함수를 재구성하여 최소값을 하이퍼파rameter로 명시적으로 표현함으로써 계산 오버헤드를 크게 감소시키고, 커널 선택의 유연성을 높이며, PES 및 MES와 동등한 성능을 달성하면서도 훨씬 더 빠른 속도를 제공한다. 이는 기대 개선(Expected Improvement)보다도 빠르게 작동한다.

ABSTRACT

Information-theoretic Bayesian optimisation techniques have demonstrated state-of-the-art performance in tackling important global optimisation problems. However, current information-theoretic approaches require many approximations in implementation, introduce often-prohibitive computational overhead and limit the choice of kernels available to model the objective. We develop a fast information-theoretic Bayesian Optimisation method, FITBO, that avoids the need for sampling the global minimiser, thus significantly reducing computational overhead. Moreover, in comparison with existing approaches, our method faces fewer constraints on kernel choice and enjoys the merits of dealing with the output space. We demonstrate empirically that FITBO inherits the performance associated with information-theoretic Bayesian optimisation, while being even faster than simpler Bayesian optimisation approaches, such as Expected Improvement.

연구 동기 및 목표

• 기존 정보 이론적 베이지안 최적화 방법의 높은 계산 비용, 특히 전역 최소값 샘플링의 비용을 해결하기 위해.
• PES와 같은 방법에서 유도 및 스펙트럼 밀도 요구사항으로 인해 제약을 받는 커널 선택을 줄이기 위해.
• OPES 및 MES와 마찬가지로 출력 공간의 정보에 집중하여 고차원 문제에서의 효율성을 향상시키기 위해.
• 정보 이론적 접근의 뛰어난 성능를 유지하면서도 기대 개선(Expected Improvement)과 같은 단순한 방법과 유사한 런타임을 달성하기 위해.
• 최소한의 근사 오버헤드와 함께 강력한 성능을 유지를 하며, 합성 및 실제 작업 전반에 걸쳐 확장 가능한 베이지안 최적화를 가능하게 하기 위해.

제안 방법

• FITBO는 포물선 변환 f(x) = η + ½g(x)²을 사용하여 전역 최소값을 하이퍼파rameter η로 명시적으로 표현하며, 이 η는 효율적으로 샘플링할 수 있다.
• 이 방법은 η를 가우시안 프로세스 사전분포의 잠재 변수로 간주하여, 전역 최소값을 샘플링하지 않고도 하이퍼파rameter(η 포함)에 대한 공동 마진발산을 수행할 수 있다.
• 전역 최소값을 샘플링할 필요가 없기 때문에, PES 및 MES와 같이 이중 단계 샘플링에 의존하는 방법의 계산 병목 현상을 제거한다.
• 이 접근법은 출력 공간에서의 모멘트 매칭을 이용해 최소값 분포의 엔트로피를 근사하기 위해 베이지안 통합 기법을 활용한다.
• FITBO는 출력 공간에서 작동하므로, PES와 같은 입력 공간 방법보다 고차원 문제에서 더 효율적이다.
• FITBO-MM라는 변종은 가우시안 혼합 분포 엔트로피에 대한 느슨한 상한을 사용하여 속도를 향상시키며, 성능 손실는 최소한으로 유지한다.

실험 결과

연구 질문

• RQ1 정보 이론적 베이지안 최적화의 계산 비용을 성능 손실 없이 줄일 수 있는가?
• RQ2 전역 최소값 샘플링을 하이퍼파rameter η의 샘플링으로 대체할 경우, 수렴 속도와 확장성 향상에 기여하는가?
• RQ3 기존 정보 이론적 방법이 특정 커널 특성을 요구하는 것과는 달리, FITBO는 더 넓은 커널 함수 범위를 지원할 수 있는가?
• RQ4 다중 최소값 함수 및 노이즈가 있는 함수에서 FITBO는 기대 개선(Expected Improvement) 및 기타 최첨단 방법과 비교해 성능 및 속도에서 어떤가?
• RQ5 FITBO-MM와 같이 엔트로피 계산의 근사 오차가 발생할 경우, FITBO의 성능는 얼마나 견고한가?

주요 결과

• FITBO는 Hartmann-6D와 같은 합성 기준 함수에서 PES 및 MES와 유사하거나 뛰어난 성능를 보이며, 훨씬 더 빠른 속도를 기록한다.
• Hartmann-6D 문제에서 FITBO 및 FITBO-MM는 전역 최소값과 가장 낮은 함수 값을 찾는 데 있어 모든 다른 방법을 능가한다.
• Boston 및 암 데이터셋에서 신경망의 하이퍼파ram터 튜닝과 같은 실제 작업에서 FITBO 및 FITBO-MM는 MES 및 EI보다 더 낮은 중앙값 검증 손실에 더 빨리 수렴한다.
• MNIST-SVM 작업에서 FITBO 및 FITBO-MM는 PES와 경쟁 가능한 성능를 보이며 EI를 능가한다. 이는 다양한 문제에서 강력한 일반화 능력을 보여준다.
• FITBO-MM는 엔트로피 근사를 더 느슨하게 사용하고도 FITBO와 거의 동일한 성능를 기록하며, 근사 오차에 대한 강건성을 확인한다.
• FITBO는 기대 개선(Expected Improvement)보다 더 빠르며, PI 및 GP-UCB와 유사한 속도를 기록하면서도 정보 이론적 방법의 뛰어난 탐색 능력을 유지한다.