[논문 리뷰] A General Framework for Multi-fidelity Bayesian Optimization with Gaussian Processes

Jialin Song, Yuxin Chen외 1명|arXiv (Cornell University)|2018. 11. 02.

Gaussian Processes and Bayesian Inference인용 수 27

한 줄 요약

이 논문은 공유 잠재 구조를 갖는 가우시안 프로세스를 사용한 다중 정밀도 베이지안 최적화를 위한 일반적 프레임워크인 MF-MI-Greedy를 제안한다. 비용에 민감한 상호정보량 증가를 최대화함으로써 낮은 회귀와 다양한 합성 및 실세계 작업에서의 강건한 성능을 달성하며, 다양한 비용 정의 하에서 기준선을 능가한다.

ABSTRACT

How can we efficiently gather information to optimize an unknown function, when presented with multiple, mutually dependent information sources with different costs? For example, when optimizing a robotic system, intelligently trading off computer simulations and real robot testings can lead to significant savings. Existing methods, such as multi-fidelity GP-UCB or Entropy Search-based approaches, either make simplistic assumptions on the interaction among different fidelities or use simple heuristics that lack theoretical guarantees. In this paper, we study multi-fidelity Bayesian optimization with complex structural dependencies among multiple outputs, and propose MF-MI-Greedy, a principled algorithmic framework for addressing this problem. In particular, we model different fidelities using additive Gaussian processes based on shared latent structures with the target function. Then we use cost-sensitive mutual information gain for efficient Bayesian global optimization. We propose a simple notion of regret which incorporates the cost of different fidelities, and prove that MF-MI-Greedy achieves low regret. We demonstrate the strong empirical performance of our algorithm on both synthetic and real-world datasets.

연구 동기 및 목표

• 다양한 저비용의 낮은 정밀도 근사치가 존재할 때 비용이 많이 드는 함수를 최적화하는 데 도전하는 것.
• 복잡한 정밀도 수준 간의 구조적 의존성을 모델링할 수 있는 이론적 보장을 갖춘 일반적 프레임워크를 개발하는 것.
• 비용에 민감한 회귀 정의를 통해 각 정밀도 수준의 평가 비용을 최적화 과정에 통합하는 것.
• 단순한 가정이나 이론적 배경이 제한된 히وري스틱 쿼리 선택에 의존하는 기존 방법을 개선하는 것.
• 다양한 비용 구조 하에서 다양한 실세계 및 합성 데이터셋에서 강건한 경험적 성능을 입증하는 것.

제안 방법

• 낮은 정밀도와 높은 정밀도 함수 간의 의존성을 포착하기 위해 공유 잠재 구조를 갖는 가우시안 프로세스의 덧셈 구조를 사용해 다중 정밀도를 모델링하는 것.
• 비용에 민감한 상호정보량 증가를 할당 함수로 사용하여 단위 비용당 정보 증가를 최대화하는 쿼리 우선순위를 정하는 것.
• 각 정밀도 수준의 평가 비용을 통합한 새로운 회귀 정의를 제안하여 이론적 회귀 경계를 가능하게 하는 것.
• 공유된 GP 사전 분포를 사용해 모든 정밀도 수준에서 공동 사후 분포 업데이트 및 하이퍼파ram터 최적화를 수행하는 것.
• 덧셈 GP 구조를 활용해 낮은 정밀도에서의 불확실성과 정보를 목표 정밀도로 전파하는 것.
• 기존의 단일 정밀도 GP 최적화 알고리즘(예: GP-UCB)을 공유된 프레임워크로 적응시켜 원래의 회귀 보장을 유지하는 것.

실험 결과

연구 질문

• RQ1 다양한 정밀도 수준 간의 복잡한 구조적 의존성을 포착할 수 있는 일반적 프레임워크를 다중 정밀도 베이지안 최적화에 개발할 수 있는가?
• RQ2 정보 증가량을 비용에 민감하게 조정하여 정보 증가와 평가 비용 간의 트레이드오���을 반영할 수 있는가?
• RQ3 단일 정밀도 GP 알고리즘을 다중 정밀도 환경으로 확장할 때 제안된 프레임워크가 이론적 회귀 보장을 유지하는가?
• RQ4 정밀도 간 비용 구조의 정확도 부족이나 변화에 대해 이 방법은 얼마나 강건한가?
• RQ5 다양한 정밀도 비용을 가진 실세계 적용에서 기존 기준선을 능가할 수 있는가?

주요 결과

• MF-MI-Greedy는 누적 비용이 낮고 목표 값이 더 높은 것으로 나타나, 가능도 추정 작업에서 MF-GP-UCB와 GP-UCB를 모두 능가한다.
• 원래의 비용 정의(N×G 기반) 하에서 MF-MI-Greedy는 기준선보다 더 나은 성능을 보이며, MF-GP-UCB는 상당히 악화된다.
• 단지 데이터 포인트 수(N)에 기반한 수정된 비용 정의 하에서 MF-MI-Greedy는 강건한 성능 유지를 보이며, 비용 구조 변화에 대한 강건성을 입증한다.
• 나노광학적 구조 설계 작업에서, MF-MI-Greedy는 초기 탐색 후 기준선보다 더 낮은 기준치(더 나은 설계 품질)를 달성한다.
• 제안된 비용에 민감한 회귀 정의 하에서 이 방법은 낮은 회귀를 유지하며, 단일 정밀도 알고리즘을 다중 정밀도 환경으로 확장할 때 이론적 보장을 유지한다.
• 경험적 결과는 MF-MI-Greedy가 비용 추정의 정확도 부족에 대해 강건함을 보이며, 실세계 적용에서의 핵심 실용적 이점임을 입증한다.