[논문 리뷰] Bayesian Optimization with Output-Weighted Importance Sampling.

Antoine Blanchard, Themistoklis P. Sapsis|arXiv (Cornell University)|2020. 04. 22.

Gaussian Processes and Bayesian Inference참고 문헌 16인용 수 4

한 줄 요약

이 논문은 목적 함수 값이 비정상적으로 크거나 작은 입력을 유도하는 데 초점을 맞추기 위해 가능도 비율을 출력 가중 중요도 샘플링으로 사용하는 베이지안 최적화 프레임워크를 제안한다. 가능도 비율을 통해 획득 함수를 가중함으로써, 특히 고차원 설정에서 비가중 접근 방식에 비해 최적화 효율성과 성능이 향상된다.

ABSTRACT

In Bayesian optimization, accounting for the importance of the output relative to the input is a crucial yet challenging exercise, as it can considerably improve the final result but often involves inaccurate and cumbersome entropy estimations. We approach the problem from the perspective of importance-sampling theory, and advocate the use of the likelihood ratio to guide the search algorithm towards regions of the input space where the objective function assumes abnormally large or small values. The likelihood ratio acts as a sampling weight and can be computed at each iteration without severely deteriorating the overall efficiency of the algorithm. In particular, it can be approximated in a way that makes the approach tractable in high dimensions. The likelihood-weighted acquisition functions introduced in this work are found to outperform their unweighted counterparts in a number of applications.

연구 동기 및 목표

• 정확한 엔트로피 추정에 의존하지 않고 출력 중요도를 베이지안 최적화에 통합하는 데 도전한다.
• 목적 함수 값의 가능도 비율에 기반한 검색 가중치를 위한 실용적인 방법을 개발한다.
• 출력이 평균에서 크게 이탈하는 영역에 집중함으로써 최적화 성능을 향상시킨다.
• 가능도 가중치의 타당한 근사치를 통해 고차원 입력 공간에서의 효율적 적용을 가능하게 한다.

제안 방법

• 극단적인 목적 함수 값을 생성하는 입력을 강조하기 위해 가능도 비율을 샘플링 가중치로 사용한다.
• 최적화 과정을 이끌기 위해 가능도 비율로 가중된 획득 함수를 유도한다.
• 계산 효율성을 유지하기 위해 각 반복 단계에서 가능도 비율을 근사한다.
• 중요도 샘플링 이론을 적용하여 출력의 중요성에 기반해 검색 분포를 재가중한다.
• 가우스 프로세스 사전분포를 사용하는 표준 베이지안 최적화 루프에 가중 획득 함수를 통합한다.
• 가능도 비율의 타당한 근사를 통해 고차원으로의 확장성을 확보한다.

실험 결과

연구 질문

• RQ1 출력 중요도에 기반해 획득 함수를 가중하는 데 있어 가능도 비율을 효과적으로 사용할 수 있는가?
• RQ2 수렴성과 성능 측면에서 출력 가중 중요도 샘플링은 표준 획득 함수와 어떻게 비교되는가?
• RQ3 극단적인 목적 함수 값 탐색을 향상시키면서도 효율성을 유지할 수 있는가?
• RQ4 고차원 최적화 문제에서 가능도 가중 샘플링의 영향은 어떠한가?
• RQ5 최적화 성능을 떨어뜨리지 않고 가능도 비율을 얼마나 정확하게 근사할 수 있는가?

주요 결과

• 가능도 가중 획득 함수는 다양한 벤치마크 응용 사례에서 비가중 대비 우수한 성능을 보였다.
• 이 방법은 비정상적으로 크거나 작은 목적 함수 값을 유도하는 입력으로 검색을 효과적으로 이끈다.
• 각 반복 단계에서 가능도 비율을 효율적으로 계산하고 근사할 수 있으며, 상당한 계산 오버헤드 없이 수행된다.
• 이 방법은 고차원 입력 공간에서도 타당하고 효과적인 것으로 유지된다.
• 출력 가중 중요도 샘플링을 사용함으로써 입력 공간의 기능적으로 중요한 영역에 집중함으로써 최적화 효율성이 향상된다.
• 실험 결과는 다양한 설정에서 표준 베이지안 최적화에 비해 일관된 성능 향상을 입증한다.