[논문 리뷰] Truncated Variance Reduction: A Unified Approach to Bayesian Optimization and Level-Set Estimation

Ilija Bogunovic, Jonathan Scarlett외 2명|arXiv (Cornell University)|2016. 10. 24.

Gaussian Processes and Bayesian Inference인용 수 34

한 줄 요약

이 논문은 가우시안 프로세스를 사용한 베이지안 최적화와 레벨셋 추정을 위한 통합 알고리즘인 절단 분산 감소(TruVaR)를 소개한다. TruVaR는 활성 집합 내 분산의 절단된 합을 탐욕적으로 최소화하여 점을 선택함으로써 이론적 보장을 제공하고, 점별 평가 비용, 이방성 노이즈, 다중 노이즈 수준 선택을 효과적으로 다룰 수 있으며, 노이즈에 대한 의존도가 향상되고 강력한 경험적 성능을 보인다.

ABSTRACT

We present a new algorithm, truncated variance reduction (TruVaR), that treats Bayesian optimization (BO) and level-set estimation (LSE) with Gaussian processes in a unified fashion. The algorithm greedily shrinks a sum of truncated variances within a set of potential maximizers (BO) or unclassified points (LSE), which is updated based on confidence bounds. TruVaR is effective in several important settings that are typically non-trivial to incorporate into myopic algorithms, including pointwise costs and heteroscedastic noise. We provide a general theoretical guarantee for TruVaR covering these aspects, and use it to recover and strengthen existing results on BO and LSE. Moreover, we provide a new result for a setting where one can select from a number of noise levels having associated costs. We demonstrate the effectiveness of the algorithm on both synthetic and real-world data sets.

연구 동기 및 목표

• 단일 알고리즘 프레임워크 내에서 베이지안 최적화와 레벨셋 추정을 통합하는 것.
• 점별 평가 비용과 이방성 노이즈를 효과적으로 다룰 수 있는 방법을 개발하는 것.
• 기존 연구 대비 노이즈 수준에 대한 의존도가 향상된 이론적 보장을 제공하는 것.
• 관련 비용이 수반되는 노이즈 수준을 선택할 수 있는 설정으로 프레임워크를 확장하는 것.
• 합성 및 실세계 벤치마크에서 강력한 경험적 성능을 보여주는 것.

제안 방법

• TruVaR는 베이지안 최적화를 위한 잠재적 최대값 집합 또는 레벨셋 추정을 위한 미분류 점 집합을 유지하며, 신뢰구간을 통해 업데이트한다.
• 다음 평가 점은 활성 집합 내 분산의 절단된 합을 최소화함으로써 선택된다.
• 후행 평균 계산에 비용이 많이 드는 것과는 달리, 일보 전망 전략을 사용하여 비용을 절감한다.
• 탐색을 제어하기 위해 동적으로 업데이트되는 $β_t$ 파라미터를 사용한 신뢰구간을 통합한다.
• 비용과 노이즈 수준에 따라 가중치를 적용함으로써 점별 비용과 이방성 노이즈를 지원한다.
• 다중 노이즈 수준 선택을 위해, 관련 비용이 수반되는 가용한 노이즈 수준을 고려하여 통합된 획득 함수를 최적화한다.

실험 결과

연구 질문

• RQ1 일관된 프레임워크 내에서 단일 알고리즘이 베이지안 최적화와 레벨셋 추정을 효과적으로 통합할 수 있는가?
• RQ2 BO와 LSE에서 계산 효율성과 이론적 분석을 향상시키기 위해 분산 감소를 어떻게 절단할 수 있는가?
• RQ3 점별 비용과 이방성 노이즈 하에서 TruVaR에 대한 이론적 보장은 확립될 수 있는가?
• RQ4 기존 방법들과 비교해 작은 노이즈 근처에서 TruVaR이 더 나은 노이즈 의존도를 달성하는가?
• RQ5 노이즈 수준을 비용과 함께 선택할 수 있는 설정으로 TruVaR를 확장할 수 있는가?

주요 결과

• 이론적 경계에서 노이즈 수준에 대한 의존도가 크게 향상되었으며, 작은 노이즈 영역에서의 渐近적 성능이 기존 연구 대비 향상되었다.
• 동일 비용과 동일 노이즈 조건 하에서 표준 베이지안 최적화 및 레벨셋 추정에 대한 기존 이론 결과를 복원하고 강화하였다.
• 관련 비용이 수반되는 다중 노이즈 수준 선택이라는 새로운 설정에서, TruVaR는 비용과 정확도를 균형 잡는 새로운 이론적 보장을 제공한다.
• 경험적 결과는 TruVaR가 합성 및 실세계 데이터셋에서 수렴 속도와 정확도 측면에서 기존 방법들을 능가함을 보여준다.
• 이론적 분석을 통해 주어진 정확도에 도달하기 위한 평가 횟수의 수가 노이즈 수준과 신뢰도 파rameter에 따라 유리하게 스케일링됨을 입증하였다.
• 절단된 분산 감소의 사용은 엔트로피 서치나 최소 손실 서치와 달리 후행 평균 계산 없이도 효율적인 계산을 가능하게 한다.