[논문 리뷰] Distributionally Robust Bayesian Optimization

Johannes Kirschner, Ilija Bogunovic외 2명|arXiv (Cornell University)|2020. 02. 20.

Advanced Bandit Algorithms Research참고 문헌 37인용 수 12

한 줄 요약

이 논문은 최대 평균 차이(MMD) 불확실성 집합을 사용하여 악성 분포 이탈 상황에서도 블랙박스 함수를 최적화하는 새로운 알고리즘인 분포로 부스터드 베이지안 최적화(DRBO)를 제안한다. 이 알고리즘은 내부 적대자 문제를 해결하여 제로오더, 노이즈 있는 환경에서 하위선형 강건한 회귀를 달성하며, 합성 및 실세계 풍력 발전 예측 벤치마크에서 확률적 및 최악의 경우 강건 기반 방법들을 능가한다.

ABSTRACT

Robustness to distributional shift is one of the key challenges of contemporary machine learning. Attaining such robustness is the goal of distributionally robust optimization, which seeks a solution to an optimization problem that is worst-case robust under a specified distributional shift of an uncontrolled covariate. In this paper, we study such a problem when the distributional shift is measured via the maximum mean discrepancy (MMD). For the setting of zeroth-order, noisy optimization, we present a novel distributionally robust Bayesian optimization algorithm (DRBO). Our algorithm provably obtains sub-linear robust regret in various settings that differ in how the uncertain covariate is observed. We demonstrate the robust performance of our method on both synthetic and real-world benchmarks.

연구 동기 및 목표

• 진짜 맥락 분포가 가정된 분포와 다를 때, 베이지안 최적화의 강건성 문제를 해결하기 위해.
• 최악의 경우 강건성의 비관적 성향과 확률적 최적화의 낙관적 성향을 균형 잡는 분포로 강건한 최적화 프레임워크를 개발하기 위해.
• 노이즈가 있고 제로오더 함수 평가가 이루어지는 설정에서 강건한 회귀에 대한 이론적 보장을 제공하기 위해.
• 합성 및 실세계 데이터에서 제안된 방법이 확률적 및 최악의 경우 강건 기반 방법보다 우월한 경험적 성능을 보임을 입증하기 위해.
• 맥락 분포가 불확실하고 MMD 거리로 측정될 때, 베이지안 최적화를 적용 가능한 설정으로 확장하기 위해.

제안 방법

• 기준 분포 중심의 MMD 기반 불확실성 집합을 사용하여 분포로 강건한 최적화 문제를 수립한다.
• 선형 프로그래밍과 볼록 제약 조건을 사용해 내부 적대자 문제를 해결하는 새로운 DRBO 알고리즘을 제안하여 타당성을 확보한다.
• 표준 베이지안 최적화와 일관된 커널 기반 정규성 가정을 사용하며, 가우시안 프로세스 사전분포를 적용한다.
• 이론적 값보다 경험적 성능을 향상시키기 위해 고정된 βt = 2를 사용하는 보수적인 획득 함수를 적용한다.
• 슬라이딩 윈도우 기반 경험 분포를 사용하여 합성 함수와 실세계 풍력 발전 예측에 모두 적용한다.
• MMD 구내의 최악의 분포를 계산하여 탐색을 강건한 최적 해로 유도한다.

실험 결과

연구 질문

• RQ1 관측 가능한 공변량의 불확실성에 기인한 분포 이탈 상황에서도 이론적 회귀 보장을 유지하면서 분포 이탈에 강건한 베이지안 최적화 알고리즘을 설계할 수 있는가?
• RQ2 분포 이탈 존재 하에서 DRBO의 성능은 확률적 및 최악의 경우 강건 베이지안 최적화와 비교해 어떻게 되는가?
• RQ3 분포로 강건 최적화에서 불확실성 집합을 정의하는 데 MMD를 분포 거리 측정으로 사용할 경우의 영향은 무엇인가?
• RQ4 제로오더, 노이즈가 있는 설정에서 제한된 함수 평가 수로 제안된 방법이 하위선형 강건한 회귀를 달성할 수 있는가?
• RQ5 맥락 집합 크기 증가에 따라 알고리즘이 어떻게 스케일링되는가? 내부 적대자 문제의 계산 병목 현상은 무엇인가?

주요 결과

• DRBO는 다양한 관측 메커니즘을 가진 여러 설정에서 하위선형 강건한 회귀를 달성한다.
• 분포가 일치하지 않는 합성 벤치마크에서, DRBO는 분포 이탈을 고려하지 못해 선형 강건한 회귀를 보이는 UCB와 StableOpt를 능가한다.
• 풍력 발전 예측 작업에서는 DRBO가 거의 영의 강건한 회귀를 달성하여, DRO 목적함수를 정확히 해결했을 때 최적의 강건한 해를 선택할 수 있음을 보여준다.
• 확률적 최적화 기반 방법(UKB)은 진짜 분포가 가정된 분포와 다를 경우에도 분포 이탈을 고려하지 못해 선형 강건한 회귀를 겪는다.
• StableOpt는 강건성은 있지만 지나치게 보수적이며 기대 수익 목적에 대해 성능이 열악하여, DRBO의 균형 잡힌 접근 방식의 이점을 입증한다.
• 내부 적대자 문제를 해결하는 데 O(|C|) 복잡도가 존재함에 따라 알고리즘 성능은 맥락 집합 크기에 민감하며, 이는 대규모 설정에서의 확장 가능성을 위한 근사 기법의 필요성을 시사한다.