[논문 리뷰] Adversarially Robust Optimization with Gaussian Processes

Ilija Bogunovic, Jonathan Scarlett외 2명|arXiv (Cornell University)|2018. 10. 25.

Gaussian Processes and Bayesian Inference인용 수 49

한 줄 요약

이 논문은 Gaussian 프로세스 최적화를 위한 신뢰 경계 기반 알고리즘 StableOpt를 소개하며, 적대적 섭동에 대한 강건성 확보와 이론적 보장 및 실증 검증을 제공합니다.

ABSTRACT

In this paper, we consider the problem of Gaussian process (GP) optimization with an added robustness requirement: The returned point may be perturbed by an adversary, and we require the function value to remain as high as possible even after this perturbation. This problem is motivated by settings in which the underlying functions during optimization and implementation stages are different, or when one is interested in finding an entire region of good inputs rather than only a single point. We show that standard GP optimization algorithms do not exhibit the desired robustness properties, and provide a novel confidence-bound based algorithm StableOpt for this purpose. We rigorously establish the required number of samples for StableOpt to find a near-optimal point, and we complement this guarantee with an algorithm-independent lower bound. We experimentally demonstrate several potential applications of interest using real-world data sets, and we show that StableOpt consistently succeeds in finding a stable maximizer where several baseline methods fail.

연구 동기 및 목표

• 적대적 섭동 및 구현 불확실성에 대한 강건성을 고려하여 GP 최적화를 고무한다.
• 표준 GP 최적화기가 epsilon-안정성을 결여한다는 것을 보이고, 강건한 대안을 제시한다.
• 유한 샘플 상한과 알고리즘 독립적인 하한 등 이론적 보장을 제공한다.
• 실제 데이터셋과 다양한 응용 분야에서 실증적 효과를 보여준다.

제안 방법

• 거리 함수 d와 안정성 매개변수 epsilon를 사용하여 epsilon-stable 입력과 적대적 섭동을 정의한다.
• GP 사후 평균 mu_t와 분산 sigma_t를 신뢰구간 상한(ucb) 및 하한(lcb)과 함께 사용한다.
• 매 단계에서 perturbation들에 대한 최악의 경우를 최대화한 ucb를 통해 x_t를 선택하고, 샘플링하기 전에 Delta_epsilon(x_t) 내의 섭동 delta_t를 선택하여 lcb를 최소화한다.
• x_t + delta_t의 잡음 관측으로 GP 사후를 업데이트하고 경계치를 재계산한다.
• 높은 확률로 epsilon-리그레트의 상한을 주는 정리 1과 신뢰 매개변수 beta_t에 대한 보조정리 1을 제공한다.
• 알고리즘 독립적 하한(정리 2)과 커널 의존적 함의에 대해 논의한다.

실험 결과

연구 질문

• RQ1 GP 최적화를 epsilon-볼 안에서의 적대적 섭동에 대해 어떻게 강건하게 만들 수 있는가?
• RQ2 StableOpt가 거의 최적의 epsilon-안정성을 달성하기 위해 필요한 샘플 복잡도 보장(상한)은 무엇인가?
• RQ3 표준 GP-UCB 및 다른 기준선과 비교하여 Robust 솔루션 달성에서 StableOpt의 성능은 어떤가?
• RQ4 강건한 GP 최적화에 대한 커널 특유의 한계와 하한은 무엇인가?
• RQ5 StableOpt 프레임워크를 관련한 최대-최소(max-min) 또는 강건 최적화 설정으로 확장할 수 있는가?

주요 결과

• 표준 GP 최적화 방법은 epsilon-안정한 해를 생성하지 못할 수 있다.
• 적절한 조건하에서 정리 1에 따라 T 라운드 후 epsilon-리그레트가 최대 eta를 초과하지 않는다.
• 커널에 따라 기본 한계를 보이는 알고리즘 독립적 하한이 존재한다(정리 2).
• SE 커널은 상수 노이즈 및 예산에 대해 로그 요인까지 근접한 상한과 하한을 제공합니다.
• 합성 데이터, 레이크 데이터, 로봇 추진, 그룹 추천 등에 대한 실험에서 StableOpt가 기준선이 실패하는 곳에서도 일관되게 안정적인 최적화자를 찾는 것을 보여준다.