[論文レビュー] Adversarially Robust Optimization with Gaussian Processes

Ilija Bogunovic, Jonathan Scarlett+2 more|arXiv (Cornell University)|Oct 25, 2018

Gaussian Processes and Bayesian Inference被引用数 49

ひとこと要約

この論文は、敵対的な摂動に対してロバスト性を保証する、ガウス過程最適化の信頼区間ベースアルゴリズム StableOpt を提案し、理論的保証と経験的検証を提供します。

ABSTRACT

In this paper, we consider the problem of Gaussian process (GP) optimization with an added robustness requirement: The returned point may be perturbed by an adversary, and we require the function value to remain as high as possible even after this perturbation. This problem is motivated by settings in which the underlying functions during optimization and implementation stages are different, or when one is interested in finding an entire region of good inputs rather than only a single point. We show that standard GP optimization algorithms do not exhibit the desired robustness properties, and provide a novel confidence-bound based algorithm StableOpt for this purpose. We rigorously establish the required number of samples for StableOpt to find a near-optimal point, and we complement this guarantee with an algorithm-independent lower bound. We experimentally demonstrate several potential applications of interest using real-world data sets, and we show that StableOpt consistently succeeds in finding a stable maximizer where several baseline methods fail.

研究の動機と目的

• 敵対的摂動と実装不確実性へのロバスト性を考慮したGP最適化を動機付ける。
• 標準的なGP最適化手法がepsilon-stabilityを欠くことを示し、ロバストな代替手法を提案する。
• 理論的保証を提供する：有限サンプルの上界とアルゴリズムに依存しない下界。
• 実データセットと多様な応用分野で実証的な有効性を示す。

提案手法

• 距離関数 d と安定性パラメータ epsilon を用いて、epsilon-stable 入力と敵対的摂動を定義する。
• GPの後方分布の平均 mu_t と分散 sigma_t を、信頼境界 (ucb と lcb) とともに用いる。
• 各ステップで、摂動に対する最悪ケースの ucb を最大化することで x_t を選択し、次に Delta_epsilon(x_t) 内の摂動 delta_t を選んでサンプリング前の lcb を最小化する。
• x_t + delta_t のノイズ付き観測で GP 後方分布を更新し、境界を再計算する。
• 高確率で epsilon- regret の上界を与える定理1と、信頼パラメータ beta_t に関する補題1 を提供。
• アルゴリズムに依存しない下界（定理2）とカーネル依存の含意について論じる。

実験結果

リサーチクエスチョン

• RQ1 GP最適化を epsilon-ボール内の敵対的摂動に対してどのようにロバストにできるか？
• RQ2 StableOpt がほぼ最適な epsilon-stability を達成するためのサンプル複雑さの保証（上界）は何か？
• RQ3 安定した解の獲得において、StableOpt は標準の GP-UCB や他のベースラインとどう比較されるか？
• RQ4 堅牢な GP 最適化におけるカーネル特有の制限と下界は何か？
• RQ5 StableOpt フレームワークは関連する max-min や堅牢最適化設定に拡張できるか？

主な発見

• 標準的な GP 最適化手法は epsilon-stable な解を生み出せないことがある。
• StableOpt は T ラウンド後に epsilon-regret が最大 eta となる高確率を達成する（定理1）。
• カーネル依存の基本的な限界を示すアルゴリズムに依存しない下界（定理2）がある。
• SEカーネルは、ノイズと予算が一定の場合、対数因子の範囲でほぼ一致する上界と下界を与える。
• 合成データ、lake データ、ロボットプッシュ、グループ推奨の実験で、StableOpt はベースラインが失敗する場所でも安定した最大点を一貫して見つけることを示す。