[論文レビュー] Ordinal Bayesian Optimisation

Victor Picheny, Sattar Vakili+1 more|arXiv (Cornell University)|Dec 5, 2019

Gaussian Processes and Bayesian Inference参考文献 18被引用数 6

ひとこと要約

本稿では、順序ワーピングを用いて入力空間および出力空間を変換し、相対順位のみを保持することで、劣悪な条件や不連続な目的関数に対しても頑健なベイズ最適化を可能にする、新しいフレームワークである順序ベイズ最適化を提案する。潜在的な順序空間においてガウス過程を適合させることで、楽観的獲得関数のもとで最適なリグレットバウンドを達成し、滑らかでない、あるいは不連続な関数を伴う困難な玩具問題において、標準的なBOを上回る性能を発揮する。

ABSTRACT

Bayesian optimisation is a powerful tool to solve expensive black-box problems, but fails when the stationary assumption made on the objective function is strongly violated, which is the case in particular for ill-conditioned or discontinuous objectives. We tackle this problem by proposing a new Bayesian optimisation framework that only considers the ordering of variables, both in the input and output spaces, to fit a Gaussian process in a latent space. By doing so, our approach is agnostic to the original metrics on the original spaces. We propose two algorithms, respectively based on an optimistic strategy and on Thompson sampling. For the optimistic strategy we prove an optimal performance under the measure of regret in the latent space. We illustrate the capability of our framework on several challenging toy problems.

研究の動機と目的

• 標準的なベイズ最適化が、定常性の仮定が満たされないために、劣悪な条件や不連続な目的関数で失敗する問題に対処すること。
• 入力空間および出力空間における順序関係にのみ依存する、メトリクスに依存しない最適化フレームワークを構築すること。
• 潜在的な順序空間における上位信頼区間ベースの獲得関数方策に対して、リグレットの最適性を証明すること。
• 強い境界変動や不連続性を示す非滑らかで不連続なテスト関数において、このフレームワークの有効性を示すこと。

提案手法

• 入力空間および出力空間の両方に順序ワーピングを適用し、順序を保持する変換を用いて、実数値の入力および出力を順序的な離散表現に変換する。
• 変換された順序データに基づいて、柔軟かつ頑健なサーヴェイゲートモデリングを可能にする潜在空間におけるガウス過程モデルを採用する。
• 出力空間における順序回帰のための変分定式化を用い、連続的な出力構造を仮定しない確率的推論を可能にする。
• 入力空間におけるワーピング関数を、順序構造を保持するように勾配に基づく最適化戦略で学習する。
• 潜在空間におけるガウス過程モデルと、標準的な獲得関数（特に上位信頼区間（UCB）およびトマソンサンプリング）を組み合わせ、逐次的意思決定を実現する。
• 木構造探索を実装し、順序制約下での潜在空間の効率的探索を可能にし、計算の扱いやすさを維持する。

実験結果

リサーチクエスチョン

• RQ1 元のメトリクス空間に依存しないことで、劣悪な条件や不連続な目的関数に対してベイズ最適化を頑健にできるか。
• RQ2 相対順位のみを保持する順序ワーピング戦略が、高条件性または非リプシッツ問題において効果的な最適化を可能にするか。
• RQ3 潜在的な順序空間における楽観的獲得関数方策に対して、最適なリグレットバウンドを確立できるか。
• RQ4 提案手法の性能は、非滑らかで不連続なテスト関数において、標準的なベイズ最適化と比較してどのように異なるか。

主な発見

• 提案フレームワークは、潜在的な順序空間における上位信頼区間獲得関数方策のもとで、最適なリグレットバウンドを達成し、累積リグレットバウンドが $ O(eta_n^{1/2} ext{Tr}(oldsymbol{ u}_n)) $ となる。ここで $ oldsymbol{ u}_n $ は潜在空間における不確実性を捉える。
• 滑らかでない、あるいは不連続な関数を伴う玩具問題において、標準的なベイズ最適化が失敗する状況でも、本手法は優れた性能を発揮する。
• 理論的分析により、順序ワーピングのもとで、潜在空間における情報量の増加が有界に保たれることを示し、収束保証が可能になる。
• 本手法は、入力空間および出力空間の両方における順序関係にのみ依存するという点で、メトリクスに依存しないベイズ最適化を達成した最初のフレームワークである。
• 5つのテスト関数における実験結果から、劣悪な条件や不連続な目的関数において、順序アプローチがベースラインBOに比べて累積リグレットを一貫して低減することが示された。