[論文レビュー] High Dimensional Bayesian Optimisation and Bandits via Additive Models

Kirthevasan Kandasamy, Jeff Schneider+1 more|arXiv (Cornell University)|Mar 5, 2015

Advanced Bandit Algorithms Research参考文献 26被引用数 132

ひとこと要約

この論文は、高次元関数を低次元成分の加法的関数としてモデル化することにより、高次元関数におけるベイズ最適化とバンディットアルゴリズムであるAdd-GP-UCBを提案する。この構造を活用することで、次元Dに対して線形に依存するレジーレットを達成し、標準的なGPベースの手法が失敗する高次元設定でも効率的な最適化を可能にする。

ABSTRACT

Bayesian Optimisation (BO) is a technique used in optimising a $D$-dimensional function which is typically expensive to evaluate. While there have been many successes for BO in low dimensions, scaling it to high dimensions has been notoriously difficult. Existing literature on the topic are under very restrictive settings. In this paper, we identify two key challenges in this endeavour. We tackle these challenges by assuming an additive structure for the function. This setting is substantially more expressive and contains a richer class of functions than previous work. We prove that, for additive functions the regret has only linear dependence on $D$ even though the function depends on all $D$ dimensions. We also demonstrate several other statistical and computational benefits in our framework. Via synthetic examples, a scientific simulation and a face detection problem we demonstrate that our method outperforms naive BO on additive functions and on several examples where the function is not additive.

研究の動機と目的

• 標準的手法がサンプル複雑性と計算の非実行性に苦しむ高次元問題へのベイズ最適化（BO）とガウス過程バンディット（GPB）のスケーリングの課題に対処すること。
• 統計的推定の困難さと、獲得関数の最大化における計算の非実行性という2つの主要な課題を克服すること。
• 目的関数に加法的構造を仮定するフレームワークを提案し、これにより従来の低次元部分空間仮定よりも表現力が向上することを示すこと。
• この加法的仮定の下で、レジーレットが次元Dに対して線形にスケーリングされることを示し、標準的なGPBにおける指数的スケーリングと比べて顕著な改善を示すこと。
• 高価な関数評価を伴う実世界の応用に適した、統計的表現力と計算効率のバランスを取った実用的アルゴリズム（Add-GP-UCB）を開発すること。

提案手法

• 未知の関数fをD個の入力次元の加法的関数としてモデル化し、変数の不重複部分集合（例：f(x) = Σ f_i(x_i)）による低次元成分に分解する。
• 各成分を個別にGPでモデル化する加法的ガウス過程（Add-GP）を用い、全体のモデル複雑性を低減する。
• 加法的構造を活用することで、高次元においても最適化が容易な獲得関数（UCB型）を設計し、効率的な探索と活用のトレードオフを実現する。
• 全次元のグローバル最適化を避けるために、加法的成分における確率的探索または局所最適化を用いて獲得関数を最適化する。
• 加法的仮定の下で理論的レジーレットバウンドを保証するように、加法的GPモデルとGP-UCB獲得ルールを統合する。
• 真の加法的構造が未知の場合に備え、部分的または適応的分解学習を可能にし、成分パーティションの定期的再最適化を実施する。

実験結果

リサーチクエスチョン

• RQ1 次元Dに対して指数的ではなく線形にスケーリングするレジーレットバウンドを、高次元ベイズ最適化で達成できるか？
• RQ2 目的関数に加法的構造を仮定することで、高次元BOおよびバンディットにおいて統計的整合性と計算の実行可能性の両立が可能になるか？
• RQ3 Add-GP-UCBの性能は、標準的なGP-UCBやREMBOなどの最新手法と比較して、非加法的および実世界の問題においてどのように異なるか？
• RQ4 成分サイズdと成分数Mの選択が、統計的表現力と計算効率のトレードオフに与える影響は何か？
• RQ5 加法的仮定を越えて一般化でき、実際の非加法的設定でも標準BOを上回る性能を示せるか？

主な発見

• 真の関数が加法的である場合、Add-GP-UCBのレジーレットは次元Dに対して線形にスケーリングされ、標準的なGPBにおける指数的スケーリングと比べて顕著な改善が得られる。
• 実験的結果では、Add-GP-UCBは合成的加法的関数において標準的なGP-UCBおよびGP-EIを上回り、Viola-Jones顔認識タスクではAdd-6/4が最良の性能を示した。
• 天体物理学シミュレータにおいて、d=5およびM=4のAdd-GP-UCBは、真の関数が厳密に加法的でないにもかかわらず、REMBOおよび標準BOよりも優れた収束性能を示した。
• 真の関数が加法的でない場合でも、適切に選ばれた成分サイズd（例：d ∈ [3,12]）の下で、モデルの誤指定に対して頑健であることが示された。
• 既知の分解と小さなd（例：d=6, M=4）を用いたAdd-GP-UCBは、22段階のViola-Jonesカスケード最適化を含むすべてのベンチマークで、REMBOおよび標準BOを一貫して上回った。
• 著者らは理論的分析にバグ（特に式14）を発見しており、修正版を準備中であるが、実験的結果は依然として提案されたフレームワークと整合的で強く信頼できる。