[論文レビュー] Are we Forgetting about Compositional Optimisers in Bayesian Optimisation?

Antoine Grosnit, Alexander I. Cowen-Rivers+4 more|arXiv (Cornell University)|Dec 15, 2020

Machine Learning and Algorithms参考文献 132被引用数 14

ひとこと要約

本稿では、ベイズ最適化における獲得関数の最大化のための構成的最適化フレームワークを提案する。代表的な獲得関数を、高度な最適化手法を活用できるように、合成可能な関数に再定式化する。3,958件の合成的および実世界のタスクにおける広範な実験では、構成的最適化法が67%のケースで標準的手法を上回り、サンプル効率および収束速度の面で一貫した向上を示した。

ABSTRACT

Bayesian optimisation presents a sample-efficient methodology for global optimisation. Within this framework, a crucial performance-determining subroutine is the maximisation of the acquisition function, a task complicated by the fact that acquisition functions tend to be non-convex and thus nontrivial to optimise. In this paper, we undertake a comprehensive empirical study of approaches to maximise the acquisition function. Additionally, by deriving novel, yet mathematically equivalent, compositional forms for popular acquisition functions, we recast the maximisation task as a compositional optimisation problem, allowing us to benefit from the extensive literature in this field. We highlight the empirical advantages of the compositional approach to acquisition function maximisation across 3958 individual experiments comprising synthetic optimisation tasks as well as tasks from Bayesmark. Given the generality of the acquisition function maximisation subroutine, we posit that the adoption of compositional optimisers has the potential to yield performance improvements across all domains in which Bayesian optimisation is currently being applied.

研究の動機と目的

• ベイズ最適化における獲得関数の最大化という、軽視されがちな課題に取り組み、これが全体のパフォーマンスに大きく影響することを明らかにすること。
• 獲得関数を構成的構造に再定式化することで、現代の最適化アルゴリズムを用いたより効果的な最適化が可能かどうかを検証すること。
• 多様なブラックボックス最適化タスクにおいて、構成的最適化法と非構成的最適化法のパフォーマンスを実験的に評価すること。
• 特にノイズが多い、高次元の状況においても、構成的最適化が合成的および実世界の設定の両方で一貫した利点を示すかどうかを同定すること。

提案手法

• 微分可能な単純な関数の合成として表現することにより、標準的な獲得関数（例：期待改善、予測エントロピー探索）の数学的に同等の構成的表現を導出する。
• 獲得関数の最大化問題を、構成的最適化タスクに再定式化し、Adam、RMSProp、SGD with momentum などの先進的な一次最適化法の使用を可能にする。
• 獲得関数の構成的表現に対して勾配ベースの最適化を適用し、関数合成全体をバックプロパゲーションで効率的に勾配計算を可能にする。
• 多様なモデル（DT、RF、SVM、kNN など）とパフォーマンス指標（MAE、MSE、NLL、正答率）を用いて、3,100件の合成タスクと860件の実世界タスク（Bayesmarkベンチマークより）を含む3,958件の実験を大規模に実施する。
• 複数の最適化法クラス（例：Adam、CMA-ES、ランダムサーチ）および集約手法に対して、構成的最適化法と非構成的ソルバーを比較する。
• 最適化法クラスおよび獲得関数ごとの統計的プールを用いて、中央値、最良、平均パフォーマンスを評価し、モデルおよびタスクタイプごとに詳細なボックスプロット分析を実施する。

実験結果

リサーチクエスチョン

• RQ1 獲得関数を、現代の勾配ベース手法でより効果的に最適化可能な構成的関数に再定式化できるか？
• RQ2 合成的および実世界のベイズ最適化タスクにおいて、収束速度および最終的パフォーマンスの観点から、構成的最適化法は従来のソルバーと比べてどのように差をつけるか？
• RQ3 最適化対象のモデルクラス（例：DT、RF、SVM）やパフォーマンス指標（例：MAE、正答率）によって、構成的最適化法のパフォーマンス優位性が変化するか？
• RQ4 ノイズが多い、高次元の、非凸な獲得関数を含む実世界設定において、構成的最適化の利点は一貫しているか？

主な発見

• 実施した3,958件の実験のうち67%で、構成的最適化法が非構成的ソルバーを上回り、67%のケースで統計的に有意な向上を示した。
• 合成タスクでは、一次の構成的最適化法が他の手法よりも一貫して低いレジームを達成し、3,100件中3,100件の実験で最良のパフォーランスを記録した。
• Bayesmark回帰タスクでは、決定木とランダムフォレストに対して、構成的最適化法が非構成的最適化法よりも高い平均スコアを達成したが、SVMとkNNではパフォーマンスに差がなかった。
• 分類タスクでは、ランダムフォレストに対して、最良、中央値、平均のすべてのパフォーマンスグループで構成的手法が非構成的手法を上回った。また、決定木では、後期の最適化ステップ（16および128評価）で一貫した向上が見られた。
• ラッソモデルでは、評価予算が高くなると構成的最適化法の中央値パフォーマンスが優れていたが、最良パフォーマンスを示したペアでは、最良グループでパフォーマンスが劣化した。
• 本研究では、最適化法クラスおよび集約手法の選択がパフォーマンスに顕著な影響を及ぼすことが判明した。特に、回帰および分類ベンチマークの両方で、DT や RF といったモデルにおいて、構成的手法が顕著な強みを示した。