[論文レビュー] GIBBON: General-purpose Information-Based Bayesian OptimisatioN

Henry B. Moss, David S. Leslie+2 more|Lancaster EPrints (Lancaster University)|Feb 5, 2021

Advanced Multi-Objective Optimization Algorithms参考文献 82被引用数 8

ひとこと要約

GIBBONは、一様な原理的採択関数の下で、バッチ、マルチファイデリティ、構造的離散入力空間最適化を統合する、一般用途で計算的に効率的な情報理論的ベイズ最適化フレームワークを導入する。独自の情報利得の近似を活用することで、計算コストを低減し、非ユークリッド空間（例：分子設計や遺伝子設計）における高性能なバッチBOを実現している。

ABSTRACT

This paper describes a general-purpose extension of max-value entropy search, a popular approach for Bayesian Optimisation (BO). A novel approximation is proposed for the information gain -- an information-theoretic quantity central to solving a range of BO problems, including noisy, multi-fidelity and batch optimisations across both continuous and highly-structured discrete spaces. Previously, these problems have been tackled separately within information-theoretic BO, each requiring a different sophisticated approximation scheme, except for batch BO, for which no computationally-lightweight information-theoretic approach has previously been proposed. GIBBON (General-purpose Information-Based Bayesian OptimisatioN) provides a single principled framework suitable for all the above, out-performing existing approaches whilst incurring substantially lower computational overheads. In addition, GIBBON does not require the problem's search space to be Euclidean and so is the first high-performance yet computationally light-weight acquisition function that supports batch BO over general highly structured input spaces like molecular search and gene design. Moreover, our principled derivation of GIBBON yields a natural interpretation of a popular batch BO heuristic based on determinantal point processes. Finally, we analyse GIBBON across a suite of synthetic benchmark tasks, a molecular search loop, and as part of a challenging batch multi-fidelity framework for problems with controllable experimental noise.

研究の動機と目的

• 構造的離散空間における一般バッチベイズ最適化のための、計算的に軽量で情報理論的である採択関数の欠如に対処する。
• 情報利得の近似に基づく、一貫したフレームワーク内でバッチ、マルチファイデリティ、連続最適化の取り扱いを統一する。
• 既存のmax-value entropy search (MES)拡張の制限を克服する。これらは複雑な近似を要するか、ユークリッド空間に限定される。
• 分子設計やハイパーパrameterチューニングなど、高価でノイズが多い、または並列評価を伴う実世界の科学的応用において、高性能なベイズ最適化を可能にする。
• 既存のヒューリスティックなバッチBO手法（決定的ポイントプロセスに基づくもの）の理論的裏付けを提供する。

提案手法

• ベイズ最適化における情報利得の新たな、取り扱いやすい近似を提案し、採択関数の計算を効率化する。
• max-value entropy searchに基づく一般用途の採択関数を導出する。これにより、バッチ、マルチファイデリティ、構造的離散入力をサポートする。
• 下限と上限の両方のスケールに共通の長さスケールを有するガウス過程のスラムモデルを活用し、モデルの安定性を向上させ、パラメータ数を削減する。
• 高次元の数値積分を回避するため、情報利得の計算に計算的に効率の良いサンプリングベースの近似を導入する。
• 採択関数を微分可能目的関数として定式化し、標準的な最適化手法を用いて最適化可能にする。
• 探索空間の幾何的仮定から採択関数を分離することで、非ユークリッド入力空間への対応を可能にする。

実験結果

リサーチクエスチョン

• RQ1 計算コストを低く抑えつつ、バッチ、マルチファイデリティ、構造的離散最適化をサポートする、一貫した情報理論的採択関数を設計できるか？
• RQ2 提案された情報利得近似は、既存の手法と比較して計算効率および最適化性能においてどのように差をつけるか？
• RQ3 このフレームワークは、高価でノイズが多い、または並列評価を伴う実世界の科学的問題にどの程度適用可能か？
• RQ4 このフレームワークは、決定的ポイントプロセスに基づく既存のヒューリスティックなバッチBO手法を原理的かつ整合的に解釈できるか？
• RQ5 多様なベンチマークタスクにおいて、収束速度および最終的な解の品質の面で、既存の最先端手法を上回ることができるか？

主な発見

• GIBBONは、合成ベンチマーク、分子探索、マルチファイデリティ最適化タスクにおいて、既存の情報理論的BO手法よりも収束速度と最終的な解の品質で優れている。
• 分子設計や遺伝子設計などの構造的離散空間におけるバッチベイズ最適化において、最先端のパフォーマンスを達成しており、従来の手法は適用不可能または著しく高コストであった。
• 特にバッチおよびマルチファイデリティ設定において、複雑な数値積分を回避することで、既存のMESベースのアプローチと比較して計算コストを顕著に低減している。
• ハイパーパrameterチューニング（IMDBセンチメント分類）や強化学習（Lunar Lander）といった実世界の応用でも優れたパフォーマンスを示し、少ない評価回数で高い精度を達成している。
• GIBBONの導出により、バッチBOにおける決定的ポイントプロセスの使用に理論的根拠が与えられ、人気のあるヒューリスティック手法を情報理論的原則と結びつける。
• 初期データが限られた状況でも高いパフォーマンスを維持でき、FASTCVなどの競合手法よりも少ない初期評価回数で十分な性能を発揮する。これは、長さスケールを束縛した安定したHGPモデルのおかげである。