[論文レビュー] Cost-aware Multi-objective Bayesian optimisation

Majid Abdolshah, Alistair Shilton+3 more|arXiv (Cornell University)|Sep 9, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 21被引用数 8

ひとこと要約

本稿では、探索空間上のユーザー定義のコスト感知制約を活用することで、非一様な評価コストを組み込んだ多目的最適化のためのフレームワークであるコスト感知多目的ベイズ最適化（CA-MOBO）を提案する。コスト感知の獲得関数を、チービシェフスカラライゼーションと線形スケーラブルなレグレット解析に基づいて統合することで、CA-MOBOは初期段階で安価な入力組み合わせを優先しつつもパレート最適性を維持し、ニューラルネットワークおよびランダムフォレストのハイパーパrameterチューニング実験において、高価なハイパーパrameterの使用を最大50％低減した。

ABSTRACT

The notion of expense in Bayesian optimisation generally refers to the uniformly expensive cost of function evaluations over the whole search space. However, in some scenarios, the cost of evaluation for black-box objective functions is non-uniform since different inputs from search space may incur different costs for function evaluations. We introduce a cost-aware multi-objective Bayesian optimisation with non-uniform evaluation cost over objective functions by defining cost-aware constraints over the search space. The cost-aware constraints are a sorted tuple of indexes that demonstrate the ordering of dimensions of the search space based on the user's prior knowledge about their cost of usage. We formulate a new multi-objective Bayesian optimisation acquisition function with detailed analysis of the convergence that incorporates this cost-aware constraints while optimising the objective functions. We demonstrate our algorithm based on synthetic and real-world problems in hyperparameter tuning of neural networks and random forests.

研究の動機と目的

• 既存の手法が一様なコスト仮定を行う一方で、入力次元間で評価コストが非一様に変動する状況におけるベイズ最適化のギャップを解消すること。
• 入力次元のコストに関する事前知識に基づく、ユーザー定義のコスト感知制約を多目的最適化に統合するフレームワークの開発。
• 初期探索段階で安価な入力領域に焦点を当てる一方で、徐々にコスト制約を緩和することで、完全なパレートフロントへの収束を維持すること。
• 多数の目的関数を扱えるスケーラブルな獲得関数の設計と、理論的レグレットバウンドの達成。
• 合成および実世界のハイパーパrameterチューニングタスク（ニューラルネットワークおよびランダムフォレストを含む）における手法の実証的妥当性の検証。

提案手法

• 本手法は、入力次元のインデックスのソート済みタプルとしてコスト感知制約を導入し、ユーザーの事前知識（例：次元1は次元2より高価）を反映する。
• 目的関数のチービシェフスカラライゼーションと、高価な入力をペナルティとして課すコスト関数のコンポonentを組み合わせた、新規の獲得関数を定式化。これにより、性能とコストのトレードオフを実現。
• 獲得関数は目的関数の数に対して線形にスケーリング可能であり、ハイパーボリュームベースの代替手法とは異なり、多数の目的関数問題への適用を可能にする。
• アルゴリズムは、時間経過に伴いコスト制約の影響を徐々に減少させることで、初期段階では低コスト入力を優先しつつ、最終的にはパレートフロント全体の探索を可能にする。
• 理論的レグレットを定義し、上界を示すことで、提案されたコスト感知フレームワーク下での収束保証を提供。
• 実験では、スレーブモデルとしてガウス過程を用い、MO-UCBと比較して実装および評価した。

実験結果

リサーチクエスチョン

• RQ1 入力次元間で評価コストが非一様に変動する状況において、多目的ベイズ最適化フレームワークがそのコストを効果的に統合できるか。
• RQ2 コスト感知制約を形式的にモデル化し、獲得関数に統合することで、初期探索段階で安価な入力領域に誘導できるか。
• RQ3 提案されたCA-MOBO手法は、高価な入力次元の使用を削減しつつも、パレート最適性を維持できるか。
• RQ4 標準的なMOBOと比較して、コスト感知獲得関数は累積コスト（例：高価なハイパーパrameterの使用回数）をどの程度低減できるか。
• RQ5 アルゴリズムの理論的レグレットは有界であるか。非一様なコスト条件下でもそのバウンドは成立するか。

主な発見

• 合金組成実験では、CA-MOBOはバニラベイズ最適化と比較してニッケル使用量を32.1gにまで削減（54.1g）し、高価な入力の使用を40.7％低減した。
• ランダムフォレストのハイパーパrameterチューニングタスクでは、500イテレーション間で選択された推定器の合計（x₁）が、MO-UCBと比較して49.6％削減（71.4 vs. 141.8）された。
• ニューラルネットワークチューニング実験では、300イテレーション間で隠れ層の累積合計（x₁）が41.2％削減（205.7 vs. 349.5）され、顕著なコスト削減が確認された。
• 初期段階で、より高い支配ハイパーボリュームと低い累積レグレットを達成しており、高品質かつコスト効率の良い解への高速収束を示した。
• 初期段階のコスト感知探索のおかげで、低コスト・高誤差領域におけるパレートフロントの多様性が向上し、コスト感受性領域における解の多様性が向上した。
• 理論的分析により、CA-MOBOのレグレットが上界に有界であることが確認され、提案されたコスト感知フレームワーク下での収束が裏付けられた。