[論文レビュー] A Batched Scalable Multi-Objective Bayesian Optimization Algorithm

Xi Lin, Hui‐Ling Zhen+3 more|arXiv (Cornell University)|Nov 4, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 45被引用数 8

ひとこと要約

本稿では、モンテカルロドロップアウトとソボレフトレーニングを用いたバシアンニューラルネットワークを活用し、勾配情報を反映する高次元のスケーラブルなスレーブモデルを実現する、バッチ処理可能でスケーラブルな多目的ベイズ最適化アルゴリズム、BS-MOBOを提案する。勾配情報を反映する高次元スレーブモデルを可能にする。また、並列評価を効率的に行うために、新たなバッチハイパーボリューム上側信頼区間（B-HUCB）獲得関数を導入し、大規模ベンチマークおよび宇宙船軌道最適化問題において、最先端の手法と比較して優れた性能を達成した。

ABSTRACT

The surrogate-assisted optimization algorithm is a promising approach for solving expensive multi-objective optimization problems. However, most existing surrogate-assisted multi-objective optimization algorithms have three main drawbacks: 1) cannot scale well for solving problems with high dimensional decision space, 2) cannot incorporate available gradient information, and 3) do not support batch optimization. These drawbacks prevent their use for solving many real-world large scale optimization problems. This paper proposes a batched scalable multi-objective Bayesian optimization algorithm to tackle these issues. The proposed algorithm uses the Bayesian neural network as the scalable surrogate model. Powered with Monte Carlo dropout and Sobolov training, the model can be easily trained and can incorporate available gradient information. We also propose a novel batch hypervolume upper confidence bound acquisition function to support batch optimization. Experimental results on various benchmark problems and a real-world application demonstrate the efficiency of the proposed algorithm.

研究の動機と目的

• 高次元の意思決定空間における、既存のスレーブ支援多目的最適化アルゴリズムのスケーラビリティの制限を解決すること。
• 現在の文献では未解決であるが、利用可能な勾配情報の多目的ベイズ最適化への有効な統合を可能にすること。
• 高価な最適化シナリオにおける全体的な計算クロック時間を短縮するために、並列評価を可能にするバッチ最適化を支援すること。
• バッチ設定における探索と活用のバランスをとる、スケーラブルで効率的かつ適応的な獲得関数を開発すること。
• 提案手法の有効性を、大規模ベンチマーク問題および実世界の宇宙船軌道最適化アプリケーションにおいて実証すること。

提案手法

• スケーラブルなスレーブモデルとして、モンテカルロドロップアウトを用いたバシアンニューラルネットワークを採用し、高次元空間における効率的な不確実性の定量化を可能にする。
• 勾配情報をスレーブモデルに統合するために、ソボレフトレーニングを用いる。これにより、関数評価回数が限られた状況でも予測精度が向上する。
• 並列評価のための複数の有望な解を同時に選択するため、新たなバッチハイパーボリューム上側信頼区間（B-HUCB）獲得関数を提案する。
• B-HUCB関数は、以前に評価されたすべての解を考慮することで、バッチ選択中に探索と活用のバランスを保つ。
• 適応的バッチサイズスケジューリングを想定して設計されているが、現在の実装では問題の次元に応じて固定バッチサイズが使用されている。
• アルゴリズムはベンチマーク問題および22次元の意思決定空間を持つ実世界の宇宙船軌道最適化タスクで評価された。

実験結果

リサーチクエスチョン

• RQ1 モンテカルロドロップアウトとソボレフトレーニングを用いたバシアンニューラルネットワークスレーブモデルは、多目的最適化における高次元意思決定空間に適切にスケーリングできるか？
• RQ2 ソボレフトレーニングによる勾配情報の統合は、高価な多目的最適化問題における最適化パフォーマンスをどのように向上させるか？
• RQ3 ハイパーボリューム上側信頼区間に基づくバッチ獲得関数は、逐次的または非適応的バッチ手法と比較して、収束性と多様性に優れているか？
• RQ4 固定バッチサイズと適応的バッチサイズの違いが、バッチ処理多目的最適化アルゴリズムのパフォーマンスに与える影響は何か？
• RQ5 BS-MOBOは、大規模および実世界の問題における最先端のスレーブ支援およびモデルフリーな多目的最適化アルゴリズムと比較して、どのように性能を発揮するか？

主な発見

• ロゼッタ宇宙船の軌道最適化問題において、BS-MOBO_g（勾配情報を含む）は、すべての比較手法と比較して顕著に優れたハイパーボリューム性能を達成した。参照点は[500, 8]である。
• ロゼッタ問題において、BS-MOBOおよびBS-MOBO_gが得た近似パレート最適解は、他のアルゴリズムが生成した大多数の解を支配しており、収束性と多様性に優れていることが確認された。
• 50次元の意思決定変数を有する大規模ベンチマーク問題において、BS-MOBOは、最先端のスレーブ支援多目的進化的アルゴリズムおよびモデルフリー手法と比較して、ハイパーボリューム収束性において優れた性能を示した。
• ソボレフトレーニングによる勾配情報の利用は、特に関数評価回数が限られた高次元空間において、最適化パフォーマンスの顕著な向上をもたらした。
• 提案されたB-HUCB獲得関数は、複数の反復にわたり、探索と活用のバランスを効果的に維持することができた。
• 実験結果から、固定バッチサイズは最適でないことが示され、最適化の各段階における適応的バッチサイズスケジューリングは、今後の研究において有望な方向性であると判明した。