[論文レビュー] Multi-Objective Bayesian Optimization over High-Dimensional Search Spaces

Samuel Daulton, David Eriksson+2 more|arXiv (Cornell University)|Sep 22, 2021

Advanced Multi-Objective Optimization Algorithms被引用数 24

ひとこと要約

MORBO は、スケーラブルな多目的ベイズ最適化手法であり、局所的な信頼領域（TR）を協調的に使用することで、高次元探索空間におけるパレート最適境界の多様な領域を効率的に探索する。局所的ガウス過程モデルと協調的候補選択を活用することで、222パラメータまでの問題、特に実世界の光学的・自動車設計タスクを含め、最先端手法と比較してサンプル効率が1桁以上向上する。

ABSTRACT

Many real world scientific and industrial applications require optimizing multiple competing black-box objectives. When the objectives are expensive-to-evaluate, multi-objective Bayesian optimization (BO) is a popular approach because of its high sample efficiency. However, even with recent methodological advances, most existing multi-objective BO methods perform poorly on search spaces with more than a few dozen parameters and rely on global surrogate models that scale cubically with the number of observations. In this work we propose MORBO, a scalable method for multi-objective BO over high-dimensional search spaces. MORBO identifies diverse globally optimal solutions by performing BO in multiple local regions of the design space in parallel using a coordinated strategy. We show that MORBO significantly advances the state-of-the-art in sample efficiency for several high-dimensional synthetic problems and real world applications, including an optical display design problem and a vehicle design problem with 146 and 222 parameters, respectively. On these problems, where existing BO algorithms fail to scale and perform well, MORBO provides practitioners with order-of-magnitude improvements in sample efficiency over the current approach.

研究の動機と目的

• 従来のベイズ最適化がスケーラビリティおよびサンプル効率の問題により失敗する高次元探索空間において、複数の競合するブラックボックス目的関数を最適化する課題に対処すること。
• 大規模なサンプル領域におけるグローバルなガウス過程推論の立方時間計算量（O(n³)）を、信頼領域ごとの局所的スラッシュモデルを用いることで克服すること。
• 高次元問題におけるパレート最適境界の非連結領域にまたがる多様でグローバルに最適なトレードオフを効果的に探索すること。
• 複数の局所的領域間で観測値を共有し、最適化を協調的に調整するスケーラブルで協調的なフレームワークを構築し、収束性とカバレッジを向上させること。
• NSGA-II、q-NEHVI、q-ParEGO といった既存の最先端手法と比較して、高次元の実世界および合成問題において、サンプル効率と最終的なハイパーボリュームの両面で優れた性能を発揮する手法を提供すること。

提案手法

• MORBO は、設計空間に分散配置された複数の局所的信頼領域（TR）を用いる。各 TR は異なるパレート最適トレードオフを中心に配置され、グローバルなパレート最適境界の多様な探索を保証する。
• 各 TR は局所的ガウス過程（GP）スラッシュモデルを維持しており、推論の時間計算量を O(n³) から、各 TR における局所的観測数 n_T を用いた O(n_T³) に削減する。
• すべての TR からの観測値がグローバルに共有され、重複領域で得られたデータが各局所モデルの精度とサンプル効率を向上させる。
• 複数の TR 間で協調的に最適化されるグローバルなユーティリティ関数を最大化することで、候補点のバッチ選択が行われ、探索空間の協調的かつ効率的な探索が実現される。
• MORBO は、理論的性能保証を備えたグローバルポリシーに従い、性能が低い TR を動的に終了させ、新しい TR を割り当てることで、長期的な最適化効率を向上させる。
• パレート最適境界に均等に分布する点に TR の中心を配置する戦略を採用することで、非連結または複雑なトレードオフ領域を効果的にカバーできる。

実験結果

リサーチクエスチョン

• RQ1 グローバルなスラッシュモデルが計算的に非現実的になる高次元問題（数100パラメータ）において、多目的ベイズ最適化を効果的にスケーリングできるか。
• RQ2 複雑で非連結なパレート最適境界を持つ高次元の多目的ブラックボックス最適化問題において、多様でグローバルに最適なトレードオフを効率的に探索する方法は何か。
• RQ3 高次元設定において、データを共有する局所的スラッシュモデルは、グローバルモデルと比較して、どの程度サンプル効率を向上させ、計算コストを削減できるか。
• RQ4 MORBO は、高次元の合成および実世界問題において、NSGA-II、q-NEHVI、q-ParEGO といった最先端手法と比較して、サンプル効率および最終的なハイパーボリュームでどの程度優れているか。
• RQ5 協調的で複数の信頼領域を用いるアプローチは、単一領域または非協調的手法と比較して、複雑な高次元設計空間において、パレート最適境界のカバレッジと収束速度の両面で優れた性能を発揮できるか。

主な発見

• 146次元の光学ディスプレイ設計問題では、MORBO は NSGA-II や Sobol と比較して顕著に優れたハイパーボリュームとカバレッジを達成した。10,000評価のフルランでは、トレードオフの探索が顕著に優れていた。
• 222次元のマツダ車両設計問題では、MORBO は車両質量を NSGA-II よりもより効果的に削減し、質量と共通部品数のトレードオフ領域を広くカバーした。これは産業的制約として重要な要因である。
• 100次元の DTLZ 問題では、4目的問題において平均ランクが最低（1.67）となり、DTLZ7 および DTLZ3 では最終ハイパーボリュームで q-NEHVI や q-ParEGO を上回った。
• 100次元の軌道計画問題では、MORBO の候補生成速度が q-ParEGO や q-NEHVI と比較して100倍以上速く、計算スケーラビリティの優位性が示された。
• 4次元の溶接ビーム問題では、MORBO はすべてのベースラインと比較して優れたパレート最適境界カバレッジを達成した。これは低次元でも同様に有効であることを示しており、問題スケールにかかわらず高いロバスト性を示している。
• 最悪・中央・最良の反復のすべてにおいて、MORBO は高いハイパーボリュームと良好なカバレッジを継続的に達成しており、最適化性能の信頼性と安定性が確認された。