[論文レビュー] A Flexible Framework for Multi-Objective Bayesian Optimization using Random Scalarizations

Biswajit Paria, Kirthevasan Kandasamy+1 more|arXiv (Cornell University)|May 30, 2018

Advanced Multi-Objective Optimization Algorithms参考文献 46被引用数 34

ひとこと要約

本稿では、特定のパレートフロント領域を標的とするためにランダムスカラー化を用いる、柔軟で計算的に効率的な多目的ベイズ最適化（MOO）フレームワークを提案する。この手法は、サブラインアクレジットを達成し、LSHチューニングやバイオラ＝ジョーンズ顔検出といった合成的および実世界の問題において、ベースラインと比較して柔軟性、スケーラビリティ、レジット最小化の観点で優れている。

ABSTRACT

Many real world applications can be framed as multi-objective optimization problems, where we wish to simultaneously optimize for multiple criteria. Bayesian optimization techniques for the multi-objective setting are pertinent when the evaluation of the functions in question are expensive. Traditional methods for multi-objective optimization, both Bayesian and otherwise, are aimed at recovering the Pareto front of these objectives. However, in certain cases a practitioner might desire to identify Pareto optimal points only in a subset of the Pareto front due to external considerations. In this work, we propose a strategy based on random scalarizations of the objectives that addresses this problem. Our approach is able to flexibly sample from desired regions of the Pareto front and, computationally, is considerably cheaper than most approaches for MOO. We also study a notion of regret in the multi-objective setting and show that our strategy achieves sublinear regret. We experiment with both synthetic and real-life problems, and demonstrate superior performance of our proposed algorithm in terms of the flexibility and regret.

研究の動機と目的

• 従来のMOO手法が全パレートフロントの回復を目的としているが、そのために矛盾する目的によって望ましくない解が含まれるという制限に対処すること。
• ドメイン固有の好みに基づいて、実務家がパレートフロントの特定の領域に最適化を集中させることを可能にすること。
• 目的数に線形にスケーリングする計算的に効率的なMOO手法を開発すること。
• ユーザーの好みを組み込み、望ましくない領域でのサンプリングをペナルティ化する多目的設定におけるレジットの概念を形式化すること。
• 提案手法がベースラインと比較して同等または低いレジットを達成し、かつターゲット領域に高いサンプリング集中を維持することを実証的に検証すること。

提案手法

• 本手法は、事前分布から抽出された重みでパrameter化されたランダムスカラー化関数を用い、多目的の値をスカラー化された効用スコアに変換する。
• スカラー化された目的関数に対して標準的なベイズ最適化を適用し、ガウス過程のスラッグモデルを用いて獲得関数の最適化をガイドする。
• スカラー化の重みは、ユーザーの好みを表現する事前分布から抽出され、アルゴリズムがパレートフロントの望ましい領域に集中できる。
• 獲得関数は、スカラー化空間における探索と活用のバランスを最適化し、多目的設定におけるレジットの最小化を目的とする。
• スカラー化重みの事前分布を調整することにより、特定のパレートフロント領域への標的サンプリングと、全フロントの探索の両方をサポートする。
• 理論的分析により、正則性条件の下で、評価回数が増加する極限において、本手法がゼロレジットを達成することを示した。

実験結果

リサーチクエスチョン

• RQ1 ベイズ最適化フレームワークは、多目的最適化において、ユーザーが定義したパレートフロント領域から効率的にサンプリングできるか？
• RQ2 固定または適応的スカラー化手法と比較して、ランダムスカラー化の使用は、レジットと計算コストの観点でどのように異なるか？
• RQ3 提案手法は、目的数に線形にスケーリングしながら、低いレジットを維持できるか？
• RQ4 スカラー化重みの事前分布を通じてユーザーの好みを統合できるか、かつサブラインレジットを達成できるか？
• RQ5 全パレートフロントの近似が計算的に不可能な高次元MOO問題において、本フレームワークはどの程度効果的か？

主な発見

• 合成的および実世界の実験を通じて、初期の探索フェーズを経た後、提案手法が指定されたパレートフロント領域に効果的にサンプリングを集中させることを確認した。
• LSH-Gloveおよびバイオラ＝ジョーンズチューニングタスクにおいて、提案手法はベースラインと同等または低いシンプルレジットを達成しており、特に高次元設定で顕著な改善が見られた。
• アルゴリズムは目的数に対して線形スケーリングを示し、多くの矛盾する基準を伴う問題に適していることが示された。
• レジット解析により、正則性仮定の下で、本手法がサブラインレジットを達成することが判明し、極限においてレジットはゼロに近づく。
• 実証的結果により、本手法が好みに応じたサンプリングと計算効率の両立を効果的に実現しており、ターゲット探索においてベースラインを上回ることを確認した。
• 本フレームワークは、自然言語処理およびコンピュータビジョンパイプラインにおけるハイパーパramータチューニングといった実世界の応用を効果的に処理でき、実用的価値を示した。