[論文レビュー] Many Objective Bayesian Optimization

Lucia Asencio Martín, Eduardo C. Garrido‐Merchán|arXiv (Cornell University)|Jul 8, 2021

Advanced Multi-Objective Optimization Algorithms被引用数 4

ひとこと要約

本稿では、多目的ベイズ最適化（MOBO）における計算コストを削減するため、重複する目的関数を検出し削除する新しいガウス過程（GP）予測分布類似度指標を用いた多目的ベイズ最適化アルゴリズムを提案する。この手法により、解の品質を損なわずに計算コストを削減できる。特に、深層学習（DNN）のハイパーパrameterチューニングにおいて予測時間とモデルサイズといった類似度の高い目的関数を特定し、早期に評価を停止することで、多目的問題を性能を維持したまま多目的問題に変換する。

ABSTRACT

Some real problems require the evaluation of expensive and noisy objective functions. Moreover, the analytical expression of these objective functions may be unknown. These functions are known as black-boxes, for example, estimating the generalization error of a machine learning algorithm and computing its prediction time in terms of its hyper-parameters. Multi-objective Bayesian optimization (MOBO) is a set of methods that has been successfully applied for the simultaneous optimization of black-boxes. Concretely, BO methods rely on a probabilistic model of the objective functions, typically a Gaussian process. This model generates a predictive distribution of the objectives. However, MOBO methods have problems when the number of objectives in a multi-objective optimization problem are 3 or more, which is the many objective setting. In particular, the BO process is more costly as more objectives are considered, computing the quality of the solution via the hyper-volume is also more costly and, most importantly, we have to evaluate every objective function, wasting expensive computational, economic or other resources. However, as more objectives are involved in the optimization problem, it is highly probable that some of them are redundant and not add information about the problem solution. A measure that represents how similar are GP predictive distributions is proposed. We also propose a many objective Bayesian optimization algorithm that uses this metric to determine whether two objectives are redundant. The algorithm stops evaluating one of them if the similarity is found, saving resources and not hurting the performance of the multi-objective BO algorithm. We show empirical evidence in a set of toy, synthetic, benchmark and real experiments that GPs predictive distributions of the effectiveness of the metric and the algorithm.

研究の動機と目的

• 4つ以上の目的関数を伴う多目的ベイズ最適化（MOBO）における高い計算コストの課題に対処すること。
• MOBOにおいて追加情報がほとんど得られない重複する目的関数を特定・削除すること。
• 最適化の重要領域に注目した、分布の重なりだけでなく最適化の意義を反映するGP予測分布類似度指標の開発。
• 類似度指標に基づき、動的に重複する目的関数を削除する多目的BOアルゴリズムの設計。
• 重複目的関数の削除が最終的な推薦品質を低下させないことを実験的に検証すること。

提案手法

• 最適化の重要領域に焦点を当てた、全分布サポートではなく類似度を評価するGP予測分布類似度指標を提案。
• しきい値に基づくアプローチを採用：2つの目的関数間の類似度が閾値を超える場合、一方を重複とみなして削除。
• GP共分散行列の差のフロベニウスノルムから導出される距離測度を用いて、予測分布類似度を定量化。
• 目的関数を反復的に評価し、他の目的関数と類似度が高いものを削除するベイズ最適化ループに類似度指標を統合。
• リソースの節約と解の忠実性のバランスをとるために、ハイパーパrameter δ（類似度の閾値）と ε（削除許容誤差）を設定。
• 合成問題、ベンチマーク、および実世界のDNNハイパーパrameterチューニングタスクにアルゴリズムを適用し、堅牢性と有効性を検証。

実験結果

リサーチクエスチョン

• RQ1 GP予測分布の類似度指標は、多目的最適化における重複目的関数を効果的に同定できるか？
• RQ2 この指標に基づく重複目的関数の削除は、計算コストを削減するが、最終的な推薦品質を低下させないか？
• RQ3 しきい値パラメータ δ と ε の選択が、リソースの節約と解の性能のトレードオフにどのように影響するか？
• RQ4 目的関数が高相関である場合でも、最適化プロセスの初期段階で重複目的関数を早期に検出できるか？
• RQ5 提案された指標は、多様な合成問題、ベンチマーク、および実世界の最適化問題において堅牢か？

主な発見

• DNNハイパーパrameterチューニング実験において、予測時間とモデルサイズが極めて類似している（距離 = 0.0006）ことが同定され、サイズ目的関数が削除された。
• より厳しいハイパーパラメータ（δ=20, ε=0.05）を用いることで、アルゴリズムは早期に（反復21回目で）重複を検出し、重複目的関数間の距離をさらに低く（0.0004）記録した。
• 重複目的関数と予測誤差目的関数との距離は高い（0.75）まま維持されており、真正に類似した目的関数のみが削除されたことが確認された。
• 重複目的関数の削除にもかかわらず、最終的な推薦品質が維持され、性能の低下は認められなかった。
• 最適化プロセスにおける目的関数数が効果的に削減され、多目的問題が標準的な多目的問題に変換された。
• 類似度が完全に一致しない場合でも、相関関係のある目的関数を同定できるという点で、実世界の設定においても指標の堅牢性が示された。