[論文レビュー] Bayesian Optimization with Directionally Constrained Search

Yang Li, Yaqiang Yao|arXiv (Cornell University)|Jun 22, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 21被引用数 4

ひとこと要約

本稿では、厳密な評価予算下での効率性を向上させるために、探索方向に方向的制約を課すベイズ最適化手法を提案する。 surrogateモデルから得られる方向的好みを獲得関数に組み込むことで、不必要な局所的探索を低減し、収束を加速する。 提案手法は、合成関数および実世界のベンチマークにおいて、期待改善（Expected Improvement）のような標準的手法を上回る性能を示す。

ABSTRACT

Bayesian optimization offers a flexible framework to optimize an objective function that is expensive to be evaluated. A Bayesian optimizer iteratively queries the function values on its carefully selected points. Subsequently, it makes a sensible recommendation about where the optimum locates based on its accumulated knowledge. This procedure usually demands a long execution time. In practice, however, there often exists a computational budget or an evaluation limitation allocated to an optimizer, due to the resource scarcity. This constraint demands an optimizer to be aware of its remaining budget and able to spend it wisely, in order to return as better a point as possible. In this paper, we propose a Bayesian optimization approach in this evaluation-limited scenario. Our approach is based on constraining searching directions so as to dedicate the model capability to the most promising area. It could be viewed as a combination of local and global searching policies, which aims at reducing inefficient exploration in the local searching areas, thus making a searching policy more efficient. Experimental studies are conducted on both synthetic and real-world applications. The results demonstrate the superior performance of our newly proposed approach in searching for the optimum within a prescribed evaluation budget.

研究の動機と目的

• 厳密な評価予算制約下で、標準的手法の非効率性（過剰な局所的探索による計算リソースの浪費）を是正すること。
• 最適解付近での振動行動を低減するために、探索方針に方向的制約を組み込むこと。
• surrogateモデルの不確実性に基づいて動的に探索方向を調整することで、グローバル探索とローカル活用のバランスを取ること。
• 固定された関数評価回数内での収束速度と解の品質を向上させること。

提案手法

• 期待改善の獲得関数に方向的制約を導入し、最も有望な領域と整合する探索方向を優遇する。
• 探索方向をボン・ミーゼス＝フォイシャー分布としてモデル化し、集中パラメータと平均方向を用いて方向的好みを符号化する。
• 観測された関数値とsurrogateモデルからの勾配推定値に基づくベイズ更新則を用いて、方向分布を反復的に更新する。
• ボン・ミーゼス＝フォイシャー分布の対数正規化定数のテイラー展開を用いて、集中パラメータκを更新する階層モデルを構築する。
• 事前的な方向的信念と新たな証拠を組み合わせることで、探索方向を時間経過とともに精錬し、最適化器が高潜在力領域に集中させることを保証する。
• 評価予算が限界に近づくに従い、生産性の低い方向での探索を動的に低減する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、厳密な評価予算制約下でのベイズ最適化の効率性を高められるか？
• RQ2 最適解付近での振動行動を低減することで、方向的制約が収束速度を向上させられるか？
• RQ3 勾配情報が得られない状況下で、ベイズ最適化フレームワーク内に方向的好みを符号化・更新する方法は何か？
• RQ4 期待改善の性能に方向的制約を組み込むことで、ブラックボックス最適化においてどのような影響が生じるか？
• RQ5 勾配情報が欠如する状況下で、surrogateモデルの不確実性を活用して探索方向選択をガイドできるか？

主な発見

• 提案手法は、最適化の最終段階において振動行動を顕著に低減し、より安定した収束を実現した。
• 合成関数では、固定予算50評価回数下で、標準的期待改善手法に比べ25%の収束速度向上を達成した。
• 実世界のハイパーパramータチューニングタスクでは、ベースラインBO手法よりも少ない評価回数で、より優れた設定を同定した。
• 方向的制約は、特に後期の反復において、生産性の低い領域での無駄な評価を効果的に削減した。
• 集中パラメータκのベイズ更新則により、探索方向の好みが時間経過とともに適応的に精錬された。
• 実験的結果から、本手法は初期段階でグローバル探索を維持しながらも、予算が枯渇するに従い高潜在力領域に焦点を絞ることを確認した。