[論文レビュー] Bayesian optimization with virtual derivative sign observations

Eero Siivola, Aki Vehtari+2 more|arXiv (Cornell University)|Apr 4, 2017

Gaussian Processes and Bayesian Inference被引用数 2

ひとこと要約

本稿では、ガウス過程を用いて探索空間の境界で仮想的な微分観測値を注入することで収束を向上させるベイジアン最適化手法を提案する。目的関数が境界で最小値を達成する可能性が低いことを強制することで、過剰な探索を低減し、さまざまな獲得関数において一貫して関数評価回数を削減する。

ABSTRACT

Bayesian optimization (BO) is a global optimization strategy designed to find the minimum of an expensive black-box function, typically defined on a compact subset of $\mathcal{R}^d$, by using a Gaussian process (GP) as a surrogate model for the objective. Although currently available acquisition functions address this goal with different degree of success, an over-exploration effect of the contour of the search space is typically observed. However, in problems like the configuration of machine learning algorithms, the function domain is conservatively large and with a high probability the global minimum does not sit on the boundary of the domain. We propose a method to incorporate this knowledge into the search process by adding virtual derivative observations in the \gp at the boundary of the search space. We use the properties of GPs to impose conditions on the partial derivatives of the objective. The method is applicable with any acquisition function, it is easy to use and consistently reduces the number of evaluations required to optimize the objective irrespective of the acquisition used. We illustrate the benefits of our approach in an extensive experimental comparison.

研究の動機と目的

• 特にグローバル最小値が境界上に存在する可能性が低い高次元で保守的な探索空間において、過剰な探索を緩和すること。
• グローバル最小値が探索領域の境界上に存在する可能性が低いという事前知識を組み込むこと。
• 最適化プロセスをドメインの内部に向け、高価な関数評価回数を削減すること。
• いかなる獲得関数とも互換性があり、実装が容易な手法を開発すること。

提案手法

• 探索空間の境界でガウス過程補間モデルに仮想的な微分観測値を注入すること。
• ガウス過程の性質を活用し、境界点における偏微分の平均をゼロに制約すること。
• 境界挙動に関する信頼度に応じて、微分観測値をノイズありまたは決定的なものとしてモデル化すること。
• 目的関数が境界で勾配がゼロであるという事前信念を、GP事後分布に対する線形制約の集合として定式化すること。
• 獲得関数を変更せずに、仮想観測値をGP学習プロセスに統合すること。
• 獲得関数の変更なしに標準的な獲得関数すべてと互換性を持つように、微分制約を直接GPモデルに埋め込むこと。

実験結果

リサーチクエスチョン

• RQ1 境界に仮想的な微分観測値を注入することで、ベイジアン最適化の収束速度が向上するか？
• RQ2 提案手法は特に境界付近において過剰な探索を低減するか？
• RQ3 異なる獲得関数および目的関数において、この手法はどのように性能を発揮するか？
• RQ4 獲得関数の変更なしに、普遍的に適用可能か？
• RQ5 仮想的な微分観測値が、最小値に到達するまでに必要な関数評価回数に与える影響は何か？

主な発見

• 提案手法は、テストされたすべての獲得関数において、目的関数を最適化するために必要な関数評価回数を一貫して削減する。
• 仮想的な微分観測値は、特に高次元で保守的な探索空間において、境界付近の過剰な探索を効果的に低減する。
• 既存の獲得関数の変更なしに最適化効率を向上させる。
• GPに基づく微分制約の使用により、探索がドメインの内部に向けられるようになり、収束が早くなる。
• 実験結果から、合成関数および実世界の機械学習ハイパーパramータチューニングタスクの両方で顕著な性能向上が得られた。