[論文レビュー] Towards Automatic Bayesian Optimization: A first step involving acquisition functions

Eduardo C. Garrido‐Merchán, Luis C. Jariego Pérez|arXiv (Cornell University)|Mar 21, 2020

Gaussian Processes and Bayesian Inference参考文献 14被引用数 4

ひとこと要約

本稿では、ヒューリスティックアンサンブル（重み付きおよびヘッジベースの組み合わせを含む）を用いて動的に獲得関数（AF）を選択することで、手動によるAFチューニングへの依存を低減する、自動ベイジアン最適化のフレームワークを提案する。この手法は、ベンチマーク関数および実際のハイパーパrameterチューニングタスクにおいて優れた性能を示し、重み付きAFは一貫して個々のAFを上回り、ノイズが多い・高次元の設定でも頑健性を示す。

ABSTRACT

Bayesian Optimization is the state of the art technique for the optimization of black boxes, i.e., functions where we do not have access to their analytical expression nor its gradients, they are expensive to evaluate and its evaluation is noisy. The most popular application of bayesian optimization is the automatic hyperparameter tuning of machine learning algorithms, where we obtain the best configuration of machine learning algorithms by optimizing the estimation of the generalization error of these algorithms. Despite being applied with success, bayesian optimization methodologies also have hyperparameters that need to be configured such as the probabilistic surrogate model or the acquisition function used. A bad decision over the configuration of these hyperparameters implies obtaining bad quality results. Typically, these hyperparameters are tuned by making assumptions of the objective function that we want to evaluate but there are scenarios where we do not have any prior information about the objective function. In this paper, we propose a first attempt over automatic bayesian optimization by exploring several heuristics that automatically tune the acquisition function of bayesian optimization. We illustrate the effectiveness of these heurisitcs in a set of benchmark problems and a hyperparameter tuning problem of a machine learning algorithm.

研究の動機と目的

• ベイジアン最適化における手動ハイパーパrameterチューニングへの依存を低減するため、獲得関数選択の自動化を目的とする。
• 複数の獲得関数を組み合わせることで最適化の頑健性を向上させる、ヒューリスティックベースのアンサンブル手法を検討すること。
• 固定された手動選択獲得関数と比較して、自動AF選択がブラックボックス最適化で優れた性能を示すかどうかを評価すること。
• 多様なベンチマーク関数および実世界のハイパーパrameterチューニングタスクにおいて、アンサンブルAFの有効性を評価すること。
• 信頼性があり適応可能なAF選択戦略を同定することで、完全な自動ベイジアン最適化の基盤を築くこと。

提案手法

• 著者らは、複数の獲得関数（例：期待改善、改善確率、下位信頼区間）を重み付きおよびヘッジベースの戦略を用いて組み合わせるヒューリスティックアンサンブル手法を提案する。
• 各獲得関数は反復的に評価され、履歴的なリグレット削減の成功度に基づいて動的に重み付けが行われる。
• 本手法では、各反復で獲得関数を最適化するためにグリッドサーチを用い、絶対的リグレットを最小化することに焦点を当てる。
• 今後の課題として、確率的グラフィカルモデルの検討がなされ、深層学習を用いてGP状態から最適なAFを予測する可能性が示唆されている。
• フレームワークは、標準的なベンチマーク関数（Hartmann、Rastrigin）および勾配ブースティング分類器を用いたDigitsデータセット上の実際のハイパーパrameterチューニングタスクでテストされている。
• 著者らは、低評価回数の状況での過剰適合を避けるために、最尤推定の代わりにスライスサンプリングを推奨している。

実験結果

リサーチクエスチョン

• RQ1 ヒューリスティックアンサンブルによる獲得関数の組み合わせは、手動で選択された個々の獲得関数を上回る性能を示せるか？
• RQ2 獲得関数の動的重み付けは、さまざまな種類のブラックボックス関数において最適化性能にどのように影響を与えるか？
• RQ3 自動獲得関数選択は、ハイパーパラメータ最適化における専門家によるチューニングの必要性を低減できるか？
• RQ4 Rastriginのような多様な局所最適解を有する関数において、アンサンブル戦略の性能はいかがなものか？
• RQ5 提案手法は、実世界の機械学習ハイパーパラメータチューニングタスクへ一般化可能か？

主な発見

• 重み付き獲得関数は、HartmannおよびRastriginを含むすべてのベンチマーク関数で一貫して最高の性能を示し、ハイパーパラメータチューニング実験では最良の結果と並び、同率で最高を記録した。
• Hartmann関数では、純粋な搾取的AF（EIおよびPI）が探索志向の戦略を上回り、単一モードで滑らかな関数では探索が有害であることを確認した。
• アンサンブルAF（重み付きおよびヘッジ）は、個々のAFが失敗した場合でも最悪の性能を回避するという頑健性を示した。
• Rastrigin関数では、多数の局所最適解とAF最適化にグリッドサーチが用いられたことから、標準偏差が高くなり、獲得関数の最適化により洗練された手法の導入が求められると示唆された。
• Digitsデータセットにおける実際のハイパーパラメータチューニング実験では、重み付きAFが他の戦略を上回ったが、適切なパラメータ設定のおかげでランダムサーチも驚くべきほど良好な結果を示した。
• 本研究は、アンサンブルベースのAF選択が、特に事前の知識が限られる状況において、完全な自動ベイジアン最適化への実用的かつ有効な第一歩であると結論づけた。