[論文レビュー] Better call Surrogates: A hybrid Evolutionary Algorithm for Hyperparameter optimization

Subhodip Biswas, Adam D. Cobb+3 more|arXiv (Cornell University)|Dec 11, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 17被引用数 10

ひとこと要約

本論文は、径数基底関数（RBF）のスラムモデル、ベイズ最適化（BO）、微分進化（DE）を組み合わせたハイブリッド進化的アルゴリズム、SteaDEを提案する。初期段階ではRBFを用いて探索空間を探索し、その後、新規のベイズ的突然変異機構を備えたDEで強化されたガウス過程（GP）ベースのBOフレームワークへ知識を転送することで、低予算のハイパーパrameter最適化タスクにおいて優れたサンプル効率と性能を達成する。NeurIPS 2020 Black Box Optimization Challengeにおいて、単独のBO、DE、RBF手法を上回る結果を示した。

ABSTRACT

In this paper, we propose a surrogate-assisted evolutionary algorithm (EA) for hyperparameter optimization of machine learning (ML) models. The proposed STEADE model initially estimates the objective function landscape using RadialBasis Function interpolation, and then transfers the knowledge to an EA technique called Differential Evolution that is used to evolve new solutions guided by a Bayesian optimization framework. We empirically evaluate our model on the hyperparameter optimization problems as a part of the black box optimization challenge at NeurIPS 2020 and demonstrate the improvement brought about by STEADE over the vanilla EA.

研究の動機と目的

• 目的関数の評価が高コストで勾配情報が得られない機械学習分野におけるハイパーパrameter最適化（HPO）の課題に対処すること。
• スラムモデルと進化的アルゴリズムを統合することで、低予算最適化シナリオにおけるサンプル効率を向上させること。
• 時間経過に伴い適応するハイブリッドフレームワークにおいて、探索（RBFおよびBOによる）と活用（DEによる）のバランスを取ること。
• RBFスラムモデルからガウス過程（GP）ベースのベイズ最適化フレームワークへの知識転送戦略の有効性を示すこと。
• 厳密な計算制約下でもスケーラブルで効率的かつ頑健な最適化手法を、実世界の機械学習ハイパーパrameterチューニングに適した形で提供すること。

提案手法

• SteaDEは、対称ラテンハイパーボリュームサンプリング（SLHD）などの初期実験設計を用いて、目的関数のランドスケープを推定するための径数基底関数（RBF）スラムモデルから開始する。
• その後、ガウス過程（GP）スラムを用いたベイズ最適化（BO）フレームワークに移行し、qEIなどの獲得関数を用いてインformedなサンプリングを促進する。
• 微分進化（DE）における新規のベイズ的突然変異機構により、BOが生成した解、RBFが生成した解、およびDEベースのグローバルからローカルへの探索項を組み合わせたドナー変数が生成される。
• 突然変異式は、BO駆動の探索、RBFベースの多様性、および時間に伴い減衰するランダム成分を統合し、グローバル探索とローカル探索のバランスを取る。
• 並列で複数点を効率的に提案するために、ハイブリッド獲得関数（qEIにランダム化された準モンテカルロサンプリングを組み合わせたもの）を用いる。これにより計算効率が向上する。
• 初期のRBFベースの探索後、アルゴリズムはベイズ的突然変異を備えたDEベースの探索に移行し、有望な領域に集中しながらも、集団の多様性を維持する。

実験結果

リサーチクエスチョン

• RQ1 スラムモデルと進化的アルゴリズムを統合したハイブリッド手法は、低予算のハイパーパラメータ最適化におけるサンプル効率を向上させることができるか？
• RQ2 RBFスラムモデルからGPベースのベイズ最適化フレームワークへの知識転送は、最適化性能にどのような影響を与えるか？
• RQ3 微分進化にベイズ的突然変異機構を統合することで、計算コストの高いブラックボックス最適化にどのような影響を与えるか？
• RQ4 厳密な時間制約および関数評価回数制約下で、SteaDEは単独のBO、DE、RBF手法と比較して収束性および一般化性能に優れているか？
• RQ5 スラムベースの探索から進化的探索への動的移行は、高価で非凸的かつマルチモーダルなハイパーパラメータ最適化問題において性能を向上させることができるか？

主な発見

• SteaDEは、NeurIPS 2020 Black Box Optimization Challengeでリーダーボード得点98.6963を達成し、BO（96.8487）、DE（97.1833）、RBF（98.0024）を大きく上回った。
• 可視化可能な目的関数の正規化平均値（normalized mean visible_to_opt）において、SteaDEは0.15463を達成し、BO（0.37376）、DE（0.33408）、RBF（0.23693）を下回り、優れた最適化性能を示した。
• 図1の収束プロファイルから、初期段階ではRBFによるインフォームドな探索のおかげでSteaDEがDEを上回っていることが明らかで、DEのランダム突然変異による初期段階の非効率性が顕著に現れている。
• SteaDEは中央値として一般化スコア2.51204を達成し、BO（2.36782）およびDE（2.5）をわずかに上回り、未学習データに対する頑健性の向上が示された。
• アブレーションスタディの結果、RBF、BO、DEのハイブリッド統合が最良のパフォーマンスをもたらし、各コンponentが全体の成功に独自に貢献していることが確認された。
• 提案されたベイズ的突然変異機構は、探索と活用のバランスを効果的にとらせており、$1/G$項が世代を経てグローバル探索からローカル探索への移行を可能にした。