[論文レビュー] Asynchronous Batch Bayesian Optimisation with Improved Local Penalisation

Ahsan Alvi, Bin Xin Ru+3 more|arXiv (Cornell University)|Jan 29, 2019

Machine Learning and Data Classification被引用数 20

ひとこと要約

本稿では、局所的ペナルティを用いて重複するバッチ選択を回避することで、サンプル効率とウォルクロック性能を向上させる非同期バッチベイズ最適化手法PLAyBOOKを提案する。局所的推定リプシッツ定数と動的タスク再割り当てを用いることで、特に大きなバッチサイズにおいて、同期的および既存の非同期手法を凌駃する。

ABSTRACT

Batch Bayesian optimisation (BO) has been successfully applied to hyperparameter tuning using parallel computing, but it is wasteful of resources: workers that complete jobs ahead of others are left idle. We address this problem by developing an approach, Penalising Locally for Asynchronous Bayesian Optimisation on $k$ workers (PLAyBOOK), for asynchronous parallel BO. We demonstrate empirically the efficacy of PLAyBOOK and its variants on synthetic tasks and a real-world problem. We undertake a comparison between synchronous and asynchronous BO, and show that asynchronous BO often outperforms synchronous batch BO in both wall-clock time and number of function evaluations.

研究の動機と目的

• 遅延したタスクの完了を待つ必要があるため、同期的バッチベイズ最適化における非効率性を解消すること。
• 非同期関数評価を可能にすることで、並列ハイパーパramータチューニングにおけるリソース利用効率を向上させること。
• 非同期設定における重複するバッチ点選択を防ぐペナルティベースの手法を開発すること。
• 代理モデルの局所的変動性特徴を活用することで、非同期BOにおけるサンプル効率を向上させること。
• 非同期BOにおいてPLAyBOOKが同期的および既存の非同期ベースラインを実証的に上回ることを検証すること。

提案手法

• 進行中の評価の周辺領域に対して取得関数をペナルティ化することで、アイドル状態のワーカーを動的に再割り当てする、非同期バッチベイズ最適化フレームワークPLAyBOOKを提案する。
• ガウス過程（GP）の代理モデルの局所的変動性特徴（例：局所的リプシッツ定数）を用いる新しいペナルティ関数を導入し、探索をガイドし、冗長性を回避する。
• 代理モデルの変動性の局所的推定（例：局所的リプシッツ境界）を用いてペナルティを精緻化し、グローバル測定と比較して探索効率を向上させる。
• 目的関数をモデル化するためのガウス過程（GP）の代理モデルを採用し、関数値の事後分布を維持して取得関数の最大化をガイドする。
• 新規評価の完了に応じてリアルタイムで更新されるペナルティ項を含む取得関数最大化を実施し、継続的なタスク再割り当てを可能にする。
• 局所的（PLAyBOOK-L）および高階層の局所的（PLAyBOOK-LL、PLAyBOOK-HL）ペナルティバリアントを、推定された局所的リプシッツ定数を用いて実装し、多様性と収束性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 局所的ペナルティを用いた非同期バッチベイズ最適化は、ウォルクロック時間とサンプル効率において同期的バッチBOを上回るか？
• RQ2 局所的変動性特徴に基づく局所的ペナルティ戦略は、非同期BOにおける探索を向上させ、冗長性を低減できるか？
• RQ3 実世界のハイパーパramータチューニングタスクにおいて、PLAyBOOKはThompson Sampling（TS）やKnowledge Gradient（KB）といった既存の非同期BO手法と比較してどのように差をつけるか？
• RQ4 局所的推定リプシッツ定数の使用は、バッチサイズが増加する際、特に性能向上をもたらすか？
• RQ5 ペナルティベースのアプローチは、同期的設定よりも非同期設定に inherently より適しているとされるか？

主な発見

• PLAyBOOKは、特に大きなバッチサイズにおいて、ウォルクロック時間と関数評価回数の両面で同期的バッチBOを上回る。
• 合成テスト関数において、PLAyBOOKはTSおよびKBを常に上回る最適化性能を達成し、局所的リプシッツバリアント（PLAyBOOK-LL）が最も優れた結果を示した。
• CIFAR-10における実世界のCNNハイパーパラメータチューニングタスクでは、PLAyBOOK手法はTSおよびKBを上回る高いテスト精度を達成した。k=2では85.2%、k=4では84.2%の精度に到達した。
• k=4の場合、PLAyBOOK-LLは検証誤差の低下が最も速く、優れた収束速度とサンプル効率を示した。
• グローバルまたは非局所的ペナルティと比較して、局所的リプシッツ推定の使用は、バッチサイズが増加する際、顕著に性能向上をもたらした。
• 実証的結果から、ペナルティベースの手法は非同期設定に inherently より適しており、PLAyBOOKはTSやKBといった既存の非同期手法よりも優れた代替手段であると示唆された。