[論文レビュー] Bayesian Optimization With Censored Response Data

Matricon, Théo, Holger H. Hoos+3 more|arXiv (Cornell University)|Oct 7, 2013

Machine Learning and Algorithms参考文献 20被引用数 22

ひとこと要約

本稿では、関数値の下限しか観測されない右側打ち切り応答データを扱うベイジアン最適化フレームワークを提案する。この手法は、censored値の補完に新規のEM型アルゴリズムをランダムフォレストに統合し、アルゴリズム設定における適応的打ち切りを可能にした。これにより、コストの高い評価を削減し、実世界のソルバ設定において、中央値のテスト実行時間が最大126倍速くなった。

ABSTRACT

Bayesian optimization (BO) aims to minimize a given blackbox function using a model that is updated whenever new evidence about the function becomes available. Here, we address the problem of BO under partially right-censored response data, where in some evaluations we only obtain a lower bound on the function value. The ability to handle such response data allows us to adaptively censor costly function evaluations in minimization problems where the cost of a function evaluation corresponds to the function value. One important application giving rise to such censored data is the runtime-minimizing variant of the algorithm configuration problem: finding settings of a given parametric algorithm that minimize the runtime required for solving problem instances from a given distribution. We demonstrate that terminating slow algorithm runs prematurely and handling the resulting right-censored observations can substantially improve the state of the art in model-based algorithm configuration.

研究の動機と目的

• 関数評価コストが関数値と等しいコスト変動型ブラックボックス最適化を扱うことで、リソースに配慮した最小化を可能にする。
• 早期終了により関数値の下限しか観測されない右側打ち切りデータをベイジアン最適化で扱う。
• 過度に早期に終了した実行からの打ち切り観測値を統合することで、モデルベースのアルゴリズム設定（AC）を改善する。
• アルゴリズム設定で一般的な高次元で離散的な入力に対処する実用的でスケーラブルな手法を開発する。
• 適応的打ち切りが、実世界の設定シナリオにおいて顕著な性能向上をもたらすことを示す。

提案手法

• コスト単調性を持つ最適化フレームワークを提案し、コスト c(θ) = f(θ) とすることで、リソースを節約するための早期終了を可能にする。
• 繰り返し打ち切り値を、切断正規分布からのサンプリングによって補完するEM型アルゴリズムを導入する。
• ストラティファイドサンプリングを用いて、各打ち切りデータポイントに対して複数の補完値を生成し、モデル予測の不確実性を保持する。
• 木の学習を非打ち切りデータに限定し、繰り返し補完された打ち切り値で再訓練することで、ランダムフォレストを打ち切りデータに対応させる。
• ブートストラップベースのリサンプリング戦略を採用し、木ごとのデータポイント頻度を維持するとともに、補完のためのリサンプリング回数を追跡する。
• スラック要因によって設定される適応的打ち切り閾値を用い、SMAC（最先端のアルゴリズム設定ツール）に打ち切りモデルを統合する。

実験結果

リサーチクエスチョン

• RQ1 関数値の下限しか観測されない右側打ち切り応答データを、ベイジアン最適化が効果的に扱えるか？
• RQ2 不確実性を保持し、最適化におけるアクティブラーニングを支援するように、打ち切りデータをどのようにモデル化できるか？
• RQ3 遅い実行を早期に打ち切り、下限値を用いる適応的打ち切りは、モデルベースのアルゴリズム設定の効率を向上させるか？
• RQ4 提案された補完手法は、アルゴリズム設定で一般的な高次元で離散的な入力空間において、標準的手法を上回る性能を示せるか？
• RQ5 実際の応用において、打ち切り閾値の最適なスラック要因は何か？また、それはモデル性能と実行効率にどのように影響するか？

主な発見

• 7つの実世界の設定シナリオすべてにおいて、打ち切りを適用した改良版SMACは元のバージョンを上回り、そのうち4つで統計的有意性を示した。
• 打ち切りを適用した最良の設定では、SPEAR-SWV問題において、非打ち切りベースラインと比較して中央値のテスト実行時間が最大126倍短縮された。
• スラック要因1.3で打ち切りを適用した場合が、すべてのシナリオで最良の全体的性能を示し、モデル適合度とデータ取得コストのバランスが取れていた。
• SPEAR-IBMベンチマークでは、打ち切りを含むすべての設定が同一の中央値性能（1.36×10⁴秒）を達成しており、高いばらつきに対しても頑健であることが示された。
• 特にCPLEX12-CORLAT や SPEAR-SWV のような高実行時間設定において顕著な改善が得られ、完全評価回数が大幅に削減された。