[論文レビュー] Scalable Combinatorial Bayesian Optimization with Tractable Statistical models

Aryan Deshwal, Syrine Belakaria+1 more|arXiv (Cornell University)|Aug 18, 2020

Machine Learning and Data Classification参考文献 31被引用数 8

ひとこと要約

本稿では、組み合わせ的ベイズ最適化における獲得関数最適化（AFO）のスケーラビリティと正確性を向上させるスケーラブルで正確な手法であるパラメータ付き部分モジュラリライズ（PSR）を提案する。AFOを学習可能なパラメータを有する部分モジュラリライズ問題に再定式化し、効率的な最小カットグラフアルゴリズムを用いて解くことで、特に高次元の組み合わせ的空間において、BOCSで用いられる従来のSDPベースの手法よりも著しく高速で、より高い最適化精度を達成する。

ABSTRACT

We study the problem of optimizing expensive blackbox functions over combinatorial spaces (e.g., sets, sequences, trees, and graphs). BOCS (Baptista and Poloczek, 2018) is a state-of-the-art Bayesian optimization method for tractable statistical models, which performs semi-definite programming based acquisition function optimization (AFO) to select the next structure for evaluation. Unfortunately, BOCS scales poorly for large number of binary and/or categorical variables. Based on recent advances in submodular relaxation (Ito and Fujimaki, 2016) for solving Binary Quadratic Programs, we study an approach referred as Parametrized Submodular Relaxation (PSR) towards the goal of improving the scalability and accuracy of solving AFO problems for BOCS model. PSR approach relies on two key ideas. First, reformulation of AFO problem as submodular relaxation with some unknown parameters, which can be solved efficiently using minimum graph cut algorithms. Second, construction of an optimization problem to estimate the unknown parameters with close approximation to the true objective. Experiments on diverse benchmark problems show significant improvements with PSR for BOCS model. The source code is available at https://github.com/aryandeshwal/Submodular_Relaxation_BOCS .

研究の動機と目的

• 多数のバイナリ変数やカテゴリカル変数を含む大規模な組み合わせ的空間における、BOCSのSDPベースの獲得関数最適化（AFO）のスケーラビリティの低さを改善すること。
• リライズに基づく最適化における近似誤差を低減することで、BOCSにおけるAFOの正確性を向上させること。
• 集合、順列、木構造、グラフなどの組み合わせ的構造に対する、計算可能な統計モデルを用いた効率的でスケーラブルなベイズ最適化を可能にすること。
• 計算効率と解の品質のバランスを取るパラメータ化された部分モジュラリライズフレームワークを構築すること。
• PSRが、SDPを用いる最先端のBOCSと比較して、計算効率と全体的なベイズ最適化の正確性の両方を向上させることを実証的に検証すること。

提案手法

• BOCSにおける獲得関数最適化（AFO）問題を、未知のパラメータを有する部分モジュラリライズ問題に再定式化し、最小カットグラフアルゴリズムを用いて効率的に解けるようにすること。
• 2段階最適化を用いる：まず、グラフカットを用いてリライズされたAFO問題を解き、次に、リライズされた目的関数と真の目的関数との差を最小化するように未知パラメータを最適化すること。
• 真の獲得関数を近似する代理目的関数を用いて、部分モジュラリライズのパラメータを推定するための外側最適化問題を構築すること。
• 最近の部分モジュラリライズの進展（Ito & Fujimaki, 2016）を活用し、組み合わせ的BOにおけるスケーラビリティと正確性を向上させること。
• PSRフレームワークをBOCSフレームワークに統合し、そのSDPベースのAFOを、より高速で正確な部分モジュラリライズ手法に置き換えること。
• BOCS内での獲得関数として、スムーズな統計モデルを維持するため、トムソンサンプリングを用いること。

実験結果

リサーチクエスチョン

• RQ1 学習可能なパラメータを有する部分モジュラリライズは、組み合わせ的ベイズ最適化における獲得関数最適化のスケーラビリティを向上させることができるか？
• RQ2 提案されたPSR手法は、BOCSのSDPベースの手法と比較して、より優れたAFO解の品質を達成するか？
• RQ3 PSRは、収束速度と最終的な目的関数値の観点から、全体的なベイズ最適化性能をどの程度向上させるか？
• RQ4 PSRは、特に高次元のバイナリ変数やカテゴリカル変数を含む組み合わせ的空間の次元が増加するにつれて、どのようにスケーリングするか？
• RQ5 PSRは、SDPと比較して、AFOの計算時間を著しく短縮しつつ、正確性を維持または向上させることができるか？

主な発見

• PSRは、SDPアプローチと比較して、平均的なAFO時間の大幅な短縮を達成しており、入力次元が高くなるほど性能差が広がる。
• PSRは、獲得関数目的関数における平均的な改善率のパcentが高く、すべてのベンチマークドメインで一貫してSDPを上回る。
• PSRとSDPのAFO解の正確性の差は、次元が高くなるにつれて拡大し、PSRのスケーラビリティを示している。
• PSRを用いたBOCSは、収束曲線から示されるように、SDPを用いたBOCSよりも、より低い最良関数値に早く到達するという、より高い全体的な最適化正確性を達成する。
• 平均して、PSRは、最小次元（ベースケース）と比較して、次元が増加するにつれて、AFO時間の縮小要因が増大する。これは、250回のBO反復において、顕著な合成的効率向上を示している。
• PSRは、BQP、イジング、汚染、その他の多様な実世界ベンチマークにおいて、一貫した速度と解の品質の向上を示しており、効果的である。