[論文レビュー] Practical Bayesian Optimization for Model Fitting with Bayesian Adaptive Direct Search

Luigi Acerbi, Wei Ji|arXiv (Cornell University)|May 11, 2017

Advanced Bandit Algorithms Research被引用数 156

ひとこと要約

本論文は Bayesian Adaptive Direct Search (BADS) を紹介する。これは MADS と局所ガウス過程の代理モデルを組み合わせたハイブリッドなベイズ最適化アルゴリズムであり、ニューロサイエンスのモデル適合問題において多くの非ベイズ最適化手法や vanilla BO より優れていることを示す。

ABSTRACT

Computational models in fields such as computational neuroscience are often evaluated via stochastic simulation or numerical approximation. Fitting these models implies a difficult optimization problem over complex, possibly noisy parameter landscapes. Bayesian optimization (BO) has been successfully applied to solving expensive black-box problems in engineering and machine learning. Here we explore whether BO can be applied as a general tool for model fitting. First, we present a novel hybrid BO algorithm, Bayesian adaptive direct search (BADS), that achieves competitive performance with an affordable computational overhead for the running time of typical models. We then perform an extensive benchmark of BADS vs. many common and state-of-the-art nonconvex, derivative-free optimizers, on a set of model-fitting problems with real data and models from six studies in behavioral, cognitive, and computational neuroscience. With default settings, BADS consistently finds comparable or better solutions than other methods, including `vanilla' BO, showing great promise for advanced BO techniques, and BADS in particular, as a general model-fitting tool.

研究の動機と目的

• 勾配が得られない可能性のある複雑でノイズの多い計算論的神経科学モデルをフィットさせる際に、ベイズ最適化を用いる動機づけ。
• モデル適合のためにそのまま使える実用的で低オーバーヘッドな BO 対応ツール（BADS）の開発。
• 人工データおよび実データに対して、一般的および最先端の微分なし最適化手法と BADS を比較し、決定論的評価と確率的評価の下での性能を評価する。

提案手法

• Bayesian Adaptive Direct Search (BADS) の提案。Mesh Adaptive Direct Search (MADS) と局所ガウス過程代理最適化のハイブリッド。
• 探索中には ARD Rational Quadratic カーネルを備えた局所 GP を用いて目的関数をモデル化し、LCB（lower confidence bound）獲得関数を用いる。
• GP に基づく探索を MADS の探索段階に組み込み、収束性と頑健性を確保するために GP に基づくポール段階を用いる。
• incumbent の周囲に局所的な GP 訓練データセット（キャッシュ）を維持し、距離による再重み付けと半径ベースの包含ルールで効率化。
• ノイズがある場合には GP 分位点を用いて不確実性を扱い、GP に基づく分位関数で評価されたアクティブなインカンベント集合を維持する。
• GP ハイパーパラメータのデフォルトハイパーパラメータと経験ベイズ的事前分布を提供し、局所的な景観に適応するよう定期的に再フィットする。）

実験結果

リサーチクエスチョン

• RQ1 ベイズ最適化と直接探索メッシュを組み合わせたハイブリッド最適化フレームワークは、中程度の計算コストでモデル適合タスクに競争力のある性能を達成できるか？
• RQ2 BADS は決定論的およびノイズ付き（確率的）目的関数評価の両方において、一般的な非線形最適化手法および vanilla BO と比較して堅牢な性能を示すか？
• RQ3 オーバーヘッドと使いやすさの観点で、実際の神経科学モデル適合問題に対して BADS は実用的か（チューニングなしでの即使用）？

主な発見

• BADS は人工データおよび実データのモデル適合問題全体で、vanilla BO を含む他の最適化手法と同等または上回る。
• ノイズのない bbob09 関数でも堅牢性を示し、他の手法が苦戦する異分散ノイズに対して頑健性を示す。
• 実データの ccn17 モデル適合問題では、GP ハイパーパラメータフィットに起因するオーバーヘッドを除けば、BADS は効率性に優れ、しばしば CMA-ES および fmincon の派生よりも良い。
• Vanilla ベイズ最適化（bayesopt）は テスト対象のモデル適合問題では BADS および他の手法と比べて著しく性能が劣る。
• 著者らはデフォルト設定のオープンな MATLAB パッケージとして BADS を提供しており、研究者がそのまま使える。