[論文レビュー] Practical Bayesian Optimization for Model Fitting with Bayesian Adaptive\n Direct Search

Luigi Acerbi, Wei Ji Ma|arXiv (Cornell University)|May 11, 2017

Advanced Bandit Algorithms Research被引用数 119

ひとこと要約

本論文は Bayesian Adaptive Direct Search (BADS) を導入し、モデル適合のためのハイブリッドなベイズ最適化手法であり、神経科学関連の問題で一般的および最先端の最適化手法と比較して有利にベンチマークされることを示す。 また、BADS の無料 MATLAB 実装を提供する。

ABSTRACT

Computational models in fields such as computational neuroscience are often\nevaluated via stochastic simulation or numerical approximation. Fitting these\nmodels implies a difficult optimization problem over complex, possibly noisy\nparameter landscapes. Bayesian optimization (BO) has been successfully applied\nto solving expensive black-box problems in engineering and machine learning.\nHere we explore whether BO can be applied as a general tool for model fitting.\nFirst, we present a novel hybrid BO algorithm, Bayesian adaptive direct search\n(BADS), that achieves competitive performance with an affordable computational\noverhead for the running time of typical models. We then perform an extensive\nbenchmark of BADS vs. many common and state-of-the-art nonconvex,\nderivative-free optimizers, on a set of model-fitting problems with real data\nand models from six studies in behavioral, cognitive, and computational\nneuroscience. With default settings, BADS consistently finds comparable or\nbetter solutions than other methods, including `vanilla' BO, showing great\npromise for advanced BO techniques, and BADS in particular, as a general\nmodel-fitting tool.\n

研究の動機と目的

• 神経科学と心理学で一般的な複雑でノイズのある非凸計算モデルの適合という課題に対処する。
• moderate-cost 評価を扱うため、ベイズ最適化と直接探索を組み合わせた軽量でロバストな最適化アルゴリズムを開発する。
• 人工データと実データの問題に対して BADS を幅広い最適化手法とベンチマークし、競争力とロバスト性を評価する。
• 研究者が過度な調整を要せずに利用できる、BADS のアクセス可能で out-of-the-box な MATLAB 実装を提供する。

提案手法

• Bayesian Adaptive Direct Search (BADS) を提案する。これは Mesh Adaptive Direct Search (MADS) と BO のローカル Gaussian プロセス代替を組み合わせたハイブリッドである。
• ローカル GP を ARD Rational Quadratic カーネルとして目的関数をモデル化し、lower confidence bound アクイジション関数でサンプリングを導く。
• MADS の探索段階で近似的なインカンバント点を提案する、CMA-ES に影響を受けた高速な探索オラクルを統合する。
• 探索段階が失敗した場合にメッシュ/grid を探索する投票段階を組み込み、モデルフリーのセーフガードを提供する。
• GP ベースの分位数関数とアクティブなインカンバント集合でノイズを扱い、MAP ハイパーパラメータ推定と時々のハイパーパラメータ再適合を行う。
• MADS フレームワーク内で境界、変換（正のスケールには対数空間）、問題特有の制約を適応的に管理する。

実験結果

リサーチクエスチョン

• RQ1 BADS は moderate evaluation costs を伴う現実的なモデル適合問題に対して、既存の微分不可能最適化手法と競争力があるか、または上回るか。
• RQ2 ローカル GP 代替とメッシュベースの直接探索を組み合わせることで、目的関数の非定常性とノイズに対するロバスト性を提供できるか。
• RQ3 計算神経科学および関連分野での日常的な利用に BADS は実用的かつ out-of-the-box の使いやすさと合理的な計算オーバーヘッドを提供するか。
• RQ4 合成データと実データの両方を対象とした場合、vanilla Bayesian optimization や他の非ベイズ法と比較して BADS はどのような性能を示すか。

主な発見

• BADS は人工的なモデル適合問題と実データの双方で、他の方法と比較して同等またはそれ以上の解を一貫して見つける。
• bbob09 noiseless および noisy ベンチマークでは、BADS は CMA-ES や fmincon の変種を含む競合他社をしばしば上回り、特にヘテロスケアスティックノイズの下で優位である。
• 実データの ccn17 モデル適合問題で、BADS は解の質とオーバーヘッドの間で有利なトレードオフを示し、vanilla BO を上回り、しばしば CMA-ES や fmincon の変種と同等かそれを超える。
• vanilla Bayesian optimization (bayesopt) はこれらの実データのモデル適合問題において BADS に比べて性能が劣る（非定常性と代替候補の課題が原因）。
• 著者らは BADS を実装した自由に利用可能な MATLAB パッケージを提供しており、チューニングを要せずデフォルト設定で動作する。