[論文レビュー] PARyOpt: A software for Parallel Asynchronous Remote Bayesian Optimization

Balaji Sesha Sarath Pokuri, Alec Lofquist+2 more|arXiv (Cornell University)|Sep 12, 2018

Advanced Bandit Algorithms Research参考文献 14被引用数 6

ひとこと要約

PARyOpt は、高価なシミュレーションベース最適化におけるウォールクロック時間を短縮することを目的とした、並列的・非同期的・リモート型ベイズ最適化を実装する Python ベースのソフトウェアフレームワークである。関数評価とスラグモデル更新を分離することで、障害に強く、耐障害性に優れた最適化を実現し、非同期データ統合により最適化を最大 50% 速め、応答面モデルの構築に Kriging をサポートする。

ABSTRACT

PARyOpt is a python based implementation of the Bayesian optimization routine designed for remote and asynchronous function evaluations. Bayesian optimization is especially attractive for computational optimization due to its low cost function footprint as well as the ability to account for uncertainties in data. A key challenge to efficiently deploy any optimization strategy on distributed computing systems is the synchronization step, where data from multiple function calls is assimilated to identify the next campaign of function calls. Bayesian optimization provides an elegant approach to overcome this issue via asynchronous updates. We formulate, develop and implement a parallel, asynchronous variant of Bayesian optimization. The framework is robust and resilient to external failures. We show how such asynchronous evaluations help reduce the total optimization wall clock time for a suite of test problems. Additionally, we show how the software design of the framework allows easy extension to response surface reconstruction (Kriging), providing a high performance software for autonomous exploration. The software is available on PyPI, with examples and documentation.

研究の動機と目的

• 変動的かつ不確実な関数評価時間を持つ分散 HPC 環境における同期的最適化の非効率性を解消すること。
• ハードウェア／ネットワーク障害やジョブスケジューラーの遅延に耐えられる、スケーラブルでレジリエントなリモート型ベイズ最適化フレームワークの開発。
• 材料工学および化学工学分野の高価なシミュレーションベース設計問題における効率的で適応的なサンプリングの実現。
• 自律的実験設計のための Kriging を用いた応答面再構築をサポートするフレームワークの拡張。
• オープンソースで公開され、包括的なドキュメンテーションを備えたモジュラーかつ拡張可能なソフトウェアスタックの提供。

提案手法

• 関数評価とスラグモデル更新を分離した並列的・非同期的ベイズ最適化アルゴリズムを採用する。
• 平方指数カーネルを用いたガウス過程スラグモデルと、期待改善（Expected Improvement）または下位信頼区間（LCB）の獲得関数を用い、適応的サンプリングを実現する。
• 非同期データ統合により、遅れて到着する関数評価も最適化ループをブロッキングせずに統合可能である。
• Python で実装されたモジュラー構造により、最適化コンponentの容易な交換や HPC ジョブスケジューラーとの統合が可能である。
• Kriging は同じスラグモデルフレームワークを介してサポートされ、より高い補間精度を得るために、カーネルハイパーパramータの最尤推定（MLE）が用いられる。
• 自動リトライロジックとフェイルセーフ設計を備え、リモートで分散された評価を効果的に処理する。

実験結果

リサーチクエスチョン

• RQ1 変動するジョブ完了時間を持つ HPC 環境において、非同期ベイズ最適化は、ウォールクロック時間全体をどの程度短縮できるか？
• RQ2 PARyOpt の非同期設計は、同期型の手法と比較して、最適化効率をどの程度向上できるか？
• RQ3 同じフレームワークが、ベイズ最適化と Kriging を用いた応答面モデルの両方を効率的にサポートできるか？
• RQ4 リモートで非同期的に評価される条件下で、高次元のベンチマーク関数に対するグローバル最適解の探索効果はいかがなものか？
• RQ5 MLE を用いたハイパーパramータ最適化と獲得関数の選択が、Kriging の精度とサンプリング効率に与える影響は何か？

主な発見

• 非同期ベイズ最適化により、ベンチマーク問題において同期手法と比較して、最適化のウォールクロック時間を最大 50% 減少させた。
• 2次元およびそれ以上の次元のベンチマーク関数（Ackley, Rosenbrock, Rastrigin, Griewangk）において、グローバル最適解を正しく特定し、最悪ケースで 1.6e-4 未満の誤差を達成した。
• 20次元問題において、探索された最適解と真の最適解との L∞ 距離が 6e-3 未満であったため、スケーラビリティが確認された。
• MLE で最適化されたカーネルパラメータを用いた Kriging 再構築は、最適化されていない設定と比較して、はるかに優れたスラグ信頼性と精度を達成した。
• 遅延到着や失敗した関数評価に対しても、収束性と安定性を維持するという、高い耐障害性を示した。
• モジュラー設計により、Kriging とベイズ最適化の両方を単一のフレームワーク内でシームレスに統合可能であり、ReadTheDocs に例題が提供されている。