[論文レビュー] pySOT and POAP: An event-driven asynchronous framework for surrogate optimization

David Eriksson, David Bindel+1 more|arXiv (Cornell University)|Jul 30, 2019

Advanced Multi-Objective Optimization Algorithms参考文献 38被引用数 67

ひとこと要約

POAPは代理最適化戦略の構築と調整を行うイベント駆動型の非同期フレームワークを提供し、pySOTはPOAP上に構築された代理最適化手法のスイートを提供し、費用のかかるブラックボックス関数の同期的または非同期的なグローバル最適化を可能にします。

ABSTRACT

This paper describes Plumbing for Optimization with Asynchronous Parallelism (POAP) and the Python Surrogate Optimization Toolbox (pySOT). POAP is an event-driven framework for building and combining asynchronous optimization strategies, designed for global optimization of expensive functions where concurrent function evaluations are useful. POAP consists of three components: a worker pool capable of function evaluations, strategies to propose evaluations or other actions, and a controller that mediates the interaction between the workers and strategies. pySOT is a collection of synchronous and asynchronous surrogate optimization strategies, implemented in the POAP framework. We support the stochastic RBF method by Regis and Shoemaker along with various extensions of this method, and a general surrogate optimization strategy that covers most Bayesian optimization methods. We have implemented many different surrogate models, experimental designs, acquisition functions, and a large set of test problems. We make an extensive comparison between synchronous and asynchronous parallelism and find that the advantage of asynchronous computation increases as the variance of the evaluation time or number of processors increases. We observe a close to linear speed-up with 4, 8, and 16 processors in both the synchronous and asynchronous setting.

研究の動機と目的

• 評価時間が異なる高価なブラックボックス関数のグローバル最適化を動機づけ、解決する。
• 作業者と戦略を調整するための非同期で耐障害性のあるフレームワーク（POAP）を提案する。
• POAP上に構築された複数のモデルとデザインを備えたPythonの代理最適化ツールボックス（pySOT）を提供する。
• 同期並列と非同期並列を評価し、時間変動とより大きなプロセッサ数の下での利点を示す。

提案手法

• POAPを、非同期評価を管理するワーカープール、戦略、コントローラを備えたイベント駆動型フレームワークとして紹介します。
• POAP内に、代理最適化戦略の集合としてpySOTを実装します（RBF、Gaussian Process、SVR、MARS、多項式回帰）。
• 正則化付きRBF、ガウス過程、その他の代理モデルオプションと実験デザイン（LHD、SLHD）を説明します。
• 補助問題（LMS-RBF、DYCORS、PI/EI/LCB取得による候補点の選択、BO内）と動的サンプリング半径の更新を詳述します。
• 非同期アルゴリズム（アルゴリズム3）と評価イベントの処理方法、ワーカーの可用性、再起動（アルゴリズム4）を説明します。
• 実装コンポーネント（コントローラー、戦略、ワーカー）とMPIやシミュレーテッドタイム試験を含む非同期最適化のインタフェースについて論じます。

実験結果

リサーチクエスチョン

• RQ1 評価時間が変動し、より多くのプロセッサが使用される場合、代理ベースのグローバル最適化において非同期（同期 vs 非同期）並列処理は性能にどのように影響しますか？
• RQ2 POAPは非同期代理最適化の堅牢性を向上させるための障害耐性と動的なワーカー再割り当てを提供できますか？
• RQ3 イベント駆動の非同期フレームワーク内で、異なる代理モデル、実験デザイン、獲得関数はどのように機能しますか？
• RQ4 非同期設定での再起動、サンプリング半径の更新、戦略の組み合わせに関する実用的な指針は何ですか？

主な発見

• 非同期性は、評価時間が変動する下で、4、8、16プロセッサの場合に同期・非同期の両方の設定でほぼ線形のスピードアップを提供します。
• 非同期計算はアイドル時間を短縮し、その利点は評価分散が大きくなるほど、またプロセッサ数が増えるほど大きくなります。
• 並列処理は探索を改善し、評価回数の面でシリアル実行を上回ることがあります。
• POAPは障害耐性と動的なワーカーマネジメントを提供し、クラッシュや障害を優雅に処理します。
• pySOTはPOAPフレームワーク内で代理モデル、設計、獲得関数を比較する堅牢なテストスイートとして機能します。
• 組み合わせられたPOAP-pySOTフレームワークは相当な普及を達成しており、pySOTは88,000回を超えてダウンロードされ、POAPは126,000回を超えてダウンロードされています。