[論文レビュー] Parallel Predictive Entropy Search for Multi-objective Bayesian Optimization with Constraints

Eduardo C. Garrido‐Merchán, Daniel Hernández-Lobato|arXiv (Cornell University)|Apr 1, 2020

Gaussian Processes and Bayesian Inference参考文献 31被引用数 7

ひとこと要約

本稿では、複数の高価なブラックボックス関数（目的関数および制約）を同時に評価できる、制約付き多目的最適化問題に対する最初の並列ベイズ最適化手法であるPPESMOCを提案する。予測エントロピー探索をバッチ取得に拡張し、パレート集合における期待エントロピー低減を最大化することで、並列評価下でも効率的かつスケーラブルな最適化を実現し、合成問題、ベンチマーク、および神経ネットワークアーキテクチャ探索を含む実世界のタスクにおいて、逐次ベースラインを上回る性能を発揮する。

ABSTRACT

Real-world problems often involve the optimization of several objectives under multiple constraints. An example is the hyper-parameter tuning problem of machine learning algorithms. In particular, the minimization of the estimation of the generalization error of a deep neural network and at the same time the minimization of its prediction time. We may also consider as a constraint that the deep neural network must be implemented in a chip with an area below some size. Here, both the objectives and the constraint are black boxes, i.e., functions whose analytical expressions are unknown and are expensive to evaluate. Bayesian optimization (BO) methodologies have given state-of-the-art results for the optimization of black-boxes. Nevertheless, most BO methods are sequential and evaluate the objectives and the constraints at just one input location, iteratively. Sometimes, however, we may have resources to evaluate several configurations in parallel. Notwithstanding, no parallel BO method has been proposed to deal with the optimization of multiple objectives under several constraints. If the expensive evaluations can be carried out in parallel (as when a cluster of computers is available), sequential evaluations result in a waste of resources. This article introduces PPESMOC, Parallel Predictive Entropy Search for Multi-objective Bayesian Optimization with Constraints, an information-based batch method for the simultaneous optimization of multiple expensive-to-evaluate black-box functions under the presence of several constraints. Iteratively, PPESMOC selects a batch of input locations at which to evaluate the black-boxes so as to maximally reduce the entropy of the Pareto set of the optimization problem. We present empirical evidence in the form of synthetic, benchmark and real-world experiments that illustrate the effectiveness of PPESMOC.

研究の動機と目的

• 並列評価が可能である状況下で、多目的かつ制約付きのベイズ最適化におけるギャップを埋めること。
• パレート集合に関する不確実性を最小化する情報を理論的根拠に基づいた取得関数を設計し、スケーラブルな手法を構築すること。
• 利用可能な並列計算リソースがあるにもかかわらず、1点ずつ評価する逐次BO手法の非効率性を是正すること。
• 予測時間とチップ面積に関する制約下で、深層ニューラルネットワークのハイパーパrameterチューニングを効率的に行えるようにすること。
• 合成問題、ベンチマーク、および実世界の問題（ハードウェア制約付きのニューラルアーキテクチャ探索を含む）において、本手法の実証的妥当性を検証すること。

提案手法

• PPESMOCは、制約付き多目的ベイズ最適化のための予測エントロピー探索（PESMOC）を、予測エントロピー最小化を用いてバッチ設定に拡張したものである。
• 取得関数は、複数の入力点を並列に評価した際のパレート集合のエントロピー低減の期待値を推定する。
• ガウス過程を用いた確率的スレーブモデルを用い、バッチ全体における目的関数と制約の同時分布を予測する。
• 取得関数は将来の観測の期待値として定式化されており、バッチの位置を効率的に最適化可能である。
• 可変なバッチサイズをサポートし、大規模バッチにおいても逐次的再最適化戦略よりもスケーリングに優れている。
• アルゴリズムは、グローバルなパレート最適解に関する情報量の増加を最大化するように、反復的にバッチを選択する。

実験結果

リサーチクエスチョン

• RQ1 複数の制約を伴う多目的最適化問題において、バッチベイズ最適化手法がパレート集合に関する不確実性を効果的に低減できるか。
• RQ2 限られた評価予算下で、並列取得と逐次取得の収束速度および解の品質にどのような差が生じるか。
• RQ3 反復的逐次手法と比較して、提案された情報理論的バッチ取得関数は、バッチサイズの増大に伴い効率的にスケーリングできるか。
• RQ4 PPESMOCは、制約付き多目的最適化タスクにおいて、最先端の逐次BO手法を上回ることができるか。
• RQ5 PPESMOCは、ハードウェア制約付きの深層ニューラルネットワークのハイパーパrameterチューニングという実世界の応用において、どの程度有効であるか。

主な発見

• ニューラルネットワーク実験において、60回の評価後、PPESMOCはPS_PESMOC（29.23 ± 0.38 対 29.09 ± 0.97）と同等またはわずかに優れたハイパーボリューム性能を達成した。
• PPESMOCはPS_BMOOおよびランダムサーチを著しく上回り、それぞれ28.46 ± 1.54および28.58 ± 0.81の低いハイパーボリュームを達成した。
• 本手法はバッチサイズに応じて効率的にスケーリングされ、バッチ内の各点について逐次最適化を再実行する際の膨大な計算コストを回避している。
• 実世界のDNNハイパーパrameterチューニングタスクでは、1 mm²のチップ面積制約下で、一般化誤差と予測時間の両者においてより優れたトレードオフを達成するモデルを発見した。
• 合成問題およびベンチマーク問題における実証的結果から、PPESMOCが逐次ベースラインよりもパレートフロントに関する不確実性をより速やかに低減できることを確認した。
• PPESMOCが得た平均パレートフロントは、PS_PESMOCと比較して、同じ予測時間における予測誤差の最小化においてわずかだが一貫した改善を示した。