[論文レビュー] ProBO: a Framework for Using Probabilistic Programming in Bayesian Optimization.

Willie Neiswanger, Kirthevasan Kandasamy+3 more|arXiv (Cornell University)|Jan 31, 2019

Machine Learning and Data Classification参考文献 16被引用数 7

ひとこと要約

ProBO は、標準的な操作を用いて任意の確率的プログラム（PP）をベイズ最適化（BO）に統合することで、モデル固有の導出を不要にするフレームワークである。ブラックボックス型の獲得関数とベイズ的プロダクト・オブ・エキスパートモデルを導入し、標準的なBO手法と比較して、複数のPP実装においてより高いクエリ効率を実現した。

ABSTRACT

Optimizing an expensive-to-query function is a common task in science and engineering, where it is beneficial to keep the number of queries to a minimum. A popular strategy is Bayesian optimization (BO), which leverages probabilistic models for this task. Most BO today uses Gaussian processes (GPs), or a few other surrogate models. However, there is a broad set of Bayesian modeling techniques that we may want to use to capture complex systems and reduce the number of queries. Probabilistic programs (PPs) are modern tools that allow for flexible model composition, incorporation of prior information, and automatic inference. In this paper, we develop ProBO, a framework for BO using only standard operations common to most PPs. This allows a user to drop in an arbitrary PP implementation and use it directly in BO. To do this, we describe black box versions of popular acquisition functions that can be used in our framework automatically, without model-specific derivation, and show how to optimize these functions. We also introduce a model, which we term the Bayesian Product of Experts, that integrates into ProBO and can be used to combine information from multiple models implemented with different PPs. We show empirical results using multiple PP implementations, and compare against standard BO methods.

研究の動機と目的

• 多様な確率的プログラム（PP）を、モデル固有の導出を要せず、ベイズ最適化に利用可能にする。
• 柔軟で表現力のあるPPをサーヴィレートモデルとして活用することで、高価な関数クエリの回数を削減する。
• 標準的な操作のみを用いて、任意のPPをBOフレームワークに統合できる汎用フレームワークを構築する。
• 異なるPP実装に適応可能なブラックボックス型の獲得関数最適化アプローチを導入する。
• 統一されたBOフレームワーク内で複数のPPからの情報を統合するためのベイズ的プロダクト・オブ・エキスパートモデルを提案する。

提案手法

• フレームワークは、大多数の確率的プログラミング言語に共通する標準的な操作を用いて、任意のPPをベイズ最適化に統合する。
• モデル固有の解析的導出を必要としないブラックボックス型の獲得関数を導入し、任意のPPと自動的に連携可能にする。
• 標準的な勾配なしまたは勾配ベースの最適化手法を用いて、これらのブラックボックス型獲得関数を最適化できる。
• 複数のPPからの予測を統合するためのベイズ的プロダクト・オブ・エキスパートモデルを提案し、モデルの表現力と耐性を向上させる。
• フレームワークは拡張性を備えており、コアなBOコンponentsを変更せずに、任意のPP実装を統合可能である。
• 実験的評価では、Pyro や Stan、TensorFlow Probability などの複数のPPバックエンドを用いて、多様なモデリングシナリオにおける性能を検証した。

実験結果

リサーチクエスチョン

• RQ1 モデル固有の導出を要せず、任意の確率的プログラムをベイズ最適化に統合できる汎用フレームワークを構築可能か？
• RQ2 解析的勾配が得られない複雑で柔軟なモデルにおいて、ブラックボックス型獲得関数は、性能を発揮するか？
• RQ3 ベイズ的プロダクト・オブ・エキスパートを用いて複数のPPを統合することで、最適化性能とサンプル効率が向上するか？
• RQ4 ガウス過程を用いた標準的BO手法と比較して、ProBO はクエリ効率および収束速度において優れているか？
• RQ5 真の関数が複雑または非ステーションナリィな場合に、多様なPPをBOで使用した際の実用的影響は何か？

主な発見

• ProBO は、標準的な操作のみを用いて、任意の確率的プログラムをベイズ最適化に利用可能にし、モデルの柔軟性を顕著に向上させた。
• ProBO のブラックボックス型獲得関数は、解析的導出を必要とせず、競争的な性能を達成し、プラグアンドプレイでの統合を可能にした。
• ベイズ的プロダクト・オブ・エキスパートモデルは、複数のPPからの情報を効果的に統合し、予測精度と最適化の耐性を向上させた。
• 実験結果から、特に複雑または非ステーションナリィな設定において、ProBO は標準的なGPベースのBOと比較して収束に必要なクエリ回数を削減した。
• フレームワークは、Pyro や Stan、TensorFlow Probability などの複数のPPバックエンドで強く性能を発揮し、その汎用性とスケーラビリティを確認した。
• ProBO は、従来のGPベースのBOで取り扱いにくい複雑なモデルに対しても効率的な最適化を可能にし、適用可能な問題のスコープを拡大した。