[論文レビュー] Bayesian Optimization for Probabilistic Programs

Tom Rainforth, Tuan Le+3 more|arXiv (Cornell University)|Jul 13, 2017

Advanced Multi-Objective Optimization Algorithms参考文献 19被引用数 3

ひとこと要約

この論文は、ベイズ最適化を用いて確率的プログラムにおける周辺最大後確信度（MMAP）推定のための、一般用途向けフレームワークであるBOPPを紹介する。ソースコードに依存するガウス過程と問題に依存しないハイパーパriorを活用することで、BOPPは潜在変数の効率的最適化を可能にするとともに、他の変数を周辺化し、シミュレーションベースの設計およびパラメータチューニングタスクにおいて、既存のツールと比較して顕著な性能向上を達成する。

ABSTRACT

We present the first general purpose framework for marginal maximum a posteriori estimation of probabilistic program variables. By using a series of code transformations, the evidence of any probabilistic program, and therefore of any graphical model, can be optimized with respect to an arbitrary subset of its sampled variables. To carry out this optimization, we develop the first Bayesian optimization package to directly exploit the source code of its target, leading to innovations in problem-independent hyperpriors, unbounded optimization, and implicit constraint satisfaction; delivering significant performance improvements over prominent existing packages. We present applications of our method to a number of tasks including engineering design and parameter optimization.

研究の動機と目的

• 確率的プログラミングシステムにおける周辺最大後確信度（MMAP）推定のための一般用途の最適化支援の欠如に対処すること。
• 既存の推論エンジンを用いて、確率的プログラム内の任意の変数サブセットの最適化を可能にするとともに、残りの変数を周辺化すること。
• ソースコード構造を直接活用することで、効率的かつ頑健な最適化を実現するベイズ最適化フレームワークの開発。
• 複雑なシミュレーションベースのモデルにおける非有界最適化と暗黙的制約の満たし方の支援。
• 実世界の工学的設計およびパラメータ最適化タスクにおけるフレームワークの有効性の実証。

提案手法

• コード変換を用いて、任意の確率的プログラムの証拠を最適化のための微分可能目的関数として露わにする。
• 入力と出力を±1にスケーリングすることで安定性と一般化性を向上させる、新規のソースコードに依存するガウス過程（GP）スレーブモデルを採用する。
• ハイパーパramータに対し対数正規分布を用いて、長さスケールとノイズ項の問題に依存しないGPハイパーパriorを定義し、ドメイン知識なしで頑健な初期化を可能にする。
• Anglicanなどの既存の確率的プログラミングシステムと統合し、ABC尤度を用いてシミュレータ出力を条件付け、モデル証拠を推定する。
• 期待改善獲得関数を用いて最適化を進め、確率的プログラムの反復的評価によりGPスレーブを精緻化し、最適な変数設定を特定する。
• 暗黙的制約は、確率的プログラムの構造とGPが複雑な非線形応答面をモデル化できる能力によって満たされる。

実験結果

リサーチクエスチョン

• RQ1 モデル固有の適合を必要とせずに、一般の確率的プログラムにベイズ最適化を効果的に適用し、MMAP推定に応用できるか。
• RQ2 多様な確率的プログラムにわたる、出荷時から動作する最適化を可能にするために、問題に依存しないGPハイパーパriorをどのように設計できるか。
• RQ3 ソースコードへの認識が、シミュレーションベースの推論設定におけるベイズ最適化の効率性と収束性をどの程度向上できるか。
• RQ4 確率的プログラムの構造を通じて、非有界最適化と暗黙的制約を自然に処理できるか。
• RQ5 実世界の工学的および機械学習タスクにおいて、既存の最適化パッケージと比較して、提案手法の性能はどの程度向上するか。

主な発見

• BOPPは、シミュレーションベースの工学的設計タスクにおいて、顕著な性能向上を達成した。
• フレームワークは、住宅暖房シミュレーションにおけるラジエーター出力割り当てを最適化し、8か所の温度ばらつきを低減することで、熱的分布の均一性を向上させた。
• 100回の反復後、BOPPはランダム初期化よりも均一な温度分布を生成する設定を特定したことが、図1のヒートマップで確認された。
• 図1の証拠収束プロットは、モデル証拠の安定的で単調な改善を示しており、中央値の証拠が増加し、四分位範囲が狭まっている。
• 問題に依存しないハイパーパriorの使用により、手動チューニングなしで効果的な最適化が可能となり、異なる問題スケールや構造においても頑健性が示された。
• ABC尤度との統合により、決定論的シミュレータにおいて、ターゲット結果からの乖離をモデル化することで、有効なユーティリティ評価が可能になり、確率的環境におけるMMAP推定が実現した。