[論文レビュー] Distilling importance sampling

Dennis Prangle|arXiv (Cornell University)|Oct 8, 2019

Markov Chains and Monte Carlo Methods参考文献 60被引用数 6

ひとこと要約

この論文では、正規化フローと重要度サンプリングを組み合わせたハイブリッドベイズ推論手法を提案する。繰り返し重要度サンプルをフローのパラメータに統合することで、キューイングシステム や確率微分方程式のような複雑なモデルにおける事後分布の近似精度が向上する。

ABSTRACT

The two main approaches to Bayesian inference are sampling and optimisation methods. However many complicated posteriors are difficult to approximate by either. Therefore we propose a novel approach combining features of both. We use a flexible parameterised family of densities, such as a normalising flow. Given a density from this family approximating the posterior, we use importance sampling to produce a weighted sample from a more accurate posterior approximation. This sample is then used in optimisation to update the parameters of the approximate density, which we view as distilling the importance sampling results. We iterate these steps and gradually improve the quality of the posterior approximation. We illustrate our method in two challenging examples: a queueing model and a stochastic differential equation model.

研究の動機と目的

• 複雑なベイズ事後分布を近似する際の純粋なサンプリング法や最適化法の限界を克服する。
• 高次元または非楕円的構造を示す事後分布をモデル化する際の課題に対処する。
• 正規化フローの柔軟性と重要度サンプリングの精度を活かすハイブリッドフレームワークを構築する。
• 重み付き重要度サンプルを用いた繰り返しの改善によって、事後分布近似の質を向上させる。

提案手法

• 初期の事後分布近似を表すために、正規化フローなどのパrametrized密度族を用いる。
• より正確な事後分布近似から重み付きサンプルを生成するために重要度サンプリングを適用する。
• フローと重み付き重要度サンプルとの間の発散を最小化することで、正規化フローのパラメータを最適化する。
• 重要度サンプリングの結果から得られる情報の精錬を経て、繰り返しフローのパラメータを更新する。
• 正規化フローの柔軟性と重要度サンプリングの精度を組み合わせ、複数の反復において事後推定値を改善する。
• このプロセスを「情報の精錬」として扱い、重要度サンプルからより構造化された事後分布近似へと移行する。

実験結果

リサーチクエスチョン

• RQ1 正規化フローと重要度サンプリングを組み合わせたハイブリッド手法は、複雑なモデルにおける事後分布近似を改善できるか？
• RQ2 重要度サンプリングの結果を、効果的にパrametric事後分布近似を改善するためにどのように利用できるか？
• RQ3 精錬による繰り返しの改善は、標準的手法と比較して、どの程度事後分布の正確性を向上させるか？
• RQ4 この手法は、キューイングモデル や確率微分方程式における挑戦的な事後分布を処理できるか？
• RQ5 正規化フローのアーキテクチャの選択が収束性と正確性に与える影響は何か？

主な発見

• 標準的なサンプリング法や最適化法が失敗するような複雑なモデルにおいて、本手法は事後分布近似の質を著しく向上させた。
• 精錬による繰り返しの改善により、反復が進むにつれてより正確で信頼性の高い事後分布推定が得られた。
• 本手法は、キューイングモデルと確率微分方程式モデルという2つの挑戦的な応用において有効であることが示された。
• 重み付き重要度サンプルの使用により、単純なパラメトリック形式を超えた複雑な事後分布構造を捉えることができた。
• 本フレームワークはモデルの複雑さに対して頑健であり、繰り返し更新中においても安定した収束を維持した。
• 精錬プロセスは、重要度サンプリングからの情報を、より柔軟で正確な事後分布表現へと効果的に転送した。