[論文レビュー] Particle Gibbs with Ancestor Sampling for Probabilistic Programs

Jan-Willem van de Meent, Hongseok Yang+2 more|arXiv (Cornell University)|Jan 27, 2015

Bayesian Modeling and Causal Inference参考文献 7被引用数 15

ひとこと要約

本論文は、確率的プログラミングに適応されたアノセントサンプリングを用いたパーティクルギブス法（PGAS）を提案し、実行初期にサンプリングされた変数を含む複雑なモデルにおける効率的な事後分布推論を可能にした。形式化されたリサンプリング機構を用いて、実行のプレフィックスとサフィックスの履歴を統合することで、標準的なパーティクルMCMCよりも顕著に高い有効サンプルサイズ（ESS）と高速な収束を達成した。これは、プログラム実行の初期に生成された変数の混合性が向上したためである。

ABSTRACT

Particle Markov chain Monte Carlo techniques rank among current state-of-the-art methods for probabilistic program inference. A drawback of these techniques is that they rely on importance resampling, which results in degenerate particle trajectories and a low effective sample size for variables sampled early in a program. We here develop a formalism to adapt ancestor resampling, a technique that mitigates particle degeneracy, to the probabilistic programming setting. We present empirical results that demonstrate nontrivial performance gains.

研究の動機と目的

• 確率的プログラムにおけるパーティクルMCMC手法の粒子の劣化問題、特に実行初期にサンプリングされた変数に対して解決を図ること。
• パーティクルギブスにおける混合性を向上させる技術であるアノセントサンプリングを、高階関数、再帰的、メモ化された確率的プログラムへと拡張すること。
• 正しい確率を保ちつつ、重複した再計算を避けるために、実行プレフィックスとサフィックスを安全に統合する形式的枠組みを構築すること。
• 統計的効率性と計算コストの観点から、PGASを標準的なパーティクルMCMC（ICSMC）と比較して実験的に評価すること。
• 少数の粒子数でも、PGASが有効サンプルサイズ（ESS）と収束速度においてICSMTを上回ることを示すこと。

提案手法

• 粒子軌道の再生成を一貫して可能にするために、上流の依存関係を追跡するトレースされた実行の形式的枠組みを提案する。
• 部分的な実行プレフィックスと事前に完了したサフィックスを組み合わせるメカニズムを導入し、確率の正しい更新と状態の一貫性を保証する。
• 祖先リサンプリングを用いて、系統に基づいて軌道を再重み付けすることで、初期に生成された変数の混合性を向上させ、粒子の劣化を緩和する。
• 既存の計算を可能な限り再利用することで、サフィックスの完全な再実行を回避するトレースされた評価戦略を採用する。
• SMCによる提案生成とMCMCによる精錬を組み合わせたハイブリッドアプローチを採用し、標準的なSMCやMHと比較して混合性を向上させる。
• 再帰、高階関数、メモ化をサポートする確率的プログラミングフレームワーク内に本手法を実装する。

実験結果

リサーチクエスチョン

• RQ1 動的構造、再帰、メモ化を有する確率的プログラムに対して、アノセントサンプリングを効果的に適応できるか？
• RQ2 PGASは、ICSMTのような標準的なパーティクルMCMC手法と比較して、プログラムの初期にサンプリングされた変数の混合性を向上させることができるか？
• RQ3 PGASは、計算コストが高くなるにもかかわらず、ICSMTよりも少ない粒子数で、より高い有効サンプルサイズ（ESS）を達成できるか？
• RQ4 統計的効率性（例：単位時間あたりのESS）で正規化した場合、PGASの計算コストはICSMTと比べてどの程度か？
• RQ5 トレースされた実行の形式的枠組みは、複雑なプログラム構造において、不要な再計算を回避しつつ正しさを維持できるか？

主な発見

• PGASは全時間ステップにわたり安定した有効サンプルサイズ（ESS）を達成するが、ICSMTは初期にサンプリングされた変数に対してESSが急激に低下しており、混合性が悪いことが示された。
• 10個の粒子のみを用いても、PGASはqの推定において500個の粒子を用いたICSMTと同等のESS性能を達成した。これは、統計的効率性が優れていることを示している。
• ωおよびqの事後分布推定の標準偏差が、PGASではICSMTよりも速やかに収束しており、1スイープあたりの収束速度が優れていることが示された。
• 1スイープあたりの計算コストは高いが、t ≈ 50未満の状態推定において、PGASは単位時間あたりの有効サンプルサイズがICSMTを上回っており、全体的な性能向上が得られた。
• PGASのESSは独立した実行間で約15%のばらつきを示すが、初期時におけるICSMTより一貫して高い水準を維持しており、潜在的遷移確率の事前分布に感度がある可能性が示唆された。
• 上流の依存関係を追跡することで、再生成時に不要な再計算を回避する形式的枠組みが成功しており、単純な再実行と比較して計算オーバーヘッドを低減した。