[論文レビュー] Biips: Software for Bayesian Inference with Interacting Particle Systems

Adrien Todeschini, François Caron+3 more|arXiv (Cornell University)|Dec 11, 2014

Gaussian Processes and Bayesian Inference参考文献 7被引用数 16

ひとこと要約

Biips は、相互作用粒子系を用いた自動推論を可能にするベイズ推論ソフトウェアプラットフォームであり、natively BUGS確率プログラミング言語をサポートする。ブラックボックスの逐次モンテカルロ（SMC）アルゴリズム（例：パーティクルフィルターやパーティクルMCMC）を提供し、事後分布の近似と周辺尤度推定が可能で、R、MATLAB、Octave とのインターフェースを備えている。

ABSTRACT

Biips is a software platform for automatic Bayesian inference with interacting particle systems. Biips allows users to define their statistical model in the probabilistic programming BUGS language, as well as to add custom functions or samplers within this language. Then it runs sequential Monte Carlo based algorithms (particle filters, particle independent Metropolis-Hastings, particle marginal Metropolis-Hastings) in a black-box manner so that to approximate the posterior distribution of interest as well as the marginal likelihood. The software is developed in C++ with interfaces with the softwares R, Matlab and Octave.

研究の動機と目的

• 相互作用粒子系を用いたベイズ推論のための柔軟で使いやすいソフトウェアプラットフォームの開発。
• BUGS言語エコシステムに逐次モンテカルロ（SMC）推論機能を拡張し、自動的な事後分布近似と周辺尤度推定を可能にする。
• カスタム分布やサンプラーをサポートしながらも、既存の確率プログラミングワークフローと互換性を保ちつつ、ブラックボックス推論エンジンを提供する。
• 広範なアクセス性と既存のデータ分析パイプラインへの統合を実現するため、R、MATLAB、Octave との効率的なインターフェースを提供する。
• 粒子ベースの手法を用いて、計算が不可能な条件付き分布や動的・高次元の状態空間を持つ複雑なモデルをサポートする。

提案手法

• モデルは宣言的言語であるBUGS言語を用いて定義され、条件付き分布を含むグラフィカルモデルを指定可能。
• ソフトウェアは実行時、モデルをグラフィカル構造にコンパイルし、推論用にノードインスタンスを動的に割り当てる。
• 事後分布近似に向け、フォワードSMC、フォワードバックワードSMC、パーティクル独立メトロポリス・ハスティングス、パーティクルマージナルメトロポリス・ハスティングスを含む、逐次モンテカルロ（SMC）アルゴリズムを採用。
• SMC手法は、追加計算コストなしに周辺尤度の不偏推定量を提供するという、MCMCと比較して顕著な利点を有する。
• R、MATLAB、Octave で実装されたカスタム関数やサンプラーを、BUGSモデルライブラリに統合可能。
• パフォーマンスを重視したC++で実装されたコアエンジンに加え、使いやすさを考慮したR、MATLAB、Octave へのハイレベルインターフェースを提供。

実験結果

リサーチクエスチョン

• RQ1 BUGS互換のソフトウェアプラットフォームは、ベイズ推論における逐次モンテカルロ手法を効果的にサポートできるか？
• RQ2 パーティクルベース推論は、BUGSのような高レベル確率プログラミング言語を通じて、どのように利用可能になるか？
• RQ3 SMC手法は、アルゴリズムの詳細を深く理解しなくても、カスタム分布やサンプラーをサポートするブラックボックスフレームワークに統合可能か？
• RQ4 BiipsにおけるSMCベース推論と、JAGSのような成熟したMCMCベースツールとの間で、パフォーマンス上のトレードオフはどのようなものか？
• RQ5 パーティクル手法は、計算が不可能な条件付き分布や複雑な状態空間構造を持つモデルに対して、どの程度のサポートを提供できるか？

主な発見

• Biips は、BUGS言語を用いたSMCベースのベイズ推論のブラックボックス推論エンジンを成功裏に実装し、ユーザーが低レベルのアルゴリズムを書かずにモデルを定義可能にした。
• 追加計算コストなしに周辺尤度の不偏推定量が得られることから、MCMC手法と比較して顕著な利点を有する。
• R、MATLAB、Octave で記述されたカスタム関数やサンプラーは、モデルにシームレスに統合可能で、柔軟性と拡張性が向上した。
• Biips は、パーティクルマージナルメトロポリス・ハスティングスを含む多様なSMCアルゴリズムをサポートしており、状態空間モデルや階層モデルのような複雑なモデルに適している。
• JAGS よりも実行時間が長くても、動的または高相関性の高い設定ではSMCがMCMCを上回る性能を発揮するモデルに対して、Biips は実用的な代替手段を提供する。
• 今後のバージョンでは、粒子アルゴリズムの本質的な並列性を活用し、並列処理を導入することでパフォーマンスを向上させる計画である。