[論文レビュー] Fast approximate inference with INLA: the past, the present and the future

Daniel Simpson, Finn Lindgren+1 more|arXiv (Cornell University)|May 16, 2011

Blind Source Separation Techniques参考文献 4被引用数 12

ひとこと要約

この論文は、r-INLA Rパッケージを介してラプラス近似とガウス Markov 隨伴確率場（GMRF）を活用することで、潜在ガウス過程モデルにおける高速で決定論的なベイズ推論のための統合ネストラス近似（INLA）手法を提示している。空間的・時空間的・フレイルティ・モデルを含む複雑なモデルにおいても、MCMCに比べて著しく高速でありながら高い精度を維持するため、大規模データセットにおいてもほぼ即時の事後分布推定が可能である。

ABSTRACT

Latent Gaussian models are an extremely popular, flexible class of models. Bayesian inference for these models is, however, tricky and time consuming. Recently, Rue, Martino and Chopin introduced the Integrated Nested Laplace Approximation (INLA) method for deterministic fast approximate inference. In this paper, we outline the INLA approximation and its related R package. We will discuss the newer components of the r-INLA program as well as some possible extensions.

研究の動機と目的

• 空間的および階層的モデルにおいて特に顕著なMCMC手法の計算非効率性を是正すること。
• サンプルサイズやモデルの複雑さに伴い著しく悪化するMCMCの収束遅延と高い計算コストを克服すること。
• 条件付き独立性とスパース精度行列を活用することで、潜在ガウス過程モデルに対する確率的でない高速代替手法を開発すること。
• 新しい近似法とアルゴリズム的革新を通じて、ガウス・プライアに限定されないINLAの適用範囲を拡大すること。
• r-INLA Rパッケージを通じて疫学、生存分析、空間統計分野における実世界の問題に対する実用的ベイズ推論を可能にすること。

提案手法

• ステップワイズのラプラス近似を用いて、潜在ガウス過程モデルの周辺事後分布を計算し、確率的サンプリングを回避する。
• ハイパーパrameterを統合するためにネストラスラプラス近似を適用し、効率的なフル事後分布の近似を実現する。
• GMRFLib Cライブラリを介してガウス・マルコフ随伴確率場（GMRF）を活用し、スパース精度行列の高速計算を実現する。
• Rのglm関数に類似した構文を備えたr-INLA Rパッケージを実装し、既存の統計ワークフローへのスムーズな統合を可能にする。
• 非分離型作用素を有する確率的偏微分方程式（SPDE）を用いて、非分離型時空間モデルへのINLAの拡張を実施する。
• 重要度サンプリングに基づく分解法を導入し、ガンマ分布に従う非ガウス的フレイルティ項（例：ガンマ分布）をINLAフレームワークに統合する。

実験結果

リサーチクエスチョン

• RQ1 潜在ガウス過程モデルに対して、精度を損なわせることなく、決定論的かつ高速なMCMC代替手法を開発可能か？
• RQ2 大規模な空間的および階層的モデルにおいて、MCMCの計算負荷をいかに低減しつつ信頼性の高い推論を維持できるか？
• RQ3 SPDEに基づくモデルは、INLAフレームワーク内での柔軟で非分離型の時空間共分散構造をどの程度構築できるか？
• RQ4 非ガウス的仮定のもとで、生存モデルにおけるガンマ分布フレイルティ項をINLAフレームワークに統合できるか？
• RQ5 研究コミュニティが最も必要としているINLA手法の拡張は何か？また、ユーザー主導開発によってその有用性をどのように向上できるか？

主な発見

• INLAは潜在ガウス過程モデルにおいてほぼ即時のベイズ推論を実現し、MCMCによる数時間または数日を要する計算を数秒〜数分に短縮した。
• r-INLAパッケージにより、スムーズ項を含むコックス比例ハザードモデル、空間モデル、ダイナミック線形モデルなど、複雑なモデルの高速推論が可能になった。
• SPDEに基づくモデルは、物理的解釈可能性と因果関係を備えた非分離型空間時系列共分散構造を可能にし、時空間モデリングにおける現実性を向上させた。
• 重要度サンプリングに基づく分解法により、ガンマ分布フレイルティモデルが、対数正規分布の事前分布と補正項の積として近似されることで、INLAフレームワークに統合可能となった。
• ベンチマーク事例において、事後分布の近似精度がMCMC結果と数桁の小数点まで一致し、高い精度を維持した。
• r-INLAフレームワークは拡張可能でユーザー主導型であり、新機能の早期アクセスが可能なテスト版が提供されており、コミュニティフィードバックに基づく継続的開発が行われている。