[論文レビュー] Simulation-based Bayesian analysis for multiple changepoints

Jason Wyse, Nial Friel|arXiv (Cornell University)|Nov 12, 2010

Bayesian Methods and Mixture Models参考文献 13被引用数 7

ひとこと要約

本稿では、変化点数が未知である複数の変化点検出問題に対して、共役モデルとハイパーパriorを用いて、頑健で自動的な推論を可能にする、シミュレーションに基づくベイズMCMC手法を提案する。この手法は、事前分布の仮定に対する感度を低減し、周辺尤度の計算を伴う固定次元のサンプリングスキームにより、事後分布の効率的探索を可能にする点で、フィルタリング再帰法の改善を図る。

ABSTRACT

This paper presents a Markov chain Monte Carlo method to generate approximate posterior samples in retrospective multiple changepoint problems where the number of changes is not known in advance. The method uses conjugate models whereby the marginal likelihood for the data between consecutive changepoints is tractable. Inclusion of hyperpriors gives a near automatic algorithm providing a robust alternative to popular filtering recursions approaches in cases which may be sensitive to prior information. Three real examples are used to demonstrate the proposed approach.

研究の動機と目的

• 変化点数が未知である複数の変化点問題に対して、頑健で自動的なMCMC手法を開発すること。
• 変化点解析におけるフィルタリング再帰法が事前分布の仮定に敏感である問題を解決すること。
• 可逆ジャンプMCMCの代替として、モデル空間の探索を簡素化するシミュレーションベースの手法を提供すること。
• 石炭鉱山の災害、スポーツのストリーク性、ウェルログデータといった実データ例を通じて、手法の有効性を示すこと。
• サンプラーの短い走行が、フィルタリング再帰法のハイパーパrameter選定を支援できるかを示すこと。

提案手法

• 変化点間のデータセグメントに対して、解析的周辺尤度が得られるように、共役モデルを用いる。
• 変化点数を条件付きにすることで、固定次元のサンプリングスキームを採用し、事後分布の探索を簡素化する。
• 変化点位置とセグメントパラメータを同時にサンプリングするため、畳み込みパラメータ空間内での可逆ジャンプMCMC移動を適用する。
• セグメント長とレジームパラメータにハイパーパriorを組み込むことで、主観的な事前分布選択への依存を低減する。
• 共役事前分布を用いて、ポアソン、ベルヌーイ、ガウス分布のデータモデルに対して周辺尤度を解析的に計算する。
• 得られた事後サンプルを用いてベイズ因子を計算し、モデルの不確実性を評価する。

実験結果

リサーチクエスチョン

• RQ1 変化点数が未知である複数の変化点問題に対して、どのようにベイズMCMC手法を設計できるか？
• RQ2 提案手法は、フィルタリング再帰法と比較して、事前分布の指定に対する感度をどのように低減するか？
• RQ3 フィルタリング再帰法が強い事前仮定により誤った結果を導くような状況において、シミュレーションベースの手法がより頑健な推論を可能にするか？
• RQ4 複雑な事後分布構造を示す実世界のデータセットにおいて、このサンプラーは変化点検出にどの程度有効か？
• RQ5 サンプラーの短い走行が、フィルタリング再帰法のハイパーパrameterチューニングを支援できるか？

主な発見

• 提案されたMCMCサンプラーは、石炭鉱山の災害データセットにおいて変化点を的確に検出しており、従来の結果を再確認するとともに、より頑健であることが確認された。
• スポーツのストリーク性データでは、変化点数の事後分布が広がっており、フィルタリング再帰法が見逃す可能性のあるモデルの不確実性が明らかになった。
• セグメント持続時間に対するハイパーパriorの組み込みにより、従来のフィルタリング再帰法では捉えきれなかった事後分布の特徴が明らかになった。
• ウェルログデータにおいて、本手法は事前分布の指定に感度を示したが、これは慎重な事前分布モデリングの重要性を強調した。
• サンプラーの短い走行が、高品質なハイパーパラメータ推定を提供し、フィルタリング再帰法の性能を顕著に向上させた。
• 事前仮定が誤っている状況において、本手法はフィルタリング再帰法を上回る性能を示し、診断および探索的ツールとしての価値を実証した。