[論文レビュー] Temporal Parallelization of Bayesian Filters and Smoothers

Simo Särkkä, Ángel F. García‐Fernández|arXiv (Cornell University)|May 30, 2019

Bayesian Modeling and Causal Inference被引用数 6

ひとこと要約

この論文は、すべての接頭辞和問題に再定式化することで、ベイジアンフィルタリングおよびスムージングを並列化する新しい手法を提案している。これにより、線形時間から対数時間の計算量にまで低減される。この手法は、効率的な並列スキャンアルゴリズムを活用し、線形/ガウス型および離散的隠れマルコフモデルにおける計算を顕著に高速化する。

ABSTRACT

This paper presents algorithms for the temporal parallelization of Bayesian filters and smoothers. We define the elements and the operators to pose these problems as the solutions to all-prefix-sums operations for which efficient parallel scan-algorithms are available. We present the temporal parallelization of the general Bayesian filtering and smoothing equations, and the specific linear/Gaussian models, and discrete hidden Markov models. The advantage of the proposed algorithms is that they reduce the linear complexity of standard filtering and smoothing algorithms with respect to time to logarithmic.

研究の動機と目的

• 標準的なベイジアンフィルタリングおよびスムージングの計算ボトルネックを解消すること。これらは時間に対して線形にスケールする。
• 時間ステップに跨るベイジアン推論を効率的に並列実行できるようにすること。
• 並列化手法を一般のベイジアンモデルおよび特定のケース（線形/ガウス型および離散的隠れマルコフモデル）に一般化すること。
• 推論をすべての接頭辞和演算に再定式化することで、対数時間の計算量を達成すること。

提案手法

• 論文は、定義された代数的要素および演算子を用いて、ベイジアンフィルタリングおよびスムージングをすべての接頭辞和問題に再定式化する。
• 並列計算で一般的に用いられる効率的な並列スキャンアルゴリズムを適用し、接頭辞和を対数時間で解く。
• 非線形および非ガウス型モデルを含む、完全なベイジアンフィルタリングおよびスムージング方程式へとこのアプローチを一般化する。
• 線形/ガウス型モデルおよび離散的隠れマルコフモデルに対して、具体的な実装が導出され、並列化の利点が保持される。
• 時間並列実行を可能にする数学的構造に依存しており、接頭辞演算を通じて順序依存性を分離する。
• ベイジアン状態推定に内在する条件付き独立構造を維持することで、正しさを保証する。

実験結果

リサーチクエスチョン

• RQ1 時間軸に跨るベイジアンフィルタリングおよびスムージングを並列化することで、計算量を低減できるか？
• RQ2 時間における順序依存性を数学的に再構造することで、並列計算を可能にする方法は何か？
• RQ3 提案手法は、標準的なフィルタリングおよびスムージングアルゴリズムと比較して、どの程度の性能向上を達成するか？
• RQ4 線形/ガウス型および離散的隠れマルコフモデルなどの異なるモデルクラスに、このアプローチはどの程度スケーラブルか？
• RQ5 すべての接頭辞和抽象化は、一般のベイジアン推論問題に効果的に適用可能か？

主な発見

• 提案されたアルゴリズムにより、ベイジアンフィルタリングおよびスムージングの時間計算量が、時間に対して線形から対数時間にまで低減された。
• この成果は、推論をすべての接頭辞和演算に表現することで達成され、これは効率的に並列化可能な演算である。
• このアプローチは、一般のベイジアンモデルおよび線形/ガウス型や離散的隠れマルコフモデルといった特定のケースに適用可能である。
• 並列化により、正確性を損なわずに計算の高速化が顕著に達成された。
• アルゴリズムは、ベイジアン推論の正しさを保証する代数的構造に基づいて正式に根拠づけられている。
• 結果として、接頭辞和を用いた時系列並列処理が、状態推定における逐次処理の代替として実用的かつ効率的であることが示された。