[論文レビュー] Efficient inference in persistent Dynamic Bayesian Networks

Tomáš Šingliar, Denver Dash|arXiv (Cornell University)|Jun 13, 2012

Bayesian Modeling and Causal Inference参考文献 20被引用数 6

ひとこと要約

本稿では、状態が干渉されない限り変化しないという時間的恒続性（persistent）を利用した、恒続的動的ベイジアンネットワーク（DBN）における正確な推論アルゴリズムを提案する。因果鎖、木構造、ポリツリー構造における構造的依存関係として恒続性をモデル化することで、Boyen-Kollerのような近似手法と比較して、最悪計算量と実測性能の両面で最大100倍の高速化を達成した。特に、恒続的木構造モデルでは、正確な平滑化（smoothing）性能が図式化された木構造法（junction tree）を著しく上回った。

ABSTRACT

Numerous temporal inference tasks such as fault monitoring and anomaly detection exhibit a persistence property: for example, if something breaks, it stays broken until an intervention. When modeled as a Dynamic Bayesian Network, persistence adds dependencies between adjacent time slices, often making exact inference over time intractable using standard inference algorithms. However, we show that persistence implies a regular structure that can be exploited for efficient inference. We present three successively more general classes of models: persistent causal chains (PCCs), persistent causal trees (PCTs) and persistent polytrees (PPTs), and the corresponding exact inference algorithms that exploit persistence. We show that analytic asymptotic bounds for our algorithms compare favorably to junction tree inference; and we demonstrate empirically that we can perform exact smoothing on the order of 100 times faster than the approximate Boyen-Koller method on randomly generated instances of persistent tree models. We also show how to handle non-persistent variables and how persistence can be exploited effectively for approximate filtering.

研究の動機と目的

• 恒続性の性質によって生じる時系列に隣接する依存関係が原因で生じる、恒続的DBNにおける正確な推論の非効率性を解消すること。
• 恒続性が時間的モデルに与える規則的な構造を活用した、スケーラブルな推論アルゴリズムの開発。
• 恒続的DBNにおける正確な平滑化およびフィルタリングを、標準的手法よりも明確な計算的利点を保証しながら可能にする。
• 非恒続的変数を扱えるようにフレームワークを拡張し、恒続性に配慮した近似手法による推論をサポートする。

提案手法

• 恒続的因果鎖（PCC）、恒続的因果木（PCT）、恒続的ポリツリー（PPT）の3つのモデルクラスを導入し、構造的時間的依存関係における恒続性を形式化する。
• 標準の図式化木法の計算爆発を回避するため、恒続的で規則的な構造を活用した正確な推論アルゴリズムを設計する。
• 提案手法の漸近的計算量の解析的境界を導出し、図式化木法と比較してより良好なスケーリング特性を示す。
• 恒続的構造を活用することで計算効率を維持しつつ、正確な平滑化およびフィルタリング手順を実装する。
• 条件付き確率表を変更することで、非恒続的変数を恒続的変数と共存させる形でフレームワークに統合する。
• フィルタリングに恒続性に配慮した近似手法を適用し、計算コストを削減しながらも精度を維持する。

実験結果

リサーチクエスチョン

• RQ1 時間的モデルにおける恒続性の性質を形式的に活用することで、DBNにおける効率的な正確な推論が可能になるか？
• RQ2 提案手法の計算複雑度は、恒続的モデルにおける標準的図式化木法と比べてどのように異なるか？
• RQ3 恒続的DBNにおける正確な平滑化は、構造的推論を用いることで、近似手法と比較してどの程度高速化できるか？
• RQ4 非恒続的変数は、恒続性に配慮した推論フレームワークに効果的に統合できるか？
• RQ5 恒続性を活用することで、DBNにおける近似フィルタリングの効率性と精度が向上するか？

主な発見

• PCC、PCT、PPTのための提案された正確な推論アルゴリズムは、恒続的モデルにおける図式化木法と比較して、漸近的時間計算量が著しく優れていることが確認された。
• 実験的評価では、ランダムに生成された恒続的木構造モデルにおいて、正確な平滑化がBoyen-Kollerの近似手法と比較して最大100倍高速であった。
• 恒続性に起因する構造的規則性を活用することで、正確な推論を維持しつつ、標準的手法の非効率性を回避した。
• 条件付き確率表現を拡張することで、非恒続的変数をフレームワークに効果的に統合し、恒続的推論パイプラインに影響を与えることなく実現した。
• 恒続性に配慮した近似フィルタリングは、同じ構造的規則性を活用することで、標準的な近似手法よりも効率的かつ正確性に優れた結果を得た。
• 解析的境界により、提案手法がモデルサイズの増大に伴い、特に恒続的時間的構造において良好にスケーリングすることが確認された。