[論文レビュー] Reasoning at the Right Time Granularity

Suchi Saria, Uri Nodelman+1 more|Uncertainty in Artificial Intelligence|Jun 20, 2012

Bayesian Modeling and Causal Inference参考文献 7被引用数 40

ひとこと要約

本論文は、時間的・空間的クラスタが重複する柔軟なクラスタグラフを用いることで、各システム部品の変化率に応じて動的に推論の時間分解能を調整する、連続時間ベイジアンネットワーク（CTBNs）のための新しい期待伝搬（EP）アルゴリズムを提案する。この手法により、部品ごとの時間的分解能を個別に設定でき、精度を損なわずに計算コストを削減する。実験では、顕著な効率性向上が確認された。

ABSTRACT

Most real-world dynamic systems are composed of different components that often evolve at very different rates. In traditional temporal graphical models, such as dynamic Bayesian networks, time is modeled at a fixed granularity, generally selected based on the rate at which the fastest component evolves. Inference must then be performed at this fastest granularity, potentially at significant computational cost. Continuous Time Bayesian Networks (CTBNs) avoid time-slicing in the representation by modeling the system as evolving continuously over time. The expectation-propagation (EP) inference algorithm of Nodelman et al. (2005) can then vary the inference granularity over time, but the granularity is uniform across all parts of the system, and must be selected in advance. In this paper, we provide a new EP algorithm that utilizes a general cluster graph architecture where clusters contain distributions that can overlap in both space (set of variables) and time. This architecture allows different parts of the system to be modeled at very different time granularities, according to their current rate of evolution. We also provide an information-theoretic criterion for dynamically re-partitioning the clusters during inference to tune the level of approximation to the current rate of evolution. This avoids the need to hand-select the appropriate granularity, and allows the granularity to adapt as information is transmitted across the network. We present experiments demonstrating that this approach can result in significant computational savings.

研究の動機と目的

• 従来の動的ベイジアンネットワークでは、最も速く変化する部品に制約される固定時間分解能による推論の非効率性を解消すること。
• 既存のCTBN推論手法では一様な推論時間分解能が事前に選択され、システムの動的変化に適応できないという制限を克服すること。
• 実時間でのシステム進化速度に基づいて時間分解能を動的に調整する、柔軟で適応的な推論フレームワークを構築すること。
• 異なる部品が異なる時間分解能でモデル化できるようにすることで、多レート動的システムにおける推論の計算コストを低減すること。

提案手法

• クラスタが変数の集合（空間的重複）および時間（時間的重複）の両方で重複する一般化されたクラスタグラフアーキテクチャを採用する。
• 各クラスタはその変数の局所的分布を維持し、アルゴリズムはクラスタ間でのメッセージパッシングによりグローバル事後分布を近似する。
• 時間分解能は、各クラスタ内の変数の変化率に応じて動的に調整され、クラスタ再分割を誘導する情報理論的基準が用いられる。
• 推論プロセスでは期待伝搬を用い、反復的に近似を改善するが、推論中に変化率に応じた時間分解能を適応的に変更する。
• クラスタグラフ構造により、非一様で部品固有の時間分解能が可能となり、システム全体に共通の固定時間ステップを導入する必要がなくなる。
• 推論中に精度を維持しつつ計算オーバーヘッドを最小限に抑えるために、クラスタの再分割メカニズムを含む。

実験結果

リサーチクエスチョン

• RQ1 異なる部品が異なる時間分解能で動作できるようにすることで、連続時間ベイジアンネットワークにおける推論の効率性を向上させることができるか？
• RQ2 推論中に、異なる部品の実際の変化速度に応じて時間分解能を動的に調整する方法は何か？
• RQ3 近似の精度と計算コストのバランスをとるためのクラスタ再分割を自動的に誘導する基準は何か？
• RQ4 時間的・空間的重複を許容する柔軟なクラスタグラフアーキテクチャは、部品固有の時間分解能を実現できるか？
• RQ5 多レート動的システムにおける推論精度と計算効率に、適応的時間分解能が及ぼす影響は何か？

主な発見

• 提案手法は、各システム部品の実際の変化率に応じて時間分解能を適応的に調整することで、顕著な計算コスト削減を達成した。
• 時間的および空間的両方の重複クラスタの使用により、固定分解能アプローチに比べてより正確で効率的な推論が可能になった。
• クラスタ再分割を誘導する情報理論的基準は、推論中の近似品質と計算コストのバランスを効果的にとれた。
• 実際の応用ではしばしば最適でない時間分解能の手動選択を回避でき、これが利点となった。
• 実験では、特に変化速度が著しく異なる部品を含むシステムにおいて、高い推論精度を維持しながら計算負荷を大幅に低減した。