[论文解读] Reasoning at the Right Time Granularity

Suchi Saria, Uri Nodelman+1 more|Uncertainty in Artificial Intelligence|Jun 20, 2012

Bayesian Modeling and Causal Inference参考文献 7被引用 40

一句话总结

本文提出了一种用于连续时间贝叶斯网络（CTBNs）的新颖期望传播（EP）算法，该算法根据系统各组件随时间演化的速率动态调整推理粒度。通过使用具有重叠时间与空间聚类的灵活聚类图结构，该方法实现了组件特定的时间粒度，从而在不损失准确性的前提下降低了计算成本——实验结果表明其在效率方面有显著提升。

ABSTRACT

Most real-world dynamic systems are composed of different components that often evolve at very different rates. In traditional temporal graphical models, such as dynamic Bayesian networks, time is modeled at a fixed granularity, generally selected based on the rate at which the fastest component evolves. Inference must then be performed at this fastest granularity, potentially at significant computational cost. Continuous Time Bayesian Networks (CTBNs) avoid time-slicing in the representation by modeling the system as evolving continuously over time. The expectation-propagation (EP) inference algorithm of Nodelman et al. (2005) can then vary the inference granularity over time, but the granularity is uniform across all parts of the system, and must be selected in advance. In this paper, we provide a new EP algorithm that utilizes a general cluster graph architecture where clusters contain distributions that can overlap in both space (set of variables) and time. This architecture allows different parts of the system to be modeled at very different time granularities, according to their current rate of evolution. We also provide an information-theoretic criterion for dynamically re-partitioning the clusters during inference to tune the level of approximation to the current rate of evolution. This avoids the need to hand-select the appropriate granularity, and allows the granularity to adapt as information is transmitted across the network. We present experiments demonstrating that this approach can result in significant computational savings.

研究动机与目标

• 为解决传统动态贝叶斯网络中固定时间粒度导致的效率低下问题，即推理受限于演化最快的组件。
• 克服现有CTBN推理方法中统一时间粒度的局限性，该方法需预先选定且无法适应系统动态变化。
• 开发一种灵活、自适应的推理框架，根据系统实际演化速率动态调整时间粒度。
• 通过允许不同组件以不同时间粒度建模，降低多速率动态系统推理的计算成本。

提出的方法

• 该方法采用通用聚类图架构，其中聚类在变量集合（空间重叠）和时间（时间重叠）上均可重叠。
• 每个聚类维护其变量上的局部分布，算法通过聚类间消息传递来近似全局后验分布。
• 时间粒度根据聚类内变量变化速率动态调整，使用信息论准则指导聚类的重新划分。
• 推理过程采用期望传播迭代优化近似结果，且在推理过程中动态调整粒度以匹配当前演化速率。
• 聚类图结构支持非均匀、组件特定的时间粒度，避免了在整个系统中使用单一固定时间步长。
• 该算法包含一种在推理过程中重新划分聚类的机制，以在保持准确性的同时最小化计算开销。

实验结果

研究问题

• RQ1 能否通过允许不同组件以不同时间粒度运行，使连续时间贝叶斯网络的推理更加高效？
• RQ2 在推理过程中，如何动态调整时间粒度以匹配不同系统组件的实际变化速率？
• RQ3 何种准则可指导聚类的自动重新划分，以在近似精度与计算成本之间取得平衡？
• RQ4 灵活的聚类图架构能否支持时间与空间上的重叠聚类，从而实现组件特定的粒度？
• RQ5 自适应粒度对多速率动态系统中推理精度与计算效率有何影响？

主要发现

• 所提方法通过根据各系统组件的实际变化速率动态调整时间粒度，实现了显著的计算节省。
• 在时间和空间上均采用重叠聚类，使得推理比固定粒度方法更加准确且高效。
• 用于聚类重新划分的信息论准则在推理过程中有效平衡了近似质量与计算成本。
• 该算法避免了手动选择时间粒度的需要，而后者在实践中往往次优。
• 实验表明，该方法在保持高推理精度的同时显著降低了计算负载，尤其在各组件演化速率差异巨大的系统中表现突出。