[论文解读] CAUSE: Learning Granger Causality from Event Sequences using Attribution Methods

Wei Zhang, Thomas Kobber Panum+3 more|arXiv (Cornell University)|Feb 18, 2020

Explainable Artificial Intelligence (XAI)参考文献 3被引用 12

一句话总结

CAUSE 是一种新颖的框架，通过结合神经点过程以建模复杂事件依赖关系，并利用公理化归因方法提取可解释的因果统计量，从而从多类型事件序列中学习格兰杰因果关系。它在多种合成与真实世界数据集上均优于最先进方法，尤其在存在抑制与协同效应的场景中表现优异，而传统霍克斯过程模型在此类场景下会失效。

ABSTRACT

We study the problem of learning Granger causality between event types from asynchronous, interdependent, multi-type event sequences. Existing work suffers from either limited model flexibility or poor model explainability and thus fails to uncover Granger causality across a wide variety of event sequences with diverse event interdependency. To address these weaknesses, we propose CAUSE (Causality from AttribUtions on Sequence of Events), a novel framework for the studied task. The key idea of CAUSE is to first implicitly capture the underlying event interdependency by fitting a neural point process, and then extract from the process a Granger causality statistic using an axiomatic attribution method. Across multiple datasets riddled with diverse event interdependency, we demonstrate that CAUSE achieves superior performance on correctly inferring the inter-type Granger causality over a range of state-of-the-art methods.

研究动机与目标

• 解决现有模型在捕捉多类型事件序列中复杂事件相互依赖关系（如抑制与协同）方面的局限性。
• 弥合神经点过程在模型灵活性与因果发现可解释性之间的差距。
• 开发一种可扩展的、与模型无关的方法，用于从高度表达性的神经点过程模型中提取格兰杰因果统计量。
• 实现对多样化现实世界事件数据中兴奋性与抑制性因果关系的稳健检测。

提出的方法

• 训练一个灵活的神经点过程（NPP）模型，以捕捉异步、多类型事件序列中的复杂非线性依赖关系。
• 对训练好的 NPP 应用公理化归因方法（如积分梯度），基于输入特征重要性计算一种新型格兰杰因果统计量。
• 设计一种两级批处理算法，以高效计算大规模事件序列中的归因因果统计量，支持处理数百万事件。
• 将归因分数用作格兰杰因果关系的代理指标，其中更高的分数表示一种事件类型对另一种事件类型的更强预测影响。
• 确保归因方法满足完备性与敏感性等公理，以提供可靠的因果估计。
• 利用归因方法的与模型无关特性，从任意 NPP 架构中提取因果关系，而无需架构限制。

实验结果

研究问题

• RQ1 基于归因解释方法的神经点过程模型能否在具有复杂依赖关系的多类型事件序列中可靠地推断格兰杰因果关系？
• RQ2 当事件相互作用包含抑制或协同效应（而不仅仅是简单兴奋）时，所提出方法相较于基于霍克斯过程的模型表现如何？
• RQ3 基于 NPP 的归因因果估计在具有不同事件相互依赖模式的多样化现实世界数据集中，其泛化能力如何？
• RQ4 该基于归因的因果计算方法在大规模事件序列上的计算可扩展性如何？
• RQ5 该方法能否检测到传统仅考虑兴奋的模型所忽略的正负因果关系（如抑制效应）？

主要发现

• 在抑制数据集上，CAUSE 的 AUC 达到 0.920 ± 0.012，Kendall’s τ 达到 0.533 ± 0.013，显著优于所有基线方法。
• 在协同数据集上，CAUSE 的 AUC 为 0.921 ± 0.021，τ 为 0.532 ± 0.021，展现出对复杂非线性事件相互作用的鲁棒性。
• 在 MT 数据集上，CAUSE 的 AUC 为 0.991 ± 0.004，τ 为 0.331 ± 0.003，表明在大规模真实世界数据上也具有强大性能。
• CAUSE 在所有数据集上均优于 RPPN（一种基于 NPP 的方法），在 IPTV 数据集上 AUC 高出 38%，表明其归因质量更优。
• CAUSE 检测到有意义的负向因果关系（如广告 → 戏剧、教育 → 娱乐），这些关系在仅考虑兴奋的模型（如 HSG）中完全不可见。
• 两级批处理算法在大规模序列上相比朴素实现获得超过 1000 倍的速度提升，在典型工作负载下实现近线性扩展。