[论文解读] Algorithms for Causal Reasoning in Probability Trees

Tim Genewein, Tom McGrath+5 more|arXiv (Cornell University)|Oct 23, 2020

Bayesian Modeling and Causal Inference参考文献 27被引用 10

一句话总结

本文提出了离散概率树中因果推理的首个具体算法，实现了对任意命题事件和因果事件的关联性、干预和反事实计算。它引入了事件的最小割表示，并提供了递归的、与解释无关的方法，能够处理标准因果贝叶斯网络无法涵盖的上下文相关因果依赖关系。

ABSTRACT

Probability trees are one of the simplest models of causal generative processes. They possess clean semantics and -- unlike causal Bayesian networks -- they can represent context-specific causal dependencies, which are necessary for e.g. causal induction. Yet, they have received little attention from the AI and ML community. Here we present concrete algorithms for causal reasoning in discrete probability trees that cover the entire causal hierarchy (association, intervention, and counterfactuals), and operate on arbitrary propositional and causal events. Our work expands the domain of causal reasoning to a very general class of discrete stochastic processes.

研究动机与目标

• 解决尽管概率树能够建模上下文相关的因果依赖，但在人工智能和机器学习领域却长期缺乏关注的问题。
• 在离散概率树中开发适用于整个因果层次结构（关联、干预、反事实）的通用算法。
• 通过递归的、计算上可行的方法，实现对任意命题事件和因果事件的推理。
• 为一类能够比因果贝叶斯网络更灵活表达因果结构的模型，提供形式化且可实现的因果推断框架。
• 为因果发现与推理奠定基础，无需像因果贝叶斯网络那样依赖多种模型结构。

提出的方法

• 将概率树中的节点定义为元组（标识符，状态陈述列表，概率转移集合），以支持计算实现。
• 使用最小割——即能够确定事件发生的最小节点集合——作为树中事件的紧凑表示。
• 通过do-操作的递归传播来计算干预，在保持因果结构的同时修改转移概率。
• 通过将树分裂为两条分支来实现反事实推理：一条用于事实分支，一条用于反事实分支，共享上游结构。
• 应用递归算法，通过树遍历和条件概率更新，计算事件概率、干预和反事实。
• 将框架扩展至建模因果贝叶斯网络和结构因果模型作为概率树，证明其与更丰富结构的表达等价性。

实验结果

研究问题

• RQ1 如何利用命题逻辑和因果优先关系，在概率树中计算任意事件的概率？
• RQ2 如何在概率树中形式化定义并计算干预，以回答“如果……会怎样”的问题？
• RQ3 在下游变量依赖于上游因果结构的情况下，如何在概率树中计算反事实？
• RQ4 概率树能否表达因果贝叶斯网络无法表达的上下文相关因果依赖？
• RQ5 概率树中事件的最小计算表示（如最小割）是什么？如何高效计算？

主要发现

• 本文成功开发了用于计算离散概率树中最小割、干预和反事实的递归算法，实现了完整的因果推理能力。
• 概率树能够表示上下文相关的因果依赖关系，例如当X=0时Y→Z，当X=1时Z→Y，而这些在标准因果贝叶斯网络中无法表达。
• 该框架支持反向工程干预：确定为实现期望事件A所需采取的干预措施。
• 概率树中的反事实计算与因果贝叶斯网络中的双网络方法存在根本性差异，具有不同的结构假设和传播规则。
• 这些算法与解释无关，支持概率和因果性的客观与主观解释，且无需依赖外部模型集合。
• 该方法可推广至可数无限树，因其递归终止机制，但不可数情形需采用新方法。