[论文解读] Causal Inference Using Tractable Circuits

Adnan Darwiche|arXiv (Cornell University)|Feb 7, 2022

Bayesian Modeling and Causal Inference被引用 6

一句话总结

本文提出一种通过将非参数结构因果模型编译为支持线性时间推理的可 tractable 算术电路，实现可 tractable 因果推理的方法，即使因果图的 treewidth 很大也能实现。关键贡献是引入了 '因果 treewidth'——一种即使在 treewidth 无法有界时也能有界的复杂度度量，从而实现电路规模的指数级缩减，并支持可扩展的、与参数估计无关的因果推理。

ABSTRACT

The aim of this paper is to discuss a recent result which shows that probabilistic inference in the presence of (unknown) causal mechanisms can be tractable for models that have traditionally been viewed as intractable. This result was reported recently to facilitate model-based supervised learning but it can be interpreted in a causality context as follows. One can compile a non-parametric causal graph into an arithmetic circuit that supports inference in time linear in the circuit size. The circuit is also non-parametric so it can be used to estimate parameters from data and to further reason (in linear time) about the causal graph parametrized by these estimates. Moreover, the circuit size can sometimes be bounded even when the treewidth of the causal graph is not, leading to tractable inference on models that have been deemed intractable previously. This has been enabled by a new technique that can exploit causal mechanisms computationally but without needing to know their identities (the classical setup in causal inference). Our goal is to provide a causality-oriented exposure to these new results and to speculate on how they may potentially contribute to more scalable and versatile causal inference.

研究动机与目标

• 在传统上难以处理的高 treewidth 模型中实现高效、可扩展的因果推理。
• 开发一种方法，利用因果机制进行计算，而无需了解其函数形式，与经典因果推理假设保持一致。
• 引入一种新的复杂度度量——因果 treewidth——即使在标准 treewidth 无法有界时也能有界，从而实现更小的电路。
• 证明编译后的电路能够支持从数据中估计参数，并在所得因果模型上实现线性时间推理。
• 提供面向因果的电路推理技术阐述，以促进在因果 AI 领域的更广泛应用与融合。

提出的方法

• 将非参数结构因果模型（SCM）编译为支持线性时间推理的可 tractable 算术电路。
• 使用来自 [15] 的新型电路编译算法，该算法利用函数依赖关系（因果机制）而无需知晓其具体身份，从而在模型参数未知时仍能实现编译。
• 应用一种称为 '精简联合树（thinned jointree）' 的构造技术，通过选择性地复制机制并优化消除顺序来减小电路规模。
• 利用 '因果 treewidth' 概念——即任何精简联合树的最小宽度——作为新的复杂度度量，其优于 treewidth，且在 treewidth 无法有界时仍可有界。
• 使用启发式方法进行机制复制、联合树构造和精简，以最小化电路规模，并在基准测试中进行实证验证。
• 支持跨层推理：从数据中估计参数，并在编译后的电路上以线性时间执行因果查询（例如，do-演算、反事实推理）。

实验结果

研究问题

• RQ1 能否通过利用因果机制（而无需知道其函数形式）在高 treewidth 模型中实现可 tractable 因果推理？
• RQ2 能否定义一种新的复杂度度量——因果 treewidth——使其在标准 treewidth 无法有界时仍可有界？
• RQ3 能否从非参数因果图编译出算术电路，以同时支持参数估计和线性时间推理？
• RQ4 在因果机制未知的情况下，通过机制复制和联合树精简，电路规模能被多大程度地减小？
• RQ5 该方法能否在以往被认为难以处理的模型中实现可扩展且灵活的因果推理？

主要发现

• 因果图的因果 treewidth 总是小于或等于其 treewidth，为更优的复杂度界提供了理论基础。
• 存在一类因果图，其变量数为 $ n^2 + 2n + 1 $，treewidth 为 $ n+1 $，而因果 treewidth 为 $ 2 $，证明了电路规模存在指数级缩减的潜力。
• 对于该类图的变体（增加额外边），treewidth 保持为 $ heta(n) $，但因果 treewidth 被有界在 $ 4 $ 以内，表明高 treewidth 并不阻碍小规模电路的构建。
• 对 $ X_1 $ 到 $ Z_{nn} $ 的因果效应存在一个包含指数级求和的后门公式，但对应的电路仍可在 $ O(n^2) $ 大小内完成编译，从而支持线性时间推理。
• 所提出的编译方法相比传统变量消除法，在高 treewidth 但低因果 treewidth 的模型中实现了电路规模的指数级缩减。
• 该方法同时支持从数据中估计参数和对所得因果模型的高效推理，从而实现端到端的可 tractable 因果推理。