[论文解读] Bayesian Causal Induction

Pedro A. Ortega|arXiv (Cornell University)|Nov 3, 2011

Bayesian Modeling and Causal Inference参考文献 8被引用 3

一句话总结

本文提出一种基于概率树的贝叶斯因果归纳框架，用于建模竞争性的因果假设，其中干预和结构约束使因果推断与外推成为可能。结果表明，干预可打破假设间的对称性，从而实现后验信念更新（例如，P(h|ŷ,x) = 3/5），而约束则使从可观测变量推广到未观测变量成为可能。

ABSTRACT

Discovering causal relationships is a hard task, often hindered by the need for intervention, and often requiring large amounts of data to resolve statistical uncertainty. However, humans quickly arrive at useful causal relationships. One possible reason is that humans extrapolate from past experience to new, unseen situations: that is, they encode beliefs over causal invariances, allowing for sound generalization from the observations they obtain from directly acting in the world. Here we outline a Bayesian model of causal induction where beliefs over competing causal hypotheses are modeled using probability trees. Based on this model, we illustrate why, in the general case, we need interventions plus constraints on our causal hypotheses in order to extract causal information from our experience.

研究动机与目标

• 为解决因果归纳问题——即在多个假设产生相同联合分布时，从观测数据中推断因果结构——提出解决方案。
• 将因果假设建模为元层级上的随机变量，克服标准图模型的局限性。
• 利用对可能因果结构的约束，实现从可观测变量（X, Y）到未观测变量（U, V）的因果泛化。
• 在概率树框架内形式化干预，以预测操控后系统的行为，并打破假设间的统计对称性。
• 探究因果假设的约束与干预如何协同作用，实现因果知识的提取与外推。

提出的方法

• 将因果假设（如 X→Y 与 Y→X）表示为概率树中的分支，其中每条路径编码因果解析的序列。
• 将假设 H 建模为根层的随机变量，决定下游变量的解析顺序（例如，在 H=h 时，X 在 Y 之前被解析）。
• 使用条件概率编码每个因果假设内部的随机依赖关系，如 P(Y=y|h, ¬x) = 1/4。
• 通过固定特定结果的概率质量来实施干预（如 ŷ 表示 X=x），从而改变假设后验分布。
• 使用贝叶斯定理计算后验概率，例如 P(h|ŷ,x) = [P(y|h,ŷ)P(ŷ|h)P(h)] / [P(y|h,ŷ)P(ŷ|h)P(h) + P(ŷ|¬h,y)P(y|¬h)P(¬h)]。
• 对因果假设施加约束（如仅允许 X→Y 和 U→V，不允许混合结构），以实现从已知系统到未知系统的外推。

实验结果

研究问题

• RQ1 当两个因果假设（如 X→Y 与 Y→X）产生相同的联合分布时，如何加以区分？
• RQ2 干预在打破竞争性因果假设之间的统计对称性中起什么作用？
• RQ3 在何种条件下，可将一个系统（X,Y）中的因果知识外推到另一个系统（U,V）？
• RQ4 对可能因果假设集合的约束如何影响因果结构的推断与泛化能力？
• RQ5 基于概率树的贝叶斯框架能否在不依赖显式图模型扩展的情况下，建模元层级的因果推理？

主要发现

• 干预引入了假设间的统计非对称性，从而实现因果推断：在对 X 实施干预（X=x）后，P(h|ŷ,x) = 3/5，支持 X→Y 假设。
• 当从 X,Y 外推到 U,V 时，后验概率 P(h|ŷ,x) = 3/5 保持一致，表明在结构约束下实现了成功的泛化。
• 若不对因果假设施加约束，则无法从 X,Y 外推到 U,V，因为多种因果结构将无法区分。
• 概率树框架自然编码了异质的解析顺序（例如，在 H=h 时 X 在 Y 之前，而在 H=¬h 时 Y 在 X 之前），从而建模不同的因果假设。
• 因果假设的约束对于泛化至关重要，因其减少了歧义，并允许将因果知识迁移至未观测系统。
• 该框架形式化了‘无因无果’的理念——因果知识的提取需要同时依赖干预与结构假设。