[论文解读] Probabilistic Active Learning of Functions in Structural Causal Models

Paul K. Rubenstein, Ilya Tolstikhin+2 more|arXiv (Cornell University)|Jun 30, 2017

Bayesian Modeling and Causal Inference参考文献 11被引用 5

一句话总结

本文提出了一种贝叶斯主动学习框架，用于在已知因果图的情况下学习结构因果模型（SCMs）中的函数关系。通过使用高斯过程对未知函数进行建模，并采用一种贪心主动学习策略，选择能最大化关于所有未知函数联合信息增益的干预措施，该方法在具有链式和非链式结构的合成SCM中，相比被动或随机干预基线方法，实现了更快且更结构化的函数学习。

ABSTRACT

We consider the problem of learning the functions computing children from parents in a Structural Causal Model once the underlying causal graph has been identified. This is in some sense the second step after causal discovery. Taking a probabilistic approach to estimating these functions, we derive a natural myopic active learning scheme that identifies the intervention which is optimally informative about all of the unknown functions jointly, given previously observed data. We test the derived algorithms on simple examples, to demonstrate that they produce a structured exploration policy that significantly improves on unstructured base-lines.

研究动机与目标

• 解决在因果图被识别后学习结构因果模型（SCMs）中函数关系的问题。
• 开发一种主动学习策略，选择能最大化关于所有未知函数联合信息增益的干预措施。
• 通过理性引导实验而非被动或随机方式，提高函数学习的样本效率。
• 形式化因果函数学习中干预成本与信息增益之间的权衡。

提出的方法

• 采用高斯过程（GPs）和贝叶斯非参数方法对未知结构函数进行建模。
• 定义一种贪心主动学习策略，选择能最大化关于所有未知函数联合后验分布的期望信息增益的干预措施。
• 使用Kullback-Leibler（KL）散度和最大均值差异（MMD）作为度量，量化不同干预下的后验不确定性与模型拟合程度。
• 在链式结构SCM中使用动态规划进行最优干预选择，在一般DAG中使用蒙特卡洛采样。
• 将干预成本整合到风险函数中，平衡信息增益与实验成本。
• 采用总体风险泛函作为代理目标，用于评估不同干预下的学习性能。

实验结果

研究问题

• RQ1 如何最优地选择干预措施，以同时学习SCM中多个未知结构函数？
• RQ2 在已有先验观测的前提下，何种主动学习策略能最大化关于所有未知函数的联合信息增益？
• RQ3 与被动观测或随机干预相比，结构化干预选择在学习速度和准确性方面表现如何？
• RQ4 基于贝叶斯GP的建模能否支持在任意DAG结构SCM中实现高效且可扩展的主动学习？
• RQ5 何种度量最能反映主动因果建模中函数学习的质量？

主要发现

• 所提出的主动学习算法（算法1和2）在链式和非链式SCM中，均显著优于被动观测和随机干预，有效降低了真实总风险。
• 最大和中位数KL散度在真实与估计干预分布之间均减小，表明后验准确性得到提升。
• 最大和中位数MMD值随时间推移持续下降，表明估计的干预分布逐渐收敛至真实分布。
• 在链式SCM（M1）中，基于动态规划的算法1比基于采样的算法2收敛更快。
• 在非链式SCM（M2）中，基于采样的算法2在所有评估指标上均优于随机和被动策略，表现出对结构复杂性的强鲁棒性。