[论文解读] A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms

Yoshua Bengio, Tristan Deleu+6 more|arXiv (Cornell University)|Jan 30, 2019

Bayesian Modeling and Causal Inference参考文献 21被引用 122

一句话总结

简短摘要：该论文提出一个元学习目标，优化对分布变化的适应速度，以发现因果结构并学习将因果机制解耦的表征。它表明在稀疏分布变化下，正确的因果模型更快适应，并引入一个平滑的、端到端的参数化方法，包括一个编码器，用于从观测中恢复因果变量。

ABSTRACT

We propose to meta-learn causal structures based on how fast a learner adapts to new distributions arising from sparse distributional changes, e.g. due to interventions, actions of agents and other sources of non-stationarities. We show that under this assumption, the correct causal structural choices lead to faster adaptation to modified distributions because the changes are concentrated in one or just a few mechanisms when the learned knowledge is modularized appropriately. This leads to sparse expected gradients and a lower effective number of degrees of freedom needing to be relearned while adapting to the change. It motivates using the speed of adaptation to a modified distribution as a meta-learning objective. We demonstrate how this can be used to determine the cause-effect relationship between two observed variables. The distributional changes do not need to correspond to standard interventions (clamping a variable), and the learner has no direct knowledge of these interventions. We show that causal structures can be parameterized via continuous variables and learned end-to-end. We then explore how these ideas could be used to also learn an encoder that would map low-level observed variables to unobserved causal variables leading to faster adaptation out-of-distribution, learning a representation space where one can satisfy the assumptions of independent mechanisms and of small and sparse changes in these mechanisms due to actions and non-stationarities.

研究动机与目标

• 通过学习者对分布变化（干预、行动、非平稳性）的适应速度来激发学习因果结构的动机。
• 证明在模块化知识条件下，正确的因果机制会带来稀疏梯度更新并且更快的适应。
• Demonstrate end-to-end learning of causal graphs and encoders that map observations to latent causal variables.
• 探索如何学习将原始观测映射到潜在因果变量的编码器，以提高对分布外的适应性。

提出的方法

• 将因果结构学习表述为在模块化组件中进行选择，这些组件对应条件分布（例如 P(A)，P(B|A)，P(B)，P(A|B)）。
• 定义反映分布偏移的转移分布，并在 SGD 下分析适应动力学，以通过更快的适应揭示正确的因果方向。
• 引入一个用于边存在的稳健结构参数 gamma 的平滑参数化，并推导梯度以将 gamma 推向正确的边方向（A→B 与 B→A 的对比）。
• 扩展到一个表示学习设置，其中编码器 E 将原始观测映射到潜在变量，从而在独立机制假设和稀疏变化成立的空间中进行学习。
• 提供一个元学习循环（内部循环：适应模块参数；外部循环：更新 gamma 和编码器参数），类似于 MAML 风格的过程。

实验结果

研究问题

• RQ1 分布变化下的适应速度是否能揭示两个变量之间的真实因果方向？
• RQ2 如何以可微分的方式对因果图结构进行参数化和学习，以扩展到两变量之外的情况？
• RQ3 编码器是否能够学习将原始观测映射到潜在因果变量，以使独立机制与稀疏变化假设成立并改善转移性能？
• RQ4 所提出的元转移目标是否与在多种数据模态（离散/连续、线性/非线性关系）上的转移情节更快适应的学习相一致？

主要发现

• 正确的因果模型在转移分布上的适应速度比错误模型更快，最具信息的信号出现在早期的适应阶段。
• 一个参数计数的论点解释了为什么正确模型在稀疏分布变化下需要更少的参数来重新学习，从而实现更快的转移。
• 一个平滑的结构参数 gamma 框架使得通过梯度优化朝向正确方向实现因果图的端到端学习成为可能。
• 实验表明 gamma 在离散和连续情景中趋向于支持真实的因果方向，并且在简单和复杂的调制变量下均成立。
• 一个将观测映射到潜在变量的编码器能够恢复 ground-truth 因果变量，并在转移期间保持正确因果图的优势。