[论文解读] Learning Causal Models Online

Khurram Javed, Martha White+1 more|arXiv (Cornell University)|Jun 12, 2020

Domain Adaptation and Few-Shot Learning参考文献 25被引用 14

一句话总结

该论文提出了一种在线算法 PwB*，通过利用特征的时间不稳定性来检测并移除神经网络中的虚假特征——即其与目标的相关性随时间发生改变的特征。通过迭代地扰动网络参数，并同时最小化损失和特征方差，该方法收敛到泛化能力较强的模型，在在线设置下优于 Oracle IRM 等基线方法，且能从原始数据中发现非虚假特征。

ABSTRACT

Predictive models -- learned from observational data not covering the complete data distribution -- can rely on spurious correlations in the data for making predictions. These correlations make the models brittle and hinder generalization. One solution for achieving strong generalization is to incorporate causal structures in the models; such structures constrain learning by ignoring correlations that contradict them. However, learning these structures is a hard problem in itself. Moreover, it's not clear how to incorporate the machinery of causality with online continual learning. In this work, we take an indirect approach to discovering causal models. Instead of searching for the true causal model directly, we propose an online algorithm that continually detects and removes spurious features. Our algorithm works on the idea that the correlation of a spurious feature with a target is not constant over-time. As a result, the weight associated with that feature is constantly changing. We show that by continually removing such features, our method converges to solutions that have strong generalization. Moreover, our method combined with random search can also discover non-spurious features from raw sensory data. Finally, our work highlights that the information present in the temporal structure of the problem -- destroyed by shuffling the data -- is essential for detecting spurious features online.

研究动机与目标

• 为解决在不完整数据分布上训练的预测模型的脆弱性问题，通过引入因果不变性来改进。
• 实现在在线持续学习中的因果泛化，避免依赖完整数据覆盖。
• 开发一种可扩展的、非梯度基的方法，实现实时检测和移除虚假特征。
• 证明数据的时间结构——在在线学习中得以保留——对于检测虚假相关性至关重要。
• 证明对参数扰动进行随机搜索可有效从原始感官输入中发现非虚假特征。

提出的方法

• 该方法使用在线扰动搜索来检测虚假特征，通过测量特征方差随时间的变化。
• 其维护两个目标：最小化预测损失和最小化特征权重随时间变化的方差（v），其中 v 通过离线估计计算以提高效率。
• 选择性地对卷积层和全连接层施加扰动，以避免损失最小化与方差最小化之间的冲突。
• 算法使用二值化特征表示（PwB*）高效估计 v，从而支持在线运行。
• 它利用虚假特征的时间不稳定性——即其与目标的相关性随时间波动——作为移除信号。
• 该方法避免使用基于梯度的优化进行特征选择，从而实现长时序范围内的信用分配。

实验结果

研究问题

• RQ1 在缺乏干预知识或完整数据覆盖的情况下，能否在在线持续学习设置中检测并移除虚假特征？
• RQ2 虚假特征的时间不稳定性是否能作为实时因果特征发现的可靠信号？
• RQ3 一种非梯度基、基于扰动的方法能否有效识别并消除神经网络中的虚假相关性？
• RQ4 该方法在多大程度上能直接从原始感官数据中发现非虚假特征？
• RQ5 数据的时间结构——在在线学习中得以保留——如何使虚假相关性的检测优于洗牌后的数据？

主要发现

• PwB* 在 Online Colored MNIST 基准测试中达到 68.83 ± 0.49 的测试准确率，优于在线设置下的基线方法。
• PwB* (0.85) 的变体将虚假相关性固定为稳定状态，结果中颜色信息被如预期地使用，证实了该方法对相关性不稳定的敏感性。
• 在线和离线估计的 v 之间存在较强的皮尔逊相关系数（r = +0.91），验证了使用离线 v 估计在不损失准确性的情况下提升速度的可行性。
• 该方法成功地从原始图像中发现非虚假特征，使用随机搜索证明了其在感官数据上的适用性。
• PwB* 展现出可扩展性，并与在线持续学习兼容，而基于梯度的方法如 Oracle IRM 则不具备此特性。
• 结果表明，数据的时间结构对于虚假特征检测至关重要——洗牌会破坏该信号，从而削弱检测能力。