[论文解读] Learning explanations that are hard to vary

Giambattista Parascandolo, Alexander Neitz+3 more|arXiv (Cornell University)|Sep 1, 2020

Neural Networks and Applications参考文献 44被引用 73

一句话总结

本文形式化了不变量学习一致性（Invariant Learning Consistency，ILC），并引入一个 AND 掩码梯度方法，以促进在不同环境中学习不变的解释，减少记忆化并提升对分布外泛化能力。

ABSTRACT

In this paper, we investigate the principle that `good explanations are hard to vary' in the context of deep learning. We show that averaging gradients across examples -- akin to a logical OR of patterns -- can favor memorization and `patchwork' solutions that sew together different strategies, instead of identifying invariances. To inspect this, we first formalize a notion of consistency for minima of the loss surface, which measures to what extent a minimum appears only when examples are pooled. We then propose and experimentally validate a simple alternative algorithm based on a logical AND, that focuses on invariances and prevents memorization in a set of real-world tasks. Finally, using a synthetic dataset with a clear distinction between invariant and spurious mechanisms, we dissect learning signals and compare this approach to well-established regularizers.

研究动机与目标

• 激发对能够跨环境泛化而非记忆伪相关模式的不变解释的需求。
• 形式化一个一致性度量，用于评估模型极小值在不同环境下的鲁棒性。
• 提出并验证一种替代的梯度聚合方法（AND 掩码）以强调不变性。
• 通过合成和真实任务演示，ILC 可以提升分布外（o.o.d.）泛化能力并抗记忆化。
• 将所提方法与成熟的正则化方法和领域自适应方法进行比较。

提出的方法

• 定义一个形式化的一致性分数 I^ε(θ*)，用于衡量在极小值附近不 同环境下损失景观的差异。
• 引入不变量学习一致性（ILC），作为算法在不同环境中收敛解的期望一致性。
• 提出 AND 掩码：对在不同环境中符号不一致的梯度分量进行掩码处理，从而实现环境之间的隐式逻辑与（AND）。
• 解释如何用阈值 τ 实现 AND 掩码，并证明它在计算效率上与标准梯度下降（GD）相当。
• 将该方法与黑塞矩阵的几何均值联系起来，以在概念上证明梯度方向不一致性的降低。

实验结果

研究问题

• RQ1 是否可以定义一个一致性度量来识别在不同环境中具有泛化性的极小值？
• RQ2 通过类似 AND 的梯度聚合操作是否促进不变性并减少记忆化？
• RQ3 在具有不变机制和捷径的合成任务上，与标准正则化方法相比，带有 AND 掩码的 ILC 表现如何？
• RQ4 该方法在真实任务如 CIFAR-10 随机标签和 CoinRun 行为克隆等任务中是否提高分布外泛化？

主要发现

• AND 掩码梯度方法通过对跨环境不一致的梯度分量进行掩码来提高一致性。
• AND 掩码可以防止在依赖环境特定捷径的合成任务中发生记忆化。
• 在 CIFAR-10 随机标签任务中，AND 掩码在防止记忆化的同时保留对正常标签数据的性能。
• 在 CoinRun 行为克隆设置中，AND 掩码提升了对未见水平的泛化。
• 标准训练倾向于最大化训练速度，这可能牺牲不变量学习，而 ILC 则以不变性换取学习速度。