[论文解读] In What Ways Are Deep Neural Networks Invariant and How Should We Measure This?

Henry Kvinge, Tegan Emerson+4 more|arXiv (Cornell University)|Oct 7, 2022

Adversarial Robustness in Machine Learning被引用 4

一句话总结

本文提出了 G-EED（G-经验等变偏差），一种基于群论的度量家族，可直接衡量深度神经网络中的不变性与等变性。研究发现，数据增强通过非学习等变层的机制诱导不变性，且不变性并不总是与模型性能相关——预训练模型表现出与随机初始化模型不同的不变性特性。

ABSTRACT

It is often said that a deep learning model is "invariant" to some specific type of transformation. However, what is meant by this statement strongly depends on the context in which it is made. In this paper we explore the nature of invariance and equivariance of deep learning models with the goal of better understanding the ways in which they actually capture these concepts on a formal level. We introduce a family of invariance and equivariance metrics that allows us to quantify these properties in a way that disentangles them from other metrics such as loss or accuracy. We use our metrics to better understand the two most popular methods used to build invariance into networks: data augmentation and equivariant layers. We draw a range of conclusions about invariance and equivariance in deep learning models, ranging from whether initializing a model with pretrained weights has an effect on a trained model's invariance, to the extent to which invariance learned via training can generalize to out-of-distribution data.

研究动机与目标

• 为解决深度学习模型中不变性与等变性缺乏直接、正式度量的问题，这些特性通常通过准确率或损失间接评估。
• 形式化并量化深度神经网络在已知对称群（如反射与旋转）下实现不变性与等变性的机制。
• 探究常用技术（如数据增强与等变架构）在实践中是否真正诱导出期望的不变性与等变性特性。
• 考察模型初始化方式（随机初始化 vs. 预训练权重）以及训练范式（监督学习 vs. 自监督学习）对学习到的不变性与等变性的影响。
• 评估通过训练学习到的不变性在分布外数据上的泛化能力，包括图像噪声与领域偏移。

提出的方法

• 提出基于群论原理的 G-EED 度量家族，用于量化模型输出在对称群 G 下偏离 G-等变性或 G-不变性的程度。
• 将 G-EED 应用于最终模型输出与中间潜在表征，使用欧氏距离、余弦相似度等距离度量。
• 采用灵活的框架，使 G-EED 可在神经网络的不同组件上计算，包括特征图与最终预测结果。
• 利用 G-EED 比较通过数据增强、等变层与自监督对比损失训练的模型，实现对不变性特性的直接比较。
• 采用置信区间与多个随机种子，确保在不同模型变体中评估不变性的统计稳健性。
• 将 G-EED 应用于分布内与分布外数据，包括 ImageNet 图像噪声与领域偏移图像，以评估不变性泛化能力。

实验结果

研究问题

• RQ1 数据增强在多大程度上真正诱导了深度神经网络的 G-等变性或 G-不变性？这是否源于学习到的等变层，还是其他机制？
• RQ2 使用预训练权重初始化的模型与从零开始训练的模型相比，在不变性与等变性特性上存在哪些差异？
• RQ3 自监督训练（特别是使用对比损失）是否比监督训练产生更强的不变性？
• RQ4 通过训练学习到的不变性在分布外数据（如图像噪声或领域偏移图像）上的泛化能力如何？
• RQ5 是否可以独立于模型准确率或损失有意义地度量不变性？高不变性是否与更好性能相关？

主要发现

• 通过数据增强训练并不主要通过学习到的等变层诱导不变性；相反，不变性源于其他较不透明的机制。
• 通过数据增强学习到的不变性在常见图像噪声上表现出轻微泛化能力，但在极端分布外偏移下可能为虚假不变性，可能源于模型对扰动不敏感而非真正不变性。
• 权重随机初始化的模型在数学意义上可能比具有学习或硬编码不变性的模型更具不变性，这挑战了不变性与性能正相关的假设。
• 使用预训练权重初始化的模型表现出与随机初始化模型不同的不变性与等变性特性，且不变性程度取决于所选的距离度量。
• 使用对比损失（如 SimCLR）训练的自监督模型表现出显著高于无对比损失模型（如 DINO）的不变性，表明对比目标可直接促进不变性。
• 潜在空间 G-EED 分析显示，SimCLR 在测试模型中达到最高不变性，而 DINO 与监督学习模型表现居中，具体取决于所用距离度量。